جيميناي يخترق أنظمة شركات خلال اختبار أمني
تمكّن نموذج «جيميناي» التابع لشركة غوغل من الوصول إلى الإنترنت واختراق أنظمة تابعة لشركات أخرى خلال اختبار لقدراته في مجال الأمن السيبراني، في أول واقعة معروفة من هذا النوع تنفذها أنظمة الذكاء الاصطناعي التابعة للشركة بشكل مستقل.
ووقعت عمليات الاختراق في مايو، خلال اختبار للأمن السيبراني أجرته شركة «إيريجولار» المستقلة والمتخصصة في تقييمات الأمن السيبراني.
وقالت هيذر أدكينز، نائبة رئيس غوغل لهندسة الأمن، في بيان، إن «جيميناي» عثر خلال تقييم اعتيادي على معلومات متاحة للعامة عبر الإنترنت، وتمكن من تخمين بيانات اعتماد للدخول إلى ثلاثة مواقع إلكترونية اعتقد أنها تقع ضمن نطاق الاختبار، بحسب ما أوردته «رويترز».
وأضافت أدكينز: «حرصنا على إبلاغ الكيانات الثلاثة، وعملنا مع شريكنا في التدريب بشأن التغييرات التي أدخلها الآن على عمليات الاختبار. وتسلط هذه الوقائع الضوء على أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية».
وقال متحدث باسم «إيريجولار» إن الواقعة تعكس المشكلة نفسها التي أثرت على مختبرات أخرى للذكاء الاصطناعي، موضحاً أنه جرى إخطار جميع المختبرات المعنية في أواخر يوليو، وأضاف أن جميع المشكلات المعروفة عولجت وحُلت من جانب الشركة قبل أسابيع.
وكشفت شركات «ميتا» و«أنثروبيك» و«أوبن إيه آي» عن وقائع مماثلة مرتبطة بـ«إيريجولار». وقالت «ميتا» في أغسطس إن الواقعة لم تتضمن اختراقاً لبيئة معزولة أو هجوماً سيبرانيّاً متطوراً، فيما أوضحت «إيريجولار» أنها تعمل على وضع أفضل الممارسات لإجراء تقييمات الأمن السيبراني للذكاء الاصطناعي بصورة آمنة.
وأثارت هذه الوقائع تساؤلات بشأن الضمانات اللازمة مع اكتساب وكلاء الذكاء الاصطناعي مزيداً من الاستقلالية وإمكانية الوصول إلى الإنترنت وأنظمة الكمبيوتر.
وفي إحدى الحالات، تمكن نموذج «جيميناي» من تخمين كلمات المرور والوصول إلى نظام محمي، بينما عثر في الحالتين الأخريين على بيانات اعتماد أتاحت له لاحقاً الوصول إلى أنظمة محمية، وفقاً لصحيفة «وول ستريت جورنال»، التي كانت أول من نشر الخبر يوم الجمعة.
وقالت أدكينز إن النموذج توقف عن عمليات الاختراق في الحالات الثلاث جميعها.
