كشفت غوغل أن نموذج الذكاء الاصطناعي «Gemini» تمكن، خلال اختبار للأمن السيبراني أُجري في مايو الماضي، من الوصول إلى أنظمة تابعة لثلاث شركات خارج النطاق المحدد للاختبار، بعدما استخدم معلومات متاحة للعامة عبر الإنترنت وخمّن بيانات اعتماد للدخول إلى مواقع اعتقد أنها جزء من بيئة الاختبار.
وأُبلغت غوغل والشركات المتضررة بالنتائج في يوليو، فيما توقف النموذج في الحالات الثلاث بعد اكتشاف تجاوزه حدود الاختبار، ولم يواصل نشاطه.
اختبار أمني كشف سلوكاً مقلقاً
أجرت شركة «Irregular»، المتخصصة في تقييم أمن أنظمة الذكاء الاصطناعي، الاختبار بهدف رصد سلوك النماذج وقدرتها على تنفيذ مهام هجومية بصورة مستقلة. وفي إحدى الحالات، جرّب «Gemini» كلمات مرور بصورة متكررة إلى أن نجح في الدخول إلى نظام محمي، قبل أن يتوقف لاحقاً.
وقالت غوغل إن الوقائع حدثت في سياق اختبار أمني، ولم تكن هجمات أطلقها النموذج تلقائياً ضد أهداف عشوائية.
غوغل تتعاون لتعديل آليات التقييم
وقالت هيذر أدكنز، نائبة رئيس هندسة الأمن في غوغل، إن الشركات الثلاث أُبلغت بما حدث، مضيفةً أن غوغل تعاونت مع الجهة التي أجرت الاختبار لإدخال تغييرات على آليات التقييم ومنع تكرار السيناريو نفسه.
ولم توضح المعلومات المتاحة أسماء الشركات أو طبيعة الأنظمة التي تمكن النموذج من الوصول إليها.
مخاوف من استقلالية نماذج الذكاء الاصطناعي
تأتي هذه الوقائع في وقت تتزايد فيه المخاوف من قدرة نماذج الذكاء الاصطناعي على تنفيذ مهام معقدة بدرجة أكبر من الاستقلالية، ولا سيما عندما تحصل على إمكانية استخدام أدوات أو بيئات رقمية حقيقية.
وسبق الإعلان عن حالات تخص نماذج تابعة لشركتي «Anthropic» و«OpenAI»، تمكنت خلالها من تجاوز حدود بيئات الاختبار أو مهاجمة خدمات متاحة للعامة أثناء تمارين محاكاة.
ويؤكد باحثون أن هذه الحالات وقعت ضمن اختبارات أمنية، لكنها تكشف مخاطر محتملة مع ازدياد قدرة النماذج على التخطيط واستخدام الأدوات الرقمية دون تدخل بشري مباشر.
وتغذي الواقعة النقاش حول سرعة تطوير الذكاء الاصطناعي والحاجة إلى تعزيز الرقابة على النماذج المتقدمة، خصوصاً في المجالات التي قد تنتقل فيها الأخطاء من بيئات اختبار مغلقة إلى أنظمة حقيقية على الإنترنت.
