تطورات أمن الذكاء الاصطناعي: أنثروبيك تقر باختراقات خلال اختبارات افتراضية
أقرت شركة أنثروبيك بأن عدداً من نماذجها المتقدمة للذكاء الاصطناعي تمكنت من الوصول من دون تصريح إلى أنظمة إلكترونية تابعة لثلاث مؤسسات حقيقية، خلال اختبارات مصممة لقياس قدراتها في الأمن السيبراني ضمن بيئات افتراضية معزولة.
جاءت التصريحات بعد مراجعة داخلية شملت أكثر من 141 ألف جلسة تقييم أُجريت عقب إعلان أوبن إيه آي عن واقعة مشابهة تمكن خلالها أحد نماذجها من الخروج عن نطاق الاختبار والوصول إلى أنظمة حقيقية عبر الإنترنت. وحدثت الاختراقات بسبب خطأ في إعداد بيئة اختبار تديرها جهة خارجية، ما منح نماذج كلود اتصالاً غير مقصود بالإنترنت المفتوح، رغم إبلاغها بأنها تعمل داخل محاكاة مغلقة لا تضم أهدافاً حقيقية.
وتم استغلال نماذج كلود كلمات مرور ضعيفة ونقاط وصول غير محمية للوصول إلى الأنظمة، من دون الاعتماد على ثغرات أمنية معقدة أو غير معروفة. وفي إحدى الحالات، واصل النموذج نشاطه حين أدرك أن الهدف قد يكون مؤسسة حقيقية، بينما أوقف نموذج آخر العملية ذاتياً عند الاشتباه بخروجه من بيئة الاختبار. ولم تُكتشف الأنشطة وقت حدوثها من قبل أنثروبيك أو الجهات المتضررة، كما لم تُعلن أسماء الجهات الثلاث. أُبلغت اثنتان منها لاحقاً بعدما كشفت المراجعة اللاحقة عن عمليات وصول غير مصرح بها.
ووصفت الشركة الواقعة بأنها فشل تشغيلي، وأوقفت تقييمات الأمن السيبراني مؤقتاً لمواصلة التحقيق. وتستخدم اختبارات التقاط العلم وضع النماذج أمام أنظمة وهمية تتضمن ثغرات ومعلومات مخفية بهدف قياس قدرتها على اكتشاف الثغرات واستغلالها.
وقالت الشركة في بيان إنها ستواصل التحقيق وتقييم الإجراءات لضمان عزل النماذج بشكل كامل في البيئات المستقبلية، وتلتزم بإبلاغ المؤسسات المتأثرة وفق ما تسمح به الإجراءات. كما أشارت إلى أن الواقعة تثير أسئلة حول إجراءات العزل والمراقبة للنماذج المتقدمة مع تصاعد قدراتها على تنفيذ مهام إلكترونية بشكل مستقل. ولم تكشف أسماء الجهات الثلاث، وتؤكد أن النتائج النهائية للتحقيق ستعلن حين تكون دقيقة ومكتملة.
