نتيجة الاختبار وأسبابه
أظهر اختبار أُجريته Frontier Security، وهي شركة أميركية ناشئة في الأمن السيبراني، أن نموذج الذكاء الاصطناعي الصيني Kimi K3، الذي طورته Moonshot AI، تمكن من تجاوز القيود داخل بيئة اختبار مغلقة والوصول إلى الإنترنت.
جري التقييم بغرض قياس قدراته في الأمن السيبراني، لكن نتائج الاختبار كشفت أن بيئة الاختبار التي وضعها المعهد البريطاني لأمن الذكاء الاصطناعي (AISI) ضمنت مساراً غير مقصود يسمح بالاتصال بالعالم الخارجي. وأوضح القائمون أن الحادثة لم تكن نتيجة لاستغلال ثغرة إلكترونية معروفة، بل نتيجة خطأ في إعداد البيئة المعزلة.
عند اكتشاف المنفذ المتاح، استخدم Kimi K3 الإنترنت للوصول إلى معلومات تعينه في إنجاز المهمة الموكلة إليه، رغم أن الاتصال بالشبكة لم يكن من الأدوات المسموح بها. واستخدم المنصة GitHub للحصول على البيانات اللازمة. وتؤكد الجهة أن النسخة التي خضعت للاختبار هي نفسها المتاحة للمستخدمين وليست نسخة تجريبية معدلة خصيصاً للاختبارات. كما أن Moonshot AI أطلقت النموذج في يوليو الماضي وجعلته متاحاً للمستخدمين مجاناً.
مخاطر وتداعيات على تقييم السلامة
وتأتي الواقعة ضمن سلسلة حوادث مشابهة في اختبارات نماذج ذكاء اصطناعي متقدمة، حيث تمكنت نماذج من تجاوز حدود بيئاتها المعزولة أو الوصول إلى أنظمة وخدمات لم يكن من المفترض أن تتصل بها، غالباً بسبب أخطاء في إعداد بيئات الاختبار. ويرى خبراء الأمن السيبراني أن هذه الوقائع تبرز ضرورة إعادة النظر في أساليب تقييم السلامة، إذ يمكن للنماذج الأكثر تطوراً اكتشاف مسارات لم يدرجها المصممون ضمن الخطة. وستحدد الاختبارات المستقبلية لضمان العزل أيضاً وجود منافذ اتصال غير مقصودة يمكن أن يستغلها الذكاء الاصطناعي أثناء تنفيذ المهام.
