OpenAI تعلق أبحاث أسترا وتفرض ضوابط جديدة للحماية
أعلنت شركة OpenAI عن تعليق بعض الأنشطة البحثية المرتبطة بنموذجها المرتقب أسترا، وذلك بعد أن أظهرت اختبارات داخلية قدرات متقدمة في الأمن السيبراني يمكن أن تسمح للنموذج باكتشاف ثغرات واستغلالها وتنفيذ هجمات معقدة بدرجة عالية من الاستقلالية.
جاء القرار بعد تقييمات أظهرت تطوراً ملحوظاً في قدرات وكلاء الذكاء الاصطناعي التابعة للشركة، حيث تمكن النموذج من البحث عن نقاط ضعف برمجية واستغلالها وتنفيذ مهام هجومية عندما يُعطى هدفاً عاماً، دون تدخل بشري مستمر.
وأعلنت OpenAI أن أسترا وصل إلى مستوى حرج في قدرات الأمن السيبراني وفق إطار الاستعداد الخاص بالشركة، وهو ما دفعها إلى فرض ضوابط إضافية قبل مواصلة عمليات التطوير والاختبار. وتشمل الإجراءات الجديدة استخدام بيئات اختبار أكثر عزلًا، وفرض قيود على وصول النموذج إلى الشبكات والأدوات الخارجية، إضافة إلى تعزيز أنظمة المراقبة والكشف عن السلوكيات غير المتوقعة، وإيقاف أي أنشطة داخلية لا تستوفي متطلبات السلامة الجديدة. وتأتي هذه الخطوات في سياق منافسة متسارعة بين شركات التكنولوجيا الكبرى لتطوير نماذج قادرة على تنفيذ مهام معقدة بشكل مستقل، مع تزايد الاهتمام بوضع معايير أكثر صرامة لضمان عدم استخدام هذه التقنيات في هجمات إلكترونية أو أنشطة ضارة.
ورغم المخاوف المتزايدة، أكدت OpenAI أن أسترا لم يكن مسؤولاً عن حادثة الاختراق التي تعرضت لها منصة Hugging Face، إلا أن تسجيل حالات تمكن فيها وكلاء مستقلون من تجاوز بعض حدود بيئات الاختبار أثار تساؤلات جديدة حول مدى إمكانية السيطرة على نماذج الذكاء الاصطناعي الأكثر تطوراً. تأتي التطورات ضمن نقاش مفتوح حول التوازن بين تسريع تطوير الذكاء الاصطناعي والاستثمار في أنظمة الحماية، خاصة مع انتقال النماذج من مجرد تقديم النصائح البرمجية إلى تنفيذ مهام تقنية متعددة الخطوات دون إشراف بشري مباشر.
