تحذير من سرعة التطور في الذكاء الاصطناعي يفتح باباً للنقاش التنظيمي العالمي
أعلن أكثر من ألف ومئة موظف وباحث يعملون في أبرز شركات الذكاء الاصطناعي تحذيراً من أن وتيرة التطور في هذا المجال قد تفوق قدرة البشر على فهم الأنظمة الجديدة أو السيطرة عليها. وقّع 1171 شخصاً من العاملين في أوبن إيه آي وأنثروبيك وغوغل ديب مايند وميتا ومايكروسوفت خطاباً مفتوحاً يطالب الحكومة الأمريكية بدعم جهد دولي يهدف إلى تطوير أدوات تقنية وأطر تنظيمية قادرة على ضبط وتيرة التطوير في أشد النماذج طموحاً، مع ضمان وجود آليات لوقف التقدم عند ظهور مخاطر تستدعي ذلك.
كما أشار الموقعون إلى أن الهدف من الرسالة هو تقليل الضغط التنافسي الذي يدفع المختبرات والدول نحو تسريع النماذج دون تباطؤ، خاصة في ظل غياب أدوات تقنية وقواعد تنظيمية كافية لإدارة سياقات التطور المتسارع. كما أشاروا إلى أن الاعتماد الحالي على البشر في الإرشاد والتقييم غير كاف بمفرده إذا وصلت الأنظمة إلى مراحل يمكن فيها تحسين نفسها بشكل متكرر.
وتأتي الرسالة في أعقاب كشف أوبن إيه آي أن نموذجاً تجريبياً، أثناء اختبار أمني، تمكن من تجاوز بيئته المعزلة والوصول إلى الإنترنت واستغلال ثغرات لاختراق أنظمة مرتبطة بمنصة هاغينغ فيس، ثم امتد العمل إلى حسابات أخرى عبر خدمات مختلفة، مما أطلق نقاشاً عاماً حول مخاطر منح وكلاء الذكاء الاصطناعي صلاحيات متقدمة أثناء الاختبارات. كما حذّرت من أن السباق المحموم قد يعرض الاقتصادات للخطر إذا فشلت أنظمة التنظيم والإشراف.
قال الموقعون: «خطر تجاوز سرعة التطور لقدرة الخبراء والحكومات على فهم الأنظمة الناتجة وإدارتها بات حقيقياً». وأضافوا أن الإصلاحات المقترحة يجب أن تراعي مسألة «التحسين الذاتي المتكرر» كآلية قد تؤدي إلى تسارع غير مسبوق في تطوير التكنولوجيا. كما أشاروا إلى أن التنبؤ بموعد بلوغ المرحلة التالية لا يزال صعباً، لكن الخطر أصبح معلوماً، خاصة مع استخدام الذكاء الاصطناعي حالياً في توليد أجزاء من الشفرات البرمجية تحت إشراف بشري.
