حذّر إيفان هوبينغر، الباحث في سلامة الذكاء الاصطناعي لدى شركة «أنثروبيك»، من أن احتمال أن تؤدي تطورات الذكاء الاصطناعي خلال السنوات العشر المقبلة إلى كارثة تهدد بقاء البشرية قد يتجاوز 10%.
وقال هوبينغر إن الخطر الذي تمثله النماذج الحالية ما يزال منخفضاً، لكنه يخشى أن تصل الأنظمة مستقبلاً إلى مرحلة تتمكن فيها من تحسين قدراتها بوتيرة متسارعة، واكتساب نفوذ حقيقي يصعب التحكم فيه.
جدل متصاعد حول الأنظمة المتقدمة
تأتي هذه التصريحات في وقت يتسع فيه الجدل داخل قطاع الذكاء الاصطناعي بشأن مخاطر الأنظمة المتقدمة وقدرتها على العمل بدرجات أكبر من الاستقلالية.
وتتزامن التصريحات مع تقارير أفادت بأن أحدث نماذج «أنثروبيك» لم تُتح لمعهد سلامة الذكاء الاصطناعي البريطاني لأغراض التقييم، بينما تؤكد الحكومة البريطانية استمرار تعاونها مع شركات القطاع لتحسين معايير السلامة. كما أظهرت تقارير أخرى قدرة أنظمة ذكاء اصطناعي على تنفيذ عمليات سيبرانية بدرجات مختلفة من الاستقلالية.
غياب خطة مضمونة لمشكلة المواءمة
وقال هوبينغر إن العاملين في «أنثروبيك» يتعاملون بجدية مع مخاطر الذكاء الاصطناعي المتقدم، لكنه أقر بأن القطاع لا يمتلك حتى الآن خطة واضحة ومضمونة لمعالجة مشكلة «المواءمة» إذا ظهرت أنظمة فائقة الذكاء.
وتشير المواءمة إلى تطوير أنظمة تظل أهدافها وسلوكياتها منسجمة مع مصالح البشر وقيمهم، حتى مع ازدياد استقلاليتها وقدرتها على اتخاذ القرارات وتنفيذ المهام.
تحذيرات من قدرات «فوق بشرية»
جاءت مواقف هوبينغر في سياق نقاش أوسع أعقب مغادرة باحث سابق في «أنثروبيك» و«أوبن إيه آي» مجال الذكاء الاصطناعي، بعدما حذّر من احتمال توجه الشركات إلى تطوير أنظمة «فوق بشرية» قادرة على تنفيذ هجمات إلكترونية معقدة والتأثير في مجالات واسعة خلال وقت قصير.
وأشارت تقارير السلامة الصادرة عن «أنثروبيك» إلى أن مخاطر فقدان السيطرة ما تزال منخفضة في الوقت الراهن، لكنها أصبحت أقل يقيناً مما كانت عليه في السابق.
وسبق لقادة شركات ذكاء اصطناعي وباحثين أن دعوا إلى التعامل مع مخاطر الأنظمة المتقدمة باعتبارها قضية عالمية، فيما تعكس التحذيرات الأخيرة تنامي القلق داخل الشركات مع تسارع قدرات النماذج.
