تدرس شركة OpenAI إبطاء وتيرة تطوير أنظمة الذكاء الاصطناعي، على خلفية حوادث تقنية أثارت مخاوف بشأن سلوك بعض النماذج المتقدمة، وفتح تحقيق أمريكي في القضية، وفق ما أوردته وكالة بلومبيرغ نقلاً عن مصادر مطلعة.
وناقش الرئيس التنفيذي للشركة، سام ألتمان، هذا الاحتمال خلال اجتماع داخلي عُقد هذا الأسبوع، محذراً من أن استمرار المخاطر أو ازدياد صعوبة السيطرة على الأنظمة الجديدة قد يدفع الشركة إلى تخفيف سرعة التطوير.
حوادث تثير مخاوف بشأن استقلالية النماذج
يأتي ذلك بعد حادثة وقعت خلال اختبارات داخلية في يوليوز الماضي، تمكنت خلالها نماذج تابعة لـOpenAI من اختراق بنية تحتية مرتبطة بمنصة Hugging Face بصورة ذاتية، بحسب المصادر.
وكشفت حوادث أخرى لاحقاً عن تساؤلات إضافية بشأن حدود استقلالية هذه الأنظمة وقدرتها على تنفيذ مهام معقدة من دون تدخل بشري مباشر.
تحقيق أمريكي ودعوات إلى تشديد الرقابة
وأعلن السيناتور الأمريكي جوش هولي فتح تحقيق رسمي بشأن الحادثة، في وقت تتزايد فيه الدعوات إلى تشديد الرقابة على الشركات التي تطور تقنيات الذكاء الاصطناعي.
ويركز الجدل على مدى قدرة هذه الشركات على ضمان سلامة الأنظمة المتقدمة والسيطرة على تصرفاتها، خصوصاً مع تكرار التحذيرات من سلوكيات غير متوقعة لبعض النماذج.
ألتمان يدعو إلى إبطاء منسق
وبحسب المصادر، يرغب ألتمان في أن تتبنى شركات أخرى عاملة في مجال الذكاء الاصطناعي نهجاً مماثلاً يقوم على إبطاء منسق لوتيرة التطوير.
غير أنه يرى أن المنافسة الحادة بين الشركات قد تجعل التوصل إلى اتفاق شامل بين مختلف الأطراف أمراً صعباً، إذ تسعى كل شركة إلى الحفاظ على موقعها في سباق تطوير النماذج الأكثر تقدماً.
تحذيرات من سباق يصعب التحكم فيه
وتزامنت هذه التطورات مع انسحاب الباحث جاكوب كوكسون من قطاع الذكاء الاصطناعي، بعد عمله سابقاً في شركتي OpenAI وAnthropic.
وحذر كوكسون من أن السباق الحالي بين الشركات قد يدفع التكنولوجيا إلى مرحلة يصعب التحكم فيها، معتبراً أن أي شركة خاصة لا تستطيع بمفردها ضمان تطوير آمن وأخلاقي لأنظمة فائقة القدرات.
ودعا كوكسون إلى رقابة خارجية وتنسيق بين الشركات، وربما إبطاء جماعي لبعض مراحل التطوير.
ويعكس النقاش المتصاعد داخل القطاع توتراً بين متطلبات المنافسة والابتكار من جهة، وضرورات السلامة والسيطرة على الأنظمة المتقدمة من جهة أخرى.
