ما هو SAFE؟
أعلن تحالف Open Secure AI Alliance، وهو ائتلاف تقني يضم أكثر من 120 مؤسسة من بينها شركة إنفيديا وسيسكو وكراود سترايك، عن اقتراح إنشاء نظام مشترك للإبلاغ عن الحوادث الأمنية المرتبطة بوكلاء الذكاء الاصطناعي. يحمل الإطار المقترح اسم Shared AI Findings Exchange (SAFE)، وهو في مرحلة طلب التعليقات قبل اعتماده النهائي. ويهدف SAFE إلى وضع قواعد موحدة تسمح للشركات والمطورين والباحثين بتوثيق الحوادث وتبادل المعلومات بشأنها بدلاً من التعامل مع كل واقعة بشكل منفصل. تأتي المبادرة في سياق تزايد قدرة أنظمة الذكاء الاصطناعي على تنفيذ مهام مستقلة والوصول إلى أدوات وخدمات خارجية دون تدخل بشري مباشر.
المبادئ والإبلاغ
يشترط المقترح أن يلتزم المشاركون بالإبلاغ عن حالات محددة تشمل: وصول وكيل ذكاء اصطناعي إلى نظام طرف ثالث دون تصريح، أو كشف معلومات سرية، أو استمرار نشاط تجاه هدف محدد بعد وجود مؤشرات على أن العملية غير مصرح بها. كما يتضمن الإطار وقائع كادت تتحول إلى حوادث فعلية مع الاحتفاظ بسجلات دقيقة لما قام به الوكيل، من أوامر واستدعاءات أدوات ونشاط وهويات وصلاحيات مستخدمة. ويقترح SAFE وجود ما يشبه صندوقاً أسوداً للوكيل، يتضمن الأوامر التي تلقاها، واستدعاءات الأدوات، وسجلات النشاط والهويات والصلاحيات، بما يسمح لاحقاً بإعادة بناء ما حدث وفهم سبب تجاوز الحدود المرسومة للنظام.
جدول الإفصاح
ويحدد الإطار أيضاً جدولاً زمنياً للإفصاح: إبلاغ الجهة المتضررة بسرعة، ثم تقديم تقرير سري أولي خلال أربعة أيام عمل، ثم نشر تقرير بالوقائع خلال 30 يوماً وتقديم تحديث بشأن إجراءات المعالجة خلال 90 يوماً. ولا يشترط أن يكون الضرر متعمداً ليخضع للإبلاغ. يأتي ذلك في أعقاب مخاوف من تجاوز وكلاء الذكاء الاصطناعي حدود بيئات الاختبار ووصولهم إلى أنظمة حقيقية في قطاع الأمن السيبراني.
الوضع القانوني والتوازن العام
لا يمنح الإطار حتى الآن حماية قانونية رسمية للشركات التي تكشف طوعاً عن مثل هذه الوقائع. وفي الوقت نفسه، تواصل مؤسسة Linux Foundation استقبال ملاحظات المجتمع التقني بشأن الصيغة النهائية للمبادرة.
تصريحات الجهات المنظمة
قال مسؤولو المبادرة: يشبه مسؤولو المبادرة هذه الآلية بأنظمة التحقيق في حوادث الطيران. وتؤكد الجهة المنظمة أن SAFE لا يزال في طور طلب التعليقات قبل اعتماده النهائي، في مسعى لتوفير إطار مشترك يمكن الاعتماد عليه لتوثيق الحوادث وتبادل المعلومات حولها بشكل منسق.
