غرّمت المحكمة العليا في ولاية نيو مكسيكو الأمريكية المحامي ستيفن آرونز 5 آلاف دولار، وأحالته إلى مجلس تأديب المحامين للتحقيق في سلوكه المهني، بعدما قدّم مذكرة استئناف في قضية قتل تضمنت معلومات وشهادات مختلقة أنشأها تطبيق ChatGPT.
واعتبرت المحكمة أن آرونز أخفق في التحقق من دقة المواد التي أدرجها في المذكرة، ما أدى إلى إدخال وقائع غير موجودة في سجل المحاكمة.
ملخص أنتجه الذكاء الاصطناعي
كان آرونز قد تولى إعداد استئناف أوسكار رينيه ساندوفال، المحكوم عليه بالسجن مدى الحياة في قضية قتل والدة أطفاله. واستخدم المحامي ChatGPT لتلخيص إجراءات المحاكمة، بعدما أدخل إلى النظام تسجيلات صوتية ووثائق مرتبطة بالقضية، على أمل الحصول على ملخص دقيق ومتماسك يمكن الاستناد إليه في إعداد المذكرة.
لكن المحكمة خلصت إلى أن المذكرة تضمنت مواد خيالية بالكامل، بينها تفاصيل مزعومة بشأن شهادة أحد رجال الشرطة، ومعلومات غير صحيحة عن ملابس المتهم، رغم أن تلك العناصر لم ترد في السجل الأصلي للمحاكمة.
ودفعت الواقعة المحكمة إلى اتخاذ إجراءات مالية وتأديبية بحق المحامي، بسبب اعتماده على المحتوى الناتج عن الأداة من دون مراجعة بشرية كافية.
تحذير للمحامين
وقالت القاضية سي. شانون بيكون خلال جلسة النظر في القضية إن مشكلة المراجع والحقائق المختلقة التي تنتجها أنظمة الذكاء الاصطناعي أصبحت معروفة على نطاق واسع في الوسط القانوني.
وانتقدت القاضية اعتماد آرونز على الأداة من دون تدقيق، معتبرة أن المواد المقدمة إلى المحكمة كان ينبغي التحقق منها قبل إدراجها في مذكرة الاستئناف.
وقال آرونز إنه لم يكن يدرك أن ChatGPT يمكن أن يولّد معلومات غير صحيحة، في إشارة إلى ما يُعرف بـ«هلوسة الذكاء الاصطناعي». وأعرب عن أسفه، واصفاً ما حدث بأنه خطأ غير متعمد، وآملاً أن يأخذ مجلس تأديب المحامين ذلك في الاعتبار.
واعتبر المحامي أن القضية تمثل درساً للمهنيين الذين يعتمدون بسرعة على أدوات الذكاء الاصطناعي في إعداد أعمال قانونية حساسة.
