ميتّا تطلق إطار أمان لرصد إشارات الانتحار عند المراهقين

إطار أمان Meta يراقب محادثات المراهقين مع المساعد الذكي

أعلنت شركة Meta عن إطار أمان جديد يرصد محادثات المراهقين مع المساعد الذكي Meta AI ويصدر تنبيهات إلى الآباء عندما تتضمن هذه المحادثات إشارات إلى الانتحار أو إيذاء النفس. يهدف النظام إلى تسهيل التدخل المبكر وتوفير الدعم خارج المنصات الرقمية.

التنبيهات وآليات التدخل

تصل التنبيهات إلى الآباء والمراهقين المرتبطين بأدوات الإشراف العائلي على إنستغرام، وذلك في إطار طرح مبدئي في الولايات المتحدة والمملكة المتحدة وكندا وأستراليا، بينما ستتوسع تدريجياً إلى دول أخرى قبل نهاية عام 2026.

كيف يعمل النظام

يستخدم النظام تقنيات الذكاء الاصطناعي لرصد العبارات الصريحة والإشارات غير المباشرة التي قد تكشف وجود خطر، مع التأكيد على أن المحادثات التي يحددها النظام تخضع للمراجعة البشرية قبل إرسال الإشعار إلى ولي الأمر. وترافقه مجموعة من الموارد والإرشادات التي أُعدت بمساعدة مختصين في الصحة النفسية بهدف مساعدة الآباء على بدء حوار داعم مع المراهق والتعامل مع الموقف بشكل بنّاء ودون إصدار أحكام أو تجاهل مؤشرات الخطر المحتملة.

يواصل مساعد Meta AI توجيه المستخدمين الذين يطرحون أسئلة مرتبطة بالانتحار أو إيذاء النفس إلى خطوط المساعدة والموارد المتخصصة، مع تشجيع المراهق على التواصل مع أحد والديه أو شخص بالغ موثوق أو مختص في الصحة النفسية. وتعمل Meta على تطوير آلية تسمح بالتواصل مع خدمات الطوارئ إذا أظهرت المحادثة وجود خطر وشيك.

الإحصاءات والتوسع

وقد أشارت الشركة إلى أنها أحالت أكثر من 19 ألف حالة رصدت عبر منصتي فيسبوك وإنستغرام إلى جهات الاستجابة والطوارئ لإجراء فحوصات السلامة خلال العام الماضي. هذه الإجراءات جزء من مساعي Meta لتعزيز آليات الاستجابة لحالات الخطر بين المراهقين على منصاتها، مع متابعة التوسع في المناطق المستهدفة وفق جدول زمني وتقييم مستمر.