تستغل مجموعات قرصنة متقدمة آليات الأمان المدمجة في نماذج الذكاء الاصطناعي لإخفاء البرمجيات الخبيثة عن أدوات الفحص، عبر دفع هذه النماذج إلى رفض تحليل الملفات بدلاً من اكتشاف محتوياتها.
ويعتمد الأسلوب على إدراج كلمات وعبارات شديدة الحساسية داخل الشيفرات، بما في ذلك مصطلحات مرتبطة بالأسلحة والمواد المحظورة والصراعات المسلحة، بحيث تصنفها النماذج تلقائياً على أنها محتوى خطير وتوقف عملية التحليل.
تحايل يستغل قواعد الأمان
ولجأت مجموعات قرصنة روسية إلى هذا النوع من التحايل، وفق تقارير متخصصة في الأمن السيبراني، مستفيدة من صعوبة بعض النماذج في التمييز بين السياق الدفاعي المشروع والسياق الضار.
وتطبق النماذج اللغوية العامة، في كثير من الأحيان، قواعد الأمان نفسها على النص، سواء كان جزءاً من محاولة هجومية أو ملفاً يخضع للفحص بهدف الحماية أو التحقيق الجنائي الرقمي.
ويتيح ذلك للمهاجم تحويل آلية الرفض، التي صممت لمنع التعامل مع المحتوى الخطير، إلى وسيلة لحماية البرمجية الخبيثة. فوجود عبارات حساسة داخل الكود قد يؤدي إلى تعطيل أداة التحليل أو دفعها إلى الامتناع عن مواصلة الفحص، بدلاً من تقييم السلوك البرمجي ضمن سياقه الكامل.
دعوات إلى أنظمة أمنية متخصصة
يندرج هذا الأسلوب ضمن موجة أوسع من تقنيات التحايل على أنظمة الذكاء الاصطناعي، تشمل هجمات كسر الحماية، وتسميم البيانات، والتلاعب بالمدخلات بهدف تغيير حكم النموذج على السلوك المشبوه.
ولا يعني ذلك أن جميع أنظمة الذكاء الاصطناعي قابلة للتحايل بالطريقة نفسها، لكنه يكشف ثغرة تصميمية عند استخدام نماذج عامة في مهام أمنية حساسة من دون تكييف قواعدها مع طبيعة العمل الدفاعي.
ويدعو خبراء إلى الفصل بين نماذج الاستخدام العام والأنظمة المخصصة للأمن السيبراني، بحيث تتمكن أدوات الفحص والتحقيق الرقمي من تحليل المحتوى الحساس أو الخطير من دون التوقف لمجرد احتوائه على كلمات محظورة.
كما تبرز الحاجة إلى تصميم هذه الأنظمة لفهم السياق والغرض من التحليل، بدلاً من الاكتفاء بالتعرف على كلمات أو موضوعات حساسة ورفض التعامل معها آلياً.
وتظهر هذه التطورات أن المواجهة السيبرانية تشمل أيضاً استغلال طريقة عمل أنظمة الذكاء الاصطناعي وتحويل قواعد الحماية إلى نقاط ضعف قابلة للاستهداف.
