إطلاق العنان للذكاء الاصطناعي: كيف يحول القراصنة نماذج اللغة إلى أسلحة إلكترونية آلية

في منتدى مظلم على شبكة الإنترنت الخفية، يعمل نوع جديد من القراصنة - not furiously typing lines of code, but calmly guiding an artificial intelligence to do the heavy lifting. لم يعد تسليح نماذج اللغة الكبيرة (LLMs) مجرد خيال علمي، بل أصبح واقعاً، حيث بات بإمكان المجرمين أتمتة اكتشاف واستغلال ثغرات البرمجيات على نطاق غير مسبوق.

أدى صعود نماذج اللغة الكبيرة مثل ChatGPT والبدائل مفتوحة المصدر إلى ثورة في تطوير البرمجيات والأمن السيبراني. هذه النماذج، المصممة لمساعدة البرمجة وشرح المفاهيم، أصبحت الآن سيفاً ذا حدين. يحذر الباحثون الأمنيون من أنه مع التلاعب المناسب، يمكن إجبار النماذج على توليد شيفرات استغلال خطيرة - برمجيات تستغل ثغرات في كل شيء من خوادم المؤسسات إلى أجهزة المنازل الذكية.

يبدأ المهاجمون بتغذية النماذج بقوالب استغلال، ووصف للثغرات، وحمولات إثبات المفهوم - غالباً ما يتم جمعها من إفصاحات عامة ومنتديات قرصنة غير مشروعة. من خلال هندسة التعليمات المستمرة والاستفسارات العدائية، يقومون تدريجياً بتقويض آليات الأمان المدمجة في الذكاء الاصطناعي. ونتيجة لذلك، قد يبدأ النموذج في إنتاج شيفرات shellcode، أو نصوص تصعيد الامتيازات، أو حتى وحدات هجوم معقدة مصممة لأهداف محددة مثل واجهات برمجة التطبيقات السحابية أو أخطاء تلف الذاكرة.

ولا يتوقف التعقيد التقني عند هذا الحد. تتيح هجمات انعكاس النماذج للخصوم استخراج أجزاء من معلومات الاستغلال الحساسة التي صادفها الذكاء الاصطناعي أثناء تدريبه أو تحسينه. ومع وجود ما يكفي من هذه الأجزاء، يمكن للقراصنة تجميع حمولات مسلحة - خط إنتاج آلي للجريمة الإلكترونية.

أما التطور الأكثر إثارة للقلق فهو ظهور خطوط الاستغلال الذاتية: أنظمة يتم فيها إقران النماذج مع أدوات كشف الثغرات. يمكن لهذه الأطر المدفوعة بالذكاء الاصطناعي البحث بشكل مستقل عن عيوب البرمجيات، وتوليد الحمولات، وحتى إنتاج وثائق للهجوم - دون الحاجة لأي خبرة بشرية. هذا يخفض بشكل كبير الحاجز أمام المهاجمين المحتملين، ويجعل الاستغلال السيبراني المتقدم متاحاً لشريحة أوسع من المجرمين.

رداً على ذلك، يسارع مزودو الأمن السيبراني ومطورو الذكاء الاصطناعي إلى نشر تدابير دفاعية، مثل نماذج لغة مدربة على اكتشاف وحجب التعليمات الخبيثة، وأنظمة مراقبة تكتشف المخرجات المشابهة للاستغلال. ومع ذلك، ومع تسارع الاستخدام الهجومي للذكاء الاصطناعي، يحذر الخبراء من أن اليقظة المستمرة والرقابة الصارمة على تدريب النماذج ونشرها أمران أساسيان لمنع عصر جديد من الهجمات الإلكترونية المؤتمتة والمدعومة بالذكاء الاصطناعي.

قد لا يُكتب مستقبل الجريمة الإلكترونية بأيدي البشر، بل بواسطة آلات يتم تحفيزها على العبث الرقمي. ومع طمس الذكاء الاصطناعي التوليدي للحدود بين الأداة والسلاح، تدخل معركة الأمن السيبراني أرضاً مجهولة - وخطرة.

ويكيكروك

• نموذج اللغة الكبير (LLM): نموذج اللغة الكبير هو ذكاء اصطناعي مدرب على فهم وتوليد نصوص شبيهة بالبشر، وغالباً ما يُستخدم في روبوتات الدردشة والمساعدين وأدوات المحتوى.
• هندسة التعليمات: تعني هندسة التعليمات صياغة تعليمات أو أسئلة واضحة لنماذج الذكاء الاصطناعي لضمان توليدها استجابات دقيقة وذات صلة.
• تسميم البيانات: تسميم البيانات هو هجوم إلكتروني يضيف فيه المهاجمون بيانات ضارة سراً إلى مجموعة تدريب الذكاء الاصطناعي، مما يؤدي إلى ارتكاب النظام أخطاء أو سلوكيات غير مرغوبة.
• هجوم انعكاس النموذج: هجوم انعكاس النموذج يستخرج بيانات تدريب حساسة من نماذج الذكاء الاصطناعي عبر تحليل مخرجاتها، مما يشكل خطراً على خصوصية وأمن المعلومات السرية.
• شيفرة Shellcode: شيفرة Shellcode هي برنامج صغير يحقنه المهاجمون لتنفيذ أوامر أو تنزيل برمجيات خبيثة إضافية، وغالباً ما تُستخدم لاستغلال ثغرات في الأنظمة.