التجاوز الصامت: كيف تتفوّق «السلسلة الدلالية» على أقسى ضمانات الذكاء الاصطناعي

في أواخر الأسبوع الماضي، أحدث فريق من باحثي الأمن صدمة في عالم الذكاء الاصطناعي بكشفٍ مفاده أن Grok 4 وGemini Nano Banana Pro، وهما من أكثر نماذج الذكاء الاصطناعي متعددة الوسائط تقدّمًا، يمكن التلاعب بهما لإنتاج محتوى مقيّد - حتى عندما تبدو مرشحات الأمان فيهما محكمةً لا تُخترق. والمتهم هو تقنية كسر قيود ماكرة وذكية للغاية تُعرف باسم «السلسلة الدلالية» (Semantic Chaining)، وتداعياتها واسعة لكل من يعتمد على شبكات الأمان المدمجة في الذكاء الاصطناعي.

داخل الهجوم: تشريح السلسلة الدلالية

على خلاف الهجمات التقليدية المعتمدة على المطالبات التي تحاول خداع الذكاء الاصطناعي بطلبات خبيثة بشكلٍ فاضح، تأتي السلسلة الدلالية بأسلوبٍ خفي. يبدأ الهجوم بطلبٍ من النموذج أن يتخيل مشهدًا غير ضار - مثل مقعد في حديقة، أو فصل دراسي، أو شارع هادئ. ثم يُدخل المهاجم تغييرات صغيرة تبدو بريئة في ذلك المشهد. وهذا يهيّئ الذكاء الاصطناعي للاعتياد على إجراء تعديلات، كل ذلك بعيدًا عن رادار مرشحات الأمان القياسية.

تظهر «اللمسة السحرية» - ومعها الخطر - في المرحلة الثالثة. هنا ينعطف المهاجم، مستبدلًا العناصر البريئة بمحتوى حساس أو محظور. وأخيرًا، بدلًا من طلب إجابة نصية، يوجّه المهاجم النموذج إلى تقديم رده على هيئة صورة. وبما أن معظم أنظمة أمان الذكاء الاصطناعي مصممة لمسح النص بحثًا عن «كلمات سيئة» أو مخالفات للسياسات، فإنها تفوّت المحتوى الضار المخبأ داخل الصور المُولَّدة. والنتيجة: تعليمات صريحة، أو معلومات خطرة، أو مواد محظورة - كلها تُسلَّم في صيغة تنفلت من الدفاعات التقليدية.

أظهر باحثون من NeuralTrust أن هذه الهجمات تنجح حتى عندما تُغلَّف المطالبات بلغة تعليمية أو تاريخية أو فنية. فعلى سبيل المثال، أدى تأطير الطلب على أنه «تحليل استعادي» أو «خطة درس» إلى أن يُسقط Grok 4 وGemini حذرهما، فيثقان بالسياق ويفوّتان التهديد الكامن. وهذا يكشف خللًا جوهريًا: نماذج الذكاء الاصطناعي تعتمد أكثر من اللازم على سياقٍ سطحي وتفتقر إلى وعيٍ أعمق بالنية اللازمة لرصد الهجمات الدقيقة.

ومع ازدياد الذكاء الاصطناعي تعددًا للوسائط وميلاً للعمل كوكلاء، ترتفع المخاطر. على المؤسسات التي تنشر هذه الأنظمة أن تنظر إلى ما هو أبعد من الفحص التفاعلي، مطالبةً بمطالبة. ويجادل الخبراء بضرورة المراقبة الاستباقية في الزمن الحقيقي للنية الكامنة - وهو نهج يسأل ليس فقط عمّا يقوله الذكاء الاصطناعي، بل لماذا يقوله.

نظرة إلى الأمام: هل يمكن أن يكون الذكاء الاصطناعي آمنًا حقًا؟

هجوم السلسلة الدلالية بمثابة جرس إنذار. فهو يثبت أن خصومًا أذكياء يمكنهم هزيمة حتى أكثر أنظمة أمان الذكاء الاصطناعي تقدمًا عبر استغلال دفاعاتها المجزأة والسطحية. ومع تسارع السباق لبناء ذكاء اصطناعي أذكى وأكثر أمانًا، بات أمرٌ واحد واضحًا: الاعتماد على مرشحات الكلمات المفتاحية والقواعد الجامدة لم يعد كافيًا. مستقبل أمن الذكاء الاصطناعي سيتوقف على أنظمة قادرة على تفسير النوايا الدقيقة والتكيف مع التهديدات الجديدة في الزمن الحقيقي.

WIKICROOK

• كسر القيود (Jailbreak): كسر القيود هو فعل تجاوز القيود الأمنية على الأجهزة أو أنظمة الذكاء الاصطناعي، غالبًا للوصول إلى ميزات غير مصرح بها أو لاستدراج الذكاء الاصطناعي إلى ردود غير آمنة.
• الذكاء الاصطناعي متعدد الوسائط: الذكاء الاصطناعي متعدد الوسائط هو ذكاء اصطناعي يحلل أنواعًا متعددة من البيانات - مثل النصوص والصور والسلوك - لاتخاذ قرارات أذكى وأكثر استنارة.
• السلسلة الدلالية (Semantic Chaining): السلسلة الدلالية تقسّم الطلبات الضارة إلى أجزاء غير ضارة لتجاوز مرشحات أمان الذكاء الاصطناعي، ما يجعل اكتشافها أصعب ويزيد مخاطر الأمن السيبراني.
• هندسة المطالبات (Prompt Engineering): تتضمن هندسة المطالبات صياغة تعليمات أو أسئلة واضحة لنماذج الذكاء الاصطناعي لضمان توليد ردود ذات صلة ودقيقة.
• النية الكامنة (Latent Intent): النية الكامنة هي الهدف الخفي أو الأساسي وراء أفعال المستخدم، وغالبًا ما تُكشف عبر الأنماط بدلًا من التصريحات الصريحة في التفاعلات الرقمية.