الجبهة الجديدة للذكاء الاصطناعي: OpenAI تعرض مكافآت لكشف فوضى روبوتات الدردشة

في الأسبوع الماضي، ألقت OpenAI القفاز: إذا استطعت إيجاد طرق تجعل ذكاءها الاصطناعي يسيء التصرّف - أو رصدت ثغرات قد تجعله ينفلت عن السيطرة - فسيدفعون لك مقابل ذلك. لكن هذه ليست مكافأة ثغرات اعتيادية. ففي خطوة هي الأولى من نوعها، تطلب OpenAI من المخترقين الأخلاقيين والباحثين مطاردة نقاط الضعف التي تتجاوز عيوب البرمجيات التقليدية، مع التركيز على كيفية التلاعب بذكائها الاصطناعي أو إساءة استخدامه أو تحويله إلى سلاح على نطاق واسع.

حقائق سريعة

• يستهدف برنامج مكافآت الثغرات الجديد لدى OpenAI إساءة الاستخدام ومخاطر السلامة الخاصة بالذكاء الاصطناعي، وليس فقط العيوب الأمنية الكلاسيكية.
• يشمل البرنامج حقن الموجّهات (Prompt Injection)، واستخراج البيانات، وإساءة استخدام أدوات الذكاء الاصطناعي الوكيل، ومشكلات نزاهة المنصة.
• قد تصل المكافآت إلى 7,500 دولار للمشكلات الخطيرة القابلة لإعادة الإنتاج مع خطوات معالجة واضحة.
• تُفرَز البلاغات من قِبل فرق سلامة وأمن مخصّصة، وتُحدَّد المكافآت وفق تقدير OpenAI.
• يعمل البرنامج عبر Bugcrowd ويشمل منتجات مثل Atlas Browser وCodex وOperator وموصلات ChatGPT.

كان النمو المتفجّر لأدوات الذكاء الاصطناعي مثل ChatGPT سلاحًا ذا حدّين: فبينما يستفيد الملايين من المساعدة المؤتمتة، تنامت مخاطر إساءة الاستخدام وتسريب البيانات وحتى الهجمات المدفوعة بالذكاء الاصطناعي بالسرعة نفسها. ويُعد برنامج المكافآت الجديد لدى OpenAI إقرارًا ضمنيًا بأن هذه المخاطر مختلفة - وربما أشد خطورة - من تلك التي تواجهها شركات البرمجيات التقليدية.

وعلى خلاف مكافآت الثغرات القياسية التي تركز على ثغرات الشيفرة واختراق الأنظمة، يركّز هذا المسعى على مشكلات مثل حقن الموجّهات (حيث يخدع المهاجمون الذكاء الاصطناعي لكشف أسرار أو تجاوز القيود)، واستخراج البيانات، وقدرة “الوكلاء” من الذكاء الاصطناعي على تنفيذ أفعال ضارة على نطاق واسع. وبعبارة أخرى، تسأل OpenAI: لو كانت لديك إمكانية وصول غير محدودة إلى ذكائنا الاصطناعي، كيف يمكنك جعله يسيء التصرّف بطرق لم نتخيلها؟

نطاق البرنامج واسع. فهو لا يغطي الهجمات الواضحة فحسب، بل أيضًا نقاط الضعف الأكثر خفاءً - مثل العيوب في كيفية تفاعل أدوات الذكاء الاصطناعي مع موصلات الجهات الخارجية، أو الثغرات التي قد تكشف معلومات مملوكة. وحتى المشكلات التي لا تندرج بسهولة تحت خانتي “الأمن” أو “السلامة” مؤهلة للمراجعة، ما دامت قد تؤدي إلى ضرر ملموس.

إن وعد OpenAI بدفع ما يصل إلى 7,500 دولار لكل اكتشاف يشكّل حافزًا واضحًا، لكن العملية صارمة: يجب أن تكون التقارير قابلة لإعادة الإنتاج، عالية الخطورة، ومرفقة بإصلاحات قابلة للتنفيذ. وتُراجع كل مشاركة من قِبل فرق متخصصة، وتبقى مبالغ المكافآت في النهاية وفق تقدير OpenAI - في إشارة إلى تعقيد وحداثة كثير من التهديدات الخاصة بالذكاء الاصطناعي.

تأتي هذه الخطوة في وقت توسّع فيه عمالقة التقنية مثل Google وMicrosoft أيضًا آفاق برامج مكافآت الثغرات لديهم، بما يعكس إجماعًا متزايدًا: لم تعد سلامة الذكاء الاصطناعي نظرية. ومع ازدياد استقلالية أنظمة الذكاء الاصطناعي وتغلغلها في الحياة اليومية، لم تكن المخاطر المرتبطة باكتشاف - وإصلاح - مخاطر إساءة الاستخدام قبل أن تنفلت إلى العلن أعلى مما هي عليه الآن.

برنامج OpenAI الجديد أكثر من مجرد دفعة مالية لمخترقين أذكياء - إنه اختبار لمدى قدرة مجتمع الأمن على مجاراة المخاطر المتسارعة التطور للذكاء الاصطناعي. وقد يعتمد مستقبل الذكاء الاصطناعي الآمن والمسؤول على عدد هذه “الأخطاء” التي نستطيع العثور عليها قبل أن يعثر عليها شخص آخر.

WIKICROOK

• برنامج مكافآت الثغرات: يكافئ برنامج مكافآت الثغرات الباحثين المستقلين على العثور على ثغرات البرمجيات والإبلاغ عنها، ما يساعد المؤسسات على تعزيز أمنها السيبراني.
• حقن الموجّهات: حقن الموجّهات هو عندما يزوّد المهاجمون الذكاء الاصطناعي بمدخلات ضارة، فيدفعونه للتصرف بطرق غير مقصودة أو خطرة، وغالبًا مع تجاوز وسائل الحماية المعتادة.
• استخراج البيانات: استخراج البيانات هو النقل غير المصرّح به لبيانات حساسة من نظام الضحية إلى سيطرة المهاجم، وغالبًا لأغراض خبيثة.
• الذكاء الاصطناعي الوكيل: يمكن لأنظمة الذكاء الاصطناعي الوكيل اتخاذ قرارات وتنفيذ إجراءات بشكل مستقل، والعمل بإشراف بشري محدود والتكيّف مع تغيّر الظروف.
• موصل: الموصل هو ميزة برمجية تُمكّن الوصول والتفاعل التلقائي بين خدمات مختلفة، مثل البريد الإلكتروني أو التخزين السحابي، لتحقيق تكامل سلس.