إنذار أحمر في OpenAI: البحث عالي المخاطر عن قائد لمخاطر الذكاء الاصطناعي

أشهر مختبر للذكاء الاصطناعي في العالم يدق ناقوس الخطر - وهو يبحث عن حارس جديد. نشرت OpenAI، القوة الدافعة وراء ChatGPT، وظيفة تبدو أقل كإجراء توظيف روتيني وأكثر كنداء لمستجيب رقمي أول: رئيس الاستعداد. مع راتب نصف مليون دولار وإمكانية الوصول المباشر إلى قلب الشركة، ليست هذه مجرد وظيفة أخرى في وادي السيليكون. إنها مقعد في الصف الأول أمام عاصفة مخاطر الذكاء الاصطناعي القادمة - وإشارة تحذير بأن حتى المبدعين لا يثقون تمامًا في ابتكاراتهم.

لم تكن المخاطر أعلى من أي وقت مضى - أو أكثر غموضًا. لم يجامل الرئيس التنفيذي لـ OpenAI، سام ألتمان، في منشور حديث على وسائل التواصل الاجتماعي، محذرًا من أن الوظيفة ستكون "مرهقة" وتتطلب الكثير. ويكشف وصف الشركة للوظيفة عن السبب: يجب على رئيس الاستعداد الجديد توقع وتحييد المخاطر المدفوعة بالذكاء الاصطناعي قبل أن تخرج عن السيطرة، من القراصنة الذين يستخدمون روبوتات الدردشة كأسلحة إلى المستخدمين الذين يعانون من أضرار نفسية بعد محادثات طويلة مع عقول اصطناعية.

في الأشهر الأخيرة، أصبحت نماذج الذكاء الاصطناعي أكثر قدرة وأيضًا أكثر تقلبًا. يمكن لأحدث أنظمة OpenAI تجاوز الدفاعات، مما يثير القلق من أن المهاجمين قد يستغلون الثغرات بسرعة أكبر من قدرة فرق الأمن على الاستجابة. تتسابق الشركة الآن لتوسيع بنيتها التحتية للمراقبة وتعليم نماذجها رفض الطلبات التي قد تؤدي إلى فوضى رقمية أو واقعية.

لكن مخاطر OpenAI لا تقتصر على الشيفرة. ظهرت دعاوى قضائية تزعم أن ردود ChatGPT تسببت في ضيق عاطفي، حيث أبلغ بعض المستخدمين عن آثار نفسية شديدة بعد تفاعلات طويلة. سلطت التحقيقات الضوء على هذه الأضرار، مما دفع OpenAI إلى إعادة النظر في كيفية تعامل الذكاء الاصطناعي مع المواضيع الحساسة، وتقديم موارد للأزمات، وتمويل أبحاث حول الصحة النفسية الرقمية.

كما يمثل هذا البحث التنفيذي تحولًا استراتيجيًا. في السابق، كان الإشراف على السلامة في OpenAI مدمجًا مع أدوار تقنية أخرى. الآن، يتم إعادة الاستعداد كوظيفة مستقلة وعالية المستوى، مما يعكس اتجاهًا أوسع في الصناعة: مع تزايد قوة الذكاء الاصطناعي، تزداد قدرته على الإرباك والخداع والتسبب في الضرر. وتسلط الإفصاحات التنظيمية في قطاع التكنولوجيا الضوء بشكل متزايد على الذكاء الاصطناعي كمصدر لمخاطر السمعة والتشغيل.

بالنسبة لأولئك في الخطوط الأمامية، الرسالة واضحة. لا يمكن أن يكون تطوير الذكاء الاصطناعي سباقًا مجنونًا نحو القدرات فقط. سيتعين على رئيس الاستعداد السير على حبل مشدود - تطوير الابتكار مع بناء حصون ضد الكوارث. الفشل ليس مجرد خلل تقني؛ بل قد يعني ضررًا حقيقيًا على نطاق عالمي.

بينما تضع OpenAI نصب عينيها أنظمة أكثر استقلالية، سيحتاج الموظف الجديد إلى توقع غير المتوقع - والتصرف قبل وقوع الأزمة التالية. في سباق تشكيل مستقبل الذكاء الاصطناعي، قد يكون ثمن الخطأ أعلى بكثير من أي راتب تنفيذي.

ويكيكروك

• الاستدلال بالذكاء الاصطناعي: الاستدلال بالذكاء الاصطناعي هو العملية التي تحاكي فيها أنظمة الذكاء الاصطناعي التفكير المنطقي وحل المشكلات، وهو أمر بالغ الأهمية لاكتشاف واحتواء تهديدات الأمن السيبراني.
• تهديد الأمن السيبراني: تهديد الأمن السيبراني هو أي خطر قد يهدد الأنظمة أو البيانات الرقمية، مثل القرصنة أو البرمجيات الخبيثة أو الوصول غير المصرح به.
• الاستعداد: الاستعداد هو التخطيط والعمل الاستباقي لتحديد واحتواء والاستجابة للتهديدات المحتملة للأمن السيبراني، خاصة تلك المرتبطة بتقنيات الذكاء الاصطناعي المتقدمة.
• استقلالية النماذج: استقلالية النماذج تعني أن أنظمة الذكاء الاصطناعي تتخذ قرارات الأمن السيبراني بشكل مستقل، وتتأقلم مع التهديدات وتتصرف دون تدخل بشري مباشر، مما يعزز سرعة الاستجابة.
• سوء الاستخدام البيولوجي: سوء الاستخدام البيولوجي هو استخدام الذكاء الاصطناعي أو التكنولوجيا للمساعدة في أنشطة تهدد السلامة البيولوجية، مثل تصميم عوامل ضارة أو تجاوز تدابير الأمن البيولوجي.