عندما تنفلت وكلاء الذكاء الاصطناعي: لماذا تُحكم معظم مشاريع الذكاء الاصطناعي الوكيلي عليها بالفشل - وكيف يمكن لمجالس الإدارة إنقاذها

لقد أشعل وعدُ الذكاء الاصطناعي الوكيلي - الأنظمة التي لا تكتفي بالإجابة عن الأسئلة بل تتخذ إجراءات ذاتية - حماسَ مجالس إدارات الشركات في أنحاء أوروبا. لكن خلف الضجيج، تتكشف حقيقة مقلقة: ثلاثٌ من كل أربع مبادرات مؤسسية في الذكاء الاصطناعي الوكيلي تتجه نحو الاصطدام بالفشل، ليس بسبب خوارزميات معطوبة، بل بسبب عيوب عميقة في الحوكمة. وبينما تتسابق المؤسسات لنشر هذه التقنيات القوية، فإن كثيرًا منها يفتح دون قصد أبوابًا لاختراقات أمنية وفوضى تشغيلية وانحراف استراتيجي.

فجوة الحوكمة: التهديد الحقيقي للذكاء الاصطناعي الوكيلي

إن اندفاع الذهب الحالي نحو الذكاء الاصطناعي الوكيلي تغذّيه رهبة فوات الفرصة (FOMO) بقدر ما تغذّيه الابتكار. كثير من المؤسسات، حرصًا على ألا يفوتها الركب، أطلقت مشاريع قبل ترسيخ أساسيات الإشراف والأمن. والنتيجة: أن غالبية هذه المبادرات تتعثر، وغالبًا ما يُلقى اللوم على عيوب تقنية بينما الجاني الحقيقي هو غياب الحوكمة الاستراتيجية.

وعلى خلاف الذكاء الاصطناعي التقليدي، تعمل أنظمة الذكاء الاصطناعي الوكيلي بشكل ذاتي، فتتخذ قرارات وتنفذ مهامًا. هذا التحول يضاعف قوتها ويضاعف معها سطح المخاطر. ومع ذلك، كثيرًا ما يُعزل الذكاء الاصطناعي الوكيلي كمشروع مُدلّل لمدير المعلومات (CIO)، فيما تُستدعى فرق الشؤون القانونية والمخاطر والعمليات والأمن متأخرًا - إن استُدعيت أصلًا. هذا النهج المُجزّأ يفضي إلى نسخ “ظلّية”، ومسؤوليات غير واضحة، ونقص خطير في الإشراف.

تنبع الإخفاقات الحرجة عادةً من ثلاثة عيوب بنيوية:

• انجراف الملكية: تفتقر المشاريع إلى ملكية مشتركة على مستوى مجلس الإدارة، ما يجعل فرض المعايير أو قياس النجاح أمرًا مستحيلًا.
• زحف الأهداف: تبدأ المبادرات بالتقنية لا بنتائج الأعمال، فتؤدي إلى ميزانيات منفلتة وحدود مخاطر غير مُعرّفة.
• حواجز حماية ضعيفة: غالبًا ما يُطلق العنان لوكلاء الذكاء الاصطناعي بامتيازات مفرطة، وتحقق هوية ضعيف، ومراقبة آنية محدودة - لا “حزام أمان” ولا نهج انعدام الثقة (Zero Trust) في الأفق.

خطة عمل مجلس الإدارة: الحوكمة، الأهداف، حواجز الحماية

لتفادي الكارثة، يجب على مجالس الإدارة أن تمسك بزمام الأمور. ويوصي الخبراء بتشكيل مجلس حوكمة للذكاء الاصطناعي متعدد التخصصات يتولى مسؤولية جميع أنشطة الذكاء الاصطناعي الوكيلي، مع قنوات رفع تقارير مباشرة إلى مجلس الإدارة. وينبغي لهذا المجلس أن يحافظ على سجل مُحدّث لجميع الوكلاء، وامتيازاتهم، ووصولهم إلى البيانات، ومالكيهم.

يجب أن تقود كل مشروع أهدافٌ قابلة للقياس ومعتمدة من مجلس الإدارة - لا أهداف تقنية ضبابية. وينبغي أن تكون مستويات الأمن والمخاطر واضحة منذ اليوم الأول، مع اشتراط موافقة بشرية على الدوام لأي إجراءات لا رجعة فيها. كما يجب توحيد إدارة الهوية والامتيازات عبر البشر والآلات ووكلاء الذكاء الاصطناعي، مع فرض مبدأ أقلّ الامتيازات واعتماد بيانات اعتماد قصيرة العمر. ويمكن استخدام وكلاء فرعيين للعمليات عالية المخاطر، ويجب تسجيل كل قرار وجعله قابلًا للتدقيق.

ينبغي أن تتضمن قوائم التحقق التشغيلية للربع الأول: إنشاء مجلس الحوكمة، وإجراء اختبارات الفريق الأحمر على مُحفزات الذكاء الاصطناعي، وربط الأفعال بالهويات والأغراض، وضمان المراقبة المستمرة. والسؤال بسيط: هل ستمنح متدربًا وصولًا غير مُقيّد إلى أنظمتك؟ إن لم يكن، فلماذا تثق لوكيل ذكاء اصطناعي بذلك؟

الخلاصة: أمن مُصمَّم منذ البداية أم فشل افتراضي

إن تعقيد بيئات المؤسسات اليوم وتجزؤها يعني أن الذكاء الاصطناعي الوكيلي قد يضخّم كل نقطة عمياء قائمة. ويتطلب النجاح في هذا العصر الجديد أن يُبنى الأمن والحوكمة منذ أول اجتماع تصميم وحتى كل مراجعة ربع سنوية. وحدها المؤسسات التي تتعامل مع الذكاء الاصطناعي الوكيلي بوصفه مسؤولية على مستوى مجلس الإدارة وعلى امتداد المؤسسة - مدعومة بأهداف واضحة وحواجز حماية محكمة - ستسخّر قوته بأمان. أما بالنسبة للآخرين، فالمخاطر ليست تقنية فحسب: إنها وجودية.

ويكيكروك

• الذكاء الاصطناعي الوكيلي: يمكن لأنظمة الذكاء الاصطناعي الوكيلي اتخاذ قرارات وتنفيذ إجراءات بشكل مستقل، والعمل بإشراف بشري محدود والتكيف مع الأوضاع المتغيرة.
• مجلس الحوكمة: مجلس الحوكمة هو فريق متعدد التخصصات يشرف على أمن مشاريع الذكاء الاصطناعي، ويضمن الامتثال وإدارة المخاطر والمواءمة مع أهداف المؤسسة.
• انعدام الثقة (Zero Trust): انعدام الثقة هو نهج أمني لا يُوثق فيه بأي مستخدم أو جهاز افتراضيًا، ويتطلب تحققًا صارمًا لكل طلب وصول.
• أقلّ الامتيازات: أقلّ الامتيازات مبدأ أمني يحصل بموجبه المستخدمون والبرامج على الحد الأدنى فقط من الوصول اللازم لأداء مهامهم، ما يقلل المخاطر الأمنية.
• اختبار الفريق الأحمر: يحاكي اختبار الفريق الأحمر هجمات سيبرانية حقيقية لكشف نقاط الضعف الأمنية، واختبار الدفاعات، وتحسين قدرات المؤسسة على الاستجابة للحوادث.