حقائق سريعة

• 83% من المؤسسات تستخدم الذكاء الاصطناعي الآن في العمليات اليومية، لكن 13% فقط لديها رقابة قوية على وصول الذكاء الاصطناعي إلى البيانات.
• ثلثا المؤسسات اكتشفت أدوات ذكاء اصطناعي تتجاوز حدودها إلى معلومات حساسة.
• فقط 7% لديها فريق مخصص لحوكمة الذكاء الاصطناعي؛ بينما يعتمد معظمها على ضوابط قديمة تركز على البشر.
• يعتبر 76% من خبراء الأمن السيبراني أن وكلاء الذكاء الاصطناعي المستقلين هم أصعب الأنظمة من حيث التأمين.
• ما يقارب نصف المؤسسات تفتقر لأي رؤية حول كيفية أو مكان استخدام الذكاء الاصطناعي داخلياً.

صعود "الهوية الظلية"

تخيل موظفاً جديداً لا ينام أبداً، يتحرك بسرعة الضوء، ويمكنه التسلل بهدوء إلى أي خزانة ملفات في المبنى. هذا هو نظام الذكاء الاصطناعي الحديث - لم يعد مجرد أداة، بل هوية رقمية لها أجندتها الخاصة وتعمل إلى حد كبير دون أن تُرى. ووفقاً لتقرير حالة أمن بيانات الذكاء الاصطناعي لعام 2025، فإن تبني الذكاء الاصطناعي السريع قد تجاوز قدرة معظم المؤسسات على التحكم أو حتى تتبع ما تفعله هذه الأنظمة. في سباق الأتمتة، تكتشف فرق الأمن أن طرقها القديمة لإدارة "من يمكنه رؤية ماذا" لم تعد تعمل عندما يكون "من" هو وكيل لا يكل ويعمل بالشفرة البرمجية.

أنماط تاريخية، نقاط عمياء حديثة

ليست هذه المرة الأولى التي تتفوق فيها التكنولوجيا على حراسها. عندما ظهرت الحوسبة السحابية لأول مرة، أصبحت "تكنولوجيا الظل" - أي التطبيقات والخدمات غير المصرح بها - صداعاً كبيراً لفرق الأمن. الآن، "الهويات الظلية" هي الحدود الجديدة: وكلاء ذكاء اصطناعي يعملون بقليل من الرقابة وغالباً مع وصول أكبر مما هو مقصود. على سبيل المثال، أظهر اختراق كابيتال وان الشهير عام 2019 كيف يمكن أن تؤدي أذونات النظام المهملة إلى تسريبات ضخمة. أما وكلاء الذكاء الاصطناعي اليوم فأصعب في التتبع، إذ يتفاعلون تلقائياً مع بيانات حساسة، أحياناً دون تدخل بشري أو سجلات تدقيق واضحة.

ثغرات في الحوكمة: قنبلة تنظيمية موقوتة؟

مع ترسخ الذكاء الاصطناعي في العمليات التجارية، بدأ المنظمون في الانتباه. ومع ذلك، فقط 11% من المؤسسات تشعر بأنها مستعدة لتلبية متطلبات الامتثال الجديدة. يشير قانون الذكاء الاصطناعي في الاتحاد الأوروبي ومقترحات مماثلة حول العالم إلى أن تدقيقاً أكثر صرامة قادم. لكن معظم المؤسسات متأخرة كثيراً: فقط 7% لديها فرق مخصصة لحوكمة الذكاء الاصطناعي، والغالبية ما زالت تتعامل مع الذكاء الاصطناعي كأي برنامج آخر - متجاهلة أن هذه الأنظمة يمكنها اتخاذ قرارات والتعلم والعمل بشكل مستقل.

مشاكل تقنية: لماذا يتفوق الذكاء الاصطناعي على الضوابط القديمة

تم بناء نماذج الهوية والأمن التقليدية حول المستخدمين البشر - أشخاص يسجلون الدخول، يطلبون الوصول، ويمكن مراقبتهم. أما وكلاء الذكاء الاصطناعي، فيعملون بسرعة الآلة، وغالباً دون سجلات أو حدود واضحة. أكثر من نصف المؤسسات لا تستطيع حظر تصرفات الذكاء الاصطناعي الخطرة في الوقت الحقيقي، وما يقارب ربعها لا تملك أي ضوابط للمحفزات أو المخرجات التي يولدها الذكاء الاصطناعي. ونتيجة لذلك، قد ينتهي الأمر بالبيانات الحساسة في أماكن لم يكن من المفترض أن تصل إليها، دون طريقة سهلة لتتبع كيف وصلت هناك. ويحذر الخبراء: "لا يمكنك تأمين وكيل ذكاء اصطناعي لم تحدده، ولا يمكنك حوكمة ما لا تراه."

ما التالي: معاملة الذكاء الاصطناعي كزميل (مع قواعد)

يدعو التقرير إلى إعادة تفكير جذرية: يجب على المؤسسات معاملة الذكاء الاصطناعي كـ"مستخدم" مميز، مع وصول محدد بدقة، ومراقبة مستمرة، وسياسات مصممة لسلوك الآلة. هذا يعني تبني رقابة تركز على البيانات، واكتشاف استخدام الذكاء الاصطناعي في الوقت الحقيقي، وضوابط جديدة لكل من المحفزات والمخرجات. وبينما تتسابق المؤسسات للاستفادة من إمكانيات الذكاء الاصطناعي، الرسالة واضحة - تجاهل الهوية الظلية على مسؤوليتك. ففي المكتب الرقمي، قد لا يكون أخطر المطلعين من البشر على الإطلاق.

ويكيكروك

• وكيل الذكاء الاصطناعي: وكيل الذكاء الاصطناعي هو برنامج برمجي مستقل يستخدم الذكاء الاصطناعي لأداء مهام أو اتخاذ قرارات نيابة عن المستخدمين أو الأنظمة.
• الهوية الظلية: الهوية الظلية هي حساب رقمي غير مُدار، غالباً للذكاء الاصطناعي أو الأنظمة المؤتمتة، يمكنه الوصول إلى الموارد دون رقابة أو ضوابط قياسية.
• البيانات: البيانات هي المعلومات - مثل النصوص أو الأرقام أو الصور - التي يتم تخزينها ومعالجتها بواسطة الحواسيب. الحماية التي تركز على البيانات تؤمن هذه المعلومات مباشرة أينما وجدت.
• الحوكمة: الحوكمة هي نظام القواعد والسياسات والتنسيق الذي يضمن إدارة المؤسسات للأمن السيبراني بفعالية والعمل معاً بكفاءة.
• الوقت الحقيقي: يشير الوقت الحقيقي إلى جمع وتحليل البيانات فورياً أثناء تفاعل المستخدمين مع الأنظمة، مما يتيح اكتشاف التهديدات بشكل أسرع.