محركو الدمى الخفيون: كيف تهدد وكلاء الذكاء الاصطناعي المستقلون العمود الفقري الرقمي لإيطاليا

تخيل مُشغّلًا رقميًا غير مرئي، يعمل بلا كلل طوال الليل، يتخذ قرارات، ينقل الأموال، ويعيد تهيئة الأنظمة - من دون توقف، أو إشراف، أو وجود إنسان في الأفق. في أنحاء إيطاليا، لم تعد هذه الوكلاء المستقلون للذكاء الاصطناعي ضربًا من الخيال العلمي: إنهم يتسللون إلى المكاتب العامة والمستشفيات والمصانع، واعدين بالكفاءة لكنهم يُدخلون مخاطر قد تمتد آثارها عبر البنية التحتية الرقمية للبلاد بأكملها.

حققت إيطاليا خطوات لافتة في الأمن السيبراني، متماشية مع توجيهات الاتحاد الأوروبي ومؤسسة وكالة وطنية مخصصة للأمن السيبراني. ومع ذلك، تكشف أحدث البيانات عن دولة لا تزال مكشوفة: فالهجمات السيبرانية تتصاعد بحدة، وغالبًا ما تكون الثغرات المستغلة تنظيمية أو إجرائية أكثر منها تقنية بحتة.

هنا يدخل الذكاء الاصطناعي الوكيلي - وكلاء برمجيات مستقلون مخولون بتنفيذ المهام، واتخاذ القرارات، والتفاعل مع الأنظمة الحرجة. وعلى خلاف الأتمتة التقليدية، يعمل هؤلاء الوكلاء وفق أهداف وسياق، وغالبًا بصلاحيات واسعة ونقاط تحقق بشرية محدودة. وفي المشهد الإيطالي المعقد - حيث تتراوح البنية التحتية الرقمية بين منصات سحابية متقدمة وأنظمة قديمة عمرها عقود - ينذر هذا التحول بمخاطر جديدة.

في الحكومات المحلية، بات وكلاء الذكاء الاصطناعي يعالجون الوثائق والمدفوعات، وأحيانًا يعملون عبر منصات قديمة مرقعة. يمكن لمدخل واحد مُتلاعب به أو مصدر بيانات مُخترق أن يطلق سلسلة من القرارات الخاطئة - تعطيل الخدمات، وتحويل الأموال إلى وجهات خاطئة، ونشر فوضى تشغيلية من دون اكتشاف بشري فوري.

أما قطاع الرعاية الصحية، المتصل بشكل مفرط أصلًا، فيجرب الذكاء الاصطناعي لإدارة طوابير المرضى والموارد وتتبع التكاليف. هنا، قد يؤدي وكيل مُهيأ بشكل خاطئ أو مُخترق إلى تعطيل تقديم الرعاية عبر عدة مستشفيات، بعواقب تتجاوز الخسائر المالية إلى سلامة المرضى نفسها.

ويواجه قلب التصنيع الإيطالي - شركاته الصغيرة والمتوسطة - خطرًا مختلفًا لكنه لا يقل حدة. فقد ارتفع اعتماد الذكاء الاصطناعي، لكن غالبًا بصورة مجزأة: تُضاف الأدوات الرقمية للراحة، مع قدر ضئيل من التكامل الاستراتيجي أو التخطيط الأمني. يرث الوكلاء صلاحيات واسعة، وغالبًا مفرطة، ويتصرفون بناءً على بيانات خارجية غير مُتحقق منها، ويعملون في بيئات تفتقر إلى إشراف بشري فوري. النتيجة؟ وكيل واحد مُخترق قد ينشر الإخفاقات عبر سلاسل توريد كاملة.

ويكمن وراء كل ذلك الخطر المنهجي: إذ يمكن للوكلاء المستقلين تحويل ثغرات معزولة إلى اضطرابات واسعة النطاق، يتحركون بصمت وبسرعة الآلة. وغالبًا ما يفوت الرصد التقليدي - المركز على الأعطال التقنية - هذه الإخفاقات المنطقية المتسلسلة. التحدي ليس تقنيًا فحسب، بل هو تحدٍ في الحوكمة: على إيطاليا أن تعيد التفكير في كيفية تفويض السلطة للذكاء الاصطناعي، بما يضمن حدودًا صريحة، ورصدًا مستمرًا، وآليات سحب صلاحيات سريعة.

بينما تقف إيطاليا على أعتاب مستقبل مدعوم بالذكاء الاصطناعي، فالدرس واضح: الاستقلالية غير المنضبطة يمكن أن تحول الكفاءة الرقمية إلى عبء وطني. وللاستفادة من وعد الذكاء الاصطناعي دون الوقوع فريسة لمخاطره، يجب أن تصبح إدارة المخاطر المنهجية جزءًا لا يتجزأ من الابتكار نفسه - قبل أن يشد محركو الدمى الخفيون الخيوط الخاطئة.

WIKICROOK

• الذكاء الاصطناعي الوكيلي: يمكن لأنظمة الذكاء الاصطناعي الوكيلي اتخاذ قرارات وتنفيذ إجراءات بشكل مستقل، والعمل بإشراف بشري محدود والتكيف مع المواقف المتغيرة.
• الأنظمة القديمة: الأنظمة القديمة هي عتاد أو برمجيات حاسوبية متقادمة لا تزال قيد الاستخدام، وغالبًا ما تفتقر إلى وسائل الحماية الأمنية الحديثة وتشكل مخاطر للأمن السيبراني.
• الإنسان: الإنسان هو فرد يتفاعل مع الأنظمة الرقمية، وغالبًا ما يوفر الإشراف والتحقق واتخاذ القرار في عمليات الأمن السيبراني مثل HITL.
• الخطر المنهجي: الخطر المنهجي هو التهديد بأن مشكلة في جزء من نظام ما يمكن أن تنتشر، بما قد يزعزع استقرار الشبكة أو الصناعة بأكملها.
• توجيه NIS2: توجيه NIS2 هو قانون للاتحاد الأوروبي يُلزم القطاعات الحيوية ومورديها بتعزيز الأمن السيبراني والإبلاغ عن الحوادث السيبرانية الخطيرة.