خلف الستار: كيف يواصل ChatGPT ونماذج الذكاء الاصطناعي تكريس الصور النمطية الجندرية بهدوء
العنوان الفرعي: بحثٌ إيطالي جديد يكشف كيف قد يضخّم الذكاء الاصطناعي تحيزاتٍ ظننا أننا تجاوزناها.
تخيّل هذا: تطلب من ذكاء اصطناعي متقدّم أن يُكمل جملة، متوقعًا إجابة محايدة. لكنه بدلًا من ذلك يُقحم لمحة من التحيّز - خفيفة، لكنها لا تخطئها العين. بالنسبة لملايين يعتمدون على الذكاء الاصطناعي في العمل والدراسة والإبداع، قد تكون هذه الصور النمطية الخفية تشكّل التصورات والقرارات بطرق لا نكاد نلاحظها. وقد كشفت تحقيقات حديثة أجراها باحثون إيطاليون طبقات هذه المعضلة الرقمية، مبيّنةً كيف أن حتى أكثر نماذج اللغة تقدّمًا، مثل ChatGPT، قد تكون تعزّز بهدوء أحكامًا مسبقة قديمة - ولا سيما المتعلقة بالنوع الاجتماعي.
اليد الخفية لتحيّز الذكاء الاصطناعي
يساعدنا الذكاء الاصطناعي يوميًا - في صياغة الرسائل الإلكترونية، وترجمة اللغات، وحتى اقتراح المرشحين للوظائف. لكن كما اكتشف باحثون إيطاليون من مؤسسة برونو كيسلر، فإن هذه الأدوات بعيدة عن الحياد. باستخدام تجربة "الكلمة المُقنَّعة"، اختبروا ما إذا كانت نماذج اللغة الكبيرة مثل ChatGPT وLLama ستملأ الفراغات في الجمل بكلمات تعكس صورًا نمطية جندرية شائعة. فعلى سبيل المثال، عند تقديم العبارة: "النساء لديهن معايير أعلى في
ولمنح هذه النتائج تقييمًا موضوعيًا، استخدم الفريق نموذج ذكاء اصطناعي ثالثًا كحَكَم، مُسنِدًا قيمة "تشابه" بين الكلمات المرتبطة بالذكور وتلك المرتبطة بالإناث. وكلما اتسعت الفجوة، زادت قابلية النموذج للتنميط. والحُكم؟ حتى أفضل النماذج تنجذب إلى افتراضات جندرية، مع إظهار النماذج مفتوحة المصدر مثل LLama تحيزًا أكثر وضوحًا من ChatGPT.
تأثير المُضاعِف: من الترجمة إلى التمييز
لماذا يهمّ هذا؟ المحتوى المُولَّد بالذكاء الاصطناعي يغمر الإنترنت وحياتنا اليومية. عندما تُفضّل أدوات الترجمة مثل Google Translate افتراضيًا صيغًا مذكرة للمهن، أو عندما تعاقب خوارزميات التوظيف النساء بسبب بيانات تاريخية منحازة، فإن التحيزات لا تُكرَّر فحسب - بل تُضخَّم. ويحذّر الباحثون من "تأثير المُضاعِف"، حيث تعزّز ملايين النصوص المُولَّدة بالذكاء الاصطناعي الصور النمطية المتقادمة وتُضفي عليها شرعية، غالبًا دون أن يلاحظ المستخدمون.
قياس التحيّز بمعايير مرجعية: التحدّي الإيطالي
على خلاف الإنجليزية، تفتقر الإيطالية إلى معايير مرجعية قوية لاختبار التحيّز الجندري في الذكاء الاصطناعي بشكل منهجي. وتسعى مبادرات مثل GSI:detect إلى سدّ الفجوة بسرعة، عبر تحدّي النماذج للتعرّف على الصور النمطية الجندرية في النصوص الإيطالية. والنتائج الأولية مُقلقة: حتى أفضل أنظمة الذكاء الاصطناعي تُفوّت ما يقارب نصف الصور النمطية، ما يشير إلى نقص في "الوعي" يجعل التخفيف من المشكلة صعبًا.
الخلاصة: الطريق إلى ذكاء اصطناعي أكثر إنصافًا
إمكانات الذكاء الاصطناعي للخير هائلة - لكن كذلك خطر تكريس الضرر الاجتماعي بصمت. ومع تزايد دور نماذج اللغة في تشكيل الثقافة والعمل والخطاب، تصبح الشفافية والاختبار الصارم أمرين أساسيين. الدراسة الإيطالية بمثابة جرس إنذار: معالجة تحيّز الذكاء الاصطناعي لا تتطلب تقنية أفضل فحسب، بل فهمًا أعمق للصور النمطية التي ما زلنا نحملها - وتلك التي تتعلّمها آلاتنا لتعيد ترديدها.
WIKICROOK
- نموذج اللغة الكبير (LLM): نموذج اللغة الكبير (LLM) هو ذكاء اصطناعي مُدرَّب على فهم النصوص وتوليدها بطريقة شبيهة بالبشر، ويُستخدم غالبًا في روبوتات الدردشة والمساعدين وأدوات المحتوى.
- التحيّز: التحيّز هو انحياز منهجي في أنظمة الذكاء الاصطناعي أو الأمن السيبراني، وغالبًا ما يعكس البيانات أو معتقدات المطوّرين، ما يؤدي إلى نتائج غير عادلة أو غير دقيقة.
- اختبار الكلمة المُقنَّعة: اختبار الكلمة المُقنَّعة يُخفي كلمة في جملة لمعرفة ما إذا كان الذكاء الاصطناعي أو المستخدمون يستطيعون تخمينها بدقة، لتقييم فهم السياق والأمان.
- المعيار المرجعي: المعيار المرجعي هو اختبار موحّد أو مجموعة معايير تُستخدم لقياس ومقارنة أداء الأنظمة أو البرمجيات أو العتاد أو أمنها.
- تأثير المُضاعِف: تأثير المُضاعِف هو عندما ينتشر المحتوى المُولَّد بالذكاء الاصطناعي ويعزّز التحيزات أو المعلومات المضللة على نطاق أوسع بكثير من المصادر التقليدية في الأمن السيبراني.
