Biais algorithmiques dans les conseils d’administration : l’IA exclut-elle les talents en situation de handicap ?

Maria, développeuse talentueuse malvoyante, a postulé à des dizaines d’emplois - pour ne recevoir qu’une série de refus automatisés. Était-ce le CV, ou quelque chose de plus profond ? À mesure que les entreprises adoptent l’intelligence artificielle (IA) pour rationaliser le recrutement, une question dérangeante se pose : la technologie censée favoriser l’efficacité ne fait-elle que renforcer d’anciens préjugés à l’encontre des candidats en situation de handicap ?

En Bref

• Les systèmes RH pilotés par l’IA sont désormais la norme dans le recrutement, du tri des CV à la conduite d’entretiens vidéo.
• L’Acte européen sur l’accessibilité pousse à des pratiques numériques plus inclusives dans les États membres.
• Des experts avertissent que l’IA peut, sans le vouloir, discriminer les personnes handicapées à cause de données d’entraînement biaisées.
• La transparence et des audits réguliers des outils d’IA sont essentiels pour prévenir l’exclusion algorithmique.
• La conception inclusive et la supervision humaine restent cruciales pour des pratiques d’embauche équitables.

Derrière le rideau : comment l’IA peut discriminer

L’IA promet de révolutionner les ressources humaines (RH), en rendant les processus plus efficaces et objectifs. Mais sous la surface, ces systèmes peuvent reproduire - voire amplifier - les biais existants. La plupart des outils de recrutement par IA sont entraînés sur de vastes ensembles de données issues de décisions d’embauche passées. Si ces décisions étaient défavorables aux candidats handicapés, les algorithmes apprennent à faire de même.

Par exemple, l’IA peut signaler les trous dans un parcours professionnel ou les trajectoires non conventionnelles comme des signaux d’alerte - des caractéristiques plus fréquentes chez les personnes handicapées en raison d’arrêts maladie ou d’aménagements. De même, les plateformes d’entretien vidéo automatisé peuvent pénaliser les candidats dont la parole, les expressions faciales ou le langage corporel ne correspondent pas aux “normes” intégrées dans leurs données d’entraînement. Ces biais subtils sont invisibles pour la plupart des employeurs mais peuvent avoir des conséquences dévastatrices pour les chercheurs d’emploi.

Une régulation à l’horizon

L’Acte européen sur l’accessibilité, qui entrera en vigueur en 2025, vise à lever les barrières numériques, des sites web aux logiciels de recrutement. Son message est clair : l’accessibilité n’est pas optionnelle. Les entreprises s’exposent à des risques juridiques et réputationnels croissants si leurs systèmes d’IA sont jugés discriminatoires, même involontairement.

Les experts recommandent des audits réguliers des outils d’IA, la transparence sur les critères de décision et l’intégration de principes de conception inclusive. Surtout, la supervision humaine ne doit jamais être supprimée du processus de recrutement. « L’IA peut être un allié puissant pour l’inclusion - mais seulement si nous la concevons ainsi », affirme un consultant en technologies RH.

Conclusion

À mesure que l’IA occupe une place croissante dans le monde du travail, ses biais invisibles risquent d’exclure certains des esprits les plus brillants de la société. La voie à suivre exige vigilance, transparence et engagement à concevoir des technologies réellement inclusives. Pour des candidats comme Maria, l’enjeu n’a jamais été aussi crucial.

WIKICROOK

• Biais algorithmique : Le biais algorithmique survient lorsque l’IA ou les algorithmes produisent des résultats injustes en raison de données défectueuses ou d’une programmation biaisée, affectant la prise de décision et l’équité.
• Acte européen sur l’accessibilité : L’Acte européen sur l’accessibilité exige que les produits et services numériques dans l’UE soient accessibles aux personnes handicapées, favorisant l’égalité d’accès et l’inclusion.
• Conception inclusive : La conception inclusive crée des solutions de cybersécurité utilisables par des personnes de toutes capacités et origines, garantissant l’accessibilité et réduisant les obstacles pour tous.
• Données d’entraînement : Les données d’entraînement sont un ensemble d’exemples utilisés pour apprendre aux modèles d’IA en cybersécurité à reconnaître menaces, anomalies et schémas pour une meilleure protection.
• Supervision humaine : La supervision humaine est l’exigence légale et éthique que des humains supervisent, contrôlent et puissent intervenir sur les systèmes automatisés ou pilotés par l’IA en cybersécurité si nécessaire.