L’IA, une technologie pas si neutre

Julie Marques, doctorante, spécialiste du sujet des femmes dans les technosciences et de l’impact de l’intelligence artificielle (IA) en est convaincue : « L’IA est une techno dont on a l’impression qu’elle est très objective, neutre, mais il n’en est rien. » La jeune femme, qui réalise sa thèse depuis 2019 à l’Université Rennes 2 et au sein de la Direction Diversité et Inclusion du groupe Orange, l’assure : « L’IA est un miroir, et si on n’est pas vigilant, on risque de reproduire, voire d’automatiser les inégalités que l’on retrouve dans la société. » Pour elle, les risques au niveau du recrutement sont clairs : « L’exemple d’un grand acteur du e-commerce est parlant, son IA de recrutement, fondée sur des données antérieures, a fait la corrélation entre le fait d’être un bon ingénieur et le fait d’être un homme », explique Julie Marques. Problème : dans son processus de recrutement, l’IA a donc arrêté de considérer les profils de femmes pour ce poste. Pour la doctorante, être vigilant·e et conscient·e de ces dérives potentielles permet de mieux les contrer.

Même son de cloche du côté de Camille Morvan, créatrice de Goshaba, et chercheuse en neurosciences. Avec son entreprise, elle espère rebattre les cartes du monde professionnel : « On a créé Goshaba autour de l’idée d’utiliser des jeux cognitifs pour le recrutement », détaille-telle. L’idée est simple : en lieu et place de l’inséparable duo CV/lettre de motivation, les employeurs vous choisissent en fonction de vos scores à des jeux vidéo. « Dans les entretiens RH traditionnels, il y a des tests de personnalité avec des mises en situation : c’est intéressant, mais ce n’est pas assez précis », critique Camille Morvan. Ce système, fondé sur le déclaratif, encourage aussi à répondre dans le sens de la personne que l’on a en face de soi. « Cela mesure mal le potentiel et les soft skills. Ce type de recrutement est injuste et se base beaucoup sur l’origine sociale, sur le fait de savoir se vendre », se désole la chercheuse.

Ces jeux sont sans cesse améliorés grâce au machine learning, pour être le plus précis possible. On résout des problèmes, on fait des puzzles, on mémorise des images… À travers l’aspect ludique, la plateforme analyse les qualités, les compétences et surtout le potentiel d’apprentissage et d’adaptation des candidat·es. « Le machine learning nous permet de nous assurer que les jeux n’introduisent pas de nouveaux biais, selon le téléphone ou le genre de la personne », analyse Camille Morvan. Un million de candidat·es ont déjà été évalué·es, permettant de comparer leurs résultats à ceux d’un panel assez large. Orange soutient Goshaba dans le cadre du programme d’accélération Orange Fab France, et utilise aussi leur service pour recruter ses collaborateur·rices depuis quatre ans. En janvier 2022, l’entreprise est entrée au capital de Goshaba par son entité d’investissement Orange Ventures.

Et pour cause, pour Orange, le sujet tient une place capitale. Emilie Sirvent-Hien, cheffe de projet en Innovation et Data-IA dans le groupe, pilote une équipe pluridisciplinaire sur cette thématique : « Nous avons un programme de recherche composé de sociologues, de juristes, mais aussi de spécialistes qui mesurent l’impact environnemental de l’IA », décrit-elle. L’enjeu ? Être à la pointe de l’information en matière d’intelligence artificielle, pour mieux l’appréhender.

En complément, l’entreprise a mis en place un réseau de référents de l’éthique par pays, dans le but de partager les bonnes pratiques. Orange est la première entreprise à avoir reçu fin 2020 le label international GEEIS-AI (Gender Equality European & International Standard – Artificial Intelligence), créé par le fonds de dotation Arborus et audité
par Bureau Veritas, qui atteste d’un développement et d’une utilisation responsables et inclusifs de l’IA. Un principe également appliqué au recrutement : « Le programme Hello Women, mis en place il y a deux ans, a permis de favoriser la diversité et la mixité dans les métiers techniques et du numérique », développe la doctorante Julie Marques.

Orange ne compte pas s’arrêter en si bon chemin, comme en témoigne Delphine Pouponneau, directrice de la Diversité et de l’Inclusion du groupe Orange : « Si l’IA comporte des risques, nombreux sont les exemples qui montrent qu’elle représente aussi un formidable vecteur d’inclusion numérique et sociale », se réjouit-elle.
« L’IA doit être un levier puissant au service de l’égalité des chances, de la lutte contre les discriminations, ou encore de la diversité et de l’inclusion en entreprise. »