L'IA d'Amazon était biaisée!

Publié le 10/10/2018 à 10:02

L'IA d'Amazon était biaisée!

Publié le 10/10/2018 à 10:02

L'IA n'est pas encore capable de remplacer l'humain pour recruter... Photo: DR

Aujourd’hui, j’ai un petit scoop pour vous, signé par l’agence de presse Reuters. Je vous le donne en mille : l’intelligence artificielle (IA) qu’utilisait jusqu’à tout récemment Amazon pour recruter était biaisée, elle discriminait les femmes. Ce qui est le signe qu’aujourd’hui nul ne peut se fier à l’IA pour embaucher. Explication.


En 2014, Amazon s’est dit qu’elle aurait tout intérêt à appliquer ses avancées en matière d’IA pour le commerce électronique à ses propres opérations de recrutement. Elle a donc mis en place à Édimbourg, en Écosse, une équipe de chercheurs d’une douzaine de personnes chargée de cette mission secrète. L’idée était simple : être en mesure de scanner le web partout sur la planète, histoire d’identifier des candidats potentiellement intéressants à contacter ; et ce, en attribuant à chacun des étoiles, cinq au maximum, comme pour les produits mis en vente en ligne par Amazon.


Une IA expérimentale a vite été concoctée, et Amazon s’en est servi avec a priori la plus grande satisfaction : depuis juin 2015, elle a triplé ses effectifs, à 575.700 employés, selon les données de Reuters. Le hic ? C’est que le service des ressources humaines a fini par se poser des questions : parmi les recrues figuraient très peu de femmes, ou plutôt trop peu de femmes.


Une enquête interne a été menée, elle a récemment permis de découvrir quelque chose de tout bête : l’IA était biaisée. Pourquoi ? Parce qu’elle avait appris à faire de «bonnes embauches» en fonction de la décennie d’embauches précédente, laquelle avait été menée essentiellement par des hommes dans un secteur – celui des TI, rappelons-le – qui était alors réputé être un «monopole» des hommes.


Eh oui, l’IA, en analysant toute seule comment Amazon avait recruté des années durant, en avait tiré la conclusion logique qu’il était toujours mieux d’embaucher un homme qu’une femme. Il suffisait que le mot «femme» apparaisse sur le CV pour être pénalisé, ou encore des termes comme «capitaine de l’équipe féminine d’échecs». Idem, un candidat était pénalisé s’il avait fréquenté un établissement scolaire réservé aux filles : le candidat en question était nécessairement une femme.


Qu’a fait Amazon à la découverte de cette bévue monumentale ? Elle a dissous l’équipe de chercheurs d’Édimbourg, et mis au placard, pour l’heure, son IA de recrutement. «Amazon avait perdu tout espoir de corriger le tir», ont indiqué à Reuters, sous le couvert de l’anonymat, cinq témoins directs. À noter qu’Amazon a refusé de commenter le sujet, mais a tout de même indiqué à Reuters qu’il lui tenait à cœur de favoriser la diversité et l’égalité sur ses lieux de travail.


En vérité, le blâme n’est pas à faire porter à Amazon. Mais à l’IA, plus précisément à l’aveuglement généralisé dont nous faisons preuve à son égard.


C’est que l’IA est maintenant devenue monnaie courante dans les opérations de recrutement des grandes entreprises, voire chez certaines PME. Hilton, Goldman Sachs, Unilever,… La liste est longue de ceux qui s’en servent systématiquement, dans l’espoir d’identifier les perles rares en cette période de guerre des talents.


Or, la technologie n’est pas encore au point. Loin de là. Comme l’illustre le cas d’Amazon. Comme l’indique même nul autre que John Jersin, vice-président, LinkedIn Talent Solutions : «Si j’étais un recruteur, je ne ferais jamais confiance à une IA seule pour identifier les meilleurs candidats, encore moins pour se charger du recrutement, a-t-il confié à Reuters. Car la technologie n’est pas prête.»


Il faut savoir que LinkedIn, une filiale de Microsoft, propose aux employeurs un classement algorithmique des candidats en fonction de leurs aptitudes ; et ce faisant, recourt à une IA. Autrement dit, M. Jersin est on ne peut mieux placé pour dire qu’il vaut mieux ne pas se fier aveuglément à l’IA ; il sait très bien de quoi il parle.


De fait, Nihar Shah, professeur d’informatique et d’apprentissage en profondeur à l’Université Carnegie Mellon, reconnaît qu’il reste encore beaucoup à faire : «Comment s'assurer que l'algorithme est juste, comment s'assurer que l'algorithme est vraiment interprétable et explicable, nous sommes encore très loin de parvenir à tout cela», dit-il.


Bref, n’écoutez pas ceux qui chantent à tue-tête les vertus de l’IA, en particulier en matière de recrutement. Ce ne sont là que des charlatans. Et je pèse mes mots. Mieux vaut, de toute évidence, garder certes un œil sur les évolutions technologiques, mais surtout miser sur l’intelligence humaine, pour ne pas dire l’intelligence collective : d’ailleurs, n’avez-vous pas noté, comme moi, que les meilleures embauches sont presque toujours celles faites à la suite de la recommandation d’un employé ?


*****


Espressonomie


Un rendez-vous hebdomadaire dans Les affaires et Lesaffaires.com, dans lequel Olivier Schmouker éclaire l'actualité économique à la lumière des grands penseurs d'hier et d'aujourd'hui, quitte à renverser quelques idées reçues.


Découvrez les précédents billets d'Espressonomie


La page Facebook d'Espressonomie


Que lire cet automne? C’est simple : 11 choses que Mark Zuckerberg fait autrement


 

À propos de ce blogue

ESPRESSONOMIE est le blogue économique d'Olivier Schmouker. Sa mission : éclairer l'actualité économique à la lumière des grands penseurs d'hier et d'aujourd'hui. Ce blogue hebdomadaire présente la particularité d'être publié en alternance dans le journal Les affaires (papier/iPad) et sur Lesaffaires.com. Olivier Schmouker est chroniqueur pour Les affaires et conférencier.

Sujets liés

Économie