IA et recrutement : quand l'algorithme de tri de CV invente ses propres biais

TL;DR.

De plus en plus de candidatures sont d'abord triées par une intelligence artificielle avant d'atteindre un recruteur humain. Une nouvelle recherche montre que ces modèles ne se contentent pas d'hériter des biais humains présents dans leurs données d'entraînement : ils peuvent aussi en développer de nouveaux, qui leur sont propres. Pour les équipes RH qui automatisent le recrutement, cela constitue un angle mort difficile à repérer.

Le biais hérité vient des données et reste localisable : on peut auditer un historique de recrutement, repérer les déséquilibres et tenter de les corriger en amont. Le biais généré par le modèle lui-même est plus problématique, car il découle du fonctionnement propre du système et peut apparaître même à partir de données irréprochables, selon des logiques qui ne correspondent à aucun préjugé humain identifiable au départ.

La prochaine fois que vous postulerez à un emploi, il est probable qu'une intelligence artificielle lise votre CV avant qu'un humain ne le voie. Le tri automatisé des candidatures s'est banalisé dans les services RH, séduits par la promesse de gagner du temps sur des volumes de dossiers parfois considérables. Mais une nouvelle recherche vient rappeler une nuance inconfortable : ces systèmes ne se contentent pas de reproduire les préjugés humains présents dans leurs données d'entraînement. Ils peuvent aussi en fabriquer de nouveaux, qui leur sont propres. Pour les équipes qui automatisent le recrutement, c'est un angle mort qui mérite qu'on s'y attarde.

Ce que dit la recherche

On sait depuis un moment que les grands modèles de langage (les LLM, ces IA entraînées sur d'immenses corpus de texte pour produire du langage) absorbent les biais présents dans les données humaines qu'on leur donne à digérer. Si des décennies de décisions de recrutement ont favorisé certains profils au détriment d'autres, un modèle entraîné sur ces traces apprend mécaniquement à reproduire ces préférences. Ce phénomène d'héritage est documenté et relativement bien compris.

Le point nouveau, mis en avant par cette recherche, est ailleurs. Les LLM ne se limiteraient pas à recycler les biais humains : ils seraient capables d'en développer par eux-mêmes, à partir de leur propre fonctionnement, indépendamment de ce qu'un humain aurait pu leur transmettre. Autrement dit, même un système nourri de données irréprochables pourrait finir par juger les candidats de façon injuste, selon des logiques qui ne correspondent à aucun préjugé humain identifiable au départ.

Pourquoi c'est plus grave qu'un simple héritage

La distinction n'est pas qu'académique. Un biais hérité, on sait où le chercher : dans les données. On peut auditer un historique de recrutement, repérer les déséquilibres, tenter de les corriger en amont. C'est un travail difficile, mais le problème a une cause localisable.

Un biais que le modèle génère de lui-même est beaucoup plus insaisissable. Il n'apparaît pas forcément dans les données d'entrée. Il peut émerger de la manière dont le modèle pondère les informations, associe des mots ou construit ses réponses. Résultat : une entreprise peut être convaincue d'avoir «nettoyé» ses données et croire son processus équitable, alors que le système continue de discriminer selon une mécanique invisible. La bonne foi ne suffit plus à garantir l'équité.

Le faux sentiment de neutralité

C'est peut-être le risque principal pour les organisations. Déléguer un tri à une machine donne une impression de neutralité : l'algorithme ne connaît pas le candidat, il ne le juge pas «à la tête», il applique la même grille à tous. Cette perception rassure et, souvent, désactive la vigilance.

Or un système biaisé qui traite tous les dossiers avec la même partialité produit une discrimination à l'échelle, et non une décision isolée qu'un manager pourrait rattraper. Là où un recruteur humain biaisé n'affecte que les candidatures qu'il examine, un modèle défaillant filtre l'intégralité du flux, de façon homogène et répétée. L'automatisation ne dilue pas le biais : elle l'industrialise.

Ce que ça change pour vous

Si vous pilotez le recrutement ou supervisez des outils de présélection assistés par IA, quelques réflexes deviennent nécessaires.

• Ne considérez jamais un tri automatisé comme neutre par défaut. Traitez-le comme un décideur à part entière, susceptible d'erreur et de partialité, et donc à surveiller.
• Testez les sorties, pas seulement les entrées. Nettoyer les données d'entraînement ne suffit pas, puisque le biais peut naître ailleurs. Mesurez concrètement qui le système retient et qui il écarte, sur des profils comparables.
• Gardez un humain dans la boucle sur les décisions à fort enjeu. L'IA peut aider à organiser un volume, mais l'écartement définitif d'un candidat mérite un regard humain, surtout tant que ces biais restent mal compris.
• Documentez et auditez régulièrement. Un modèle qui semblait équitable à un instant T peut dériver. Un contrôle périodique vaut mieux qu'une confiance acquise une fois pour toutes.

Une question qui dépasse le recrutement

Le tri de CV n'est qu'un cas d'usage parmi d'autres. Le même mécanisme peut concerner l'attribution d'un crédit, la priorisation de dossiers clients, l'évaluation de fournisseurs ou toute décision confiée à un modèle de langage. Si ces systèmes forgent leurs propres biais, alors la question ne se limite pas aux données qu'on leur donne : elle porte sur la manière dont on les surveille une fois déployés.

L'enjeu pour les entreprises n'est pas de renoncer à ces outils, dont l'utilité opérationnelle est réelle. Il est de cesser de les traiter comme des arbitres impartiaux. Un modèle qui décide à la place d'un humain hérite aussi de la responsabilité qui va avec, et cette responsabilité reste, elle, entièrement humaine.

Questions fréquentes

Comment l'IA intervient-elle dans le tri des CV ?

Le tri automatisé des candidatures s'est banalisé dans les services RH, attirés par la promesse de gagner du temps sur de gros volumes de dossiers. Concrètement, une IA lit souvent votre CV avant qu'un recruteur humain ne le voie.

Quel biais nouveau cette recherche met-elle en avant ?

Au-delà des biais hérités des données humaines, les grands modèles de langage seraient capables d'en développer par eux-mêmes, à partir de leur propre fonctionnement. Même un système nourri de données irréprochables pourrait finir par juger les candidats de façon injuste.

Qu'est-ce qu'un biais hérité par un modèle de langage ?

C'est un biais que le modèle absorbe à partir des données humaines sur lesquelles il est entraîné. Si des décennies de décisions de recrutement ont favorisé certains profils, un modèle entraîné sur ces traces apprend mécaniquement à reproduire ces préférences.

Pourquoi un biais généré par le modèle est-il plus grave qu'un biais hérité ?

Un biais hérité est localisable dans les données : on peut auditer un historique, repérer les déséquilibres et les corriger en amont. Un biais que le modèle développe lui-même n'a pas de cause repérable dans les données, ce qui le rend beaucoup plus difficile à détecter et à corriger.

Qu'est-ce qu'un grand modèle de langage (LLM) ?

Ce sont des IA entraînées sur d'immenses corpus de texte pour produire du langage. Dans le recrutement, ils servent à analyser et trier automatiquement les candidatures.