Outils de recrutement « anti-biais » : ce que révèle l'examen des pratiques déclarées

De nombreux outils de recrutement affichent aujourd'hui la réduction des biais parmi leurs bénéfices. Une étude académique s'est penchée sur ce que ces promesses recouvrent réellement, en examinant ce que les fournisseurs déclarent — et ce qu'ils ne déclarent pas.

L'étude Raghavan, Barocas, Kleinberg et Levy (2020)

Manish Raghavan, Solon Barocas, Jon Kleinberg et Karen Levy ont publié en 2020, dans les actes de la conférence ACM sur l'équité, la responsabilité et la transparence, une étude portant sur dix-huit fournisseurs d'outils d'évaluation algorithmique en recrutement (Raghavan, Barocas, Kleinberg & Levy, 2020, *Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency*, 469-481, ACM). Leur démarche : documenter ce que ces fournisseurs déclarent publiquement sur leurs méthodes de conception, de validation et de détection des biais, puis examiner ces déclarations sous un angle à la fois technique et juridique.

Un écart entre l'argument commercial et la vérifiabilité

Le constat des auteurs est nuancé : la réduction des biais est fréquemment mise en avant comme argument commercial, mais les méthodes précises permettant d'objectiver cette réduction sont, selon leur analyse, rarement documentées de façon vérifiable dans les communications publiques des fournisseurs étudiés. Les auteurs discutent également la manière dont certaines techniques de débiaisage algorithmique interagissent, parfois de façon complexe, avec le droit de la non-discrimination — un choix technique fait pour corriger un biais peut, selon le contexte, en introduire un autre.

Ce que cela signifie pour un acheteur

Ce travail ne conclut pas que les outils algorithmiques aggravent nécessairement les biais existants — il documente un écart entre l'argument commercial affiché et la vérifiabilité des méthodes qui le sous-tendent. Pour un acheteur, la question pertinente n'est donc pas « cet outil réduit-il les biais » en tant que promesse générale, mais « quelles méthodes précises sont documentées, et sur quelles données ont-elles été validées ». Une exigence raisonnable, à la lecture de ce travail, consiste à demander à tout fournisseur d'outil de recrutement assisté par IA une **documentation vérifiable** de ses méthodes de détection et de correction des biais — plutôt que de s'en tenir à l'argument commercial. C'est une exigence de méthode qui rejoint directement les obligations de gouvernance des données et de documentation technique prévues par le cadre réglementaire européen applicable aux systèmes d'IA à haut risque en matière de recrutement.

La position de Clarentia

Chez Clarentia, nous considérons que la documentation vérifiable des critères et des méthodes utilisés doit être consultable par le recruteur, plutôt que résumée en un argument commercial général sur la réduction des biais.

Source citée

Raghavan, M., Barocas, S., Kleinberg, J., & Levy, K. (2020). Mitigating bias in algorithmic hiring: Evaluating claims and practices. *Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency*, 469-481. ACM.