Demander à l’IA de classer des personnes peut sembler être un simple raccourci pratique : quel CV est le plus solide, quel membre de l’équipe a le plus contribué, voire à quel ami accorder la priorité ce mois-ci. Des autorités de régulation précises ont imposé des obligations ou des interdictions à certains usages de la notation automatisée, car un classement opaque peut porter atteinte aux droits et aux perspectives des personnes concernées.
Le fait qu’un outil soit interdit, à haut risque, audité, soumis à information ou susceptible de recours dépend du système, de sa finalité, de l’opérateur, des personnes concernées et de la juridiction. N’inférez aucune conformité juridique de cet article.
Pourquoi ce schéma précis attire une attention réglementaire particulière
Le règlement européen sur l’IA (EU AI Act) interdit une catégorie définie de « notation sociale » : les systèmes d’IA qui évaluent ou classent des personnes sur la base d’un comportement social ou de caractéristiques personnelles inférées, lorsque le score conduit à des formes déterminées de traitement préjudiciable ou défavorable (EU AI Act, Article 5(1)(c), Regulation (EU) 2024/1689). Les éléments constitutifs exacts et les exceptions comptent ; ceci n’affirme pas que toute comparaison, grille ou classement est automatiquement illégal.
La notation à l’emploi fait l’objet d’une réglementation dédiée dans certaines juridictions. La Local Law 144 de New York City impose des obligations d’audit de biais, de publication et d’information aux usages couverts d’un « automated employment decision tool » ; le périmètre et les déclencheurs doivent être vérifiés au regard de la règle en vigueur et de la FAQ officielle (NYC Department of Consumer and Worker Protection, Local Law 144). C’est un régime local, pas un modèle universel valable pour tout lieu ou tout produit.
Le risque n’est pas hypothétique. Reuters a rapporté en 2018 qu’Amazon avait consacré plusieurs années à un outil interne de recrutement par IA chargé de noter des CV. L’entreprise avait découvert dès 2015 que le système avait appris à préférer les candidatures masculines : il pénalisait notamment les CV contenant le mot « women’s » et déclassait les diplômées de deux universités pour femmes. Le modèle avait été entraîné sur dix années de candidatures reçues dans un secteur à forte majorité masculine. Les ingénieurs d’Amazon ont essayé de corriger les schémas précis qu’ils avaient repérés, sans pouvoir garantir que d’autres biais cachés ne réapparaîtraient pas, puis ont abandonné le projet. Des sources proches du dossier ont déclaré à Reuters que des recruteurs avaient consulté les recommandations de l’outil, tandis qu’Amazon a affirmé qu’il n’avait jamais servi à évaluer des candidats (Reuters, “Amazon scraps secret AI recruiting tool that showed bias against women,” 2018). Malgré les compétences considérables de l’entreprise en apprentissage automatique et plusieurs années d’efforts délibérés, le biais est donc apparu avant l’abandon du projet.
Pourquoi « juste pour mon usage personnel » ne le rend pas plus sûr
Les exemples réglementaires ci-dessus concernent des institutions, mais le mécanisme sous-jacent peut nuire sans nécessiter un système déployé à l’échelle d’une entreprise. Un modèle entraîné sur des schémas historiques non examinés peut produire avec assurance un score qui les reproduit discrètement. Demander à un outil d’IA généraliste de désigner votre collaborateur « le plus prometteur », le candidat qui « correspond le mieux à la culture de l’équipe » ou le membre de la famille « le plus raisonnable » dans un conflit crée le même risque à plus petite échelle. Le chiffre ou le classement obtenu reflète à la fois les schémas des données d’entraînement et votre manière précise de formuler le prompt, tout en donnant une impression d’assurance qui ne repose sur aucune vérification réelle. L’absence d’audit formel ne supprime pas le biais ; elle supprime seulement le mécanisme qui aurait pu le détecter.
N’utilisez jamais un score, un classement ou une note qu’une IA attribue à une personne comme motif déclaré ou implicite d’une décision lourde de conséquences — embauche, promotion, note scolaire, décision de garde ou de soins, voire jugement informel guidant vos actes — sans un processus humain responsable qui puisse être examiné, contesté et annulé. Si vous ne pouvez pas expliquer et défendre les critères du classement devant la personne concernée, ne l’utilisez pas.
La liste de vérification pour refuser
Avant de demander à l’IA de classer, noter ou évaluer des personnes — en recrutement, revue de performance, notation scolaire, mise en relation, ou tout contexte quotidien — passez par ces contrôles :
- Serais-je à l’aise d’expliquer les critères exacts à la personne classée ? Si la réponse honnête est que les critères sont vagues, opaques, ou n’ont jamais été réellement spécifiés avant que le modèle produise un chiffre, arrêtez.
- Une personne identifiée assume-t-elle cette décision et peut-elle en répondre ? Un classement qui n’engage aucun humain clairement nommé est un système de notation sans responsabilité, quelle que soit son échelle.
- Est-ce que j’utilise l’IA pour organiser des éléments factuels, ou pour produire le verdict lui-même ? Organiser des faits, des échéances et des critères documentés est un usage raisonnable. Demander au modèle de décider « qui est le meilleur » à partir de ces éléments ne l’est pas : le verdict doit appartenir à la personne responsable, qui s’appuie sur les informations organisées.
- Ce classement résisterait-il à un audit ? Une décision quotidienne n’exige pas d’audit formel, mais se demander si le classement résisterait à un examen attentif permet d’évaluer utilement s’il devrait même exister.
La liste complète de vérification contre le classement des personnes détaille ces questions séparément pour le recrutement, les évaluations professionnelles, la notation scolaire et les comparaisons informelles du quotidien, car les enjeux et les garde-fous appropriés diffèrent.
Ce pour quoi l’IA peut encore aider
Cela ne signifie pas que l’IA n’a aucun rôle à jouer à proximité de décisions qui comparent des personnes. Elle peut vous aider à :
- Rédiger des critères d’évaluation cohérents et précis avant de regarder tout candidat ou personne, réduisant le risque que les critères glissent pour coller à qui vous favorisez déjà.
- Organiser des preuves documentées (présence, livrables précis, retours datés) dans un format de comparaison clair pour qu’un humain les examine.
- Vérifier si votre propre évaluation écrite de plusieurs personnes emploie un vocabulaire et des critères cohérents pour toutes, en signalant les endroits où votre formulation change pour l’une d’entre elles.
Elle ne doit en revanche jamais transformer ces éléments organisés en classement, en score ou en « gagnant » que l’humain utiliserait pour prendre sa décision. Une relecture humaine effectuée après que le modèle a rendu son verdict ne rend pas ses critères opaques plus explicables ni plus responsables.
Pour les décisions d’emploi aux États-Unis, le guide de l’EEOC sur la discrimination à l’emploi et l’IA à destination des travailleurs est un point de départ primaire actuel : les protections fédérales contre la discrimination à l’emploi s’appliquent toujours lorsqu’un employeur utilise l’IA. L’EEOC souligne également que les critères de sélection doivent être liés au poste, appliqués de façon cohérente et étayés par des preuves. Ces règles américaines ne déterminent pas la légalité ailleurs.
Cela rejoint le travail et la dignité plus largement
Refuser de laisser l’IA classer des personnes est une application précise d’un principe plus large couvert dans la dignité du travail quand les machines peuvent en faire davantage : la dignité des travailleurs et des candidats exige que les décisions lourdes de conséquences sur les personnes conservent un humain qui puisse être interrogé et tenu responsable, pas seulement un processus techniquement plus rapide. Cela se relie aussi à ce qu’il ne faut pas déléguer à l’IA — classer ou noter une personne échoue presque par définition aux tests de « conséquence » et de « réversibilité » de ce cadre, car une personne filtrée par un score caché et non audité a rarement la chance de contester le raisonnement derrière.
Une idée reçue courante
L’idée reçue veut qu’un classement devienne plus sûr dès lors qu’il reste informel : une note privée sur le membre de l’équipe qui semble « le plus fiable », un classement mental des amis à privilégier ou une comparaison rapide générée par l’IA et jamais consignée officiellement. Le caractère informel supprime la trace écrite, pas le mécanisme. Dans le cas d’Amazon, des ingénieurs cherchaient activement les biais au sein d’un système formel, et il a tout de même fallu des années pour voir émerger le schéma problématique. Un classement informel et non consigné a encore moins de chances d’être détecté, puisque personne ne le contrôle. L’absence de processus formel n’est pas un garde-fou ; elle retire au contraire le seul dispositif susceptible de déceler le problème.
À essayer aujourd’hui
Repensez à toute décision récente ou à venir pour laquelle vous avez eu envie de demander à l’IA de classer, noter ou évaluer des personnes — candidats, membres d’une équipe, étudiants, voire personnes de votre entourage. Soumettez-la aux quatre questions de la liste de vérification. Si elle échoue à une seule d’entre elles, reformulez la tâche : utilisez l’IA pour organiser les critères et les éléments factuels, puis effectuez vous-même le classement ou prenez la décision, sous une forme que vous pourriez expliquer et défendre devant la personne concernée.
