{"id":3038,"date":"2025-05-25T18:17:30","date_gmt":"2025-05-25T16:17:30","guid":{"rendered":"https:\/\/leseffrontes.fr\/?p=3038"},"modified":"2025-07-14T15:24:39","modified_gmt":"2025-07-14T13:24:39","slug":"les-ia-sont-elles-sexistes","status":"publish","type":"post","link":"https:\/\/leseffrontes.fr\/index.php\/2025\/05\/25\/les-ia-sont-elles-sexistes\/","title":{"rendered":"Les IA sont-elles sexistes\u00a0?"},"content":{"rendered":"\n

Bient\u00f4t trois ans que les \u00ab intelligences artificielles \u00bb \u00e0 \u00ab grand mod\u00e8le de langage \u00bb (LLM) \u00e9patent les r\u00e9seaux, les m\u00e9dias et le public. \u00ab La machine me parle ! Comme mes potes, mes coll\u00e8gues et mon coiffeur ! Et plut\u00f4t mieux, d\u2019ailleurs. L\u2019ordinateur pense. Il va bient\u00f4t tout faire, ce sera les vacances pour tout le monde. Plus besoin de r\u00e9fl\u00e9chir !  \u00bb D\u2019accord, je comprends votre enthousiaste. Qui n\u2019a jamais r\u00eav\u00e9 d\u2019avoir \u00e0 sa disposition un g\u00e9nie tir\u00e9 d\u2019une lampe, capable de combler docilement tous ses d\u00e9sirs ? Un r\u00eave bien enfantin. Comme ce n\u2019est pas encore tout \u00e0 fait au point, j\u2019aimerais profiter de ces derni\u00e8res ann\u00e9es avant l\u2019extinction compl\u00e8te des capacit\u00e9s intellectuelles de l\u2019humanit\u00e9 pour r\u00e9fl\u00e9chir un peu avec vous sur une question toute simple : les IA sont-elles sexistes ?<\/p>\n\n\n\n

Comme je suis fain\u00e9ant, moi aussi, j\u2019ai attendu qu\u2019un g\u00e9nie sorte de la lampe et fasse le travail \u00e0 ma place : David Rozado, qui enseigne l\u2019informatique \u00e0 l\u2019\u00e9cole polytechnique d\u2019Otago en Nouvelle-Z\u00e9lande. David s\u2019est demand\u00e9 ce que donnerait une \u00e9tude des choix de recrutement effectu\u00e9s par des IA, sur le m\u00eame mod\u00e8le que celles que l\u2019on pratique pour d\u00e9tecter les discriminations sur le march\u00e9 du travail<\/a>.<\/p>\n\n\n\n

\n

Dans le cadre d’une exp\u00e9rience impliquant 22 LLM de premier plan et 70 professions courantes, chaque mod\u00e8le [d\u2019IA] a re\u00e7u syst\u00e9matiquement une description de poste ainsi qu’une paire de CV correspondant \u00e0 la profession (l’un comprenant un pr\u00e9nom masculin et l’autre un pr\u00e9nom f\u00e9minin) et il lui a \u00e9t\u00e9 demand\u00e9 de s\u00e9lectionner le candidat le plus appropri\u00e9 pour le poste. Chaque paire de CV a \u00e9t\u00e9 pr\u00e9sent\u00e9e deux fois, les noms \u00e9tant intervertis afin de s’assurer que les pr\u00e9f\u00e9rences observ\u00e9es dans la s\u00e9lection des candidats \u00e9taient bien induites par les noms sexu\u00e9s. Le nombre total de d\u00e9cisions \u00e9tait de 30.800 (22 mod\u00e8les \u00d7 70 professions \u00d7 10 descriptions de poste diff\u00e9rentes par profession \u00d7 2 pr\u00e9sentations par paire de CV). Les paires de CV ont \u00e9t\u00e9 \u00e9chantillonn\u00e9es \u00e0 partir d’un ensemble de 10 CV par profession. La figure suivante illustre l’essentiel de l’exp\u00e9rience.<\/p>\n David Rozado, \u00ab The Strange Behavior of LLMs in Hiring Decisions: Systemic Gender and Positional Biases in Candidate Selection \u00bb, Rozado\u2019s Visual Analytics, 2025<\/cite><\/blockquote>\n\n\n\n

\"Test\n\t\t\t\n\n\t\t\t\t\n\t\t\t<\/svg>\n\t\t<\/button><\/figure>\n\n\n\n

R\u00e9sultat (j\u2019ai mis quelques mots en gras, au hasard) :<\/p>\n\n\n\n

\n

Malgr\u00e9 des qualifications professionnelles identiques<\/strong> pour les deux sexes, tous les LLM ont syst\u00e9matiquement privil\u00e9gi\u00e9<\/strong> les candidats de nom f\u00e9minin lorsqu’il s’est agi de s\u00e9lectionner le candidat le plus qualifi\u00e9<\/strong> pour le poste \u00e0 pourvoir. Les candidates ont \u00e9t\u00e9 choisies dans 56,9 % des cas, contre 43,1 % pour les candidats.<\/p>\n Ibid.<\/em><\/cite><\/blockquote>\n\n\n\n

Si vous voulez le d\u00e9tail, voici le niveau de discrimination pour chaque IA :<\/p>\n\n\n\n

\"Pr\u00e9f\u00e9rence<\/figure>\n\n\n\n

Et par profession :<\/p>\n\n\n\n

\"Pr\u00e9f\u00e9rence<\/figure>\n\n\n\n

Toutes les IA (Deepseek, OpenAi, Grok, etc.) semblent penser que les femmes font de bien meilleurs plombiers, couvreurs, policiers ou militaires que les hommes. Si un humain pr\u00e9tendait cela, on insinuerait dans son dos qu\u2019il n\u2019a \u00ab pas l\u2019\u00e9lectricit\u00e9 \u00e0 tous les \u00e9tages \u00bb. Mais, s\u2019agissant d\u2019ordinateurs, je crois que l\u2019on peut exclure cette hypoth\u00e8se.<\/p>\n\n\n\n

Pendant ce temps, David s\u2019est ing\u00e9ni\u00e9 \u00e0 approfondir ses investigations :<\/p>\n\n\n\n

\n

Dans une exp\u00e9rience suppl\u00e9mentaire, l’ajout d’un champ explicite indiquant le sexe \u00e0 chaque CV (c’est-\u00e0-dire, \u00ab Sexe : masculin \u00bb ou \u00ab Sexe : f\u00e9minin \u00bb), en plus des noms sexu\u00e9s, a amplifi\u00e9 la pr\u00e9f\u00e9rence des LLM pour les candidates (s\u00e9lection de 58,9 % de candidates contre 41,1 % de candidats masculins).<\/p>\n Ibid.<\/em><\/cite><\/blockquote>\n\n\n\n

En somme, lors de la premi\u00e8re phase, les IA n\u2019ont pas discrimin\u00e9 autant qu\u2019elles y sont enclines, parce qu\u2019elles ne sont pas toujours assez malines pour relier un pr\u00e9nom \u00e0 un sexe. Autrement dit, leur \u00ab compr\u00e9hension \u00bb des donn\u00e9es qu\u2019on leur pr\u00e9sente demeure moins fiable que celle d\u2019un enfant normalement \u00e9veill\u00e9. Dans le doute, David a voulu tester \u00e0 quel point les IA peuvent r\u00e9pondre n\u2019importe quoi, en regardant si l\u2019ordre de pr\u00e9sentation des candidatures affectait leur pr\u00e9f\u00e9rence.<\/p>\n\n\n\n

\n

Dans une exp\u00e9rience suivante, le sexe des candidats a \u00e9t\u00e9 masqu\u00e9 en rempla\u00e7ant tous les noms sexu\u00e9s par des \u00e9tiquettes g\u00e9n\u00e9riques (\u00ab Candidat A \u00bb pour les hommes et \u00ab Candidat B \u00bb pour les femmes). La plupart des LLM ont montr\u00e9 une l\u00e9g\u00e8re pr\u00e9f\u00e9rence pour le \u00ab candidat A \u00bb, avec 12 des 22 LLM montrant individuellement une pr\u00e9f\u00e9rence statistiquement significative pour le \u00ab candidat A \u00bb et 2 mod\u00e8les manifestant une pr\u00e9f\u00e9rence significative pour le \u00ab candidat B \u00bb.<\/p>\n Ibid.<\/em><\/cite><\/blockquote>\n\n\n\n

De m\u00eame, David a montr\u00e9 que toutes les IA \u00e9tudi\u00e9es pr\u00e9f\u00e8rent plut\u00f4t le premier CV qu\u2019on leur pr\u00e9sente au second \u2014 sauf une qui, par esprit de contradiction, pr\u00e9f\u00e8re nettement le second CV au premier ! Je vous rappelle que les CV sont \u00e9quivalents en qualification et qu\u2019on les permute dans la moiti\u00e9 des cas. Si vous travaillez dans les ressources humaines, j\u2019aimerais que vous preniez juste un moment pour r\u00e9fl\u00e9chir \u00e0 ce que cela implique quant \u00e0 la qualit\u00e9 du recrutement confi\u00e9 \u00e0 des IA. Merci.<\/p>\n\n\n\n

Conclusion<\/h2>\n\n\n\n
\n

Les r\u00e9sultats pr\u00e9sent\u00e9s ci-dessus indiquent que les LLM d\u2019avant-garde, lorsqu’on leur demande de s\u00e9lectionner le candidat le plus qualifi\u00e9 sur la base d’une description de poste et de deux CV correspondant \u00e0 la profession (l’un d’un candidat masculin et l’autre d’une candidate f\u00e9minine), adoptent un comportement qui s’\u00e9carte des normes d’\u00e9quit\u00e9. Dans ce contexte, les LLM ne semblent pas agir de mani\u00e8re rationnelle. Au lieu de cela, ils produisent des r\u00e9ponses bien exprim\u00e9es, qui peuvent sembler superficiellement logiques, mais qui, en fin de compte, ne sont pas fond\u00e9es sur un raisonnement \u00e0 partir de principes. Que ce comportement provienne plut\u00f4t des donn\u00e9es de pr\u00e9-entra\u00eenement, du post-entra\u00eenement ou d’autres facteurs inconnus demeure incertain, soulignant la n\u00e9cessit\u00e9 d’une \u00e9tude plus approfondie. Mais la pr\u00e9sence constante de ces biais dans tous les mod\u00e8les test\u00e9s soul\u00e8ve des questions plus g\u00e9n\u00e9rales : Dans la course au d\u00e9veloppement de syst\u00e8mes d’IA toujours plus performants, des d\u00e9salignements subtils mais cons\u00e9quents pourraient passer inaper\u00e7us avant le d\u00e9ploiement d\u2019un LLM.<\/p>\n Ibid.<\/em><\/cite><\/blockquote>\n\n\n\n

C\u2019est une fa\u00e7on polie de dire qu\u2019on fait d\u00e9j\u00e0 n\u2019importe quoi avec les IA, sans le moindre souci des cons\u00e9quences. Mais je vois quelqu\u2019un qui l\u00e8ve le doigt pour formuler une objection pertinente. Passez-lui le micro\u2026<\/p>\n\n\n\n

\u00ab Mais, Tancr\u00e8de, ce sont des IA g\u00e9n\u00e9ralistes. Les IA de recrutement sont s\u00fbrement mieux con\u00e7ues pour leur but propre. \u00bb<\/strong><\/p>\n\n\n\n

C\u2019est s\u00fbr\u2026 Elles sont d\u2019ailleurs con\u00e7ues intentionnellement<\/em> pour exercer une discrimination contre les hommes. Comme je l\u2019ai d\u00e9j\u00e0 racont\u00e9 :<\/p>\n\n\n\n

\n

Certaines entreprises \u00e9laborent d\u00e9sormais des syst\u00e8mes de recrutement automatis\u00e9s. Le but est de faire \u00e9valuer les candidats par une \u00ab intelligence artificielle \u00bb plut\u00f4t que par des recruteurs humains afin qu\u2019un vilain pr\u00e9jug\u00e9 ne fasse pas rater \u00e0 l\u2019entreprise un cerveau g\u00e9nial cach\u00e9 dans le cr\u00e2ne d\u2019une transsexuelle lesbienne ob\u00e8se et racis\u00e9e (c\u2019est un exemple\u2026). Petit souci : apr\u00e8s avoir \u00e9t\u00e9 gav\u00e9e aux donn\u00e9es, l\u2019IA se verrait bien mettre plut\u00f4t des gar\u00e7ons que des filles aux postes d\u2019ing\u00e9nieur ! Ce biais misogyne n\u2019est bien s\u00fbr pas tol\u00e9rable par les Directrices des ressources humaines, ni par le Service de communication, ni par les Hautes Commissions \u00e0 l\u2019\u00c9galit\u00e9 de R\u00e9sultat. Les informaticiens (quasiment tous des gar\u00e7ons et d\u00e9sireux de bien faire), s\u2019efforcent de corriger le penchant sexiste de leurs algorithmes. La Commission europ\u00e9enne elle-m\u00eame surveille le dossier.<\/p>\n Tancr\u00e8de Basti\u00e9, \u00ab Les gar\u00e7ons et les filles sont-ils not\u00e9s \u00e9galement \u00e0 l\u2019\u00e9cole ?<\/a> \u00bb, Les Effront\u00e9s, 2023<\/cite><\/blockquote>\n\n\n\n

Comment je le sais ? Parce que j\u2019ai \u00e9t\u00e9 t\u00e9moin de certaines discussions sur ce sujet dans une tr\u00e8s grande entreprise \u00e0 qui la Commission europ\u00e9enne demandait de garantir que l\u2019IA respecterait ses objectifs id\u00e9ologiques. Je ne vous dirai pas quelle entreprise parce que 1) j\u2019avais sign\u00e9 un accord de non-divulgation et 2) les m\u00eames injonctions ont certainement \u00e9t\u00e9 faites \u00e0 toutes les autres boites d\u00e9veloppant des syst\u00e8mes de recrutement, qu\u2019elles ont probablement accept\u00e9 sans moufter.<\/p>\n\n\n\n

Le biais constat\u00e9 par David Rozado dans les IA g\u00e9n\u00e9ralistes est le reflet d\u2019un biais id\u00e9ologique assum\u00e9 par l\u2019ensemble des soci\u00e9t\u00e9s occidentales. Le mythe de la misogynie<\/a> dissimule une misandrie d\u00e9complex\u00e9e (l\u2019a-t-elle jamais \u00e9t\u00e9\u00a0?) de la part des femmes et des hommes d\u00e9sireux de complaire aux femmes (\u00e7a fait beaucoup de monde). Le recrutement par IA ne fait qu\u2019automatiser le sexisme contemporain et les opinions des nouilles dipl\u00f4m\u00e9es. Cela n\u2019emp\u00eachera nullement les plombiers, les couvreurs, les policiers, les militaires et plus g\u00e9n\u00e9ralement les gens exer\u00e7ant des professions dures, risqu\u00e9es ou comp\u00e9titives d\u2019\u00eatre tr\u00e8s, tr\u00e8s majoritairement des hommes. Sans eux, la soci\u00e9t\u00e9 s\u2019effondrerait, les immeubles de bureaux se videraient et les centres de calcul s\u2019\u00e9teindraient. \u00ab\u00a0Sans les femmes pour vous enfanter (me r\u00e9pondra-t-on vivement) c\u2019est la natalit\u00e9 qui s\u2019effondrerait<\/a> et la soci\u00e9t\u00e9 d\u00e9clinerait\u00a0!\u00a0\u00bb Ben oui. C\u2019est bien l\u00e0 o\u00f9 nous en sommes.<\/p>\n\n\n\n

<\/p>","protected":false},"excerpt":{"rendered":"

Bient\u00f4t trois ans que les \u00ab intelligences artificielles \u00bb \u00e0 \u00ab grand mod\u00e8le de langage \u00bb (LLM) \u00e9patent les r\u00e9seaux, les m\u00e9dias et le public. \u00ab La machine me parle ! Comme mes potes, mes coll\u00e8gues et mon coiffeur ! Et plut\u00f4t mieux, d\u2019ailleurs. L\u2019ordinateur pense. Il va bient\u00f4t tout faire, ce sera les vacances pour tout…<\/p>\n

Read More<\/a><\/p>","protected":false},"author":2,"featured_media":3039,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"twitterCardType":"","cardImageID":0,"cardImage":"","cardTitle":"","cardDesc":"","cardImageAlt":"","cardPlayer":"","cardPlayerWidth":0,"cardPlayerHeight":0,"cardPlayerStream":"","cardPlayerCodec":"","footnotes":""},"categories":[1],"tags":[76,61,26],"class_list":["post-3038","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-opinions","tag-ia","tag-misandrie","tag-travail","odd"],"_links":{"self":[{"href":"https:\/\/leseffrontes.fr\/index.php\/wp-json\/wp\/v2\/posts\/3038","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/leseffrontes.fr\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/leseffrontes.fr\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/leseffrontes.fr\/index.php\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/leseffrontes.fr\/index.php\/wp-json\/wp\/v2\/comments?post=3038"}],"version-history":[{"count":5,"href":"https:\/\/leseffrontes.fr\/index.php\/wp-json\/wp\/v2\/posts\/3038\/revisions"}],"predecessor-version":[{"id":3068,"href":"https:\/\/leseffrontes.fr\/index.php\/wp-json\/wp\/v2\/posts\/3038\/revisions\/3068"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/leseffrontes.fr\/index.php\/wp-json\/wp\/v2\/media\/3039"}],"wp:attachment":[{"href":"https:\/\/leseffrontes.fr\/index.php\/wp-json\/wp\/v2\/media?parent=3038"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/leseffrontes.fr\/index.php\/wp-json\/wp\/v2\/categories?post=3038"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/leseffrontes.fr\/index.php\/wp-json\/wp\/v2\/tags?post=3038"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}