{"id":271068,"date":"2023-10-05T12:05:28","date_gmt":"2023-10-05T16:05:28","guid":{"rendered":"https:\/\/policyoptions.irpp.org\/issues\/intelligence-artificielle-juste-equitable\/"},"modified":"2025-10-08T00:06:48","modified_gmt":"2025-10-08T04:06:48","slug":"intelligence-artificielle-juste-equitable","status":"publish","type":"issues","link":"https:\/\/policyoptions.irpp.org\/fr\/2023\/10\/intelligence-artificielle-juste-equitable\/","title":{"rendered":"Pour une intelligence artificielle juste et \u00e9quitable"},"content":{"rendered":"

(English version available here<\/a>)<\/em><\/p>\n

ChatGPT a connu un succ\u00e8s \u00e9norme et instantan\u00e9 d\u00e8s sa sortie, en novembre 2022. Plusieurs l\u2019ont adopt\u00e9 sans h\u00e9siter pour leur travail, l\u2019\u00e9cole et la maison. Qu\u2019il s\u2019agisse de g\u00e9n\u00e9rer du code informatique, des courriels, des horaires, des itin\u00e9raires de voyage ou r\u00e9diger des textes, ses possibilit\u00e9s semblent infinies.<\/p>\n

Mais comme d\u2019autres grands mod\u00e8les linguistiques<\/a> qui utilisent des algorithmes d\u2019intelligence artificielle (IA) pour produire du texte, des images, du son ou de la vid\u00e9o, cette technologie n\u2019est pas isol\u00e9e de nos r\u00e9alit\u00e9s sociales et politiques. En somme, ChatGPT et d\u2019autres formes d\u2019intelligence artificielle g\u00e9n\u00e9rative ou traditionnelle peuvent renforcer les in\u00e9galit\u00e9s en reproduisant les pr\u00e9jug\u00e9s et st\u00e9r\u00e9otypes dont les groupes marginalis\u00e9s sont l\u2019objet.<\/p>\n

Les inqui\u00e9tudes \u2013 fond\u00e9es \u2013 sur le potentiel de l\u2019IA \u00e0 perp\u00e9tuer les in\u00e9galit\u00e9s circulent depuis des ann\u00e9es. Elles deviennent de plus en plus pertinentes \u00e0 mesure que celle-ci prend plus de place dans nos vies. Afin de r\u00e9pondre \u00e0 ces pr\u00e9occupations, des chercheurs et les d\u00e9fenseurs des droits de la personne proposent d\u2019\u00e9laborer des politiques en mati\u00e8re d\u2019IA qui mettent l\u2019accent sur l\u2019\u00e9quit\u00e9 et la responsabilit\u00e9.<\/p>\n

Quand l\u2019IA est construite sur nos pr\u00e9jug\u00e9s<\/strong><\/h3>\n

Le potentiel de l\u2019IA est immense. Elle peut am\u00e9liorer notre productivit\u00e9, nos pr\u00e9visions et nos d\u00e9cisions, ce qui peut contribuer \u00e0 r\u00e9duire les in\u00e9galit\u00e9s. Nous avons tous des pr\u00e9jug\u00e9s inconscients qui influencent nos choix et nos actions. Par contre, il peut \u00eatre difficile de comprendre comment nous en sommes arriv\u00e9s \u00e0 ces choix et ces actions, et si nos pr\u00e9jug\u00e9s ont jou\u00e9 un r\u00f4le. Puisque l\u2019IA peut \u00eatre programm\u00e9e, v\u00e9rifi\u00e9e et modifi\u00e9e, elle peut en th\u00e9orie nous aider \u00e0 \u00eatre plus pr\u00e9cis et plus justes.<\/p>\n

Par exemple, des chercheurs ont \u00e9tudi\u00e9 comment l\u2019IA peut contribuer \u00e0 rendre le traitement des demandes d\u2019asile plus \u00e9quitable<\/a> ou \u00e0 mieux diagnostiquer les maladies<\/a>. Une \u00e9tude r\u00e9cente montre que des consultants qui utilisent la version plus r\u00e9cente de ChatGPT, GPT-4<\/a>, obtiennent de meilleurs r\u00e9sultats<\/a> que ceux qui ne l\u2019utilisent pas. Les personnes pr\u00e9sentant des d\u00e9ficits de comp\u00e9tences \u00e9taient particuli\u00e8rement susceptibles d\u2019en b\u00e9n\u00e9ficier, ce qui pourrait permettre d\u2019\u00e9galiser les chances des personnes qui n\u2019ont pas acc\u00e8s \u00e0 des formations pouss\u00e9es.<\/p>\n

Mais l\u2019IA est construite \u00e0 partir de donn\u00e9es g\u00e9n\u00e9r\u00e9es par des bases constitu\u00e9es d\u2019informations existantes, comme des images, des textes et des donn\u00e9es historiques. Elle int\u00e8gre donc nos pr\u00e9jug\u00e9s. Ses effets sur les groupes marginalis\u00e9s sont g\u00e9n\u00e9ralement m\u00e9connus alors m\u00eame qu\u2019ils se perp\u00e9tuent, puisque la technologie semble objective et neutre. Notre rapport sur les recherches en mati\u00e8re d\u2019IA<\/a> d\u00e9crit la fa\u00e7on dont elle peut contribuer aux in\u00e9galit\u00e9s, et ce qui peut \u00eatre fait pour les att\u00e9nuer.<\/p>\n

Les donn\u00e9es utilis\u00e9es dans le d\u00e9veloppement de l\u2019IA jouent un r\u00f4le cl\u00e9. ChatGPT a \u00e9t\u00e9 entra\u00een\u00e9 sur de nombreuses bases de donn\u00e9es textuelles, dont Wikip\u00e9dia. Une kyrielle de recherches et d\u2019articles r\u00e9cents ont montr\u00e9 que cet agent conversationnel peut reproduire des st\u00e9r\u00e9otypes sexistes et racistes, sans aucune intention des programmeurs. Par exemple, ChatGPT a associ\u00e9 les gar\u00e7ons \u00e0 la science et la technologie, et les filles \u00e0 la cr\u00e9ativit\u00e9 et l\u2019\u00e9motion<\/a>. Il a sugg\u00e9r\u00e9 qu\u2019un \u00ab\u2009bon scientifique\u2009\u00bb est un homme blanc<\/a>, et a produit sans h\u00e9siter des contenus racistes. Dans des traductions du bengali et d\u2019autres langues comportant des pronoms neutres, ChatGPT a remplac\u00e9 ces pronoms<\/a> par des pronoms genr\u00e9s.<\/p>\n

Ces exemples montrent que les groupes sous-repr\u00e9sent\u00e9s, d\u00e9natur\u00e9s ou omis dans les donn\u00e9es continueront d\u2019\u00eatre marginalis\u00e9s par l\u2019IA form\u00e9e \u00e0 partir de ces m\u00eames donn\u00e9es. La recherche montre que l\u2019utilisation de donn\u00e9es plus repr\u00e9sentatives peut r\u00e9duire consid\u00e9rablement les biais des r\u00e9sultats. Mais dans des situations complexes, et surtout dans le cas de l\u2019IA g\u00e9n\u00e9rative, les programmeurs peuvent ne pas \u00eatre en mesure d\u2019expliquer<\/a> comment des r\u00e9sultats particuliers sont obtenus. Il peut donc \u00eatre difficile de les v\u00e9rifier et de les corriger.<\/p>\n

Quand l\u2019IA renforce les in\u00e9galit\u00e9s<\/strong><\/h3>\n

Les produits utilisant l\u2019IA peuvent \u00e9galement \u00eatre con\u00e7us et utilis\u00e9s de fa\u00e7on \u00e0 renforcer les in\u00e9galit\u00e9s. Alexa (Amazon) et Siri (Apple) sont deux exemples bien connus\u00a0: ils sont nomm\u00e9s et d\u00e9sign\u00e9s en tant que femmes. Des chercheurs ont analys\u00e9 comment ces assistants num\u00e9riques dot\u00e9s d\u2019IA, qui semblent \u00eatre des aides innovants, incarnent en m\u00eame temps des st\u00e9r\u00e9otypes d\u00e9pass\u00e9s sur les femmes \u00e0 la maison<\/a>.<\/p>\n

La recherche du profit peut \u00e9galement conduire les entreprises \u00e0 utiliser l\u2019IA pour reproduire le sexisme et le racisme. La chercheuse Safiya Noble a \u00e9tudi\u00e9 la fa\u00e7on dont les recherches sur Google pour le terme \u00ab\u2009filles noires\u2009\u00bb ont prioris\u00e9 des r\u00e9sultats qui objectivent sexuellement les filles et les femmes noires<\/a>, parce qu\u2019ils \u00e9taient produits par un algorithme dont l\u2019objectif principal est de g\u00e9n\u00e9rer de la publicit\u00e9.<\/p>\n

Les cons\u00e9quences sont importantes. La capacit\u00e9 de ChatGPT \u00e0 perp\u00e9tuer les st\u00e9r\u00e9otypes peut sembler insignifiante, mais la r\u00e9p\u00e9tition des pr\u00e9jug\u00e9s et de la marginalisation renforce leur existence. Les r\u00f4les in\u00e9gaux des hommes et des femmes sont cr\u00e9\u00e9s par la r\u00e9p\u00e9tition des normes et des attentes<\/a> en mati\u00e8re de genre; il en va de m\u00eame pour les st\u00e9r\u00e9otypes raciaux. L\u2019IA qui n\u2019est pas construite de mani\u00e8re \u00e9quitable peut nuire \u00e0 la capacit\u00e9 de vivre en toute s\u00e9curit\u00e9 et sans discrimination.<\/p>\n

En 2018, des chercheurs ont montr\u00e9 que la technologie de reconnaissance faciale est moins efficace sur les peaux fonc\u00e9es<\/a> parce qu\u2019elle a \u00e9t\u00e9 entra\u00een\u00e9e sur une base d\u2019images limit\u00e9e. Cela peut conduire \u00e0 des erreurs d\u2019identification et \u00e0 des cons\u00e9quences dangereuses pour les personnes racis\u00e9es, comme l\u2019a r\u00e9v\u00e9l\u00e9 un reportage du New York Times<\/em> sur l\u2019arrestation injustifi\u00e9e d\u2019hommes noirs<\/a>. L\u2019omnipr\u00e9sence de l\u2019IA, combin\u00e9e \u00e0 un manque de compr\u00e9hension de son fonctionnement et des moyens de la rendre \u00e9quitable, peut masquer l\u2019\u00e9tendue des d\u00e9g\u00e2ts qu\u2019elle peut causer. Cela la rend potentiellement plus dommageable \u00e0 l\u2019\u00e9quit\u00e9 que si des humains accomplissaient les m\u00eames t\u00e2ches.<\/p>\n

Le r\u00f4le des politiques publiques<\/strong><\/h3>\n

Les politiques publiques \u00e0 tous les niveaux de gouvernement peuvent contribuer \u00e0 fa\u00e7onner la mani\u00e8re dont l\u2019IA est cr\u00e9\u00e9e et utilis\u00e9e. Elles peuvent exiger que les impacts sur l\u2019\u00e9quit\u00e9 soient \u00e9valu\u00e9s et que les risques soient signal\u00e9s avant et apr\u00e8s le lancement d\u2019un produit ou service aliment\u00e9 par l\u2019intelligence artificielle. Elles peuvent \u00e9galement exiger la transparence en ce qui a trait \u00e0 la conception et aux donn\u00e9es, et de toute disparit\u00e9 dans celles-ci. Enfin, elles peuvent exiger que le public soit inform\u00e9 lorsque l\u2019IA est utilis\u00e9e.<\/p>\n

Ces politiques devraient \u00eatre \u00e9labor\u00e9es avec la participation de diverses communaut\u00e9s et d\u2019experts pluridisciplinaires, qui ont des connaissances et des points de vue diff\u00e9rents sur l\u2019IA. Cela permettrait de s\u2019assurer que ses risques et effets sont pris en compte d\u00e8s le d\u00e9part, plut\u00f4t qu\u2019une fois que le mal est fait. Cela rendrait aussi les d\u00e9veloppeurs responsables de leurs produits.<\/p>\n

La loi europ\u00e9enne sur l\u2019intelligence artificielle<\/a>, qui n\u2019est pas encore adopt\u00e9e, serait la premi\u00e8re loi exhaustive exigeant que les syst\u00e8mes d\u2019IA soient class\u00e9s en fonction des risques. Certains outils et programmes seraient interdits s\u2019ils pr\u00e9sentent des risques inacceptables, comme la manipulation de groupes vuln\u00e9rables. D\u2019autres pr\u00e9sentant des niveaux de risque moins \u00e9lev\u00e9s, notamment une IA g\u00e9n\u00e9rative comme ChatGPT, seraient soumis \u00e0 l\u2019obligation de rendre les sources des donn\u00e9es plus transparentes.<\/p>\n

Des discussions semblables ont lieu au Canada avec le projet de Loi sur l\u2019intelligence artificielle et les donn\u00e9es<\/em><\/a>, et aux \u00c9tats-Unis avec le \u00ab\u2009Projet de Charte des droits de l\u2019IA\u2009\u00bb (Blueprint for an AI Bill of Rights<\/a><\/em>).<\/p>\n

Certains ont sugg\u00e9r\u00e9 que la r\u00e9glementation pourrait \u00e9touffer l\u2019innovation. Les politiques pourraient aussi ne pas \u00eatre en mesure de suivre<\/a> la vitesse \u00e0 laquelle l\u2019IA se d\u00e9veloppe. Les normes de l\u2019industrie devront \u00e9voluer<\/a> pour qu\u2019elles priorisent l\u2019\u00e9quit\u00e9, la s\u00e9curit\u00e9 et d\u2019autres consid\u00e9rations sociales, mais l\u2019innovation ne doit pas se faire au d\u00e9triment des consid\u00e9rations sociales. D\u00e9velopper l\u2019IA dans le but de r\u00e9duire les in\u00e9galit\u00e9s est en soi innovant.<\/p>\n

La question qui se pose \u00e0 propos est de savoir comment entra\u00eener l\u2019IA pour qu\u2019elle s\u2019aligne sur nos normes sociales et nos valeurs<\/a>. Construire une intelligence artificielle qui donne la priorit\u00e9 \u00e0 des valeurs telles que l\u2019\u00e9quit\u00e9 permettrait de cr\u00e9er des produits plus utiles qui desserviraient mieux l\u2019ensemble de la population. Les d\u00e9veloppeurs qui se concentrent sur les groupes qui ont \u00e9t\u00e9 historiquement marginalis\u00e9s dans la conception de l\u2019IA (au lieu d\u2019aborder leurs int\u00e9r\u00eats en r\u00e9action) seront innovants, tout en contribuant \u00e0 une soci\u00e9t\u00e9 plus juste<\/a>.<\/p>\n

L\u2019IA est utilis\u00e9e dans tous les secteurs, et les nouvelles technologies comme ChatGPT sont de plus en plus int\u00e9gr\u00e9es dans nos vies. En m\u00eame temps, les in\u00e9galit\u00e9s se creusent un peu partout. Les politiques publiques et organisationnelles qui mettent l\u2019accent sur une IA \u00e9quitable et s\u00fbre sont cruciales pour la construction d\u2019un monde plus juste.<\/p>\n

Notre<\/strong> r\u00e9cente s\u00e9rie sur l\u2019intelligence artificielle\u00a0:<\/strong><\/p>\n