En cette ère de changement social et technologique continu, comment une institution comme le gouvernement fédéral peut-elle demeurer pertinente ? Comment pouvons-nous rester au fait de ce que les Canadiens attendent de nous ? Comment réagir aux enjeux de la société au bon moment et aussi rapidement que les Canadiens le souhaitent ?

L’intelligence artificielle (IA) est le dernier outil d’une série de technologies utilisées pour répondre aux demandes d’une population de plus en plus numérique. La prolifération de ces technologies suscite un dialogue international croissant sur les effets de l’analytique de données de pointe et de l’IA sur la société et sur ce que le gouvernement doit faire pour s’adapter à cette nouvelle réalité. Malgré cet environnement à évolution rapide, il y a eu moins de discussions sur les effets qu’aura la mise en œuvre de ces outils au sein du gouvernement.

L’analytique de données et l’IA fournissent au gouvernement fédéral l’occasion de redéfinir ses interactions avec sa clientèle diversifiée. Elles peuvent nous aider à offrir aux Canadiens un service plus personnalisé,  qui répond mieux à leurs besoins. Elles nous donnent des outils pour prévoir les menaces à la santé et à la sécurité ou pour découvrir de nouvelles avenues économiques pour les entreprises canadiennes.

Le potentiel est suffisant pour enthousiasmer tout fonctionnaire : offrir un service ininterrompu aux clients, répondre rapidement aux demandes de renseignement ainsi que créer de nouvelles possibilités que les humains n’ont peut-être jamais pu explorer encore. Nous avons l’occasion de mieux comprendre le fonctionnement de la fonction publique et d’automatiser les processus internes lourds qui accaparent nos ressources et nous détournent du service aux Canadiens. Le monde entier partage cet enthousiasme. En Australie et à Singapour, par exemple, un robot conversationnel aide les citoyens à remplir leur déclaration de revenus. Les États-Unis utilisent un tel robot pour guider les gens à travers le système de l’immigration ou pour aider les entreprises à se retrouver dans les règles relatives à l’approvisionnement. Au Canada, nous faisons appel à l’IA pour surveiller l’éclosion et la propagation de maladies infectieuses.

Ces outils se sont développés à un moment avantageux pour le gouvernement. Partout dans le monde, la confiance envers les institutions publiques s’effrite. Le vérificateur général du Canada a critiqué à maintes reprises la qualité de notre prestation de services au public. Les défaillances notoires des technologies de l’information au gouvernement contrastent avec les témoignages de progrès technologiques accomplis dans le secteur privé. Dans ce contexte, le gouvernement n’est plus perçu comme une institution compétente et pertinente.

Les technologies émergentes ne sont pas une solution évidente pour résoudre ces problèmes de gouvernance, mais si elles sont appliquées correctement, elles peuvent aider. En les faisant nôtres, nous devons aussi faire nôtres les changements perturbateurs qu’elles apportent. Nous ne pouvons pas nous permettre de résister à l’adaptation, sinon nous risquons de compromettre notre pertinence.

Aborder l’avenir de façon responsable

Il va sans dire que l’analytique des données et l’IA ont mis en lumière d’importants problèmes d’éthique. Les algorithmes utilisés par les secteurs public et privé ont déjà eu une incidence fondamentale sur la vie des gens, dans des domaines allant de la libération conditionnelle aux souscriptions de prêts et aux procédures d’embauche. Mais les décisions prises dans ces domaines peuvent reposer sur des données qui contiennent des biais discriminatoires. Par exemple, en 2015, une étude de Carnegie Mellon a révélé que le système des offres d’emploi de Google est moins susceptible de montrer des emplois très bien rémunérés aux femmes qu’aux hommes. S’ils devaient s’étendre à d’autres services et décisions, notamment si ceux-ci concernent des populations vulnérables, ces biais pourraient être très problématiques. En effet, certaines décisions fondées sur des IA sont difficiles à décortiquer, ce qui soulève la question de savoir si elles pourraient faire l’objet d’une requête.

Par conséquent, des appels ont été lancés (en particulier par l’institut de recherche AI Now de l’Université de New York) pour limiter l’utilisation de l’IA dans les décisions publiques cruciales touchant la santé, le bien-être ou la liberté. Des gouvernements de partout dans le monde ont introduit des règles sous différentes formes pour s’assurer que leurs citoyens ont droit à une explication des décisions que les machines peuvent prendre à leur sujet.

Étant donné ces enjeux, l’IA n’est pas une technologie dans laquelle nous pouvons nous immerger aveuglément ; nous devons plutôt prendre des mesures délibérées et prudentes, et ne cesser d’apprendre en cours de route. Nous ne pouvons pas non plus l’ignorer, ou attendre de voir comment elle évoluera. Il nous faut plutôt tenir compte des avantages réels qu’elle est susceptible d’apporter à la population. La mise en œuvre de l’IA au sein du gouvernement exigera un équilibre savant entre des forces qui s’opposent parfois : innovation et stabilité, expérimentation et inclusion, bon service et intégrité des programmes.

Il faut donner aux Canadiens une orientation claire leur permettant de contester les décisions du gouvernement qui les concernent. Il faut viser à atteindre un équilibre et chercher à le maintenir. Si nous divulguons trop peu d’information sur les décisions algorithmiques, nous risquons de créer un système impénétrable et frustrant où les décisions sont difficiles à contester. En revanche, si nous communiquons trop d’information, les algorithmes que nous utilisons risquent d’être manipulés par ceux qui cherchent à frauder le gouvernement.

Changer le gouvernement et la gouvernance

La mise en œuvre responsable de l’IA encouragera les institutions gouvernementales à examiner plus attentivement la façon dont elles exploitent cette technologie perturbatrice. Elle incitera les fonctionnaires à mieux se familiariser avec les données et à adopter les nouveaux outils au fur et à mesure qu’ils émergeront. Elle éliminera les barrières séparant les experts en politiques et en technologie, barrières qui d’ailleurs n’auraient jamais dû exister. Elle demandera une collaboration maximale et constante avec les autres secteurs et ordres de gouvernement. Elle exigera que les institutions accordent la priorité à la diversité ethnique et à la diversité des sexes dans leurs équipes de développement, à la fois pour contrer les biais que peuvent contenir les données et pour exploiter les améliorations bien documentées et innovatrices qu’elles apportent.

Le succès de la mise en œuvre de l’IA au sein du gouvernement ne dépendra pas de la gestion de projet, mais bien de la gestion du changement. L’automatisation nous dispensera de certaines tâches que nous avons accomplies dans le passé. Elle créera aussi des emplois qui défient la catégorisation. Une formation et des outils de ressources humaines plus souples seront nécessaires à mesure que les activités du gouvernement changeront. Comment pouvons-nous convaincre des gens talentueux à se consacrer aux défis du gouvernement alors que leurs compétences sont tellement sollicitées ?

Outre la fonction publique, les répercussions risquent de toucher d’autres institutions et instances avec lesquelles nous sommes en contact chaque jour, notamment les assemblées législatives, les agents indépendants, les tribunaux et les partis politiques. Des députés d’arrière-ban de l’opposition auront-ils les outils nécessaires pour mettre en cause un programme gouvernemental conçu et mis en œuvre en partie par des algorithmes ? Les tribunaux seront-ils préparés à entendre des causes liées aux préjugés algorithmiques et aux droits de la personne ?

Aussi utile que soit l’IA, son déploiement ne peut pas se faire aux dépens de nos institutions démocratiques. Nos systèmes doivent être suffisamment adaptables pour servir les gouvernements successifs de façon égale, afin que nous puissions continuer à fournir aux ministres des conseils clairs et judicieux, mais aussi mettre en œuvre leurs directives sans délai indu. La société civile et les partis d’opposition doivent avoir accès à l’information qui leur permet de demander des comptes au gouvernement. Les fonctionnaires qui sont sur le terrain doivent aussi être des communicateurs hors pair pour expliquer des notions techniques complexes et faire en sorte que des renseignements clairs soient disponibles sur la façon dont se prennent les décisions en matière de politiques publiques.

Il y a beaucoup à gagner de l’IA, mais il y a aussi beaucoup en jeu. Cela dit, si nous travaillons de manière transparente, si nous élaborons des règles efficaces et si nous acceptons des risques calculés, l’IA a la possibilité de fournir d’excellents services gouvernementaux. Les décisions que nous prenons aujourd’hui façonneront l’avenir de la gouvernance au Canada.

Cet article fait partie du dossier Dimensions éthiques et sociales de l’intelligence artificielle.

Photo : Shutterstock/By twenty1studio

Souhaitez-vous réagir à cet article ? Joignez-vous aux débats d’Options politiques et soumettez-nous votre texte en suivant ces directives. | Do you have something to say about the article you just read? Be part of the Policy Options discussion, and send in your own submission. Here is a link on how to do it.