À l’émission Tout le monde en parle du 17 mai dernier, Yoshua Bengio, directeur scientifique de Mila et professeur au Département d’informatique de l’Université de Montréal, et Valérie Pisano, présidente et cheffe de la direction de Mila, ont présenté l’application COVI développée par cet institut de recherche en intelligence artificielle. Ils ont expliqué que cette application, qui vise à prévenir la propagation de la COVID-19, a deux finalités : aider les individus à « prendre des décisions sur ce qui est sécuritaire pour eux », en fonction de leur niveau de risque de contracter la maladie (risque calculé par l’application), et « mieux comprendre la maladie » et les manières par lesquelles elle se transmet afin de développer un modèle épidémiologique.

Nous reconnaissons que les outils numériques peuvent être utiles pour actualiser les pratiques de santé publique. Il n’en demeure pas moins que le recours à cette application soulève des questions importantes, qui ne se résument pas aux seuls enjeux de protection de la vie privée. L’application suscite des préoccupations incontournables en ce qui concerne ses effets différenciés, notamment son incidence sur les personnes appartenant à des groupes socioéconomiques défavorisés. Il y a aussi un risque d’injustice du fait que ces groupes comptent moins d’utilisateurs de téléphones intelligents que dans la population en général et que, par conséquent, les données recueillies « pour mieux comprendre la maladie » soient biaisées et ne représentent pas leur réalité. D’où le besoin d’assurer une prise en compte de la diversité des groupes et des savoirs tant à l’étape de la conception que de l’administration de l’application.

Ces enjeux doivent être explicités et faire partie d’un débat public qui n’implique pas uniquement des épidémiologistes, des informaticiens ou des juristes et des éthiciens spécialistes de la vie privée, mais aussi des personnes du terrain et des chercheurs en sciences sociales. Nous pensons notamment aux savoirs issus des expériences vécues par les personnes marginalisées ― qui subissent les effets délétères de la surveillance dans d’autres contextes ―, des savoirs d’intervention des groupes communautaires qui travaillent avec ces personnes et des savoirs sociologiques.

Effets différenciés sur les groupes socioéconomiques vulnérables

Selon plusieurs études et analyses, les groupes socioéconomiques qui sont déjà parmi les plus touchés par la pandémie risquent de subir les effets négatifs des applications de traçage de manière disproportionnée. Si celles-ci ne sont pas conçues et utilisées d’une manière à prendre en compte les facteurs de vulnérabilité découlant des inégalités sociales, elles risquent d’en faire porter le poids aux utilisateurs vulnérables, voire d’accroître leur vulnérabilité lorsqu’elles génèrent des faux positifs.

Ce risque est réel pour les personnes à faible revenu, qui sont plus susceptibles de vivre et de travailler dans des lieux où la prévalence de la COVID-19 est élevée. Les personnes qui habitent à plusieurs dans de petits logements, qui travaillent en première ligne dans les hôpitaux, les CHSLD et les épiceries, et qui se rendent au travail par le transport en commun peuvent avoir recours à des mesures de protection que la technologie Bluetooth de cette application détecte difficilement ― nous pensons par exemple au port du masque ou aux barrières de protection en plexiglas ― et ainsi se voir attribuer un faux positif. Or cette situation risque d’avoir des effets dévastateurs si un arrêt de travail recommandé par l’application s’accompagne d’une diminution des revenus, voire d’une perte d’emploi, lesquelles peuvent entraîner de multiples effets en chaîne. Au surplus, les personnes recevant des faux positifs peuvent aussi avoir tendance à s’imposer des entraves à leur liberté de circulation, ce qui crée un phénomène d’autocontrainte (chilling effect) différenciée selon la conditionsocioéconomique.

Par ailleurs, si Mila garantit que les données personnelles ne pourront être utilisées pour empêcher l’accès aux commerces ou aux espaces publics, il convient de porter une attention non seulement aux usages prescrits, mais aussi aux usages détournés de l’application. Des acteurs privés par exemple, tels les propriétaires et les employeurs, pourraient-ils s’en servir pour restreindre l’accès au logement ou aux lieux de travail ?

Dans tous les cas, les applications de traçage peuvent avoir des effets d’exclusion pour les personnes appartenant à des groupes socioéconomiques défavorisés, sans qu’il y ait en parallèle des mesures compensatoires pour pallier ces risques. À défaut d’être expressément nommés, ces risques demeureront dans l’angle mort du débat, et les personnes téléchargeront l’application en ignorant ses possibles effets néfastes.

Diversité des savoirs et réalités des personnes vulnérables

D’autres personnes que celles visées par les risques de faux positifs pourraient aussi subir les effets pernicieux de l’application de traçage. Non seulement les personnes en situation de pauvreté ou d’itinérance, mais aussi les aînés ont statistiquement moins tendance à avoir un téléphone intelligent. Si 77 % de la population québécoise possède un tel appareil, selon les données du CEFRIO, le taux d’adoption avoisine 50 % pour les personnes à faible revenu et les personnes âgées. Or cette fracture numérique de premier niveau (accès à l’équipement et à Internet) aura des répercussions sur la représentativité des données qui seront vraisemblablement utilisées dans l’élaboration du modèle épidémiologique évoqué par les représentants de Mila. Dans l’éventualité où ce modèle servirait à influencer des stratégies d’intervention en santé publique, il serait alors peu susceptible de refléter les réalités des groupes les plus à risque et les spécificités éventuelles de la transmission du virus dans leurs contextes de vie.

C’est cette sous-représentation ou représentation biaisée dans les données, notamment en santé, qui a poussé des groupes comme Data for Black Lives à exiger une meilleure prise en compte de la réalité des personnes racisées dans les données numériques. On peut aussi penser au mouvement Indigenous Data Sovereignty ou aux principes PCAP (propriété, contrôle, accès et possession) des Premières Nations au Canada qui ont été mis en place parce que les données publiques ne reflétaient pas les réalités autochtones. C’est entre autres pour limiter les effets de ces biais que certains pensent qu’il faut inclure les personnes ciblées par les outils technologiques, en particulier les personnes marginalisées, dans les prises de décision concernant la conception même de ces outils, ce que la chercheuse au MIT Sasha Costanza-Chock appelle le « design justice ».

En théorie, le modèle de gouvernance envisagé par Mila semble accorder une grande importance à la société civile. Cependant, il laisse en suspens la question de la place effective qu’on donnera à certains savoirs dans la composition de cette structure. En ce sens, il serait peut-être important de reconnaître les limites de cette application et d’admettre notamment le besoin d’expertise en matière d’inégalités socioéconomiques et de santé. Pourquoi certaines populations ou certains groupes sont-ils plus affectés que d’autres par la pandémie ? À cet égard, les sciences sociales ont un rôle considérable à jouer, par exemple pour déterminer les groupes qui ne sont pas ou sont peu susceptibles de bénéficier de l’application. Au surplus, le débat à propos de cette application ne peut se passer des organismes communautaires. Ceux-ci disposent de savoirs et d’expertises incontournables à une prise de décision éclairée et ancrée dans les réalités du terrain.

Si des gestes individuels comme rester chez soi ou, selon les concepteurs de COVI, télécharger une application peuvent aider à « sauver des vies », plusieurs de ces vies dépendent d’une lutte collective contre les inégalités sociales devenues flagrantes depuis le début de cette crise. C’est pourquoi il est fondamental d’analyser les réponses numériques telles que les applications de traçage selon le prisme du contexte social dans lequel on cherche à les déployer. En présence d’une crise à la fois sanitaire et humanitaire, les expertises sur les inégalités sociales sont une nécessité afin que les solutions choisies ne réduisent pas les personnes à leurs seules traces numériques.

Signataires en appui à ce texte :

Jeanne Archambault, intervenante sociale dans le milieu communautaire

Annie Aubertin, directrice générale, Spectre de rue inc.

André Bélanger, professeur, Faculté de droit, Université Laval

Emmanuelle Bernheim, professeure, Département de sciences juridiques, UQAM, et chercheuse, Centre de recherche de Montréal sur les inégalités sociales et les discriminations

SIGN UP

The inner workings of government

Keep track of who’s doing what to get federal policy made. In The Functionary.

Read it now.

SUBSCRIBE

The Functionary

Our newsletter about the public service. Nominated for a Digital Publishing Award.

Dominique Bernier, professeure, Département des sciences juridiques, UQAM

Céline Castets-Renard, professeure, titulaire de la Chaire de recherche sur l’IA responsable dans un contexte global, Université d’Ottawa

Emilie Charette, intervenante dans le milieu communautaire et avocate

Nicole Cloutier, coordonnatrice, Action Autonomie, le collectif pour la défense des droits en santé mentale de Montréal

Michelle Cumyn, professeure, Faculté de droit, Université Laval

Stéphane Couture, professeur, Département de communication, Université de Montréal

Claire Estagnasié, doctorante en communication, UQAM, et coordonnatrice du Laboratoire sur la communication et le numérique

Eleonore Fournier-Tombs, experte en science des données et chercheuse séniore à la Chaire de recherche sur l’IA responsable dans un contexte global, Université d’Ottawa

Jessica Gaouette, enseignante au primaire dans Montréal-Nord et avocate

Delphine Gauthier-Boiteau, candidate à la maîtrise en droit, UQAM

Florence Millerand, professeure titulaire, Département de communication sociale et publique, UQAM

Josianne Millette, professeure, Département d’information et de communication, Université Laval

Kevin Morin, doctorant en études urbaines, INRS, Laboratoire sur les nouveaux environnements numériques et l’intermédiation culturelle (NENIC LAB)

Serge Proulx, professeur émérite, École des médias, UQAM

Doris Provencher, directrice générale, Association des groupes d’intervention en défense des droits en santé mentale du Québec

Andréanne Tremblay, coordonnatrice clinique, site fixe et service de consommation supervisée, Spectre de rue inc.

Cet article fait partie du dossier La pandémie de coronavirus : la réponse du Canada.