Une application de traçage de contacts pourrait renforcer des préjugés et créer du stress. Les développeurs doivent faire preuve de prudence.

(Cet article a été traduit de l’anglais.)

Nous participons tous à une expérience mondiale sans précédent visant à déterminer la meilleure façon de faire face à la pandémie de COVID-19. Et selon les dernières données, la stratégie de la distanciation sociale semble bien fonctionner et motiver la plupart des Canadiens : nous sommes en train d’aplatir la courbe.

Mais en théorie, nous pouvons faire mieux. Ainsi, les gouvernements du monde entier envisagent d’autres stratégies d’aplatissement des courbes, dont fait partie une nouvelle application de traçage de contacts liés à la COVID-19, qui utilise les données de localisation des téléphones mobiles. Mais même si l’application génère des données de contacts parfaites, il y a des raisons de penser qu’elle ne produira pas les résultats souhaités. En fait, elle pourrait éventuellement nuire à la lutte contre la maladie.

Récemment, nous avons appris que les gouvernements du Québec et du Canada sont en discussion avec Yoshua Bengio, un éminent chercheur canadien en intelligence artificielle (IA), qui compte lancer sous peu une application de traçage de contacts liés à la COVID-19, qui est basée sur l’IA.

Bien que les détails soient rares, on explique dans l’article que l’application fonctionne comme une sorte de feuille de route COVID-19 qui utilise Bluetooth pour partager le profil de risque COVID-19 anonymisé de chaque utilisateur avec d’autres téléphones se trouvant à moins de 10 mètres. Elle aide ainsi ses utilisateurs à ajuster leurs déplacements en fonction des personnes et des lieux présentant des risques élevés.

L’application, fondée sur la participation volontaire, créera un profil COVID-19 pour chaque utilisateur et connaîtra le statut infectieux des personnes avec qui vous entrez en contact relativement étroit lors de vos déplacements. En fonction des déplacements quotidiens des utilisateurs, elle pourrait leur envoyer une notification leur demandant de se laver les mains plus fréquemment. Elle pourrait aussi leur conseiller de rester à la maison. Elle informe également les utilisateurs sur les personnes ou les lieux qui présentent un risque d’infection plus élevé.

Selon l’article dans The Logic, Yoshua Bengio espère que l’application permettra de restreindre le confinement aux personnes les plus à risque, tout en facilitant la reprise des activités à l’extérieur, le retour au travail, etc. pour les personnes moins à risque. Mais lorsque ces dernières croisent une personne à risque, l’application leur demanderait alors de rester à la maison.

Cependant, on peut raisonnablement prévoir que cette application pourrait avoir des effets indésirables (sans parler des préoccupations importantes en matière de confidentialité) que les Canadiens et nos gouvernements devraient prendre en considération avant de lancer une application de traçage de contacts COVID-19 qui n’a pas fait ses preuves. Il faut tenir compte de ces effets pour juger des avantages possibles (en ne se tenant pas seulement aux scénarios les plus optimistes) d’une telle application dans le contexte canadien. Il est important de garder à l’esprit que le Canada est très différent des pays dans lesquels ces applications ont été déployées.

Premièrement, les applications de traçage de contacts COVID-19 peuvent renforcer les préjugés sociaux existants, stigmatisant ainsi des lieux et des communautés. M. Bengio ne manque pas de souligner que son application n’utilisera que des données anonymisées pour éviter de stigmatiser les individus. Cependant, elle fournira aux utilisateurs des informations sur les lieux à haut risque.

Même si l’application n’indique pas des lieux précis, elle permet aux utilisateurs de les cerner en fonction des notifications concernant leurs déplacements quotidiens. Elle peut finir par cibler des individus ou des groupes par un processus imparfait d’inférence et d’élimination. Nous constatons en ce moment que la COVID-19 affecte de manière disproportionnée les communautés afro-américaines au sud de la frontière. Cette application alimentera-t-elle les préjugés existants en marquant numériquement des communautés et leurs établissements comme « dangereux » ?

Nous avons également entendu parler que la COVID-19 a entraîné diverses formes de discrimination à l’égard des communautés asiatiques ici au Canada. Des informations vagues sur les lieux « infectés » renforceront-elles encore de tels préjugés ?

Deuxièmement, il y a de fortes chances que les gens fassent trop confiance à l’application pour assurer leur sécurité, ce qui pourrait augmenter par inadvertance les contacts sociaux. Il existe un effet psychologique bien documenté appelé « automation bias », un parti pris technologique selon lequel les utilisateurs confèrent beaucoup plus d’autorité à une technologie qu’elle n’en mérite réellement. Selon le principe de prudence, nous pouvons nous attendre en effet à ce qu’un grand nombre d’utilisateurs de l’application deviennent victimes de ce parti pris technologique. Ils pourraient en venir à la considérer comme une sorte de détecteur de COVID-19, capable de les alerter sur la maladie avant qu’ils entrent en contact avec elle tout comme après un contact.

Ce parti pris technologique pourrait amener certains utilisateurs, ceux qui sont faussement convaincus que l’application veille sur eux, à baisser leur garde en ce qui concerne les pratiques de distanciation sociale. Ce serait un double coup dur si cet effet était inégalement réparti dans la société. Par exemple, cet effet pourrait être plus important chez les utilisateurs qui ont plus de mal à comprendre le fonctionnement de l’application ou qui ont du mal à l’utiliser.

Troisièmement, les notifications pourraient surcharger par inadvertance certains secteurs du système de santé. L’application n’ayant pas été testée en conditions réelles, il est difficile de savoir avec certitude comment les gens interpréteront les notifications qu’ils reçoivent de cette application et comment ils y répondront.

Si on prend pour exemple la confusion surprenante qu’ont provoquée certains messages de santé publique au cours des dernières semaines, il est tout à fait possible que les notifications de cette application perturberont aussi des personnes qui ne savent quoi en faire et accroîtront leur stress. Cela pourrait se traduire par une augmentation soudaine des appels téléphoniques inutiles aux services de télésanté ou de santé publique, ou pire, par des visites inutiles dans les établissements de santé. À tout le moins, les prestataires de soins de santé doivent être préparés à ce type de réaction.

Quatrièmement, une application de traçage de contacts COVID-19 pourrait simplement nuire psychologiquement à ses utilisateurs, comme l’illustre la réaction suscitée par les messages de santé publique. Ce serait dommage, mais plus important encore, une augmentation des niveaux d’anxiété générale pourrait entraîner une augmentation des maux connexes tels que la violence familiale, la dépression et le suicide.

Cinquièmement, les notifications de l’application pourraient contribuer à désensibiliser les utilisateurs à ces messages et à d’autres messages de santé publique. Beaucoup d’entre nous ont connu la surcharge de notifications et l’effet négatif que trop de notifications peuvent avoir sur nos vies.

Une étude récente conduite aux Pays-Bas indique que les notifications pourraient en fait diminuer la motivation à effectuer les actions qu’elles demandent. En d’autres termes, une notification de lavage de mains peut en fait réduire la probabilité que vous vous laviez les mains rapidement après.

De plus, selon certaines données, l’application que le gouvernement sud-coréen utilise semble contribuer à un effet de désensibilisation, poussant les gens à détourner leur attention des messages de santé publique. Encore une fois, cet effet pourrait en fait contribuer à une augmentation des taux d’infection.

Il est important de reconnaître que, même s’il semble que les messages concernant la distanciation sociale fonctionnent, nous ne savons pas exactement pourquoi ils fonctionnent. Il se pourrait que les gens soient motivés par la peur de contracter ou de transmettre la maladie. Ils pourraient aussi être motivés par l’idée de faire leur devoir civique, de contribuer au bien de la nation. Ce pourrait être une combinaison de tous ces facteurs. En effet, sans mises à l’essai appropriées, nous ne savons quel effet les applications de traçage de contacts auront sur ce qui pourrait se révéler être un équilibre délicat de facteurs de motivation.

Bien entendu, nous ne devons pas abandonner notre recherche de bonnes solutions technologiques à cette pandémie. Mais nous devons procéder de manière responsable. Tout comme il serait dangereux de précipiter la production d’un vaccin non testé, les applications de traçage de contacts non éprouvées, aussi louable soit leur but, ne permettront pas nécessairement de mieux affronter la pandémie. Quand les créateurs d’applications prendront en compte ces cinq effets indésirables lors de la conception de cette technologie, une application de traçage de contacts COVID-19 fonctionnera plus probablement à notre avantage.

Cet article fait partie du dossier La pandémie de coronavirus : la réponse du Canada.

Photo : Shutterstock / Connect world.