(English version available here)

Alors qu’elle n’avait que 18 ans, l’Australienne Noelle Martin a découvert sur Internet de fausses images sexuellement explicites d’elle-même, créées grossièrement à partir de photographies extraites de ses comptes sur les médias sociaux. Bien que ces images ne sont pas réelles, elles lui ont néanmoins causé un préjudice profond et irréparable.

Des années plus tard, elle a été victime d’un autre trucage du même genre. Cependant, cette fois-ci, son image avait été imposée sur une vidéo pornographique étrangement réaliste, créée à l’aide d’une forme de technologie d’intelligence artificielle (IA) générative connue sous le nom de « deepfake », ou hypertrucage, en français.

Cette technologie permet de produire un faux contenu audiovisuel d’une personne identifiable en utilisant ses données biométriques. Les outils permettant de le faire ont progressé rapidement, sont devenus largement accessibles et utilisent des données facilement disponibles au sein du réseau social d’une personne. Une poignée de photos et une douzaine de secondes de voix suffisent souvent à reproduire l’image d’une personne avec un réalisme saisissant.

Les hypertrucages sont principalement utilisés pour attaquer, harceler et blesser les femmes. Les géants de la technologie, tels que Google, ont déjà pris des mesures. La mise à jour de la réglementation en matière de télécommunications peut aider. Mais le Canada a également besoin de modifier d’urgence ses cadres juridiques et réglementaires afin d’offrir des solutions aux personnes déjà touchées et une protection contre les abus futurs.

Il devient de plus en plus difficile de distinguer les fausses images des vraies au fur et à mesure que cette technologie progresse, d’autant plus qu’elle devient en même temps moins chère et plus accessible au public. Bien que cette technologie puisse avoir des usages légitimes dans la production de médias, son utilisation malveillante, y compris la production de pornographie hypertruquée, est alarmante.

Par exemple, de fausses photos nues de la chanteuse Taylor Swift, générées par l’IA, ont récemment été diffusées largement sur Internet. Les admirateurs de la chanteuse se sont mobilisés pour forcer X, anciennement Twitter, et d’autres sites à les retirer, mais pas avant qu’elles aient été vues des millions de fois.

Si cet incident montre que n’importe quelle femme peut être prise pour cible, il illustre également un grave problème auquel sont confrontées les personnes qui ne sont pas des célébrités : elles ne bénéficient pas d’un soutien public aussi important pour lutter contre les contrefaçons et les identifier. Si les particuliers ne sont pas aussi souvent pris pour cible que les célébrités, ils n’en restent pas moins vulnérables.

Reconnaître les préjudices sexospécifiques de la pornographie hypertruquée

La pornographie hypertruquée est une forme de distribution non consensuelle d’images intimes (DNCII) souvent appelée familièrement « porno de vengeance » (revenge porn), lorsque la personne qui partage ou fournit les images est un ancien partenaire intime.

Les progrès récents de la technologie numérique ont facilité la prolifération de la DNCII à une échelle sans précédent.

Comme l’indique un arrêt de la Cour du Québec dans l’affaire R c. A.B., « d’un simple glissement sur l’écran d’un téléphone intelligent, on peut immédiatement devenir réalisateur, producteur, cameraman et parfois acteur dans un court métrage explicite ».

De même, un tribunal de l’Alberta a noté dans l’affaire R c. Haines-Matthews : « Une fois que les images électroniques sont transmises, il y a très peu de contrôle, voire aucun, sur qui peut y accéder, où elles peuvent finir, ou combien de temps elles seront accessibles sur un site Internet ».

À la suite d’efforts concertés de plaidoyer, de nombreux pays ont adopté une législation statutaire pour tenir les auteurs responsables de la DNCII et offrir un recours aux victimes. Par exemple, le Canada a criminalisé la distribution de DNCII en 2015 et de nombreuses provinces ont fait de même.

Jusqu’à 95 % de tous les hypertrucages sont pornographiques et ciblent presque exclusivement les femmes. Les applications d’hypertrucage, dont DeepNude en 2019 et un bot Telegram en 2020, ont été conçues spécifiquement pour « déshabiller numériquement » des photos de femmes.

L’évolution de la technologie d’hypertrucage sous cet angle montre la violence sexiste qu’elle perpétue et amplifie. Le préjudice potentiel pour les droits et libertés fondamentaux des femmes est important, en particulier pour les personnalités publiques.

Par exemple, Rana Ayyub, une journaliste indienne, a été la cible d’un système d’hypertrucage DNCII en réponse à ses efforts pour dénoncer la corruption du gouvernement.

L’IA a été utilisée pour greffer son visage sur une vidéo pornographique, puis pour la diffuser. La nature artificielle de ces images n’a guère atténué le préjudice causé à sa réputation et à sa carrière. Elle a dû faire face à de nombreuses réactions sociales et professionnelles, ce qui l’a obligée à déménager et à interrompre temporairement son travail.

Le préjudice causé à toute victime par le DNCII est majeur. « La réputation est ruinée, l’estime de soi est brisée, les sentiments sont blessés et la vie privée est irrémédiablement violée », note la décision de la Cour du Québec.

Comme l’ont découvert Mmes Martin et Ayyub, la pornographie hypertruquée porte atteinte aux émotions, à la société et à la réputation des individus. Ce n’est pas seulement la nature intime de ces images qui devrait inquiéter, mais le fait qu’elles peuvent ternir la réputation publique de la personne et menacer sa sécurité.

La diffusion rapide et potentiellement rampante de ces images constitue une violation grave et irréparable de la dignité et des droits d’une personne.

Cela signifie que l’intervention des pouvoirs publics dans les cas de pornographie hypertruquée se justifie de la même manière que pour les autres formes de DNCII qui sont actuellement réglementées.

Il est permis de penser que la menace que représente la pornographie hypertruquée pour les libertés des femmes est plus grande que les formes précédentes de DNCII. Les hypertrucages ont le potentiel de remettre en question leur participation à la vie publique.

Si l’utilisation de DNCII falsifiées pour opprimer les femmes n’est pas nouvelle – la pornographie modifiée numériquement (grâce à Photoshop par exemple) existe depuis des décennies et les œuvres d’art intimes non consensuelles existaient déjà au cours des siècles précédents –, la technologie de l’hypertrucage offre un moyen facilement accessible qui est plus réaliste et plus viscéral que tous ceux qui l’ont précédé.

Contrairement aux images ou aux enregistrements authentiques, qui peuvent être protégés contre les acteurs malveillants – bien qu’imparfaitement, car il y a toujours des piratages et des fuites –, les gens ne peuvent pas faire grand-chose pour se protéger contre les hypertrucages.

Les données personnelles nécessaires à la création d’hypertrucages peuvent facilement être récupérées par n’importe qui via les réseaux sociaux. Dans notre monde de plus en plus numérique, il est pratiquement impossible pour les individus de participer pleinement à la société tout en garantissant la confidentialité de leurs données personnelles.

Étant donné que les gens – en particulier les femmes – ont un pouvoir limité pour se protéger des hypertrucages malveillants, une action réglementaire s’impose d’autant plus.

Recours juridiques et dissuasion

Le système juridique est mal placé pour lutter efficacement contre la plupart des formes de cybercriminalité et seul un nombre limité d’affaires relevant de la DNCII sont portées devant les tribunaux. Malgré ces difficultés, l’action législative reste cruciale, car il n’existe aucun précédent au Canada établissant les recours juridiques disponibles pour les victimes de l’hypertrucage.

Les recours civils en responsabilité délictuelle, tels que l’usurpation d’identité, peuvent constituer un recours pour les victimes. En théorie, plusieurs lois pourraient s’appliquer, comme les dispositions pénales relatives à la diffamation ou au libelle, ainsi que la législation sur les droits d’auteur, le droit à l’image ou la protection de la vie privée.

Toutefois, la nature de la technologie des hypertrucages rend les litiges plus difficiles que les autres formes de DNCII. Contrairement aux enregistrements ou aux photographies réels, les hypertrucages ne peuvent être rattachés à un moment et à un lieu précis. Dans de nombreux cas, il est pratiquement impossible de déterminer leur origine de même que la ou les personnes qui les ont produites ou distribuées.

La technologie sous-jacente aux hypertrucages est également difficile à interdire, car si des applications spécifiques peuvent être supprimées, leur code reste dans des domaines à source ouverte.

En outre, avant même les récents développements de l’intelligence artificielle, la technologie numérique a remis en question le pouvoir réglementaire d’organismes tels que le Conseil de la radiodiffusion et des télécommunications canadiennes (CRTC), chargé d’administrer la Loi sur la radiodiffusion de 1991.

Alors que la radio et la télévision disposent d’une capacité de diffusion limitée, avec un nombre restreint de fréquences ou de canaux, ce n’est pas le cas d’Internet. Quiconque possède un téléphone intelligent peut immédiatement devenir un diffuseur. Par conséquent, il devient impossible de surveiller et de réglementer la distribution des contenus comme l’ont fait par le passé les autorités de régulation telles que le CRTC.

L’une des formes de recours les plus pratiques pour les victimes pourrait ne pas provenir du système juridique.

Les grandes plateformes technologiques telles que Google prennent déjà des mesures pour lutter contre la pornographie hypertruquée et d’autres formes de DNCII. Google a mis en place une politique relative à l’« imagerie pornographique synthétique involontaire », qui permet aux personnes de demander au géant de la technologie de bloquer les résultats en ligne les montrant dans des situations compromettantes.

Toutefois, les organismes publics de régulation tels que le CRTC ont également un rôle à jouer. Ils peuvent et doivent exercer leur pouvoir discrétionnaire en matière de réglementation pour collaborer avec les grandes plateformes technologiques afin de s’assurer qu’elles disposent de politiques efficaces conformes aux exigences éthiques fondamentales et de les tenir pour responsables.

Les hypertrucages, comme d’autres technologies numériques avant eux, ont fondamentalement changé le paysage médiatique.

Cette perturbation inévitable exige une évolution des cadres juridiques et réglementaires afin d’offrir divers recours aux personnes concernées. Les hypertrucages menacent particulièrement la participation au domaine public, et les femmes en souffrent de manière disproportionnée. Il est essentiel de veiller à ce que des recours efficaces soient accessibles.