Le visage et la voix d’un influenceur peuvent désormais être utilisés pour lui faire tenir des propos qu’il n’a jamais prononcés. Au Canada, une opération coordonnée a détourné l’image de centaines de créateurs de contenu dans des vidéos consacrées aux tensions commerciales entre Ottawa et Washington. Le phénomène a été documenté par le Centre pour les médias, la technologie et la démocratie (CMTD) de l’Université McGill, à Montréal.
Parmi les personnes ciblées figure Jasmin Laine, une créatrice suivie par des centaines de milliers d’abonnés. Une vidéo diffusée sur plusieurs comptes la montrait prenant position sur la « guerre douanière » entre le Canada et les États-Unis. Elle affirme pourtant ne jamais avoir prononcé les propos attribués à son image.
« Sur cette vidéo, publiée sur plusieurs comptes, il y a votre visage, votre voix, et ce qui ressemble à vous en train de parler de quelque chose que vous ne soutenez même pas en réalité », a déclaré Jasmin Laine à l’Agence France-Presse.
Des comptes nombreux, une diffusion massive
L’étude publiée à la mi-novembre par le CMTD a recensé près de 300 comptes sur Instagram et TikTok. Le réseau aurait utilisé l’intelligence artificielle — des outils capables de produire ou de modifier automatiquement des images, des voix et des vidéos — pour détourner l’apparence de plus de 200 créateurs.
| Donnée | Élément recensé par l’étude |
|---|---|
| Comptes observés | Près de 300 sur Instagram et TikTok |
| Créateurs ciblés | Plus de 200 |
| Audience cumulée | Plus de 20 millions de vues |
| Alerte TikTok | 4 % des comptes observés |
Selon les éléments rapportés par Radio-Canada, des milliers de vidéos ont été publiées par ce réseau et ont cumulé plus de 20 millions de vues. Les créateurs visés ne partageaient pas tous les mêmes thèmes : l’opération a concerné aussi bien des comptes consacrés au mode de vie chrétien que des commentateurs politiques de sensibilités différentes.
Une stratégie conçue pour contourner les signaux d’alerte
Les auteurs de l’étude estiment que l’utilisation de personnes réelles a probablement aidé ces vidéos à échapper aux mécanismes des plateformes destinés à signaler les contenus fabriqués par IA. D’après leur recensement, seulement 4 % des comptes observés ont déclenché l’avertissement de contenu synthétique de TikTok.
Le réseau ne se serait pas limité à fabriquer des images ou des voix. Il aurait également employé l’IA pour rédiger des scripts, puis réutilisé ceux qui obtenaient le plus de vues sur d’autres comptes. Cette organisation permettait de reprendre des formats déjà performants et de les diffuser à nouveau dans le contexte particulièrement sensible des tensions sur les droits de douane.
Le Centre pour les médias, la technologie et la démocratie relie cette campagne au climat de confrontation entre le Canada et les États-Unis depuis le retour de Donald Trump à la Maison-Blanche. Les contenus visaient à enflammer le débat autour de cette relation commerciale, en donnant à des prises de position artificielles l’apparence de déclarations authentiques. L’affaire illustre ainsi un risque propre aux réseaux sociaux : une vidéo peut conserver les codes visuels d’un compte connu tout en étant entièrement fabriquée ou détournée.
- L’identité visuelle d’un créateur ne garantit pas l’authenticité d’une publication.
- Les vidéos générées par IA peuvent être diffusées simultanément sur plusieurs comptes.
- Les systèmes de signalement des plateformes n’ont pas été déclenchés sur la majorité des comptes recensés dans cette étude.