Apple a retiré 19 applications de son App Store après une enquête publiée par WIRED sur des services capables de produire des images et des vidéos truquées à caractère sexuel ou violent. Ces applications se présentaient initialement comme des outils de langue, de sport ou de retouche photo. Une fois installées, elles pouvaient toutefois donner accès à des fonctions de deepfake, c’est-à-dire des contenus falsifiés ou générés par intelligence artificielle à partir de l’image d’une personne.
Des fonctions masquées après la validation
Le fonctionnement décrit par WIRED reposait sur une dissociation entre l’application examinée par Apple et le contenu chargé ensuite depuis un service distant. Lors de leur contrôle, les applications respectaient les règles affichées par Apple. Après leur approbation, leurs développeurs auraient modifié le contenu accessible depuis le site web intégré à ces applications, afin d’y faire apparaître des outils pornographiques ou violents.
Cette méthode permettait de conserver une apparence ordinaire au moment de l’examen, sans publier une nouvelle version de l’application. Les utilisateurs pouvaient importer une photographie, puis acheter des crédits afin de générer des contenus explicites. WIRED évoque notamment des scènes violentes, dont une représentation montrant un couteau placé contre le cou d’une femme.
Un réseau de domaines et d’applications
L’enquête décrit un ensemble de plus de 400 domaines et applications qui sembleraient liés à une même organisation chinoise. Le contenu affiché pouvait également varier selon les circonstances. Dans certains cas, le fait de cliquer sur une publicité diffusée par Meta pour promouvoir les fonctions de deepfake aurait déclenché l’apparition d’outils auparavant invisibles dans l’application.
| Acteur | Élément rapporté |
|---|---|
| Apple | Retrait de 19 applications de l’App Store et renforcement annoncé des contrôles. |
| WIRED | Identification d’un réseau de plus de 400 domaines et applications associés. |
| Meta | Mesures prises contre plus de 10 000 comptes publicitaires liés aux domaines concernés. |
Des publicités diffusées sur Facebook et Instagram
Les services étaient aussi promus au moyen de milliers de publicités vidéo diffusées sur Facebook et Instagram. Meta affirme avoir pris des mesures contre plus de 10 000 comptes publicitaires associés à des domaines liés à ce réseau. Ces annonces auraient ainsi permis de diriger des utilisateurs vers des services dont les fonctions réelles ne correspondaient pas à l’image donnée par les applications présentes sur l’App Store.
L’affaire met en évidence un problème commun aux boutiques d’applications et aux réseaux sociaux : le contrôle effectué avant la mise en ligne ne suffit pas toujours lorsque le fonctionnement essentiel d’un service dépend de serveurs distants. Une application peut conserver son apparence et son code distribués par la boutique, tandis que les fonctions proposées à l’utilisateur évoluent ailleurs, sans nouvelle validation visible.
Apple annonce des protections renforcées
Apple indique avoir récemment renforcé ses dispositifs contre le remplacement, après validation, du contenu web chargé dans une application. Le groupe ne précise pas dans les éléments rapportés quelles mesures techniques supplémentaires ont été déployées ni si elles concernent l’ensemble des applications utilisant des contenus distants.
Le retrait empêche désormais le téléchargement de ces 19 applications depuis l’App Store. Il ne règle toutefois pas, à lui seul, la circulation des mêmes services lorsqu’ils sont accessibles par d’autres domaines ou par des publicités en ligne. Les actions annoncées par Apple et Meta montrent surtout que la lutte contre les deepfakes abusifs ne se limite pas à la suppression d’une application : elle implique aussi la surveillance des contenus distants, des campagnes publicitaires et des réseaux de domaines utilisés pour les distribuer.
- 19 applications ont été retirées de l’App Store.
- Les fonctions abusives auraient été activées après l’examen initial, via du contenu chargé à distance.
- Meta dit avoir sanctionné plus de 10 000 comptes publicitaires liés aux domaines concernés.
