Une application de langue, de sport ou de retouche photo peut sembler parfaitement banale sur l’App Store. Pourtant, 19 apps retirées par Apple pouvaient ensuite afficher des outils destinés à fabriquer des images et vidéos truquées à caractère sexuel ou violent, rapporte WIRED dans son enquête.
Le principe était particulièrement trompeur : l’utilisateur pouvait importer une photo, puis acheter des crédits pour générer des contenus explicites. Certaines scènes proposées incluaient aussi des violences, dont une représentation montrant un couteau contre le cou d’une femme.
Des apps validées, puis modifiées à distance
Selon Apple, les 19 applications respectaient ses règles lors de leur examen. Après leur approbation, leurs développeurs auraient remplacé le contenu initialement contrôlé sur le site web chargé par les apps par du contenu pornographique. Cette méthode permet de conserver une façade acceptable au moment de la validation, puis d’activer des fonctions très différentes sans distribuer une nouvelle version sur l’App Store.
WIRED décrit un réseau de plus de 400 domaines et applications reliés entre eux, qui sembleraient avoir été créés par une même organisation chinoise. Les applications pouvaient notamment changer d’interface dans certaines circonstances : le fait de cliquer sur une publicité Meta faisant la promotion des fonctions de deepfake pouvait déclencher l’affichage des outils cachés.
Meta a aussi fermé des comptes publicitaires
Des milliers de publicités vidéo ont été diffusées sur Facebook et Instagram pour promouvoir ces services, malgré les règles d’Apple, de Google et de Meta contre ce type de contenu nuisible. Meta indique avoir pris des mesures contre plus de 10 000 comptes publicitaires liés à des domaines associés à ce réseau.
Apple affirme avoir récemment renforcé ses protections contre le remplacement, après validation, du contenu web chargé dans une application. Le retrait des 19 apps empêche leur téléchargement depuis l’App Store, mais l’affaire illustre la difficulté à contrôler des services dont une partie essentielle fonctionne à distance.
Ce que ça change
Pour les utilisateurs, cette affaire rappelle qu’une app au nom rassurant peut mener vers un service radicalement différent de sa présentation initiale. Importer une photo dans un outil apparemment anodin peut ainsi l’exposer à un usage humiliant ou menaçant.
Pour Apple, l’enjeu dépasse le contrôle ponctuel d’une fiche App Store : les protections doivent aussi détecter les changements de contenu intervenant après publication. Les apps qui reposent sur des pages web chargées à distance constituent donc un point de vigilance particulier.
À lire aussi
Source : WIRED — enquête originale