Nouvelle pression sur l’App Store. Le City Attorney de San Francisco a envoyé jeudi des lettres de mise en demeure à Apple et Google pour exiger le retrait de 13 applications d’IA présentées comme des outils de « face swap », mais utilisées pour produire des images nues de personnes réelles sans leur consentement. D’après ces courriers, 8 de ces apps sont proposées sur l’App Store et 5 sur le Play Store.
Des applications accusées de contourner les règles des boutiques
Le bureau du City Attorney estime que ces services ne sont pas de simples outils créatifs. Il les accuse de servir à fabriquer des images explicites générées par deepfake à partir de photos de vraies personnes. Dans ses lettres, l’autorité demande non seulement le retrait des applications visées, mais aussi la rupture des relations avec les développeurs concernés.
Autre point clé : San Francisco demande également à Apple et Google de cesser de percevoir une part des achats intégrés liés à ces apps. Le City Attorney considère que les deux plateformes « aident et encouragent » la vente de ces contenus en laissant ces applications accessibles et monétisables.
Le bureau qualifie cette pratique d’« illégale, nuisible et totalement inacceptable ». Il affirme aussi qu’Apple et Google auraient perçu des millions de dollars de commissions via ces applications, ce qui déplace le débat au-delà de la seule modération des boutiques vers la responsabilité économique des plateformes.
Pourtant, Apple comme Google disposent déjà de règles développeurs qui interdisent la pornographie. Le sujet soulevé ici n’est donc pas l’absence de cadre, mais la capacité à faire respecter ces règles face à des applications qui se présentent comme des outils de permutation de visages alors qu’elles seraient utilisées pour générer des faux nus.
Google a déjà réagi, Apple pas encore publiquement
Selon une porte-parole de Google, l’entreprise a supprimé « des centaines » d’applications intégrant des fonctions de « nudifying » pour violation de ses règles, y compris les 5 apps citées dans les lettres du City Attorney. À ce stade, aucune réponse équivalente d’Apple n’est mentionnée concernant les 8 applications pointées sur l’App Store.
En juin, Apple avait déjà durci la formulation de ses règles de l’App Store sur la responsabilité des développeurs en matière de contenus pornographiques. Ce renforcement montrait une vigilance accrue sur le sujet, même si cette nouvelle affaire suggère que le contrôle concret de certaines apps reste un point sensible.
Ce que ça change
Pour Apple, l’enjeu n’est pas limité à 8 applications : c’est aussi la promesse d’un App Store mieux filtré que le web ouvert qui est testée. Si la question des commissions devient centrale dans ce type de dossier, la pression pourrait monter sur la validation des apps et sur leur surveillance après publication.
Pour les utilisateurs, cette affaire rappelle qu’une app présentée comme ludique ou créative peut cacher des usages profondément abusifs. Le point à suivre sera la réponse d’Apple aux demandes de San Francisco, et surtout la façon dont l’App Store appliquera ses règles sur les deepfakes explicites.
À lire aussi
Source : San Francisco City Attorney — cease-and-desist letters to Apple and Google