Le Tech Transparency Project (TTP) a publié une nouvelle enquête qui fait suite à son rapport de janvier, mettant en lumière le rôle potentiel des systèmes de recherche et de publicité d’Apple dans la découverte d’applications de nudification sur l’App Store.
D’après cette investigation, l’App Store, tout comme le Google Play Store, « aide les utilisateurs à trouver des applications qui génèrent des images de femmes nues en utilisant des deepfakes », parfois à travers des résultats de recherche promus et des suggestions de recherche autocomplétées.
Le rapport souligne que ces applications, jugées inappropriées, continuent d’apparaître dans les magasins d’applications, certaines étant même classées comme adaptées aux mineurs. Près de 40 % des dix premières applications retrouvées pour des recherches telles que « nudify » ou « deepnude » seraient en mesure de « rendre les femmes nues ou légèrement vêtues ».
De plus, certaines recherches déclenchent même des résultats sponsorisés pour ces applications. Ainsi, une recherche sur le terme « deepfake » a mis en avant une publicité pour FaceSwap Video de DuoFace. L’application permet de changer le visage de n’importe qui sur une vidéo, et des tests effectués par le TTP ont montré qu’elle pouvait générer des vidéos combinant des images de femmes habillées et nues.
Une autre recherche pour « face swap » a révélé une annonce pour une application appelée AI Face Swap, permettant de remplacer des visages sur des images téléchargées, sans aucune restriction constatée.
En outre, TTP a tenté de contacter les développeurs de plusieurs de ces applications. Dans une réponse, l’un d’eux a confirmé l’utilisation de Grok pour la génération d’images, tout en affirmant ne pas avoir conscience de la capacité de l’outil à produire du contenu aussi extrême. Ce développeur a promis de renforcer les paramètres de modération.
Enfin, des recherches suggérant « AI NS » ont amené l’App Store à recommander « image to video ai nsfw », générant ainsi plusieurs applications de nudification dans les résultats. Bien qu’Apple n’ait pas commenté la demande de TTP, la société a retiré la plupart des applications identifiées dans le rapport.
