Trois sénateurs américains ont demandé au PDG d’Apple, Tim Cook, de retirer temporairement les applications X et Grok de l’App Store en raison de la « génération de contenus répugnants » ces derniers jours.
Les sénateurs Ron Wyden, Ed Markey et Ben Ray Luján ont écrit une lettre ouverte aux PDG d’Apple et de Google, en demandant aux deux entreprises de supprimer les applications en attendant une « enquête complète » sur la « génération massive d’images sexualisées non consensuelles de femmes et d’enfants ».
Dans leur correspondance, ils affirment :
« Nous vous écrivons pour vous demander d’appliquer les conditions de service de vos magasins d’applications en ce qui concerne les applications X et Grok de X Corp, en raison de leur génération massive d’images sexualisées non consensuelles de femmes et d’enfants. La génération de ces représentations nuisibles et probablement illégales a montré un mépris total pour les conditions de distribution de vos magasins. Apple et Google doivent retirer ces applications jusqu’à ce que les violations de la politique de X soient abordées. »
Récemment, des utilisateurs de X ont utilisé l’outil d’IA Grok de l’application pour générer à grande échelle des images sexuelles non consensuelles de citoyens privés. Cette tendance a vu Grok modifier des images pour représenter des femmes abusées, humiliées, blessées, et même tuées. Dans certains cas, Grok a apparemment créé des images sexualisées d’enfants, le type de contenu le plus odieux imaginable. De plus, X aurait même encouragé ce comportement, le PDG Elon Musk réagissant à cette tendance avec des émojis rieurs.
Les sénateurs soulignent également que le retrait récent d’applications liées au suivi des activités de l’Immigration et des douanes par Apple et Google pourrait faire office de précédent pour leur demande.
« Les deux entreprises ont récemment démontré leur capacité à modérer rapidement les applications de leurs magasins. Par exemple, sous pression explicite, et peut-être menaces, du Département de la sécurité intérieure, vous avez rapidement retiré des applications permettant aux utilisateurs de signaler légalement les activités en matière d’immigration, comme ICEBlock et Red Dot. Contrairement à la génération de contenus répugnants par Grok, ces applications ne créaient ni n’hébergeaient de contenus nuisibles ou illégaux, et pourtant, exclusivement sur la base des affirmations de l’Administration qu’elles représentaient un risque pour les agents d’immigration, vous les avez supprimées de vos magasins. »
Les sénateurs espèrent ainsi que les deux entreprises adopteront un niveau similaire de réactivité.
