Quelques heures après qu’une coalition d’organisations pour les droits numériques, la sécurité des enfants et les droits des femmes a demandé à Apple de « prendre des mesures immédiates » contre X et Grok AI, xAI a confirmé que Grok ne modifiera plus les images de « personnes réelles en vêtements révélateurs, tels que des bikinis », bien qu’avec des exceptions notables.
Dans les derniers jours, de nombreux utilisateurs de X et Grok ont demandé au chatbot xAI de déshabiller des femmes et même des filles mineures, à partir de photos publiées sur X. Alors qu’xAI a d’abord qualifié la situation de « lacunes dans les mesures de sécurité », Grok a continué de répondre à plusieurs demandes en ce sens. Cela a conduit à un blocage de X dans plusieurs pays et à des enquêtes lancées contre xAI dans d’autres.
Parallèlement, Apple fait face à une pression renouvelée pour retirer les applications X et Grok de l’App Store, tant de la part de sénateurs que des utilisateurs. Aujourd’hui, une coalition de 28 organisations a envoyé des lettres ouvertes à Apple et à Google, demandant aux deux entreprises « de prendre des mesures immédiates pour interdire Grok, le modèle de langage (LLM) alimenté par xAI », de leurs magasins d’applications.
Dans la lettre ouverte, on peut lire :
Nous, soussignés, exhortons la direction d’Apple à agir immédiatement pour interdire Grok, qui est utilisé pour créer un nombre massif d’images intimes non consensuelles, y compris des contenus de nature criminelle.
Alors qu’Apple et Google sont restés relativement silencieux depuis le début de l’affaire, xAI a confirmé aujourd’hui qu’il mettrait à jour le compte Grok sur X pour aborder le problème, au moins en partie. Dans une annonce, xAI a déclaré :
Nous avons mis en place des mesures technologiques pour empêcher le compte Grok de permettre l’édition d’images de personnes réelles en vêtements révélateurs. Cette restriction s’applique à tous les utilisateurs.
Il est fort probable qu’avec ces nouvelles règles, Grok continuera d’attirer des critiques. En effet, une recherche rapide montre que de nombreux abonnés de X tentent déjà de contourner les restrictions nouvellement imposées, avec un certain succès. Pendant ce temps, les non-abonnés reçoivent principalement le message suivant :
La génération et l’édition d’images sont actuellement limitées aux abonnés Premium vérifiés.
À mesure que xAI ajuste les filtres et les règles, il reste à voir si ces mesures seront suffisantes pour mettre fin à cette affaire. L’histoire montre que certains utilisateurs peuvent être créatifs pour contourner les restrictions de sécurité, surtout lorsqu’il s’agit de harceler en ligne. La position d’Apple suscite une grande déception auprès de ceux qui espèrent des actions plus fermes de la part de la direction.
