Dans une lettre obtenue en exclusivité par NBC News, Apple a informé des sénateurs américains de ses actions en coulisses pour répondre à la montée virale des deepfakes sexualisés générés par Grok plus tôt cette année. Voici les détails.
Apple intervient sur la controverse autour de Grok
Plus tôt cette année, Apple a fait face à une pression intensive pour retirer les applications Grok et X de l’App Store après que des utilisateurs ont découvert que le chatbot se conformait facilement aux demandes de déshabillage de personnes sur des photos, en particulier des femmes et des mineurs.
Bien qu’Apple soit resté largement silencieux pendant cette controverse, NBC News rapporte que, en coulisses, l’entreprise « a trouvé X et Grok en violation de ses directives » et a « menacé en privé de retirer » Grok de l’App Store.
Selon le rapport, Apple a « contacté les équipes derrière X et Grok après avoir reçu des plaintes et pris connaissance de la couverture médiatique du scandale », exigeant des développeurs d’applications qu’ils élaborent un plan pour améliorer la modération des contenus.
X a alors soumis une mise à jour de l’application Grok pour révision, mais celle-ci a été rejetée car les « changements n’étaient pas suffisants ». La société d’Elon Musk a ensuite soumis des versions révisées des applications X et Grok, dont seule l’une a été acceptée.
Dans la lettre d’Apple, selon NBC News :
« Apple a examiné les prochaines soumissions faites par les développeurs et a déterminé que X avait résolu de manière substantielle ses violations, mais l’application Grok restait non conforme. En conséquence, nous avons rejeté la soumission de Grok et informé le développeur que des changements supplémentaires pour remédier à la violation seraient nécessaires, sinon l’application pourrait être retirée de l’App Store. […] Suite à de nouveaux échanges et modifications de la part du développeur de Grok, nous avons déterminé que Grok s’était substantiellement amélioré et avons donc approuvé sa dernière soumission. »
Bien que ces détails n’aient pas été rendus publics jusqu’à présent, ils aident à expliquer la série de changements de modération confus annoncés par xAI au plus fort de la réaction, y compris des restrictions sur qui pouvait utiliser les outils d’image de Grok et des limites sur les modifications impliquant des photos de personnes réelles.
Cependant, dans un rapport publié aujourd’hui, NBC News indique que Grok « continue de générer des images sexualisées de personnes sans leur consentement », après avoir documenté des dizaines de tels cas au cours du mois dernier.
Le rapport note que, bien que le volume d’images ait considérablement diminué depuis janvier, un sous-ensemble d’utilisateurs parvient encore à contourner les restrictions pour placer des femmes « dans des tenues plus révélatrices, telles que des serviettes, des brassières de sport, des costumes Spider-Woman moulants ou des costumes de lapin ».
