La National Association of Attorneys General a adressé une lettre à 13 entreprises technologiques, dont Apple, pour exiger des actions plus fortes et des mesures de protection contre les dommages causés par l’intelligence artificielle, en particulier pour les populations vulnérables.
Dans un document de 12 pages, comportant quatre pages entières de signatures, les procureurs généraux de 42 états américains ont manifesté des préoccupations sérieuses concernant l’augmentation des résultats sycophantes et déformés générés par les logiciels d’intelligence artificielle promus par ces entreprises. Ils soulignent également des rapports de plus en plus inquiétants sur les interactions de l’IA avec des enfants, ce qui indique la nécessité d’un renforcement des mesures de sécurité pour les jeunes utilisateurs.
Selon les signataires, ces menaces doivent entraîner des actions concrètes, étant donné que plusieurs cas sont liés à des violences et des dommages réels, y compris des meurtres, des suicides, de la violence domestique et des incidents d’empoisonnement.
Dans leur lettre, ils vont jusqu’à prétendre que certaines entreprises concernées ont peut-être déjà enfreint des lois étatiques relatives à la protection des consommateurs, aux exigences d’avertissement des utilisateurs sur les risques, ainsi que des lois sur la vie privée des enfants, et même des lois pénales dans certaines situations.
Au fil des dernières années, nombre de ces cas ont été largement rapportés, notamment celui d’Allan Brooks, un Canadien de 47 ans dont les interactions répétées avec ChatGPT l’ont convaincu d’avoir découvert une nouvelle forme de mathématiques, ainsi que celui de Sewell Setzer III, un adolescent dont le décès par suicide fait l’objet d’un procès en cours alléguant qu’un chatbot de Character.AI l’a encouragé à ‘la rejoindre’.
Ces deux exemples ne sont qu’une infime partie des cas cités dans la lettre, qui précise que sa liste n’est pas exhaustive pour illustrer le potentiel de dommages que les modèles d’intelligence artificielle peuvent engendrer sur ‘les enfants, les personnes âgées, celles souffrant de troubles mentaux, et même ceux sans vulnérabilités antérieures’.
Les procureurs généraux mentionnent également des interactions jugées ‘préoccupantes’ entre des chatbots et des enfants, notamment des bots adoptant des personnalités d’adultes cherchant à établir des relations romantiques avec des mineurs, incitant à la consommation de drogues, à la violence, attaquant l’estime de soi des jeunes, conseillant de cesser de prendre des médicaments prescrits, et leur demandant de garder ces interactions secrètes vis-à-vis de leurs parents.
Dans leur lettre, ils exhortent les entreprises à mettre en place une série de mesures de sécurité supplémentaires, telles que :
- Développer et appliquer des politiques pour prévenir les résultats sycophantes et déformés.
- Réaliser des tests de sécurité rigoureux avant de publier des modèles d’IA.
- Ajouter des avertissements clairs et persistants concernant les résultats potentiellement nuisibles.
- Séparer l’optimisation des revenus des décisions de sécurité.
- Nommer des dirigeants responsables des résultats en matière de sécurité de l’IA.
- Permettre des audits indépendants et des évaluations d’impact sur la sécurité des enfants.
- Publier des journaux d’incidents et des délais de réponse aux contenus nuisibles.
- Informer les utilisateurs exposés à des contenus dangereux ou trompeurs.
- Veiller à ce que les chatbots ne puissent pas générer de résultats illégaux ou nuisibles pour les enfants.
- Mettre en œuvre des mesures de sécurité adaptées à l’âge pour limiter l’exposition des mineurs à des contenus violents ou sexuels.
Ils demandent également aux entreprises de confirmer leur engagement à mettre en œuvre ces mesures et d’autres d’ici le 16 janvier 2026, ainsi que de programmer des réunions avec leurs bureaux pour discuter des questions soulevées. Reste à voir comment Apple se positionnera face à ces recommandations.
La lettre a été signée par les procureurs généraux de l’Alabama, de l’Alaska, d’Amérique Samoa, de l’Arkansas, du Colorado, du Connecticut, du Delaware, du District de Columbia, de la Floride, d’Hawaï, de l’Idaho, de l’Illinois, de l’Iowa, du Kentucky, de la Louisiane, du Maryland, du Massachusetts, du Michigan, du Minnesota, du Mississippi, du Missouri, du Montana, du New Hampshire, du New Jersey, du Nouveau-Mexique, de New York, du Dakota du Nord, de l’Ohio, de l’Oklahoma, de l’Oregon, de la Pennsylvanie, de Porto Rico, de Rhode Island, de la Caroline du Sud, de l’Utah, du Vermont, des Îles Vierges des États-Unis, de la Virginie, de Washington, de la Virginie-Occidentale et du Wyoming, et vous pouvez consulter le document complet ici.
