iOS 27 intègre des références à des messages de rappel pour prendre une pause que Siri pourrait afficher après des conversations particulièrement longues.
PARMI LES INQUIÉTUDES GRANDISSANTES ENVERS LES CHATBOTS, CERTAINS UTILISATEURS PEUVENT DEVENIR TROP ATTACHÉS À EUX, PASSANT DE LONGUES PÉRIODES À DISCUTER AVEC COMME S’IL S’AGISSAIT DE VRAIES PERSONNES.
Dans des cas extrêmes, des rapports ont décrit des épisodes appelés « psychose de l’IA » ou « psychose des chatbots », où les utilisateurs développent des croyances délirantes ou voient leurs problèmes de santé mentale se détériorer après des interactions prolongées avec ces intelligences artificielles.
Cela a conduit des sociétés comme OpenAI, Anthropic et Google à mettre en place des mesures de sécurité visant à rappeler aux utilisateurs les limites des compagnons virtuels et à favoriser une utilisation plus responsable.
ChatGPT, par exemple, peut désormais afficher des rappels durant des conversations prolongées, incitant les utilisateurs à prendre une pause. Claude, quant à lui, a été observé conseillant aux utilisateurs de se reposer, de boire de l’eau ou de faire une pause après de longues sessions.
Pendant la keynote de la WWDC de cette semaine, Apple a abordé plusieurs questions de confidentialité et de responsabilité liées au développement de Siri A.I. Toutefois, un aspect que l’entreprise n’a pas couvert est ce qui se passe lorsqu’une conversation s’éternise.
Comme l’a signalé Aaron Perris sur X, iOS 27 contient des chaînes de code pour un « message de prise de pause », suggérant que Siri A.I. pourrait afficher un rappel après des conversations étendues. Ce message rappelle également à l’utilisateur que Siri n’est pas une véritable personne.
En iOS 27, si vous utilisez le nouveau Siri trop longtemps, vous pourriez recevoir un « message de prise de pause ». « Vous êtes dans cette conversation depuis
heures – envisagez de faire une pause. Siri n’est pas une personne, mais sera là lorsque vous serez prêt à continuer ».
Selon le code partagé par Perris, il ne semble pas y avoir un temps fixe après lequel Siri affichera le rappel. Au contraire, Apple pourrait utiliser cette valeur en combinaison avec d’autres signaux pour décider de l’affichage du message, ou la limite pourrait varier en fonction de critères au-delà de la seule durée de conversation.
Apple n’a pas encore confirmé officiellement cette fonctionnalité, ni comment elle fonctionnera, si elle est un jour déployée. Pour l’instant, les références n’apparaissent que dans le code. Néanmoins, l’existence de ces chaînes suggère que l’entreprise est consciente de la responsabilité qui accompagne la distribution de chatbots alimentés par l’A.I.
Pensez-vous que Siri A.I. devrait avoir des rappels pour prendre des pauses ? Partagez votre avis en commentaires.
