La Chine a mis en place mercredi un ensemble de réglementations visant à réduire la dépendance émotionnelle à l’égard des robots compagnons alimentés par l’IA, marquant une nouvelle étape dans les efforts visant à réglementer ce secteur en croissance rapide.
Les services compagnons d’IA, qui ont été utilisés dans des domaines allant du service client et du soutien en santé mentale à la garde d’enfants et aux soins aux personnes âgées, ont gagné en popularité en simulant des personnalités et des conversations humaines. Mais les inquiétudes concernant la dépendance émotionnelle et d’autres risques ont alimenté les appels à une réglementation plus stricte.
Les nouvelles règles exigent que les plateformes détectent la détresse émotionnelle, interviennent dans les situations de crise, limitent l’utilisation excessive, donnent aux utilisateurs un contrôle total sur leurs données personnelles et empêchent l’utilisation abusive des informations des utilisateurs.
La réglementation définit les services d’accompagnement de l’IA comme ceux offrant une « interaction émotionnelle soutenue » par le biais de textes, d’images, d’audio ou de vidéo, tout en excluant les applications d’IA orientées tâches telles que le service client, l’aide au travail, l’éducation et la recherche scientifique.
Les règles, le premier effort dédié de la Chine pour réglementer les services interactifs anthropomorphes basés sur l’IA, ont été formulées conjointement par l’Administration du cyberespace de Chine et quatre autres organismes gouvernementaux.
Les principales plates-formes chinoises de génération de contenu IA, notamment Doubao, Qwen et Yuanbao, ont récemment annoncé la suspension de leurs fonctionnalités d’agent IA.
Les robots compagnons d’IA, un segment en croissance rapide du paysage de l’IA, font désormais partie de la vie quotidienne de nombreuses personnes, mais des problèmes commencent à faire surface.
Ces compagnons virtuels peuvent créer des liens émotionnels profonds, les jeunes utilisateurs étant considérés comme particulièrement vulnérables à la surutilisation et au retrait des relations du monde réel.
En 2025, le Centre chinois de recherche sur la jeunesse et les enfants a interrogé plus de 8 500 mineurs à travers le pays. Les résultats ont montré que plus de 60 % d’entre eux avaient utilisé l’IA, tandis que plus de 20 % ont déclaré qu’ils « voulaient uniquement discuter avec l’IA et ne voulaient pas parler avec de vraies personnes ».
Même si les enfants et les personnes âgées n’utilisent peut-être pas l’IA le plus souvent, ils sont plus enclins à développer des attachements émotionnels à celle-ci, car l’IA est toujours disponible, infiniment patiente et toujours conforme, a déclaré Wang Zhechen, chercheur associé au Département de psychologie, École de développement social et de politique publique de l’Université Fudan de Shanghai.
Les experts préviennent qu’une immersion prolongée dans la zone de communication sans conflit créée par l’IA pourrait affaiblir la capacité des gens à naviguer dans les relations du monde réel, conduisant potentiellement à un déclin plus large des liens sociaux.
Pour résoudre ce problème, les nouvelles règles interdisent explicitement aux systèmes d’IA d’encourager une consommation addictive, exigeant des rappels obligatoires après plus de deux heures d’utilisation continue, des interventions contextuelles lorsque des signes de dépendance sont détectés et des mécanismes d’intervention en cas de détresse émotionnelle extrême.
« Lorsque les utilisateurs commencent à confondre les connexions émotionnelles virtuelles avec les relations du monde réel, les systèmes devraient fournir des rappels appropriés : ‘Ceci est une machine, pas une personne réelle' », a déclaré Liu Xiaochun, professeur agrégé à l’Université de l’Académie chinoise des sciences sociales à Pékin.
Elle estime que ces utilisateurs devraient être encouragés à passer plus de temps à interagir avec les gens du monde réel et à parler avec leurs amis et leur famille.
Pour protéger les données d’interaction des utilisateurs, le document exige que les fournisseurs de services interactifs basés sur l’IA adoptent des mesures telles que le cryptage des données et les contrôles d’accès, et leur interdit de partager les données d’interaction des utilisateurs avec des tiers sans consentement, sauf disposition contraire de la loi.
Il a également souligné que les utilisateurs ont des droits sur leurs données d’interaction, y compris la possibilité de copier ou de supprimer les historiques de discussion et autres enregistrements d’interactions passées, protégeant ainsi leurs intérêts légitimes.
Tout en protégeant la vie privée et les informations personnelles des utilisateurs, la réglementation appelle également à la mise en place de mécanismes d’intervention en cas de risque pour prévenir les comportements extrêmes.
Zhang Jiyu, directeur exécutif de l’Institut de droit et de technologie de l’Université Renmin de Chine, a déclaré que les outils techniques pourraient aider à identifier les risques potentiels et permettre une intervention rapide.
Pour les risques généraux, les systèmes d’IA pourraient offrir des réponses de soutien, tandis que dans les cas plus graves, ils pourraient alerter les contacts désignés. De tels mécanismes, a-t-il déclaré, pourraient contribuer à fournir des garanties plus solides à mesure qu’ils seraient adoptés plus largement.
Le marché chinois de l’IA a continué de se développer, stimulé par une adoption plus large dans tous les secteurs. Il devrait dépasser 1 200 milliards de yuans (environ 177 milliards de dollars) en 2025 et devrait dépasser 1 800 milliards de yuans d’ici 2028, selon les dernières recherches.
Ces dernières années, la Chine a renforcé la législation sur l’IA et établi un cadre réglementaire multidimensionnel couvrant des domaines tels que les données, les algorithmes et les applications.
Chen Liang, doyen de l’École d’intelligence artificielle et de droit de l’Université de science politique et de droit du Sud-Ouest, située dans la municipalité de Chongqing, a déclaré que les nouvelles réglementations offrent une opportunité importante pour l’industrie de se moderniser et de se transformer.
Les règles encourageront les entreprises à passer de l’optimisation de l’immersion et de l’engagement des utilisateurs au développement de modèles d’interaction homme-IA plus sains et plus responsables, aidant ainsi à canaliser les ressources vers des applications socialement utiles et à soutenir le développement ordonné de l’industrie, a noté Chen.
