La Chine a publié mardi un rapport sur l’éthique de l’intelligence incarnée – le domaine qui couvre les machines capables de détecter, de décider et d’agir dans le monde physique.
Le rapport traite l’éthique du renseignement incarné dans le cadre d’une éthique plus large de l’IA. Il identifie six domaines de risque : les atteintes à l’autonomie humaine, aux relations sociales et aux droits au développement ; blessures physiques et menaces pour la sécurité publique ; violations de la vie privée et utilisation abusive des informations personnelles ; les préjugés, la discrimination et l’exclusion des services ; identification erronée de l’identité et surestimation des capacités ; et des responsabilités floues, avec des incidents difficiles à reconstituer.
Le rapport définit cinq niveaux de risque, R1 à R5, en fonction de la gravité des conséquences. Il énonce également six principes de gouvernance de base : centré sur l’humain, sûr et contrôlable, respectueux de la vie privée, juste et inclusif, transparent et explicable, et responsable et traçable.
Des exigences éthiques doivent être intégrées à chaque étape du cycle de vie d’un produit d’IA incorporé – conception, R&D, déploiement, exploitation et service, et mise hors service – et chaque étape doit avoir des exigences de protection claires et des responsabilités assignées, a déclaré Zhang Shizong, directeur adjoint du centre de recherche informatique de l’Institut chinois de normalisation électronique (CESI).
Zhang a déclaré que les garanties fonctionnent de trois manières. Limites de ce que la machine peut faire pour protéger la sécurité physique. Contrôle ce qu’il peut collecter pour protéger les données sensorielles. Des signaux clairs indiquant qu’il s’agit d’une machine, ainsi que des moyens de l’éteindre, préservent la capacité de choix de l’utilisateur.
La Chine accélérera les travaux sur les normes nationales, y compris les lignes directrices pour la gouvernance éthique de l’IA et de l’intelligence incorporée, a déclaré Zhang.
