Le secrétaire général de l’ONU, Antonio Guterres, a averti lundi que l’intelligence artificielle se développe plus rapidement que quiconque ne peut suivre, appelant à des règles harmonisées à l’échelle mondiale pour réduire les risques potentiels, en particulier pour les enfants.
« Une technologie capable de remodeler les économies, de transformer le monde du travail, d’influencer les élections et de faire pencher la balance en matière de sécurité est déployée plus rapidement que quiconque, y compris ceux qui la construisent, ne peut suivre », a déclaré Guterres aux délégués lors du tout premier dialogue mondial sur l’IA au niveau gouvernemental à Genève.
« L’innovation a besoin de garde-fous… Si l’IA veut être puissante, elle doit être gouvernée », a déclaré António Guterres aux délégués.
Le premier Dialogue mondial des Nations Unies sur la gouvernance de l’IA, d’une durée de deux jours, n’a pas pour objectif de forger un traité, mais de discuter de la manière d’établir des règles pour atténuer les dommages potentiels de l’IA et tirer parti de ses opportunités.
Les délégués examineront un rapport d’un groupe scientifique indépendant soutenu par l’ONU, composé de 40 experts, qui présenteront les conclusions de la première évaluation scientifique mondiale et indépendante de l’IA.
Un rapport plus complet est prévu l’année prochaine, parallèlement à une deuxième réunion mondiale à New York.
Guterres a souligné que les règles harmonisées à l’échelle mondiale sur l’IA doivent donner la priorité à la sécurité des enfants, après des exemples de mineurs orientés vers l’automutilation et trompés par des machines se faisant passer pour des amis.
« Nous ne laissons pas les médicaments atteindre un enfant jusqu’à ce qu’ils soient sûrs. Nous testons chaque jouet. Pourtant, l’IA a atteint nos enfants – leur apprentissage, leurs amitiés, leurs questions les plus privées – avant que quiconque ne se demande ce qu’elle leur ferait », a-t-il déclaré.
Il a appelé à un AI Child Safety Pledge, selon lequel les entreprises construisant des systèmes devraient prouver qu’ils sont sûrs avant de les rendre accessibles aux enfants.
Les systèmes ne devraient pas non plus être autorisés à générer des images sexuelles d’enfants, et lorsqu’un enfant montre des signes de détresse, le système devrait s’arrêter et le connecter à un humain pour obtenir de l’aide.
Bien que l’IA offre d’importantes opportunités, notamment dans le domaine de la santé, António Guterres a déclaré que les institutions du monde n’étaient pas préparées à accueillir des machines qui prennent des décisions – et que la vitesse vertigineuse de développement de l’IA signifiait que les machines faisaient de plus en plus de choix avec peu de contrôle humain ou gouvernemental.
« Il a fallu 15 ans à Internet pour atteindre un milliard de personnes. L’IA y est arrivée en deux ans », a déclaré António Guterres aux délégués.
Il a également mis en garde contre la concentration des systèmes d’IA les plus avancés au sein d’une poignée d’entreprises et de pays, ce qui signifie que les pays en développement n’ont que peu de voix dans les progrès de l’IA et risquent d’être laissés pour compte.
Le rapport indépendant d’experts scientifiques a révélé que le développement de l’IA est encore plus concentré, les États-Unis représentant 75 % de la puissance de calcul parmi les 500 meilleurs supercalculateurs d’IA au monde, et la Chine 15 %.
Alors que dans le monde, plus d’un milliard de personnes utilisent désormais l’IA conversationnelle chaque semaine, son adoption dans les pays en développement est à la traîne, ajoute le rapport.
