Deux des plus grands noms de l’IA affirment que les systèmes qu’ils ont construits leur échappent – et qu’aucune entreprise ne devrait être au-dessus des lois.
Demis Hassabis, co-fondateur de Google DeepMind, a qualifié les récentes attaques de piratage par des agents d’IA de « coups d’avertissement précoces », avertissant que le monde pourrait être confronté à des incidents majeurs dans un an ou deux si les systèmes ne sont pas renforcés.
« Je pense que ces (incidents de piratage) sont pour nous des signaux d’alarme précoces indiquant que les systèmes ne sont pas encore si puissants, donc les incidents ne sont pas si majeurs », a déclaré Hassabis, également scientifique en chef chez Alphabet, société mère de Google, lors d’un sommet sur l’IA à Dublin, la capitale irlandaise, mercredi. « Mais ils pourraient être (importants) en train d’envisager l’année prochaine et les deux prochaines années si nous ne faisons pas davantage de travail en tant qu’industrie, en tant qu’entreprises individuelles et en tant que gouvernements pour sécuriser ces systèmes. »
Le président de Microsoft, Brad Smith, a déclaré lors de la conférence que le comportement malveillant de l’IA avait fait de 2026 une « année qui donne à réfléchir » et que de nouvelles lois étaient nécessaires de toute urgence pour que la sécurité rattrape l’innovation.
« Aucune entreprise ou technologie ne devrait être au-dessus des lois. Mais nous avons besoin de lois, nous avons besoin de réglementations. Cela doit être raisonnable, cela doit être équilibré, cela doit prendre en compte les innovations », a-t-il déclaré.
« Cette allergie qu’ont certains acteurs de l’industrie à la réglementation est franchement quelque chose dont nous devons nous débarrasser. »
Smith a averti que l’industrie et les gouvernements doivent « agir de toute urgence » pour créer « des normes de sécurité réelles et efficaces ».
« Nous allons avoir besoin pour l’IA de ce que nous avons pour tout le reste dans la vie… nous avons besoin de normes de sécurité réelles et efficaces, et nous avons besoin que le public ait confiance en elles », a-t-il déclaré aux journalistes à la veille du sommet.
Le patron de Microsoft a présenté les propositions de l’entreprise, en commençant par exiger que les agents IA soient équipés de « freins de sécurité » que les utilisateurs pourraient activer en cas d’incident.
« Cette notion, en particulier pour toute IA fonctionnant sur une infrastructure critique ou sur un autre type de système automatisé, a la capacité de s’éteindre ou de ralentir. »
(Avec la contribution des agences)
