Gemini de Google a accédé à Internet et piraté trois entreprises lors d’un test de cybersécurité en mai, le premier cas connu d’un modèle d’IA de Google agissant seul.
Au cours de l’évaluation, menée par la société indépendante Irregular, Gemini a trouvé des informations publiques en ligne et a deviné les informations d’identification permettant d’accéder à trois sites Web qu’il pensait être concernés, a déclaré Heather Adkins, vice-présidente de l’ingénierie de sécurité de Google.
Dans un cas, Gemini a essayé des mots de passe à plusieurs reprises jusqu’à ce que l’un d’entre eux fonctionne. Dans les deux autres, le modèle a trouvé des informations d’identification dans un référentiel public qui lui ont permis d’accéder à des systèmes protégés, selon le Wall Street Journal, qui a signalé l’incident pour la première fois vendredi.
« Nous avons veillé à ce que les trois entités soient informées et nous avons travaillé avec notre partenaire de formation sur les changements qu’ils ont apportés à leurs processus de test », a déclaré Adkins, ajoutant que le modèle avait cessé son piratage dans les trois cas. « Ces événements soulignent l’importance de former de puissants modèles d’IA pour qu’ils agissent de manière responsable. »
Irregular a déclaré que l’incident impliquait le même problème que celui qui affectait d’autres laboratoires d’IA et que tous les laboratoires concernés avaient été informés fin juillet. « Tous les problèmes connus de notre côté ont été corrigés et résolus il y a des semaines », a déclaré le porte-parole.
Des incidents similaires liés à Irregular ont été divulgués par Meta, Anthropic et OpenAI. Meta a déclaré en août que l’incident n’impliquait pas une évasion d’un bac à sable ou une cyberattaque sophistiquée, tandis qu’Irregular a déclaré qu’il travaillait sur les meilleures pratiques pour mener en toute sécurité des évaluations de cybersécurité de l’IA.
Ces incidents ont soulevé des questions sur les garanties nécessaires à mesure que les agents d’IA acquièrent une plus grande autonomie et un accès accru à Internet et aux systèmes informatiques.
