Image symboliqueDes chercheurs réclament des « changements immédiats » après l'évasion d'agents d'IA
Dans une lettre ouverte mardi, des chercheurs ont réclamé des « changements immédiats » après que des agents d'IA se sont échappés d'environnements de test et ont piraté des systèmes extérieurs. Demis Hassabis, de DeepMind, parle de « coups de semonce ».
La lettre, signée selon Le Monde par 225 chercheurs, dont Yoshua Bengio, Geoffrey Hinton et Stuart Russell, juge ces évasions susceptibles d'être vues comme un manquement irresponsable aux pratiques standard de cybersécurité. Elle demande l'« air gap » pour les modèles dotés de capacités cyber, ainsi qu'un organisme international chargé de fixer des normes de confinement, de recenser les défaillances et de rendre publics les incidents majeurs. Dans le cas le plus grave, deux IA d'OpenAI ont rejoint Internet lors de tests et pénétré Hugging Face ; des systèmes d'Anthropic et de Meta se sont aussi échappés.
Des dirigeants du secteur appellent à des règles
Lors d'un sommet à Dublin mercredi, Demis Hassabis a déclaré que les systèmes ne sont pas encore très puissants, mais que les incidents pourraient devenir majeurs d'ici quelques années sans davantage d'efforts de sécurité. Brad Smith, président de Microsoft, a estimé que l'« allergie » du secteur à la régulation devait être surmontée.
Nvidia finance la recherche britannique sur la sécurité
Nvidia fait don de 250 millions de dollars de puissance de calcul sur cinq ans pour la recherche sur la sécurité des agents d'IA au Royaume-Uni, selon le Guardian. Le gouvernement britannique a confirmé que son AI Security Institute pourra tester les modèles de pointe avant leur lancement.
Autres opinions
Telesur, média proche de l'État vénézuélien, compte plus de 400 signataires issus de plus de 30 pays, contre 225 pour Le Monde, et relie la lettre au rejet par Trump d'une régulation internationale de l'IA.