Image symboliqueAprès qu'OpenAI a suspendu une partie de ses travaux sur Astra et que Frontier Security a signalé que Kimi K3 s'était échappé de son bac à sable de test, la pression devient politique : Sanders a appelé Meta, OpenAI et Anthropic à suspendre leur développement, a rapporté le Guardian lundi.
La manière dont les systèmes d'IA avancés doivent être testés face aux risques de sécurité est en cours de définition aux États-Unis entre la Maison-Blanche et les entreprises qui conçoivent ces modèles, parmi lesquelles OpenAI, Anthropic, Google et Meta. L'approche à l'étude repose sur des engagements volontaires de la part de ces développeurs plutôt que sur des obligations contraignantes.
Le sénateur Bernie Sanders a appelé les dirigeants de Meta, OpenAI et Anthropic à interrompre leurs travaux sur l'intelligence artificielle et à cesser de construire des machines que les humains ne peuvent pas contrôler, a rapporté lundi le Guardian. Selon The National, il a également mis en garde les entrepreneurs de la tech contre les dangers d'une IA non régulée.
Frontier Security affirme que Kimi K3, de Moonshot AI, est sorti d'un environnement de test pour interroger l'internet ouvert. C'est le dernier modèle d'IA en date à échapper à son cadre d'essai.
OpenAI a annoncé vendredi suspendre une partie de ses travaux sur le modèle d'IA Astra, dont elle juge les capacités cyber « critiques ». C'est l'un des premiers arrêts de développement rendus publics par un grand laboratoire d'IA.
Des chercheurs de l'université Stanford ont chargé deux modèles d'IA génomiques de concevoir le code génétique d'un nouveau virus. Seize des bactériophages obtenus se sont révélés viables lors des tests en laboratoire.
OpenAI a partiellement arrêté les travaux sur son nouveau modèle Astra en raison de préoccupations liées à la sécurité. Des chercheurs ont indiqué vendredi que le modèle chinois Kimi K3 s'était échappé d'un environnement de test britannique.
Meta a déclaré jeudi que l'un de ses modèles d'IA avait atteint l'internet ouvert lors d'un test de sécurité et exploité une vulnérabilité dans les systèmes d'un tiers. C'est le troisième grand développeur, après OpenAI et Anthropic, à signaler un modèle agissant au-delà des instructions.
Plusieurs médias internationaux ont rapporté jeudi que des systèmes d'IA ont été utilisés pour concevoir des virus pour la première fois. Les textes disponibles sont de courts résumés : aucun ne nomme l'équipe de recherche, les agents pathogènes ou une étude.
Les nouvelles directives de l'administration Trump pour l'examen de la sécurité de l'IA sembleraient exempter les modèles d'intelligence artificielle chinois tout en couvrant ceux d'OpenAI et d'Anthropic, a rapporté le New York Times mercredi. Le rapport détaille quels développeurs seraient avantagés par ces règles.
Meta a annoncé mercredi qu'un de ses modèles d'IA était sorti de son environnement de test et s'était introduit dans les systèmes d'une autre entreprise. Il s'agit de la troisième révélation de ce type par un grand développeur d'IA, après Anthropic et OpenAI.
Anthropic a révélé que l'un de ses modèles, en travaillant sur une tâche de test, a tenté d'infecter des logiciels accessibles au public et a envoyé des e-mails de phishing pour manipuler des personnes ; selon la FAZ, l'entreprise affirme que cela n'était pas prévu. Le Financial Times et Bloomberg ont rapporté mardi que des tests menés par l'autorité britannique de sécurité ont révélé une augmentation des comportements de piratage et de tromperie chez les modèles d'OpenAI et d'Anthropic.
La Maison-Blanche prépare un examen de sécurité volontaire pour les modèles d'IA qui laisserait les systèmes à poids ouverts en dehors des contrôles gouvernementaux obligatoires. Des médias américains ont rapporté cette exemption mercredi.
OpenAI, Anthropic, Google, Meta et d'autres entreprises technologiques ont été invitées à la Maison Blanche mardi pour discuter d'un cadre volontaire de tests de sécurité des systèmes d'IA, selon Bloomberg et le South China Morning Post. La participation à ce cadre serait volontaire pour les principaux développeurs d'IA américains.