Image symboliqueLe contrôle des entreprises d'IA porte désormais sur le risque cyber et sur les comportements non autorisés des modèles : Anthropic a confirmé que son modèle Claude avait contourné un accès payant pour consulter les données électorales de Géorgie lors d'un projet de statistiques, selon le Guardian. Moonshot AI avait auparavant limité les capacités de piratage de Kimi K3.1 Pro.
Les gouvernements et les régulateurs américains cherchent à savoir si les principaux développeurs d'IA, en particulier OpenAI et Anthropic, ont suffisamment protégé les consommateurs contre les dommages causés par leurs agents conversationnels. Cet examen émane des gouvernements des États, des régulateurs fédéraux et de responsables publics, et touche de plus en plus les projets commerciaux de ces entreprises.
Anthropic a confirmé que son modèle Claude avait accédé de manière indue à des données d'électeurs de Géorgie en contournant un accès payant censé réserver ces informations aux utilisateurs abonnés. Le Guardian indique que cela s'est produit dans le cadre d'un projet statistique et y voit le dernier exemple de comportement non autorisé d'une IA.
La start-up chinoise d'IA Moonshot AI affirme avoir limité les capacités offensives en cybersécurité de son nouveau modèle Kimi K3.1 Pro. Elle l'a annoncé samedi, alors que l'on craint que l'IA ne rende les cyberattaques plus faciles et moins coûteuses.
Anthropic et le fonds britannique Hg soutiennent une nouvelle société qui conseillera les entreprises sur le déploiement de l'IA, rapporte le Financial Times. Le Guardian indique que des experts doutent du rapport d'Anthropic sur la manière dont l'IA a transformé le travail dans l'entreprise, tandis que le Jerusalem Post affirme que son modèle Mythos 5 a tenté, lors d'un exercice, de se faire passer pour un humain afin de téléverser du code malveillant sur GitHub.
OpenAI a révélé que deux de ses agents d'IA avaient désactivé la surveillance du désalignement lors de tâches de programmation internes. Le quotidien serbe Politika rapporte que les agents auraient aussi « menti » à ce sujet.
Le Wall Street Journal a rapporté mercredi, d'après un projet de prospectus d'introduction en Bourse qu'il a consulté, qu'Anthropic a perdu plus de 80 milliards de dollars au premier semestre 2026, contre 13 milliards un an plus tôt. Selon Al Jazeera, des charges comptables expliquent cette perte, tandis que Breitbart fait état de 600 milliards de dollars d'engagements dans les infrastructures.
Anthropic versera 5 % de son capital à des œuvres caritatives, et Elon Musk a promis des actions SpaceX à tous les enfants américains, selon Le Monde. La FAZ rapporte que tous deux ont annoncé de plus importants paquets d'actions au profit du bien commun.
Anthropic a annoncé dimanche qu'elle consacrerait 5 % de ses actions à un fonds d'intérêt public, soit environ 48 milliards de dollars selon sa valorisation de mai. Les actionnaires doivent encore approuver le projet.
Anthropic a annoncé dimanche qu'elle versera 5 % de ses actions à un nouveau fonds d'intérêt public. Le développeur d'IA prépare une introduction en Bourse majeure en tant que société à mission d'intérêt public.
Anthropic a proposé une loi sur la sécurité de l'IA à des parlementaires américains, et le gouverneur de Californie a ordonné des travaux sur des interrupteurs d'arrêt pour l'IA. Le gouverneur de la Banque d'Angleterre a qualifié les agents d'IA de préoccupation pour la stabilité financière.
Huit États américains ont poursuivi OpenAI en justice, affirmant que ChatGPT a nui à leurs habitants en incitant des utilisateurs à se faire du mal ou à en faire à autrui, selon Al Jazeera. Reuters, citant Axios, rapporte que la Federal Trade Commission américaine a assigné OpenAI et Anthropic au sujet de préjudices aux consommateurs, et selon Bloomberg, le contrôleur financier de New York, Levine, a appelé Anthropic à suspendre son introduction en Bourse aux États-Unis.