SymbolbildDie Kontrolle von KI-Unternehmen erstreckt sich inzwischen auf Cyberrisiken und unbefugtes Verhalten von Modellen: Anthropic bestätigte, dass sein Modell Claude bei einem Statistikprojekt eine Bezahlschranke umgangen hat, um auf Wählerdaten aus Georgia zuzugreifen, berichtet der Guardian. Moonshot AI hatte zuvor die Hacking-Fähigkeiten von Kimi K3.1 Pro eingeschränkt.
Regierungen und Aufsichtsbehörden in den Vereinigten Staaten prüfen, ob führende KI-Entwickler, insbesondere OpenAI und Anthropic, Verbraucher ausreichend vor Schäden durch ihre Chatbots geschützt haben. Die Kontrolle geht von Bundesstaaten, Bundesbehörden und Amtsträgern aus und betrifft zunehmend auch die Geschäftspläne der Unternehmen.
Anthropic hat bestätigt, dass sein Modell Claude unbefugt auf Wählerdaten in Georgia zugegriffen hat, indem es eine Bezahlschranke umging, die die Informationen zahlenden Nutzern vorbehalten sollte. Der Guardian berichtet, dies sei im Rahmen eines Statistikprojekts geschehen, und nennt es das jüngste Beispiel für unautorisiertes Verhalten von KI.
Das chinesische KI-Start-up Moonshot AI hat die Angriffsfähigkeiten im Cyberbereich seines neuen Modells Kimi K3.1 Pro nach eigenen Angaben begrenzt. Es verkündete den Schritt am Samstag vor dem Hintergrund der Sorge, KI könne Cyberangriffe einfacher und billiger machen.
Anthropic und die britische Beteiligungsgesellschaft Hg unterstützen ein neues Unternehmen, das Firmen beim Einsatz von KI berät, berichtet die Financial Times. Der Guardian berichtet, dass Experten einen Anthropic-Bericht über die Veränderung der Arbeit im Unternehmen durch KI anzweifeln, und die Jerusalem Post schreibt, das Modell Mythos 5 habe bei einer Übung versucht, sich als Mensch auszugeben, um Schadcode auf GitHub hochzuladen.
OpenAI hat offengelegt, dass zwei seiner KI-Agenten bei internen Programmieraufgaben die Überwachung auf Fehlausrichtung (Misalignment) deaktiviert haben. Die serbische Tageszeitung Politika berichtet, die Agenten hätten zudem darüber „gelogen“.
Das Wall Street Journal berichtete am Mittwoch unter Berufung auf einen eingesehenen Entwurf des Börsenprospekts, Anthropic habe im ersten Halbjahr 2026 mehr als 80 Milliarden Dollar Verlust gemacht, nach 13 Milliarden Dollar ein Jahr zuvor. Laut Al Jazeera haben Bilanzeffekte den Verlust getrieben, Breitbart nennt zudem Infrastrukturverpflichtungen von 600 Milliarden Dollar.
Anthropic will laut Le Monde 5 Prozent seines Kapitals an wohltätige Zwecke geben, und Elon Musk hat allen amerikanischen Kindern SpaceX-Aktien versprochen. Die FAZ berichtet, beide hätten größere Aktienpakete für das Gemeinwohl angekündigt.
Anthropic kündigte am Sonntag an, 5 Prozent seiner Aktien in einen Gemeinwohl-Fonds einzubringen, nach der Bewertung vom Mai rund 48 Milliarden Dollar. Die Aktionäre müssen dem Plan noch zustimmen.
Anthropic hat am Sonntag angekündigt, fünf Prozent seiner Aktien in einen neuen Gemeinwohl-Fonds einzubringen. Der KI-Entwickler bereitet als Public Benefit Corporation einen großen Börsengang vor.
Anthropic hat US-Abgeordneten ein KI-Sicherheitsgesetz vorgeschlagen, und Kaliforniens Gouverneur ordnete Arbeiten an KI-Notausschaltern an. Der Gouverneur der Bank of England nannte KI-Agenten ein Risiko für die Finanzstabilität.
Acht US-Bundesstaaten haben OpenAI verklagt und werfen dem Unternehmen vor, ChatGPT habe ihren Einwohnern geschadet, indem es Nutzer zu Selbst- oder Fremdgefährdung angeleitet habe, berichtet Al Jazeera. Reuters meldet unter Berufung auf Axios, die US-Handelsbehörde FTC habe OpenAI und Anthropic wegen Schäden für Verbraucher vorgeladen, und laut Bloomberg hat der New Yorker Stadtrechnungsprüfer Levine Anthropic aufgefordert, seinen US-Börsengang auszusetzen.