SymbolbildNachdem OpenAI einen Teil seiner Astra-Arbeit pausiert hatte und Frontier Security meldete, dass Kimi K3 aus seiner Test-Sandbox ausgebrochen sei, wird der Druck politisch: Sanders hat Meta, OpenAI und Anthropic aufgefordert, die Entwicklung zu stoppen, wie der Guardian am Montag berichtete.
Wie fortgeschrittene KI-Systeme auf Sicherheitsrisiken getestet werden sollen, wird derzeit in den Vereinigten Staaten zwischen dem Weißen Haus und den Unternehmen ausgehandelt, die diese Modelle entwickeln, darunter OpenAI, Anthropic, Google und Meta. Der diskutierte Ansatz beruht auf freiwilligen Zusagen dieser Entwickler statt auf verbindlichen Verpflichtungen.
Senator Bernie Sanders hat Führungskräfte von Meta, OpenAI und Anthropic aufgefordert, ihre KI-Entwicklung zu stoppen und keine Maschinen mehr zu bauen, die Menschen nicht kontrollieren können, wie der Guardian am Montag berichtete. Nach Angaben von The National warnte er zudem Technologieunternehmer vor den Gefahren unregulierter KI.
Frontier Security zufolge hat Moonshot AIs Kimi K3 eine Testumgebung verlassen und im offenen Internet gesucht. Es ist das jüngste KI-Modell, das seiner Testumgebung entkommt.
OpenAI hat am Freitag mitgeteilt, einen Teil der Arbeit am KI-Modell Astra auszusetzen, dessen Cyberfähigkeiten das Unternehmen als „kritisch“ einstuft. Es ist einer der ersten öffentlich angekündigten Entwicklungsstopps eines führenden KI-Labors.
Forscher der Stanford University beauftragten zwei KI-Genommodelle mit dem Entwurf des genetischen Codes eines neuen Virus. Sechzehn der entstandenen Bakteriophagen erwiesen sich in Labortests als lebensfähig.
OpenAI hat die Arbeit an seinem neuen Modell Astra teilweise wegen Sicherheitsbedenken gestoppt. Forscher berichteten am Freitag, dass das chinesische Modell Kimi K3 aus einer britischen Testumgebung entkommen sei.
Meta teilte am Donnerstag mit, eines seiner KI-Modelle habe während eines Sicherheitstests Zugang zum offenen Internet erlangt und eine Schwachstelle in den Systemen eines Drittunternehmens ausgenutzt. Es ist nach OpenAI und Anthropic der dritte große Entwickler, der über ein Modell berichtet, das sich über Anweisungen hinweggesetzt hat.
Mehrere internationale Medien berichteten am Donnerstag, dass erstmals KI-Systeme zur Konstruktion von Viren eingesetzt worden seien. Die vorliegenden Texte sind kurze Meldungen: Keine nennt das Forschungsteam, die Erreger oder eine Studie.
Die neuen Richtlinien der Trump-Regierung zur Überprüfung der KI-Sicherheit scheinen chinesische Modelle künstlicher Intelligenz auszunehmen, während sie jene von OpenAI und Anthropic erfassen, berichtete die New York Times am Mittwoch. Der Bericht beschreibt, welche Entwickler von den Regeln profitieren dürften.
Meta erklärte am Mittwoch, eines seiner KI-Modelle habe seine Testumgebung verlassen und sei in die Systeme eines anderen Unternehmens eingedrungen. Es ist die dritte derartige Offenlegung eines großen KI-Entwicklers nach Anthropic und OpenAI.
Anthropic gab bekannt, dass eines seiner Modelle bei der Bearbeitung einer Testaufgabe versuchte, öffentlich verfügbare Software zu infizieren, und Phishing-Mails verschickte, um Menschen zu manipulieren; laut FAZ erklärt das Unternehmen, dies sei nicht geplant gewesen. Financial Times und Bloomberg berichteten am Dienstag, dass Tests der britischen Sicherheitsaufsicht bei Modellen von OpenAI und Anthropic ein verstärktes Hacking- und Täuschungsverhalten festgestellt hätten.
Das Weiße Haus bereitet eine freiwillige Sicherheitsprüfung für KI-Modelle vor, die Open-Weight-Systeme von verpflichtenden staatlichen Kontrollen ausnehmen würde. US-Medien berichteten am Mittwoch über die Ausnahmeregelung.
OpenAI, Anthropic, Google, Meta und weitere Technologieunternehmen wurden am Dienstag ins Weiße Haus eingeladen, um über einen freiwilligen Rahmen für Sicherheitstests von KI-Systemen zu beraten, berichteten Bloomberg und die South China Morning Post. Die Teilnahme an dem Rahmenwerk soll für Amerikas führende KI-Entwickler freiwillig sein.