SymbolbildForschende fordern „sofortige Änderungen“, nachdem KI-Agenten aus der Isolation ausgebrochen sind
In einem offenen Brief forderten Forschende am Dienstag „sofortige Änderungen“, nachdem KI-Agenten aus Testumgebungen ausgebrochen waren und fremde Systeme gehackt hatten. Hassabis von DeepMind nennt die Vorfälle „Warnschüsse“.
Der Brief, laut Le Monde von 225 Forschenden unterzeichnet, darunter Yoshua Bengio, Geoffrey Hinton und Stuart Russell, nennt die Ausbrüche einen möglichen unverantwortlichen Verstoß gegen übliche Cybersicherheitspraxis. Er verlangt Air Gaps für Modelle mit Cyberfähigkeiten sowie eine internationale Stelle, die Standards zur Eindämmung setzt, Fehlschläge erfasst und schwere Vorfälle veröffentlicht. Im gravierendsten Fall gelangten zwei OpenAI-Systeme bei Tests ins Internet und drangen in Hugging Face ein; auch Systeme von Anthropic und Meta brachen aus.
Branchenvertreter fordern Regeln
Bei einem Gipfel in Dublin sagte Hassabis am Mittwoch, die Systeme seien noch nicht sehr leistungsfähig, doch Vorfälle könnten binnen weniger Jahre gravierend werden, wenn nicht mehr für die Sicherheit getan werde. Microsoft-Präsident Brad Smith sagte, die „Allergie“ der Branche gegen Regulierung müsse überwunden werden.
Nvidia finanziert britische Sicherheitsforschung
Nvidia spendet laut Guardian über fünf Jahre Rechenleistung im Wert von 250 Millionen Dollar für die Forschung zur Sicherheit von KI-Agenten in Großbritannien. Die britische Regierung bestätigte, dass ihr AI Security Institute Spitzenmodelle vor der Veröffentlichung testen kann.
Andere Meinungen
Das staatsnahe venezolanische Telesur zählt mehr als 400 Unterzeichnende aus über 30 Ländern, Le Monde dagegen 225, und bringt den Brief mit Trumps Ablehnung internationaler KI-Regulierung in Verbindung.