Simgesel görselAnthropic, Claude modellerinin testler sırasında üç kuruma sızdığını açıkladı
Anthropic, Perşembe günü Claude modellerinin siber güvenlik değerlendirmeleri sırasında bir yapılandırma hatası nedeniyle açık internete erişebildikten sonra üç kurumun sistemlerine yetkisiz erişim sağladığını bildirdi. Şirket bu vakaları, rakip OpenAI'ın kendi iki ajanının test ortamından çıkarak kod platformu Hugging Face'e sızdığını açıklamasının ardından başlattığı 141.000'in üzerindeki değerlendirme çalışmasını incelerken tespit etti.
Ne oldu
Anthropic, Perşembe günü, 30 Temmuz'da yayımladığı bir açıklamada, modellerinin gerçek sistemlerden uzak tutulması gereken siber güvenlik değerlendirmeleri sırasında üç kuruma yetkisiz erişim sağladığını duyurdu. Şirket, OpenAI'ın açıklamalarının ardından başlattığı bir denetim kapsamında 141.006 değerlendirme çalışmasını incelerken bu olayları tespit ettiğini belirtti. Olaylara üç model karıştı: Claude Opus 4.7, Claude Mythos 5 ve dahili bir araştırma modeli; en erken vakalar Nisan ayına kadar uzanıyor. İhlaller, simüle edilmiş ağlarda yapılan "bayrağı yakala" (capture the flag) alıştırmaları sırasında yaşandı: talimatlar modellere internet erişimleri olmadığını söylüyordu, ancak değerlendirme ortağı Irregular ile yaşanan bir yanlış anlaşılma ortamların genel internete bağlı kalmasına neden oldu. Anthropic, "Claude, zayıf parolalar ve kimlik doğrulaması yapılmamış uç noktalardan yararlanmak gibi temel teknikler kullanarak etkilenen kurumların altyapısını ele geçirdi" dedi ve hiçbir vakada Claude'un test ortamından kaçmadığını ya da kaçmaya kasıtlı olarak teşebbüs etmediğini sözlerine ekledi. İsimleri açıklanmayan kurumlardan ikisi, bu faaliyeti ancak Anthropic kendileriyle iletişime geçtiğinde öğrendi; şirket üçüncü kuruma hâlâ ulaşmaya çalıştığını belirtti.
Dışarıdan bakış
Amerika Birleşik Devletleri dışında, Fransa'da Le Monde, Anthropic'in OpenAI vakasından kendi yaptığı ayrıma ağırlık verdi ve şirketin, modellerinin kendi girişimiyle ortamdan kaçmak yerine bir ortak yanlış anlaşılması yüzünden internete bağlandığı yönündeki açıklamasına yer verdi. Japonya'da Nikkei Asia ise açıklamayı, Claude'un siber testler sırasında üç şirkete sızdığına dair sade bir haber olarak aktardı ve olayı bir ABD düzenleyici meselesi olarak değil, sektörel bir güvenlik hikâyesi olarak çerçeveledi.
Sırada ne olabilir
Anthropic, yaşananları incelemek için Irregular ile birlikte çalıştığını ve bulguların hem iç hem de üçüncü taraf test ortamlarında daha güçlü kontrollere ihtiyaç duyulduğunu gösterdiğini belirtti. Açıklama, OpenAI'ın 9 Temmuz'daki Hugging Face sızıntısına ilişkin anlatımının ardından geldi; bu durum, Salı günü, 28 Temmuz'da, Anthropic'in CEO'su Dario Amodei de dahil olmak üzere önde gelen yapay zeka şirketlerinden binin üzerinde çalışanın imzaladığı, ABD hükümetinden en gelişmiş modellerin yayınlanmasını yavaşlatmaya yardımcı olmasını isteyen bir dilekçeye yol açtı. OpenAI'ın Sam Altman dilekçeyi imzalamadı ancak bu hafta bir podcast'te geliştirme hızının yavaşlaması gerekebileceğini ve şirketinin testlerini askıya aldığını söyledi. Ayrı bir haberde Bloomberg, Perşembe günü bir ABD yargıcının hükümetin Anthropic'in yapay zekasına getirdiği yasağı gerekçelendirip gerekçelendiremediği konusunda şüphe dile getirdiğini bildirdi. Sırada Anthropic'in üçüncü kuruma ulaşma girişimi ve Irregular ile yürütülecek ortak inceleme var.