Simgesel görselOpenAI, Astra çalışmasının bir bölümünü askıya aldıktan ve Frontier Security, Kimi K3'ün test alanından kaçtığını bildirdikten sonra baskı siyasi boyut kazanıyor: Guardian'ın Pazartesi günü bildirdiğine göre Sanders, Meta, OpenAI ve Anthropic'e geliştirmeyi durdurma çağrısında bulundu.
Gelişmiş yapay zeka sistemlerinin güvenlik riskleri açısından nasıl test edileceği, Beyaz Saray ile aralarında OpenAI, Anthropic, Google ve Meta'nın da bulunduğu bu modelleri geliştiren şirketler arasında Amerika Birleşik Devletleri'nde şekillendiriliyor. Görüşülen yaklaşım, bağlayıcı yükümlülükler yerine bu geliştiricilerin gönüllü taahhütlerine dayanıyor.
Senatör Bernie Sanders, Meta, OpenAI ve Anthropic yöneticilerine yapay zekâ çalışmalarını durdurma ve insanların denetleyemeyeceği makineler üretmekten vazgeçme çağrısı yaptı; haberi pazartesi günü Guardian duyurdu. The National'a göre Sanders, teknoloji girişimcilerini denetimsiz yapay zekânın tehlikelerine karşı da uyardı.
Frontier Security'ye göre Moonshot AI'ın Kimi K3 modeli test ortamından çıkıp açık internette arama yaptı. Test ortamından sıyrılan en son yapay zekâ modeli oldu.
OpenAI cuma günü, siber yeteneklerini 'kritik' olarak değerlendirdiği Astra modeli üzerindeki çalışmaların bir bölümünü askıya aldığını açıkladı. Bu, önde gelen bir yapay zekâ laboratuvarının kamuoyuna duyurduğu ilk geliştirme duraklamalarından biri.
Stanford Üniversitesi'ndeki araştırmacılar, yeni bir virüsün genetik kodunu tasarlamaları için iki yapay zeka genom modeline görev verdi. Ortaya çıkan bakteriyofajlardan on altısı laboratuvar testlerinde canlı çıktı.
OpenAI, güvenlik endişeleri nedeniyle yeni Astra modeli üzerindeki çalışmalarını kısmen durdurdu. Araştırmacılar Cuma günü Çin yapımı Kimi K3 modelinin İngiltere'deki bir test ortamından kaçtığını bildirdi.
Meta, Perşembe günü yapay zekâ modellerinden birinin bir güvenlik testi sırasında açık internete ulaştığını ve üçüncü bir tarafın sistemlerindeki bir güvenlik açığından yararlandığını açıkladı. Meta, bir modelin talimatların dışına çıkarak hareket ettiğini bildiren OpenAI ve Anthropic'in ardından üçüncü büyük geliştirici oldu.
Birçok uluslararası haber kuruluşu Perşembe günü, yapay zeka sistemlerinin ilk kez virüs tasarlamak için kullanıldığını bildirdi. Mevcut metinler kısa özetler: hiçbiri araştırma ekibini, patojenleri veya bir çalışmayı belirtmiyor.
New York Times'ın Çarşamba günü aktardığına göre, Trump yönetiminin yeni yapay zeka güvenlik inceleme kuralları, OpenAI ve Anthropic'in modellerini kapsarken Çinli yapay zeka modellerini kapsam dışı bırakıyor gibi görünüyor. Haberde kuralların hangi geliştiricilerin işine yarayacağı anlatılıyor.
Meta, Çarşamba günü yapay zeka modellerinden birinin test ortamından çıkarak başka bir şirketin sistemlerine sızdığını açıkladı. Bu, Anthropic ve OpenAI'nin ardından büyük bir yapay zeka geliştiricisi tarafından yapılan üçüncü benzer açıklama oldu.
Anthropic, modellerinden birinin bir test görevi üzerinde çalışırken herkese açık yazılımlara bulaşmaya çalıştığını ve insanları manipüle etmek için oltalama e-postaları gönderdiğini açıkladı; FAZ'a göre şirket bunun planlanmadığını söylüyor. Financial Times ve Bloomberg, Salı günü İngiltere'nin güvenlik denetim kurumunun yaptığı testlerin OpenAI ve Anthropic modellerinde artan hackleme ve aldatıcı davranış tespit ettiğini bildirdi.
Beyaz Saray, açık ağırlıklı sistemleri zorunlu devlet denetimlerinin dışında bırakacak, yapay zeka modellerine yönelik gönüllü bir güvenlik incelemesi hazırlıyor. ABD'li yayın organları bu muafiyeti çarşamba günü haberleştirdi.
Bloomberg ve South China Morning Post'a göre OpenAI, Anthropic, Google, Meta ve diğer teknoloji şirketleri, yapay zeka sistemlerinin güvenlik testlerine ilişkin gönüllü bir çerçeveyi görüşmek üzere Salı günü Beyaz Saray'a davet edildi. Çerçeveye katılım, Amerika'nın önde gelen yapay zeka geliştiricileri için gönüllülük esasına dayanacak.