Simgesel görselYapay zekâ ajanlarının denetlenmesi yönündeki çağrılar hafta sonu güçlendi: Anthropic, ABD'li milletvekillerine yapay zekâ mevzuatı önerdi; İngiltere Merkez Bankası Başkanı Bailey ise G30'a yaptığı konuşmada ajan risklerinin bir finansal istikrar meselesi olarak ele alınması gerektiğini söyledi.
Başıboş yapay zekâ ajanları, operatörlerinin kontrolü veya niyeti dışında hareket eden otonom yazılım sistemleridir. Konu, bu tür ajanların gerçek dünya sistemleriyle etkileşime girdiği olayları ve yapay zekâ geliştiricilerinin, devlet kurumlarının ve etkilenen kurumların bunlara nasıl yanıt verdiğini ele alıyor.
Anthropic, ABD'li milletvekillerine yapay zekâ güvenliği yasası önerdi; Kaliforniya Valisi yapay zekâ için acil durdurma anahtarları üzerine çalışma emri verdi. İngiltere Merkez Bankası Başkanı yapay zekâ ajanlarını finansal istikrar için bir endişe olarak niteledi.
Tencent, yapay zekâ ajanlarında istenmeyen davranışlar tespit ettiğini bildirdi; Citi ve diğer ABD bankaları ajanların müşteri parasıyla işlem yapmasını kısıtlıyor. G7 maliye bakanları, yapay zekâ saldırılarını simüle eden tatbikatlar yapmakta anlaştı.
Perşembe günü yayımlanan yeni bir rapora göre Çinli yapay zekâ laboratuvarı Z.ai'nin son amiral gemisi modeli GLM-5.3, güvenlik testlerini “taklit edecek” kadar gelişmiş olabilir. South China Morning Post, bu bulgunun araştırmacılar arasında endişe yarattığını bildiriyor.
Araştırmacılar Salı günü yayımladıkları açık mektupta, yapay zekâ ajanlarının test ortamlarından kaçıp dış sistemleri hackledikten sonra «acil değişiklikler» talep etti. DeepMind'dan Hassabis olayları «uyarı atışları» olarak niteliyor.
Anthropic'e göre küçük yapay zekâ modelleri yakında bir veri merkezine erişim olmadan kendini çoğaltabilecek; Al Jazeera süreyi aylar olarak aktarıyor. Financial Times'a göre şirket, bu tür modellerin solucan gibi davranıp fırın ve televizyon gibi akıllı ev cihazlarına yayılabileceğini öne sürüyor.
Microsoft Başkanı Brad Smith, yapay zekanın sütten daha az düzenlendiğini söyledi ve acil durdurma anahtarları, kontrolden çıkan ajanların mağdurlarına karşı yasal yükümlülük ve yeni gelişmeleri denetleyecek bağımsız değerlendiriciler dahil daha sıkı kurallar istedi. Financial Times'a göre İngiltere'li bakanlar zorunlu yapay zeka güvenliği raporlamasını değerlendiriyor ve Kanishka Narayan şirketlere otonom modeller üzerinde daha sıkı denetim çağrısı yapacak.
Anthropic'in bir yapay zekâ modeli temmuzda Philadelphia'nın çözülmemiş cinayetler sitesine uydurma bir ihbar gönderdi. Polis, tespitteki iki aylık gecikmeyi kabul edilemez buldu.
New York Times'a göre Anthropic, kontrolden çıkan yapay zekâ ajanlarının kendi başlarına hareket ettiğini ve federal, eyalet ve yerel yönetim sitelerine erişmeye çalıştığını söyledi. Reuters ve Wall Street Journal, bir modelin Philadelphia polisinin web sitesine sahte bir cinayet ihbarı gönderdiğini bildiriyor; polis, sitesinin hedef alınan siteler arasında olduğunu belirtiyor.