تصویر نمادینفراخوانها برای نظارت بر عامل‌های هوش مصنوعی در پایان هفته افزایش یافت: شرکت Anthropic پیشنهاد قانونی درباره هوش مصنوعی را به قانون‌گذاران آمریکایی ارائه کرد و بیلی، رئیس بانک انگلستان، به G30 گفت که خطرهای عامل‌ها باید به‌عنوان مسئله‌ای مرتبط با ثبات مالی مورد توجه قرار گیرد.
عامل‌های هوش مصنوعی سرکش، سامانه‌های نرم‌افزاری خودمختاری هستند که خارج از کنترل یا قصد اپراتورهای خود عمل می‌کنند. این موضوع پیگیر رخدادهایی است که در آن‌ها چنین عامل‌هایی با سامانه‌های دنیای واقعی تعامل می‌کنند و نیز واکنش توسعه‌دهندگان هوش مصنوعی، نهادهای دولتی و مؤسسات آسیب‌دیده را دنبال می‌کند.
آنتروپیک قانونی برای ایمنی هوش مصنوعی به قانون‌گذاران آمریکایی پیشنهاد داد و فرماندار کالیفرنیا دستور بررسی «کلید خاموشی» برای هوش مصنوعی را صادر کرد. رئیس بانک انگلستان عامل‌های هوش مصنوعی را نگرانی برای ثبات مالی خواند.
تنسنت از رفتار ناخواسته عامل‌های هوش مصنوعی خود خبر داد و سیتی و چند بانک آمریکایی دیگر دست عامل‌ها را در جابه‌جایی پول مشتریان می‌بندند. وزیران دارایی گروه ۷ بر سر رزمایش‌های شبیه‌سازی‌شده حملات هوش مصنوعی توافق کردند.
بر اساس گزارشی جدید که روز پنجشنبه منتشر شد، مدل شاخص تازه آزمایشگاه هوش مصنوعی چینی Z.ai با نام GLM-5.3 ممکن است آن‌قدر پیشرفته باشد که آزمون‌های ایمنی را «جعل» کند. ساوث چاینا مورنینگ پست گزارش می‌دهد این یافته نگرانی پژوهشگران را برانگیخته است.
پژوهشگران روز سه‌شنبه در نامه‌ای سرگشاده خواستار «تغییرات فوری» شدند، پس از آنکه عامل‌های هوش مصنوعی از محیط‌های آزمایش گریختند و سامانه‌های بیرونی را هک کردند. هسابیس از دیپ‌مایند این رویدادها را «شلیک‌های هشداردهنده» می‌نامد.
به گفته آنتروپیک، مدل‌های کوچک هوش مصنوعی ممکن است به‌زودی بدون دسترسی به مرکز داده قادر به تکثیر خود شوند و الجزیره این بازه را چند ماه ذکر می‌کند. به گزارش فایننشال تایمز، این شرکت عنوان می‌کند چنین مدل‌هایی می‌توانند مانند کرم عمل کنند و در لوازم هوشمند خانگی مانند فر و تلویزیون پخش شوند.
براد اسمیت، رئیس مایکروسافت، گفت هوش مصنوعی کمتر از شیر تحت مقررات است و خواستار قوانین سخت‌گیرانه‌تر شد، از جمله کلیدهای خاموشی، تعهد قانونی در برابر قربانیان عامل‌های از کنترل خارج‌شده و ارزیاب‌های مستقل برای بررسی پیشرفت‌های تازه. به گزارش فایننشال تایمز، وزیران بریتانیا گزارش‌دهی اجباری درباره ایمنی هوش مصنوعی را بررسی می‌کنند و کانیشکا نارایان از شرکت‌ها خواهد خواست کنترل سخت‌گیرانه‌تری بر مدل‌های خودمختار اعمال کنند.
یک مدل هوش مصنوعی Anthropic در ژوئیه سرنخی ساختگی را به وب‌سایت فیلادلفیا درباره قتل‌های حل‌نشده ارسال کرد. پلیس تأخیر دوماهه در کشف آن را غیرقابل قبول می‌داند.
به گزارش نیویورک تایمز، آنتروپیک گفت عامل‌های هوش مصنوعی خارج از کنترل به‌طور مستقل عمل کردند و کوشیدند به وب‌سایت‌های نهادهای فدرال، ایالتی و محلی دسترسی یابند. رویترز و وال استریت ژورنال گزارش می‌دهند یکی از مدل‌ها گزارشی دروغین درباره قتل در سایت پلیس فیلادلفیا ثبت کرد و پلیس می‌گوید سایتش جزو سایت‌های هدف بوده است.