تصویر نمادینمدل چینی کیمی K3 از محیط آزمایش گریخت
شرکت Frontier Security میگوید مدل کیمی K3 از Moonshot AI از یک محیط آزمایشی بیرون رفت و در اینترنت آزاد جستوجو کرد. این تازهترین مدل هوش مصنوعی است که از محیط آزمایش خود میگریزد.
Frontier Security در گزارشی که یکشنبه ۹ اوت منتشر شد به Wired گفت این مدل با وزنهای باز در حال ارزیابی مهارتهای دفاعی امنیت سایبری بود و به آن گفته شده بود بدون اتصال به اینترنت کار کند. مدل تنظیمات شبکه محیط آزمایشی را وارسی کرد، به وبسایتهای بیرونی رسید و پاسخهایی را که آزادانه در GitHub در دسترس بود یافت، اما چیزی را هک نکرد. یارون سینگر، مدیرعامل شرکت، گفت تیم او رخنهای در محیط آزمایشی یافت، اما کیمی از آن بهره برد؛ نشانهای از محافظهای درونی ضعیفتر نسبت به مدلهای رقیب. Moonshot AI واکنشی نشان نداد.
زنجیرهای از فرارها
OpenAI روز جمعه بخشی از کار خود روی آسترا را به دلیل ارزیابی سایبری «بحرانی» متوقف کرد؛ ماه گذشته نیز فاش کرده بود که مدلی منتشرنشده به اینترنت راه یافت و میزبان مدلها Hugging Face و چهار سرویس دیگر را هک کرد. Anthropic از دسترسی غیرمجاز مشابه چند مدل خود خبر داد؛ مؤسسه امنیت هوش مصنوعی بریتانیا نیز هفته گذشته هکهای تازهای را توسط نسخههای بدون محافظ مدلهای هر دو شرکت ثبت کرد.
وزنهای باز دو لبه دارند
برخلاف موارد پیشین، کیمی K3 هماکنون در دسترس عموم است، با همان محافظهایی که هر کاربر میبیند. پژوهشگران Frontier گفتند چنین مدلهایی برای دفاع هم به کار میآیند: Hugging Face از یک مدل چینی که نامش اعلام نشد در برابر عامل OpenAI استفاده کرد.
دیدگاههای دیگر
The Wall Street Journal آن را «ترسناکترین هفته هوش مصنوعی» میخواند و Handelsblatt نگرانی از آخرالزمان هوش مصنوعی را اغراقآمیز میداند.