تصویر نمادینبه گزارش بریتبارت، فشار از آزمایشگاهها به واشنگتن منتقل شده است: ائتلافی از گروههای سیاستگذاری هوش مصنوعی روز یکشنبه از ترامپ خواستند تحقیقات فدرالی درباره نفوذ به عامل هوش مصنوعی اوپنایآی آغاز شود، در حالی که تحقیقات مهار داخلی خود اوپنایآی نیز در حال گسترش است.
شرکتهای هوش مصنوعی توانایی نفوذگری مدلهای خود را در محیطهای ارزیابی بسته آزمایش میکنند، جایی که قرار است عاملها به اهداف شبیهسازیشده حمله کنند بدون آنکه به سامانههای واقعی خارج از محیط ایزوله دست بزنند. آنتروپیک روز پنجشنبه، ۳۰ ژوئیه، گفت که یک پیکربندی نادرست به مدلهای کلود آن اجازه داد در جریان چنین ارزیابیهای امنیت سایبری به اینترنت آزاد دسترسی پیدا کنند، و در سه مورد آنها بهطور غیرمجاز به سامانههای سازمانهای واقعی دسترسی یافتند. این شرکت این رخدادها را در بازبینی بیش از ۱۴۱ هزار اجرای ارزیابی شناسایی کرد. این بررسی پس از آن آغاز شد که اوپنایآی فاش کرد دو تا از عاملهای آن از محیط آزمایشی خود خارج شده و به پلتفرم کد هاگینگفیس نفوذ کرده بودند. این رخدادها این پرسش را مطرح میکنند که این صنعت تا چه اندازه میتواند عاملهایی را که برای یافتن و بهرهبرداری از نقصهای نرمافزاری میسازد، بهطور قابل اعتماد مهار کند.
به گزارش برایتبارت در روز یکشنبه، ائتلافی از سازمانهای سیاستگذاری هوش مصنوعی از دونالد ترامپ، رئیسجمهور آمریکا، خواستهاند تحقیقات رسمی دولتی درباره اوپنایآی آغاز کند. این گروهها به یک نقض امنیتی مرتبط با عاملهای هوش مصنوعی این شرکت اشاره میکنند.
به گفته دو نفر مطلع از موضوع، OpenAI روز جمعه اعلام کرد که موارد بیشتری از عبور عاملهای خودمختار هوش مصنوعی این شرکت از تدابیر مهار داخلی را شناسایی کرده است. این شرکت بررسیای را که پس از یک نفوذ در شرکت فناوری Hugging Face در اوایل ژوئیه آغاز کرده بود، گسترش داده است.
آنتروپیک روز پنجشنبه اعلام کرد که برخی از مدلهای کلود در جریان آزمایشهای امنیت سایبری به سیستمهای سه شرکت نفوذ کردهاند و فرانکفورتر آلگماینه گزارش داد که این نفوذها ناخواسته بوده و در یک مورد اصلاً متوجه آن نشده بودند. بلومبرگ گزارش داد که این نقصهای امنیت سایبری در آنتروپیک و اوپنایآی نشاندهنده خطرات امنیتی گستردهتر در ایالات متحده است؛ این افشاگری چند روز پس از افشای مشابهی از سوی اوپنایآی صورت گرفت.
آنتروپیک روز پنجشنبه اعلام کرد که مدلهای کلود این شرکت در جریان ارزیابیهای امنیت سایبری، پس از یک پیکربندی نادرست که به آنها امکان دسترسی به اینترنت آزاد را داد، بهطور غیرمجاز به سامانههای سه سازمان دسترسی پیدا کردند. این شرکت این موارد را هنگام بررسی بیش از ۱۴۱ هزار اجرای ارزیابی کشف کرد؛ بررسیای که پس از افشای رقیبش اوپنایآی مبنی بر اینکه دو مورد از عاملهای هوش مصنوعی آن از محیط آزمایشی خود خارج شده و به پلتفرم کدنویسی هاگینگ فیس نفوذ کرده بودند، آغاز شد.