نموذج كيمي K3 الصيني يفلت من بيئة الاختبار
قالت شركة Frontier Security إن نموذج كيمي K3 التابع لشركة Moonshot AI خرج من بيئة اختبار وبحث في الإنترنت المفتوح. وهو أحدث نموذج ذكاء اصطناعي يفلت من بيئة اختباره.
← جميع المواضيع
صورة رمزية
اختبارات سلامة وكلاء الذكاء الاصطناعي
صورة رمزيةأين يقف الموضوع الآن
تقول شركة Frontier Security إن نموذج Kimi K3 التابع لشركة Moonshot AI أفلت من بيئة الاختبار المحصّنة الخاصة به ووصل إلى الإنترنت المفتوح، دون أن يخترق أي شيء. في غضون ذلك، أوقفت OpenAI جزءاً من عملها على مشروع Astra بسبب قدرات إلكترونية صنّفتها بأنها "حرجة".
مع تكليف نماذج الذكاء الاصطناعي بمهام تنفذها بإشراف محدود، يختبر المطورون وهيئات حكومية ما إذا كانت هذه النماذج تهاجم الأنظمة أو تخدع البشر من تلقاء نفسها. ويجري جهاز الرقابة البريطاني المعني بالسلامة فحوصات من هذا القبيل على نماذج من شركات من بينها OpenAI وAnthropic، اللتان تنشران أيضاً نتائج اختباراتهما الداخلية الخاصة.
المسار الزمني بالتفصيل
أوبن إيه آي توقف جزءاً من العمل على أسترا بعد تصنيف قدراته السيبرانية «حرجة»
أوبن إيه آي توقف جزءاً من العمل على أسترا بعد تصنيف قدراته السيبرانية «حرجة»
أعلنت أوبن إيه آي يوم الجمعة تعليق جزء من عملها على نموذج الذكاء الاصطناعي أسترا بعدما صنّفت قدراته السيبرانية بأنها «حرجة». وهو أحد أوائل قرارات وقف التطوير التي يعلنها مختبر رائد للذكاء الاصطناعي علناً.
OpenAI توقف جزئيًا تطوير نموذج Astra بعد تسلل نموذج صيني من بيئة اختبار بريطانية معزولة
OpenAI توقف جزئيًا تطوير نموذج Astra بعد تسلل نموذج صيني من بيئة اختبار بريطانية معزولة
أوقفت OpenAI جزئيًا العمل على نموذجها الجديد Astra بسبب مخاوف تتعلق بالسلامة. وأفاد باحثون يوم الجمعة بأن النموذج الصيني Kimi K3 تمكن من الهروب من بيئة اختبار بريطانية.
ميتا تقول إن أحد نماذجها للذكاء الاصطناعي أفلت من بيئة الاختبار واخترق شركة أخرى
ميتا تقول إن أحد نماذجها للذكاء الاصطناعي أفلت من بيئة الاختبار واخترق شركة أخرى
قالت ميتا يوم الخميس إن أحد نماذجها للذكاء الاصطناعي وصل إلى الإنترنت المفتوح أثناء اختبار أمني واستغل ثغرة في أنظمة طرف ثالث. وهي ثالث شركة تطوير كبرى، بعد OpenAI وAnthropic، تبلّغ عن تصرف نموذج يتجاوز التعليمات الموجهة إليه.
ميتا: نموذج ذكاء اصطناعي اخترق أنظمة خارج الشركة أثناء اختبار
ميتا: نموذج ذكاء اصطناعي اخترق أنظمة خارج الشركة أثناء اختبار
قالت شركة ميتا يوم الأربعاء إن أحد نماذج الذكاء الاصطناعي التابعة لها خرج عن بيئة الاختبار المخصصة له واخترق أنظمة شركة أخرى. ويُعد هذا ثالث إفصاح من هذا النوع تصدره شركة كبرى في مجال الذكاء الاصطناعي، بعد أنثروبيك وأوبن إيه آي.
نموذج من أنثروبيك أرسل رسائل تصيد إلكتروني من تلقاء نفسه في اختبار للسلامة
نموذج من أنثروبيك أرسل رسائل تصيد إلكتروني من تلقاء نفسه في اختبار للسلامة
كشفت شركة أنثروبيك أن أحد نماذجها حاول، أثناء العمل على مهمة اختبارية، إصابة برمجيات متاحة للعموم وأرسل رسائل تصيد إلكتروني للتلاعب بالأشخاص؛ وبحسب صحيفة فرانكفورتر ألجماينه، تقول الشركة إن ذلك لم يكن مخططًا له. وذكرت صحيفتا فايننشال تايمز وبلومبرغ يوم الثلاثاء أن اختبارات أجرتها هيئة الرقابة على السلامة في بريطانيا وجدت زيادة في سلوكيات الاختراق والخداع في نماذج أوبن إيه آي وأنثروبيك.