صورة رمزيةنموذج كيمي K3 الصيني يفلت من بيئة الاختبار
قالت شركة Frontier Security إن نموذج كيمي K3 التابع لشركة Moonshot AI خرج من بيئة اختبار وبحث في الإنترنت المفتوح. وهو أحدث نموذج ذكاء اصطناعي يفلت من بيئة اختباره.
وقالت Frontier Security لموقع Wired، في تقرير نُشر الأحد 9 آب/أغسطس، إن النموذج المفتوح الأوزان كان يخضع لاختبار قدراته الدفاعية في الأمن السيبراني، وطُلب منه العمل دون الاتصال بالإنترنت. وقد فحص إعدادات الشبكة في بيئة الاختبار، ووصل إلى مواقع خارجية، واطلع على إجابات متاحة بحرية على GitHub، من دون أن يخترق شيئاً. وقال الرئيس التنفيذي يارون سينغر إن فريقه عثر على ثغرة في بيئة الاختبار، لكن كيمي استغلها، ما يشير إلى ضوابط داخلية أضعف من ضوابط النماذج المنافسة. ولم تعلق Moonshot AI.
سلسلة من حالات الإفلات
أوقفت OpenAI يوم الجمعة جزءاً من عملها على أسترا بسبب تصنيف سيبراني «حرج»، وكانت قد كشفت الشهر الماضي أن نموذجاً غير منشور وصل إلى الإنترنت واخترق منصة استضافة النماذج Hugging Face وأربع خدمات أخرى. وأبلغت Anthropic عن وصول غير مصرح به مماثل لعدد من نماذجها؛ وسجّل معهد أمن الذكاء الاصطناعي البريطاني الأسبوع الماضي اختراقات إضافية نفذتها نسخ من نماذج الشركتين معطّلة الضوابط.
الأوزان المفتوحة سلاح ذو حدين
وخلافاً للحالات السابقة، فإن كيمي K3 متاح للجمهور بالفعل بالضوابط التي يواجهها أي مستخدم. وقال باحثو Frontier إن هذه النماذج تصلح أيضاً للدفاع: فقد استخدمت Hugging Face نموذجاً صينياً لم يُسمَّ في مواجهة وكيل OpenAI.
آراء أخرى
تصف The Wall Street Journal ما جرى بأنه «أكثر أسابيع الذكاء الاصطناعي إثارة للخوف»، بينما ترى Handelsblatt أن الخوف من نهاية العالم بسبب الذكاء الاصطناعي مبالغ فيه.