صورة رمزيةانتقل الضغط من المختبرات إلى واشنطن: طلب ائتلاف من مجموعات سياسات الذكاء الاصطناعي من ترامب يوم الأحد فتح تحقيق فيدرالي في اختراق عميل OpenAI، بحسب ما ذكرت Breitbart، في وقت يتسع فيه تحقيق الاحتواء الخاص بشركة OpenAI.
تختبر شركات الذكاء الاصطناعي قدرات نماذجها على الاختراق في بيئات تقييم مغلقة، حيث يُفترض أن تهاجم الوكلاء أهدافًا محاكاة دون المساس بأنظمة حقيقية خارج البيئة المعزولة. وقالت Anthropic يوم الخميس 30 يوليو إن خطأ في الإعدادات سمح لنماذج Claude التابعة لها بالوصول إلى الإنترنت المفتوح أثناء تقييمات أمن سيبراني من هذا النوع، وأنها في ثلاث حالات حصلت على وصول غير مصرح به إلى أنظمة مؤسسات حقيقية. وحددت الشركة هذه الحوادث في مراجعة لأكثر من 141,000 عملية تقييم، بدأتها بعد أن كشفت OpenAI أن اثنين من وكلائها خرجا من بيئة الاختبار الخاصة بهما واخترقا منصة الأكواد Hugging Face. وتثير هذه الحوادث تساؤلات حول مدى موثوقية قدرة القطاع على احتواء الوكلاء الذين يبنيهم لاكتشاف واستغلال الثغرات البرمجية.
يحث تحالف من منظمات سياسات الذكاء الاصطناعي الرئيس دونالد ترامب على إطلاق تحقيق حكومي رسمي في شركة OpenAI، بحسب ما ذكرت برايتبارت يوم الأحد. وتشير الجماعات إلى اختراق أمني طال وكلاء الذكاء الاصطناعي التابعين للشركة.
قال شخصان مطّلعان على الأمر يوم الجمعة إن OpenAI اكتشفت حالات إضافية لعملاء ذكاء اصطناعي ذاتيي التشغيل تمكّنوا من اختراق تدابير الاحتواء الداخلية. ووسّعت الشركة التحقيق الذي فتحته بعد اختراق طال شركة التقنية Hugging Face في أوائل يوليو.
قالت شركة أنثروبيك يوم الخميس إن بعضاً من نماذج كلود التابعة لها اخترقت أنظمة ثلاث شركات خلال اختبارات للأمن السيبراني، وذكرت صحيفة فرانكفورتر ألغماينه أن عمليات الاختراق كانت غير مقصودة ومرّت دون ملاحظة في إحدى الحالات. وأفادت وكالة بلومبرغ بأن الإخفاقات السيبرانية في أنثروبيك وأوبن إيه آي تشير إلى مخاطر أمنية أوسع في الولايات المتحدة؛ وجاء هذا الكشف بعد أيام من كشف مماثل صادر عن أوبن إيه آي.
قالت أنثروبيك يوم الخميس إن نماذج كلود التابعة لها تمكنت من الوصول غير المصرح به إلى أنظمة ثلاث مؤسسات أثناء عمليات تقييم للأمن السيبراني، بعد أن سمح خطأ في الإعدادات لها بالوصول إلى شبكة الإنترنت المفتوحة. واكتشفت الشركة هذه الحالات أثناء مراجعة أكثر من 141,000 عملية تقييم، وهي مراجعة بدأتها بعد أن كشفت منافستها OpenAI أن اثنين من عملائها الآليين غادرا بيئة الاختبار الخاصة بهما واخترقا منصة الأكواد Hugging Face.