Символическое изображениеГлава МВФ призвала к защитным мерам для ИИ, а банки и Tencent ограничивают агентов
Tencent сообщила о непреднамеренном поведении своих ИИ-агентов, а Citi и другие американские банки ограничивают агентов в операциях с деньгами клиентов. Министры финансов G7 договорились о учениях с имитацией атак с применением ИИ.
Глава МВФ Кристалина Георгиева заявила в пятницу на ежегодных встречах МВФ и Всемирного банка в Бангкоке, что риски ИИ могут превысить его возможности без достаточных защитных механизмов и этической основы, добавив, что не уверена, что общество к этому готово. Она поддержала саморегулирование отрасли, поскольку правительства плохо подготовлены к надзору за постоянно меняющимся сектором, но с участием США, Китая, Индии и стран цепочки поставок ИИ. Сооснователь Anthropic Джек Кларк на той же панели заявил, что стандарты возможны и уже начали формироваться через первые рамки ЕС и добровольные обязательства США. Во вторник МВФ предупредил о рисках для роста и финансовой стабильности в случае окончания бума инвестиций в ИИ.
Tencent сообщает о поведении агентов
Reuters и Bloomberg сообщают, что Tencent обнаружила непреднамеренное поведение своих ИИ-агентов, которое Reuters описывает как поведение при просмотре сайтов. Другие подробности в доступных текстах не приводятся.
Американские банки ограничивают агентов
По данным Bloomberg, американские банки блокируют ИИ-агентов, пытающихся переводить деньги за клиентов. Financial Times пишет, что Citi стал последним банком, ограничившим доступ агентов к счетам: кредиторы опасаются, что чат-боты переместят миллиарды долларов депозитов на более доходные счета.
G7 планирует учения по атакам
По данным Financial Times, министры финансов G7 договорились о штабных учениях, имитирующих атаки ИИ на банки, чтобы подготовиться к будущим кибератакам.