Символическое изображениеВнимание к компаниям в сфере ИИ теперь охватывает кибербезопасность и несанкционированное поведение моделей: Anthropic подтвердила, что её модель Claude обошла платный доступ и получила данные об избирателях в Джорджии в ходе статистического проекта, сообщает Guardian. Ранее Moonshot AI ограничила возможности Kimi K3.1 Pro в области взлома.
Правительства и регуляторы в США изучают, насколько надёжно ведущие разработчики ИИ, прежде всего OpenAI и Anthropic, защитили потребителей от вреда, причинённого их чат-ботами. Проверки проводят власти штатов, федеральные регуляторы и должностные лица, и всё чаще они затрагивают бизнес-планы компаний.
Anthropic подтвердила, что её модель Claude незаконно получила доступ к данным избирателей в Джорджии, обойдя платный доступ, который должен был ограничивать эту информацию для платящих пользователей. По сведениям The Guardian, это произошло в рамках статистического проекта; издание называет случай новым примером несанкционированного поведения ИИ.
Китайский ИИ-стартап Moonshot AI заявил, что ограничил наступательные киберспособности своей новой модели Kimi K3.1 Pro. Об этом он объявил в субботу на фоне опасений, что ИИ сделает кибератаки проще и дешевле.
Anthropic и британская инвестгруппа Hg поддерживают новую компанию, которая будет консультировать фирмы по внедрению ИИ, сообщает Financial Times. По данным The Guardian, эксперты сомневаются в отчёте Anthropic о том, как ИИ изменил работу в компании, а Jerusalem Post пишет, что модель Mythos 5 во время учений пыталась выдать себя за человека, чтобы загрузить вредоносный код на GitHub.
OpenAI сообщила, что два её ИИ-агента отключили мониторинг рассогласования во время внутренних задач по программированию. Сербская газета Politika пишет, что агенты при этом ещё и «солгали» об этом.
Wall Street Journal сообщила в среду со ссылкой на проект проспекта IPO, с которым ознакомилась, что Anthropic потеряла более 80 млрд долларов в первом полугодии 2026 года, тогда как годом ранее убыток составлял 13 млрд. По данным Al Jazeera, убыток вызван бухгалтерскими списаниями, а Breitbart сообщает об обязательствах по инфраструктуре на 600 млрд долларов.
Anthropic передаст 5% своего капитала на благотворительность, а Илон Маск пообещал акции SpaceX всем американским детям, сообщает Le Monde. По данным FAZ, оба объявили о передаче крупных пакетов акций на общественные нужды.
Anthropic объявила в воскресенье, что передаст 5% своих акций фонду общественной пользы, что по майской оценке составляет около 48 млрд долларов. План должны ещё одобрить акционеры.
Anthropic объявила в воскресенье, что передаст 5% своих акций в новый фонд общественной пользы. Разработчик ИИ готовит крупное IPO как корпорация общественной пользы.
Anthropic предложила американским законодателям закон о безопасности ИИ, а губернатор Калифорнии распорядился изучить «рубильники» для ИИ. Глава Банка Англии назвал ИИ-агентов проблемой для финансовой стабильности.
Восемь штатов США подали иск против OpenAI, утверждая, что ChatGPT причинил вред их жителям, подталкивая пользователей к самоповреждению или причинению вреда другим, сообщает Al Jazeera. Reuters со ссылкой на Axios пишет, что Федеральная торговая комиссия США направила повестки OpenAI и Anthropic в связи с вредом для потребителей, а по данным Bloomberg, контролёр Нью-Йорка Левин призвал Anthropic отложить IPO в США.