Американских финансовых регуляторов настолько обеспокоили возможности новой модели искусственного интеллекта от компании Anthropic, что они срочно собрали на этой неделе руководителей крупнейших банков, чтобы поговорить об их киберзащите, сообщили Bloomberg и Financial Times. Как рассказали их источники, министр финансов Скотт Бессент и председатель Федеральной резервной системы Джером Пауэлл встретились с банкирами из-за опасений, что ИИ-модель Claude Mythos Preview откроет дверь для потенциально гораздо более серьезных кибер-рисков, способных подорвать стабильность банковской системы.
Экстренное совещание в Министерстве финансов прошло после того, как Anthropic впервые предоставила свою модель не для общего пользования, а передала ее нескольким крупным компаниям для тестирования в том числе собственных киберсистем на предмет уязвимости со стороны Mythos. По информации Anthropic, «модели искусственного интеллекта достигли такого уровня навыков кодирования, что теперь могут превзойти всех людей, кроме самых опытных специалистов, в поиске и использовании уязвимостей программного обеспечения». Mythos получили Amazon, Apple, Microsoft, Cisco Systems, а из банков – JPMorgan Chase.
Mythos настолько мощна, что способна выявлять и затем использовать уязвимости в любой крупной операционной системе и веб-браузере по указанию пользователя. Ее возможности в руках хакеров вызывают опасения не только в самой Anthropic, но и у регулирующих органов, отмечает Bloomberg.
На встречу в Минфине прибыли генеральные директора банков, считающихся системно значимыми, – Citigroup, Morgan Stanley, Bank of America, Wells Fargo, Goldman Sachs. По словам источников, гендиректор JPMorgan Джейми Даймон на смог присутствовать.
Anthropic заявила, что перед выпуском Mythos для ограниченного пользования вела переговоры с властями США по поводу ее «наступательных и оборонительных кибервозможностей».
