Правительство США сняло ограничения на распространение среди иностранных пользователей модели искусственного интеллекта Fable 5 компании Anthropic PBC. В рамках соглашения с Вашингтоном Anthropic должна устранить возможности для обхода мер безопасности этой модели, которая является публичной версией более мощной модели Mythos 5, способной осуществлять мощные кибератаки вплоть до подрыва финансовой системы и взлома систем спецслужб.
Компания пообещала начать восстанавливать доступ к Fable 5 в среду. Она перенастроит модель с использованием нового набора классификаторов, чтобы выявлять и блокировать больше угроз кибербезопасности. Также со среды должен быть восстановлен доступ к Mythos 5 для ряда американских организаций.
Министерство торговли 12 июня ввело экспортные ограничения, которые обязали Anthropic получать разрешение правительства, прежде чем предоставлять иностранным гражданам, независимо от их местонахождения, доступ к Mythos 5 и Fable 5. Релиз моделей состоялся тремя днями ранее. После решения чиновников Anthropic отключила к ним доступ и начала переговоры.
Fable 5 — версия ИИ-модели для потребительского рынка, способная к глубокому логическому мышлению и самостоятельному выполнению сложных задач.
Mythos 5 — версия, разработанная для организаций и специалистов по кибербезопасности. Как утверждается, она способна выявлять уязвимости в компьютерном коде и использовать их в своих целях, указывает «Би-би-си».
Ранее специалисты Amazon нашли пути обхода мер безопасности Fable, отмечает The Wall Street Journal. Anthropic сообщила, что сотрудничает с технологическими гигантами, включая Amazon, Microsoft и Google, над совместной оценкой серьезности таких обходных путей и разработкой ответных действий.
После появления Mythos ее возможности настолько обеспокоили регуляторов, что в апреле Министерство финансов и Федеральная резервная система срочно собрали руководителей крупнейших банков, чтобы обсудить их киберзащиту в новых условиях. Перед этим Anthropic впервые предоставила свою новую модель не для общего пользования, а передала ее нескольким крупным компаниям для тестирования в том числе собственных киберсистем. «Модели искусственного интеллекта достигли такого уровня навыков кодирования, что теперь могут превзойти всех людей, кроме самых опытных специалистов, в поиске и использовании уязвимостей программного обеспечения», – заявила тогда Anthropic.
Вскоре стало известно, что доступ к Mythos получили несанкционированные пользователи, хотя они и не применяли ее в целях, связанных с кибербезопасностью.
Anthropic привлекла около 200 организаций в Project Glasswing для тестирования уязвимостей Mythos в сфере кибербезопасности. Компания сообщила, что намерена сотрудничать с Вашингтоном с целью расширить доступ к ней для большего числа участников как в США, так и за рубежом.
