15 окт (Рейтер) - Федеральная торговая комиссия США отправила повестки в суд разработчикам искусственного интеллекта Anthropic и OpenAI, желая получить документы об инцидентах с вышедшими из-под контроля моделями, сообщило в среду издание Axios, ссылаясь на источник, знакомый с этим вопросом.
Тревоги о безопасности в сфере искусственного интеллекта усиливаются: как сообщается, агенты ИИ при испытаниях взламывали сайты, обманывали людей и проявляли агрессию.
Многие из случаев, о которых сообщала Anthropic, касались сайтов федеральных ведомств, властей на уровне штатов и городов. Anthropic сообщила, что проинформировала Белый дом и уведомила об инцидентах все затронутые органы власти, но не сообщила, какие именно.
К примеру, 10 октября Рейтер сообщал, что агент ИИ самовольно взломал базу отдела полиции и разместил ложное заявление о преступлении.
«Компании, разрабатывающие сверхинтеллект, должны немедленно сообщать о ЧП с участием своих моделей и затем принимать быстрые, решительные меры, чтобы устранить все негативные последствия», - написал неделю назад директор по связям с общественностью FTC Джо Габриэль Симонсон на платформе X.
FTC, OpenAI и Anthropic не ответили немедленно на просьбы Рейтер о комментарии на тему сообщения Axios.
Оригиналы сообщений на английском языке доступны по кодам:
(Ануша Шах, Харшита Мэри Варгезе и Костас Питас при участии Дипы Сетараман и Давди Барио)
