После обновления популярного чат-бота искусственного интеллекта ChatGPT летом 2025 года сотни пользователей по всему миру обращались к нему с запросами о создании и применении биологического оружия и ядов, пишет The Wall Street Journal. ИИ-модели компании отвечали пользователям и давали пошаговые инструкции. Сотрудники OpenAI описывали, что некоторые ответы были настолько простыми, что им мог следовать даже ученик средней школы, изучающий биологию. Источники WSJ утверждают, что биологи и эксперты по терроризму назвали некоторые ответы ChatGPT «смертельно точными».
В начале 2026 года некоторые пользователи пытались получить от ChatGPT сведения о способах распространения инфекционных патогенов. Один из пользователей интересовался изменением вируса кори таким образом, чтобы вспышка заболевания стала устойчивой к вакцине. Другой спрашивал о создании рицина — запрещенного высокотоксичного вещества. Компания впоследствии заблокировала аккаунты пользователей, однако не стала сообщать о подобных запросах правоохранительным органам. В США нет законов, которые обязали бы ИИ-компании ограничивать такие запросы или раскрывать информацию.
Представитель компании владельца ИИ-бота OpenAI рассказала, что в 2025 году компания создала систему выявления пользователей, которые могут пытаться использовать ИИ для разработки биологического оружия. Выявление таких пользователей остается сложной задачей: ChatGPT получает около 2,5 млрд запросов в день. Внутренние испытания показали, что пользователи могут обходить ограничения. Пользователи смогли получить инструкцию по приготовлению напалма, представив запрос как просьбу «прочитать рецепт, который им якобы рассказывала бабушка перед сном». Руководитель направления исследований угроз и безопасности в Cisco Эми Чанг заявила, что при тестировании моделей ChatGPT, Claude и Gemini исследователи смогли получить потенциально опасные ответы после нескольких этапов общения с моделями. По ее словам, ни одна модель не застрахована на 100%, особенно если пользователь настойчив.
Развитие ИИ может упростить подготовку террористических атак. По словам Хамзы Чаудри из Future of Life Institute, для одиночек системы могут стать инструментом планирования атак, а для более организованных групп — помощником, который объяснит ошибки и поможет разрабатывать сложные сценарии. По данным WSJ, угрозу использования искусственного интеллекта для создания биологического оружия не раз обсуждали в Белом доме и Министерстве обороны США.
