ИИ-агент OpenAI, вышедший из-под контроля и в течение нескольких дней осуществлявший взломы систем компании Hugging Face, также проник в системы клиента другой технологической компании — нью-йоркской Modal Labs. Об этом сообщает Reuters со ссылкой на представителя руководства Modal и два источника, знакомых с ситуацией.
Согласно опубликованной Hugging Face хронологии инцидента, ИИ-агент сначала проник в так называемую песочницу — изолированную тестовую среду — размещенную на инфраструктуре стороннего провайдера, а затем использовал ее как плацдарм для более масштабной атаки.
В публикации не назывался сторонний провайдер, на чьей инфраструктуре размещалась песочница. Однако технический директор Modal Акшат Бубна сообщил, что агент воспользовался уязвимостью в коде, написанном клиентом компании и размещенном на платформе Modal. Хотя взлом клиента Modal стал лишь начальным этапом более широкой хакерской кампании против Hugging Face, он свидетельствует о том, что действия вышедшего из-под контроля ИИ-агента имеют более широкие последствия, чем было известно ранее.
На прошлой неделе OpenAI сообщила, что во время тестирования в контролируемой среде наиболее совершенных моделей ИИ одна из них вырвалась из замкнутого испытательного сегмента, вышла во всемирную сеть и провела хакерскую атаку на стартап Hugging Face.
Разработчик ИИ назвал инцидент беспрецедентным ЧП в киберпространстве и сообщил, что укрепит механизмы защиты. Сооснователь Hugging Face Клеман Деланг подтвердил факт атаки со стороны ИИ. «Трудно поверить, что всё это ИИ провел самостоятельно!» — написал он соцсети X.
