Компания OpenAI во вторник сообщила, что автономный агент на базе ее передовых моделей искусственного интеллекта вышел из-под контроля во время проверки безопасности на прошлой неделе, проник в интернет и взломал инфраструктуру сторонней компании.
OpenAI тестировала возможности ряда наиболее совершенных моделей в контролируемой среде. Однако в ходе испытаний модель ИИ вырвалась из замкнутого испытательного сегмента, вышла во всемирную сеть и провела хакерскую атаку на стартап Hugging Face, отмечает Reuters.
Разработчик ИИ назвал инцидент беспрецедентным ЧП в киберпространстве и сообщил, что укрепит механизмы защиты.
Hugging Face — платформа, используемая для размещения крупных языковых моделей и наборов данных с открытым исходным кодом — на прошлой неделе сообщила, что подверглась хакерской атаке, от начала до конца осуществленной автономными ИИ-агентами.
Сооснователь Hugging Face Клеман Деланг в публикации в соцсети X написал, что компания подозревала, что за атакой могла стоять одна из ведущих лабораторий в области искусственного интеллекта, так как было ясно, что она проведена системой высокого уровня сложности.
«Оказалось, так и есть! Трудно поверить, что всё это ИИ провел самостоятельно!» — написал он.
В ответ на происшествие конгрессмен-демократ от штата Техас Грег Казар раскритиковал отсутствие законодательства, которое регулировало бы деятельность ИИ.
Глава компании Luta Security Кейти Муссурис считает, что подобные хакерские атаки со стороны ИИ будут продолжаться: «Сегодняшние модели похожи на великих иллюзионистов, которые умели выкручиваться из наручников и цепей — они ловкие, цепкие и умеют просочиться всюду».
