ВАШИНГТОН, 22 июл (Рейтер) - Компания OpenAI во вторник сообщила, что автономный агент на базе ее передовых моделей искусственного интеллекта вышел из-под контроля во время проверки безопасности на прошлой неделе, проник в интернет и взломал инфраструктуру сторонней компании.
OpenAI написала в блоге, что тестировала возможности ряда наиболее совершенных моделей в контролируемой среде. Однако в ходе испытаний модель ИИ вырвалась из замкнутого испытательного сегмента, вышла во всемирную сеть и провела хакерскую атаку на стартап Hugging Face.
Разработчик ИИ назвал инцидент беспрецедентным ЧП в киберпространстве и сообщил, что укрепит механизмы защиты.
Hugging Face - платформа, используемая для размещения крупных языковых моделей и наборов данных с открытым исходным кодом - на прошлой неделе сообщила, что подверглась хакерской атаке, от начала до конца осуществленной автономными ИИ-агентами.
Сооснователь Hugging Face Клеман Деланг в публикации в соцсети X написал, что компания подозревала, что за атакой могла стоять одна из ведущих лабораторий в области искусственного интеллекта, так как было ясно, что она проведена системой высокого уровня сложности.
«Оказалось, так и есть! Трудно поверить, что всё это ИИ провел самостоятельно!» - написал он.
Офис директора по национальной кибербезопасности США, управление цифровой защиты CISA и американское Агентство национальной безопасности не ответили немедленно на просьбы о комментарии.
В ответ на происшествие конгрессмен-демократ от штата Техас Грег Казар раскритиковал отсутствие законодательства, которое регулировало бы деятельность ИИ.
Глава компании Luta Security Кейти Муссурис считает, что подобные хакерские атаки со стороны ИИ будут продолжаться: «Сегодняшние модели похожи на великих иллюзионистов, которые умели выкручиваться из наручников и цепей - они ловкие, цепкие и умеют просочиться всюду».
Оригинал сообщения на английском языке доступен по коду: (Рафаэль Саттер при участии Анхаты Рупрай и Эй Джей Висенса, перевел Томаш Каник. Редактировала Анна Козлова)
