21 апр (Рейтер) - Компания Anthropic в начале апреля представила Mythos - свою самую передовую на сегодняшний день модель искусственного интеллекта, разработанную для задач в области киберзащиты.
Широкие возможности Mythos вызвали обеспокоенность по поводу уязвимости существующего программного обеспечения после того, как ИИ-стартап сообщил, что в ходе предварительного тестирования модель выявила тысячи серьезных уязвимостей практически во всех основных операционных системах и веб-браузерах.
КАК БЫЛА ЗАПУЩЕНА МОДЕЛЬ И КТО ПОЛУЧИЛ К НЕЙ ДОСТУП? Anthropic запустила Claude Mythos Preview в рамках контролируемого проекта под названием Project Glasswing, дав доступ к модели крупнейшим технологическим компаниям, включая Amazon, Microsoft, Nvidia и Apple .
Кроме того, компания открыла доступ более чем 40 организациям, занимающимся разработкой или поддержкой критически важной программной инфраструктуры.
КАКИЕ ОПАСЕНИЯ ВЫЗЫВАЕТ MYTHOS?
Эксперты предупреждают, что модель способна обнаруживать и использовать ранее неизвестные уязвимости быстрее, чем компании успеют их устранить. По их словам, продвинутые возможности Mythos в области программирования и высокий уровень автономности могут существенно ускорить проведение сложных кибератак - особенно в таких секторах, как банковский, где используются сложные, взаимосвязанные и часто созданные десятилетия назад системы. Представляя Mythos, Anthropic также указала, что способность модели выявлять уязвимости в программном обеспечении в большом масштабепри неправомерном использовании может создать серьезные риски для экономики, общественной и национальной безопасности.
Акции американских разработчиков программного обеспечения резко упали 9 апреля, после того, как запуск Mythos 7 апреля вновь усилил опасения, что прогресс в области ИИ может подорвать позиции традиционных компаний.
ЧТО ГОВОРЯТ БЕЛЫЙ ДОМ И РЕГУЛЯТОРЫ О MYTHOS? Белый дом провел обсуждение с генеральным директором Anthropic Дарио Амодеем по поводу Mythos. По словам чиновников, речь шла о вопросах сотрудничества, кибербезопасности и поиска баланса между развитием искусственного интеллекта и обеспечением безопасности. Переговоры состоялись несмотря на то, что Пентагон присвоил Anthropic официальный статус организации, представляющей риск для цепочки поставок. Правительство США планирует предоставить доступ к версии Mythos крупным федеральным агентствам, сообщил Блумберг.
Министр финансов США Скотт Бессент и председатель ФРC Джером Пауэлл провели встречу с главами крупнейших американских банков, чтобы проинформировать их о потенциальных рисках, связанных с моделью, сообщил Рейтер. Модель также вызвала тревогу в Великобритании: власти провели обсуждение с крупными банками и представителями сферы кибербезопасности для оценки возможных рисков.
Банки находятся в тесном контакте со своими европейскими регуляторами по поводу Mythos, сказал Кристиан Севинг, глава Ассоциации немецких банков и гендиректор Deutsche Bank.
Председатель немецкого центрального банка Йоахим Нагель призвал обеспечить всем учреждениям доступ к разработанной компанией Anthropic модели искусственного интеллекта Mythos для обеспечения равных условий и предотвращения ее неправомерного использования.
Оригинал сообщения на английском языке доступен по коду:
(Харшита Мэри Варгезе, перевела Ая Лмахамад)
