18 фев (Рейтер) - Правительства и регуляторы по всему миру ужесточают меры против сексуально откровенного контента, который генерируется чатботом Grok компании xAI, принадлежащей Илону Маску, на его платформе X. В ряде стран открыты новые расследования, вводятся запреты и усиливаются защитные механизмы против распространения незаконных материалов.
ЕВРОПА
Еврокомиссия 26 января начала расследование, распространяет ли чатбот искусственного интеллекта Grok незаконный контент, в том числе сексуализированные манипулированные изображения, а также - выполнила ли компания X оценку рисков, предусмотренную цифровым законодательством ЕС. 8 января ЕК продлила направленное соцсети в 2025 году предписание хранить все внутренние документы и данные, связанные с Grok, до конца 2026 года.
17 февраля Комиссия по защите данных Ирландии начала расследование в отношении Grok. Регулятор намерен выяснить, каким образом чатбот обрабатывает персональные данные, а также то, генерирует ли он вредоносные сексуализированные изображения и видео, в том числе с участием несовершеннолетних. Ирландский регулятор отвечает за надзор за X в ЕС, поскольку европейская штаб-квартира компании находится в Дублине.
Правительство Испании тем временем поручило прокуратуре расследовать деятельность X, Meta и TikTok в связи с предполагаемым распространением сгенерированных искусственным интеллектом материалов о сексуальном насилии над детьми, сказал премьер-министр Педро Санчес.
Британский медиарегулятор Ofcom начал расследование в отношении X, чтобы определить, нарушают ли сексуально откровенные дипфейки, созданные Grok, обязанность компании защищать пользователей от контента, который может нарушать британское законодательство о безопасности в сети. Парижская прокуратура 3 февраля провела обыск в офисе X и вызвала Маска на допрос в апреле в рамках дела о соучастии в хранении и распространении изображений детской порнографии и дипфейков и соответствующей настройке алгоритма.
Итальянский регулятор предупредил, что использование ИИ для создания сексуализированных дипфейков реальных людей без их согласия может в некоторых случаях считаться уголовным преступлением.
АЗИЯ
Министерство информационных технологий Индии 2 января направило компании X официальное предупреждение относительно создания или распространения с помощью Grok непристойных изображений. Ведомство потребовало удалить контент и предоставить отчет о принятых мерах в течение 72 часов.
Япония также провела расследование в отношении X из-за Grok, сообщив, что рассмотрит все возможные варианты для предотвращения генерации неприемлемых изображений.
Министерство коммуникаций и цифровых технологий Индонезии заблокировало доступ к Grok. Министр цифрового развития Мутья Хафид указала на строгие национальные законы против порнографии, объяснив блокировку необходимостью защитить женщин и детей от сгенерированного ИИ фальшивого порнографического контента.
Малайзия восстановила доступ к Grok после того, как X внедрила дополнительные меры безопасности, сообщил местный регулятор 23 января.
Власти Филиппин сообщили 21 января, что восстанавливают доступ к Grok после того, как сервис согласился убрать инструменты обработки изображений, вызвавшие обеспокоенность по поводу защиты детей.
АМЕРИКА
Губернатор Калифорнии и генеральный прокурор штата 14 января потребовали объяснений от xAI в связи с распространением на платформе сексуальных материалов, созданных без согласия изображенных лиц.
Канадский регулятор по защите данных сообщил о расширении текущего расследования в отношении X после сообщений, что Grok генерирует несогласованные сексуально откровенные дипфейки.
Правительство Бразилии и федеральные прокуроры 20 января дали xAI 30 дней на меры против распространения фейкового сексуализированного контента.
ОКЕАНИЯ
Австралийский регулятор онлайн-безопасности eSafety сообщил 7 января, что расследует сексуализированные дипфейки, созданные Grok, и оценит материалы для взрослых в рамках борьбы с насилием. При этом ведомство отметило, что уже изученные материалы не подпадают под критерии правонарушения, согласно австралийскому законодательству.
КАК ОТВЕТИЛА xAI
Компания xAI 14 января сообщила, что ограничила пользователям Grok функции редактирования материалов, а также заблокировала создание изображений людей без одежды для пользователей в странах, где это запрещено законом. Компания не уточнила, о каких именно странах идет речь.
До этого xAI уже ограничила функции генерации и редактирования изображений Grok, сделав их доступными только для пользователей с платной подпиской.
Оригинал сообщения на английском языке доступен по коду: (Уго Лхомед и Сэм Табахрити, перевел Томаш Каник)
