Поддержите The Moscow Times

Подписывайтесь на «The Moscow Times. Мнения» в Telegram

Подписаться

Позиция автора может не совпадать с позицией редакции The Moscow Times.

Риски закона об искусственном интеллекте для общества и прав человека

Россия долгое время занимала выжидательную позицию и обходилась без единого закона об искусственном интеллекте. Предпочтение отдавалось отраслевым нормам (данные, медицина, транспорт), экспериментальным правовым режимам и мягкому праву: кодексы этики, добровольные стандарты, рекомендации.
Коллаж

В марте 2026 года Минцифры представило первый проект закона, который, несмотря на свою поверхностность, явно указывает: государство решило, как оно будет регулировать разработку и применение искусственного интеллекта.

Откуда исходит угроза

Силовики и армия. Закон прямо выводит из-под своего действия применение систем ИИ для обороны, безопасности государства, оперативно-розыскной деятельности и охраны правопорядка. То есть: военные и силовики смогут использовать ИИ на свое усмотрение.

Сфера обороны в мировой практике нередко выводится из-под регулирования, в отличие правопорядка и общественной безопасности. С учетом особенностей российских правовых институтов — это тревожный знак, тем более что с с правоохранительными органами граждане сталкиваются в разы чаще, чем с военным управлением.

Системы распознавания лиц в городском видеонаблюдении уже несколько лет позволяют находить участников протестов. Ещё в 2023 году ЕСПЧ в деле «Глухин против России» указал на правовой вакуум и фактический произвол при использовании таких технологий в общественных местах. Этот вакуум так и не был заполнен, а число автоматизированных систем контроля только выросло. Следующим шагом может стать более глубокая интеграция ИИ в правоохранительную деятельность: действия полиции на основе предиктивной аналитики, распознавание лиц и эмоций людей, анализ поведения через нательные камеры, автоматизированное выявление противоправного контента и средств обхода блокировок, полицейские роботы и дроны. Именно эти и другие возможные сценарии закон никак не регулирует,.

Персоналистский фактор. Порядок применения ИИ в обороне, национальной и общественной безопасности, оперативно-розыскной деятельности и охране правопорядка будет определять Путин. В частности, «утверждать Национальную стратегию развития искусственного интеллекта», «определять особенности применения технологий ИИ» в этих сферах и «осуществлять иные полномочия в сфере применения ИИ.» Возможности искусственного интеллекта делают эти сферы еще более чувствительными для прав человека, а законопроект не просто обходит их стороной: он фактически отдает регулирование одному человеку.

Но риск состоит не только в концентрации полномочий в одних руках, но и в отсутствии процессуальных гарантий, процедурных гарантий и независимого контроля и в этом законе, и в других. Широкие категории «общественная безопасность», «правопорядок», «антитеррористическая защищённость» позволяют распространить такой режим на протесты, массовые мероприятия, онлайн-коммуникации и поведенческий мониторинг.

Это именно те сферы применения ИИ, которые требуют наиболее строгих ограничений и процессуальных норм, никак не регулируются.

Отсутствие риск-ориентированного подхода. Проект декларирует риск-ориентированный подход, но не содержит его ключевых элементов: классификации систем по уровням риска, перечня запрещённых практик и дифференцированных обязанностей разработчиков и пользователей в зависимости от уровня риска для прав человека.

Это принципиально отличается от европейского подхода к регулированию, где обычно именно уровень риска определяет количество нормативных требований. Например, наиболее опасные сферы применения прямо запрещены, для систем повышенного риска установлены специальные требования, а менее чувствительные сценарии подпадают под требования о  прозрачности, если взаимодействуют с человеком, либо совсем выведены за рамки закона.

В российском проекте логика иная. Дифференциация проводится не по уровню риска для прав человека, а по степени государственного контроля над моделью. Больше всего требований предусмотрено для разработчиков «суверенных и национальных» и «доверенных» моделей, которые будут иметь эксклюзивный доступ к государственным закупкам и данным. Для остальных же субъектов требования немногочисленны и распределены по логике цепочки поставки на рынок: разработчик модели — оператор системы — владелец сервиса — пользователь сервиса.

Для граждан это означает отсутствие специальных гарантий по защите их прав: они смогут апеллировать только к общему законодательству РФ, а для бизнеса — зависимость от будущих решений правительства и иных уполномоченных органов.

Идеологические требования. Разработка и внедрение ИИ должны опираться на традиционные российские духовно-нравственные ценности — «служение Отечеству», «крепкую семью», «историческую память» и другие подобные категории. Такие требования невозможно переложить на технические стандарты и измеримые метрики. Это дает регулятору инструмент произвольного контроля: соответствие «ценностям» всегда можно оценить так, как удобно в конкретный момент.

Это меняет сама функция системы ИИ: будучи обученной на таких ценностях, она станет отвечать, руководствуясь ими же. Это превращает ИИ из относительно нейтрального источника информации в канал трансляции государственной идеологии, что особенно опасно с учетом того, насколько убедительно современные модели ИИ формулируют ответы. Ответы российского ИИ проходят через цензурный фильтр по содержанию, особенно на политические и социально чувствительные темы.

Для разработчиков это также источник правовой неопределённости. Соответствие «ценностям» нельзя заранее проверить по понятным критериям, а непредсказуемые регуляторные и репутационные риски будут отпугивать инвесторов и кадры.

Доступ ФСБ к пользовательским данным. Здесь работает уже выстроенная инфраструктура хранения и доступа. Закон встраивает сервисы ИИ в действующий режим организаторов распространения информации (ОРИ): владелец, подпадающий под этот статус, обязан хранить на российских серверах данные о взаимодействии пользователей с сервисом, включая содержание переписки, и обеспечивать к ним круглосуточный удалённый доступ для ФСБ.

Запросы к ИИ-моделям часто содержат личные, профессиональные, юридические, медицинские или коммерчески чувствительные сведения. В результате такой сервис становится не только инструментом обработки информации, но и дополнительной точкой сбора данных о пользователях. Вместе со встроенной модерацией ответов это создает двойной контур контроля. 

Административный контроль рынка. Проект вводит привилегированные статусы для отдельных моделей — «суверенная», «национальная» и «доверенная». Первые два предполагают, что разработчик должен быть российским, а его модель соответствовать законодательству и традиционными ценностями.  В законе также содержалось требование обучать модель на данных российского происхождения, но этот пункт вызвал негативную реакцию индустрии, поэтому в дальнейшем его могут смягчить или завуалировать. Но общий принцип сохраняется: доступ к привилегированному статусу зависит не столько от качества модели, сколько  от ее политико-правовой приемлемости для государства.

Главным барьером для разработчиков становится реестр доверенных моделей: именно они смогут иметь доступ к значимым объектам критической информационной инфраструктуры и государственным информационным системам. Конкретные требования, порядок проверки и правила ведения реестра будут определяться подзаконными актами — правительством, ФСТЭК и ФСБ.

В такой конструкции специальные статусы и реестры легко превращаются из инструментов безопасности в механизм административного контроля. Преимущество получают не обязательно лучшие технологические решения, а наиболее управляемые и приемлемые для государства организации. Это усиливает крупные аффилированные компании, бьёт по независимым разработчикам и ограничивает конкуренцию.

Закон формально не запрещает иностранные ИИ-сервисы, но для бизнеса их использование означает снижение конкурентоспособности: продукты, созданные на их основе, не смогут претендовать на статус «суверенной или национальной» или «доверенной» модели. Также иностранные сервисы могут быть в любой момент заблокированы — за распространение нежелательного контента, отказ размещать серверы с данными граждан в России или отказ предоставить доступ к запрашиваемой информации.

Чего ждать от следующих версий закона

Проект, вероятно, будут дорабатывать, но оснований ожидать перехода к полноценному риск-ориентированному подходу мало. Отсутствие регулирования во многом было связано не столько с желанием содействовать развитию инноваций, как это часто заявлялось, сколько с невозможностью достижения консенсуса между разными заинтересованными группами.

В любом случае, принципы закона, скорее всего, не изменятся: широкие полномочия государственных органов, специальные статусы для моделей, определение ключевых требований подзаконными актами и слабые гарантии для граждан.

Главная проблема закона в том, что фактическое  регулирование вынесено за его пределы. Большая часть конкретных требований должна определяться актами правительства, ФСТЭК и ФСБ. Соответственно, правила доступа к рынку будут формироваться не в рамках публичного законодательного процесса, а органами исполнительной власти с высоким уровнем субъективизма. На практике это может означать, что ключевые аффилированные с государством участники рынка смогут лоббировать выгодные для себя решения, а на остальных субъектов можно будет легко оказывать давление через избирательное правоприменение.

Формируется не система защиты общества от специфических рисков, которые несет разработка и применение ИИ, а механизм включения сферы ИИ в существующую инфраструктуру государственного контроля над цифровой средой. Для отрасли это означает перспективу технологического отставания; для общества — отсутствие ясных законодательных пределов и независимого контроля именно там, где применение систем ИИ наиболее опасно для прав человека.

Это приближает наступление цифрового авторитаризма, и подобные тенденции уже заметны в странах Евразийского пространства.

читать еще

Подпишитесь на нашу рассылку