Гендиректор конкурирующей Anthropic Дарио Амодей опубликовал манифест с резким предупреждением о рисках дальнейшего развития наиболее мощных моделей. Он призвал крупнейшие ИИ-компании серьезнее относиться к возможности потери человеком контроля над технологией и к потенциально катастрофическим последствиям ее применения.
Опасения по поводу темпов развития ИИ публично высказывали и другие заметные представители индустрии, в том числе Илон Маск.
Риски и выгоды
Тема искусственного интеллекта быстро приобрела политическое измерение. Призывы сдержать темпы развития наиболее мощных ИИ-моделей и усилить контроль над ними стали звучать не только со стороны исследователей и технологических предпринимателей, но и в Конгрессе. Причем обеспокоенность потенциальными рисками ИИ объединила представителей как Республиканской, так и Демократической партий.
Ярким свидетельством того, насколько серьезно тема искусственного интеллекта вошла в американскую политическую повестку, стало неожиданное появление на одной площадке Берни Сандерса и Стива Бэннона, представляющих противоположные полюса американской политики. Несмотря на глубокие идеологические разногласия, в вопросе ИИ их аргументы во многом совпали. Оба говорили о рисках стремительного развития технологии и о последствиях, которые она может иметь для рынка труда, общества и распределения политической и экономической власти.
В дополнение к публичным заявлениям, в Конгрессе рассматривается несколько законопроектов, связанных с рисками, возникающими в связи с развитием искусственного интеллекта, большинство из которых двухпартийные. Все они призваны обеспечить участие человеческого фактора в выполнении автоматических алгоритмов в различных функциях ИИ.
Заметно более жесткую позицию занял президент Дональд Трамп. Он связал попытки замедлить развитие искусственного интеллекта с вопросами национальной безопасности и технологической конкуренции с Китаем. По его мнению, чрезмерные ограничения для американских разработчиков могут дать преимущество китайским компаниям и в перспективе ослабить технологическое лидерство США. Такой подход заметно расходился не только с позицией многих демократов, но и с общими настроениями на Капитолийском холме.
Примечательно, что эта дискуссия разворачивалась в момент весьма интенсивных контактов между Вашингтоном и Пекином. На той же неделе состоялась серия мероприятий, приуроченных к визиту Си Цзиньпина в США. На торжественном ужине в честь китайского лидера присутствовали представители американской технологической индустрии и политического истеблишмента.
Сами себе контролеры
Промежуточная точка в этой дискуссии была поставлена в конце сентября, когда Трамп пригласил в Белый дом руководителей крупнейших американских технологических компаний. По итогам встречи они подписали соглашение, предложившее альтернативу государственному регулированию. Согласно документу, индустрия берет на себя обязательство самостоятельно контролировать риски, связанные с наиболее мощными моделями ИИ. Соглашение предусматривает внутренний контроль, независимую оценку систем и надзор со стороны советов директоров компаний. При этом оно не имеет юридической силы, основано на добровольных обязательствах и имеет скорее политический эффект.
С политической точки зрения соглашение стало важным результатом для администрации Трампа. Белому дому удалось собрать вокруг общей позиции руководителей ведущих американских компаний, определяющих развитие современной индустрии ИИ во всём мире. Под соглашением стоят подписи Грега Брокмана из OpenAI, Дарио Амодея из Anthropic, Марка Цукерберга из Meta, Илона Маска из xAI, Сундара Пичаи из Google и Дженсена Хуанга из Nvidia. Тем самым администрация смогла представить саморегулирование как позицию, поддержанную значительной частью американской ИИ-индустрии.
Однако состав подписантов оказался не исчерпывающим. Особенно заметно отсутствие Microsoft, одного из крупнейших игроков на рынке ИИ и ключевого партнера OpenAI. Глава компании Сатья Наделла участвовал в мероприятиях в Белом доме, однако его подписи под соглашением нет.
Более того, незадолго до встречи Билл Гейтс выступил с несколькими публичными предупреждениями о рисках, связанных с неконтролируемым развитием искусственного интеллекта. Он выступал не как представитель Mocrosoft, но в личном качестве. Он говорил в том числе о сценариях, при которых наиболее мощные системы могут создать угрозы катастрофического масштаба, и подчеркивал, что одних механизмов саморегулирования индустрии может оказаться недостаточно.
Суперинтеллект Трампа
Политическое значение соглашения, таким образом, оказывается заметно больше, чем можно было бы предположить исходя из его юридического статуса. Фактически Белый дом предлагает установить базовые правила для индустрии еще до того, как Конгресс определит контуры обязательного федерального регулирования. Это позволяет Трампу ответить на растущую обеспокоенность безопасностью передовых моделей, не разрабатывая новое федеральное регулирование и не ограничивая их развитие.
Такая конструкция одновременно отвечает интересам значительной части индустрии. Компании принимают на себя дополнительные обязательства, но сохраняют существенную свободу в выборе конкретных механизмов контроля. Более того, участвуя в выработке стандартов сегодня, они получают возможность влиять на правила, которые завтра могут лечь в основу федерального законодательства.
Примечательно, что в тот же день Трамп выпустил указ, предложив использовать в отношении наиболее передовых систем ИИ термин «суперинтеллект».
Соглашение позволяет Трампу позиционировать себя как сторонника американского лидерства в сфере ИИ, при этом не ограничивая развитие, но одновременно поддерживая идею обеспечения безопасности и предлагая решение, связанное с рисками развития суперинтеллекта.
