Оригинал – здесь.
Я работал с Пентагоном, и мне нравилась эта работа. Я не военный человек по натуре, но уважаю людей, которые занимаются защитой свободы. Когда я увидел то, что считаю военными преступлениями России, увидел, что происходит с обычными людьми, со стариками в украинских городах, я решил, что должен что-то сделать и попытаться помочь.
Эта война совершенно не похожа на ту, какой ее представляют. Скорость инноваций здесь выше всего, что мне доводилось видеть, — а я всю жизнь работаю в технологической отрасли, которая сама развивается быстрее практически всего остального.
Украина стала местом настоящей технологической революции в военном деле, и мне посчастливилось наблюдать за этой революцией и пытаться помогать украинцам.
Сегодня поле боя — фактически ничейная земля, где ничто не может двигаться, потому что над ней постоянно находятся дроны и средства борьбы с ними. Если вы сидите в укрытии и высунетесь наружу, то в среднем через три минуты вас обнаружат и убьют. Представьте, что значит для людей с обеих сторон: постоянно находиться в таком положении. Люди заперты в укрытиях!
Украинцев к тому же постоянно атакуют корректируемыми авиабомбами (КАБами). Но все-таки главная особенность войны — непрерывное и повсеместное присутствие беспилотников. Не надо представлять себе ИИ, роботов или гуманоидов. Представьте маленькие самолеты, которые ведут друг с другом воздушный бой. Они летят со скоростью примерно 160–240 км/час. Против дрона запускается дрон-перехватчик: беспилотник против беспилотника.
Последний год украинские команды и компании делали фантастическую работу, сбивая российские «Шахеды». Но теперь ситуация меняется.
Россия научилась меняться — и это очень тревожно
Произошло новое и очень зловещее изменение. И когда я говорю «зловещее», я именно это и имею в виду.
Россияне стали устанавливать на «Шахеды» реактивные двигатели. Такие маленькие двигатели можно купить в Китае примерно за 5000 долларов. Они размером примерно с ладонь, работают при очень высокой температуре и дают достаточную тягу. Российские ударные дроны теперь летят быстрее нынешних украинских перехватчиков.
Как перехватить более быстрый беспилотник? Нужно поставить реактивный двигатель и на перехватчик. Это и называется адаптацией. Восемь месяцев назад атаки беспилотников удавалось отражать очень успешно, и все радовались, что Украина способна защищаться от «Шахедов». Сегодня хорошей защиты уже нет. Вот насколько быстро все меняется!
Есть и еще одно важное изменение. Россия создала ячеистую сеть — по сути, сеть связи дронов друг с другом. Один из реактивных «Шахедов» сумел попасть в здание Службы безопасности Украины в Киеве, причем именно в ту его часть, где находились люди. Судя по всему, беспилотником управляли через эту сеть практически до самой цели. Это означает, что в ближайшем будущем такие аппараты могут начать в огромных количествах заполнять воздушное пространство Украины, прежде всего на востоке, где идут основные боевые действия.
В открытых источниках называлась цифра: Россия якобы подготовила 80 тысяч таких беспилотников для применения до декабря. Я не знаю, верна ли она. Но все развивается быстрее, чем ожидал даже я, хотя привык к скорости этой войны.
Главное здесь не просто инновации. Главное — инновации, доведенные до массового производства. Победит тот, кто сумеет быстрее соперника изобретать новое и затем быстрее масштабировать его.
И я хочу особо подчеркнуть: американцы практически не участвуют в этом процессе. Большинство стран НАТО – тоже. Передача знаний на Запад пока крайне ограничена. Между тем Россия — потенциальный будущий противник НАТО. Собственно, именно для противостояния такой угрозе НАТО и создавалось. Как можно не собирать сейчас эти знания, чтобы использовать их для защиты собственных стран? Это безумие.
Война может стать гораздо хуже
Я вижу по меньшей мере пять причин, почему ситуация в войне России против Украины может стать гораздо хуже.
Первая — баллистические ракеты. Россия наращивает их производство и применение; в открытых источниках называют порядка 1300 ракет в год. Каждая несет огромный заряд. Такая ракета способна уничтожить не просто дом, а целый городской квартал.
Вторая — переход на небольшие реактивные двигатели. Я этого не ожидал, но теперь думаю, что именно они могут стать одним из важнейших элементов новой войны. Они позволяют небольшому аппарату лететь очень далеко и очень быстро, их трудно перехватывать, они могут нести значительную нагрузку. В конечном счете речь опять идет о массовости.
Против баллистических ракет нужны системы вроде Patriot. В открытой печати утверждается, что после войны с Ираном американские запасы перехватчиков сильно сократились. Я не знаю реальных цифр, но проблема очевидна: Украине они крайне необходимы.
Третья угроза — масштабирование применения КАБов. Эти тяжелые планирующие бомбы, которые российские самолеты запускают, не пересекая линии фронта. Они могут нести до трех тонн взрывчатки и обладают высокой точностью. Эффективного средства противодействия им практически нет.
Четвертая — ожидание в Украине новой российской мобилизации. Здесь полагают, что после сентябрьских выборов Россия может мобилизовать еще 500–600 тысяч человек.
И пятая вещь, которой, на мой взгляд, уделяют недостаточно внимания: у России появляется аналог Starlink — «Рассвет». Если эта система действительно заработает, поддерживать связь между российскими беспилотниками, самолетами и ракетами станет гораздо легче, а прервать эту связь — гораздо труднее.
Украина не прекратит воевать
Украинцы убеждены, что в случае победы России их убьют, их семьи будут уничтожены. Они не перестанут сражаться. Возникает страшный сценарий: мы можем прийти к тому, что я назвал бы тотальной войной, когда все на территории обеих стран становится целью для другой стороны.
Это ужасно. Думаю, когда-нибудь люди будут оглядываться на эту войну и говорить: надо было раньше найти способ остановить ее — дипломатией, давлением или чем-то еще.
Но сегодня я могу сказать одно: Украина способна держаться. У украинцев есть мужество, которое мне даже трудно себе представить. Я не уверен, что сам обладал бы таким мужеством.
Но им нужна западная помощь. В частности, деньги и технологическая помощь, чтобы отразить новые волны российских атак. Если эта помощь придет, Украина сможет удержаться. И помощь нужна быстро.
Сегодня реактивные дроны и баллистические ракеты прилетают практически безнаказанно, потому что не хватает перехватчиков Patriot. На земле одновременно используются самые примитивные средства защиты: обычная леска, старые рыболовные сети, натянутые между деревьями или столбами в надежде, что беспилотник в них запутается и не взорвется. В одной и той же войне соседствуют передовые технологии и буквально рыболовные сети.
Технологические слои войны
Важно понимать, что война — это не одно оружие и не одна система. Она состоит из нескольких технологических слоев.
Первый — небольшие FPV-дроны, в том числе управляемые по оптоволокну. Российская тактика на фронте часто заключается в том, чтобы посылать солдат через открытые пространства. Солдаты чрезвычайно уязвимы, и украинцы уничтожают их беспилотниками. Российские потери ужасны. И это ведь тоже люди. Сейчас интенсивность российских потерь достигла максимума за всю войну.
Украина располагает меньшим числом людей, поэтому должна беречь их — и по моральным, и по стратегическим причинам. Украинские военные стараются оставаться скрытыми, а обнаружив противника, поражают его.
Следующий слой — планирующие бомбы. Они ответственны за огромное число потерь на передовой. Украинские солдаты сидят в укрытиях, а вокруг непрерывно взрываются КАБы. Можно представить, какое посттравматическое расстройство остается у тех, кто это пережил.
Выше — «Шахеды»: гораздо большая дальность, а теперь еще и растущая скорость.
А на самом верху этой иерархии — баллистические ракеты.
Одновременно это иерархия стоимости. FPV-дрон может стоить 600, 800, 1000 долларов. Он дешев и поэтому может применяться массово, хотя дальность у него небольшая. Баллистическая ракета — уже миллионы долларов. Роль пуль в этой войне в значительной степени выполняют FPV-дроны.
А дорогостоящие системы используются в том числе для террора против украинского населения и разрушения ключевой инфраструктуры. Российские средства поражения применяются самым жестоким образом, удары наносятся по детям: школам и детским садам.
Украина видит угрозу, но не всегда может ей противостоять
Одна из самых жутких вещей, которые мне довелось видеть, — украинские командные центры. Они создали нечто вроде Google Maps для войны. Я прекрасно понимаю, как устроены Google Maps, поэтому мне было особенно интересно на это смотреть.
На экране появляется российский самолет, обнаруженный различными сенсорами и радарами. Потом видно, как он сбрасывает планирующую бомбу. Система даже может определить тип бомбы. И в этот момент мое сердце падает: бомбу видно, известно, что она летит, иногда даже можно понять, куда она попадет, но остановить ее невозможно.
Во время одного из моих последних приездов в Киев мне сказали: вам надо уезжать прямо сейчас. Я спросил почему. Мне ответили: поднялись два бомбардировщика, они выйдут на рубеж атаки примерно к трем часам ночи, и к этому времени вам лучше здесь не находиться. Я сказал: никаких проблем, уезжаю. Но жители Киева потом всю ночь сидели в убежищах.
Вот в чем проблема: Украина очень хорошо видит происходящее, но далеко не всегда имеет средства его остановить.
Это еще не война искусственного интеллекта
Надо различать автоматизацию и искусственный интеллект. Системы автоматического наведения существуют давно. У оружия есть камера, оно обнаруживает цель, человек дает разрешение, после чего система захватывает объект и самостоятельно сопровождает его до поражения.
Можно сделать и полностью автоматическую систему, где человек вообще не нажимает последнюю кнопку. Но это еще не обязательно ИИ. В техническом смысле это компьютерное зрение. Вы заранее знаете, что ищете, камера обнаруживает объект, система его классифицирует и атакует.
Приведу намеренно страшный пример. Технически совсем несложно создать оружие, которое распознает человеческое лицо и автоматически стреляет. Я вовсе не призываю это делать. Я хочу показать, насколько доступна технология: компьютеры давно прекрасно распознают лица. Это тот же принцип, который используется, когда вы разблокируете iPhone или Android своим лицом.
Можно сказать машине: поражай человека, а не корову; танк, а не автомобиль; ракетную установку, а не грузовик. Подобные технологии существуют уже лет двадцать.
Но ИИ означает нечто другое — обучение. Система сама учится, делает прогнозы, меняет поведение. И вот настоящего применения такого ИИ в этой войне мы пока практически не видели. Мы видели прежде всего автоматизацию.
Тысячи машин, принимающих решения вместе
Первое, что произойдет, — автоматическое наведение станет повсеместным. Беспилотник будет автоматически искать не только людей или наземные объекты, но и беспилотники противника. Он будет летать, искать вражеский дрон и атаковать его. Если эта война превращается в войну «дрон — антидрон», значительная часть этого процесса неизбежно будет автоматизирована.
Следующий вопрос гораздо серьезнее. Что произойдет, когда обе стороны получат такие системы?
Человек не способен управлять роем из тысячи беспилотников. Компьютер способен.
Компьютеры начнут самостоятельно разрабатывать планы действий внутри роя. Они будут использовать обучение с подкреплением, чтобы находить оптимальный способ атаки противника или конкретной цели. Алгоритмы, естественно, будут совершенно секретными.
У меня есть надежда — только надежда, и можете считать меня наивным, — что, когда обе стороны получат подобные возможности, ни одна не решится атаковать другую, потому что никто не будет знать, что в ответ сделает компьютер противника. Получится своего рода взаимное гарантированное уничтожение с помощью ИИ.
Исключение человека
Я считаю весьма вероятным переход от модели, при которой человек санкционирует каждый отдельный выстрел, к модели, где человек контролирует систему в целом: наблюдает, проверяет и вмешивается, когда что-то идет неправильно.
Я участвовал в разработке соответствующих принципов, когда работал с Пентагоном, поэтому знаю американский подход. Нельзя просто запустить автономное оружие, которое днями бродит где-то и самостоятельно ищет, кого уничтожить. Но если у вас есть надежные разведданные и человек наблюдает за операцией, внутри этих рамок допустима значительная автоматизация: искать, обнаруживать, атаковать, защищаться.
Думаю, примерно такой будет модель США и Запада, и, вероятно, правила НАТО. Я твердо убежден, что Россия таких ограничений соблюдать не станет. Китай, думаю, тоже. И это создает отдельную категорию моральных проблем.
Россия может первой войти в настоящий цикл ИИ-войны
Настоящего самообучения непосредственно на поле боя мы пока не видим, но я ожидаю его очень скоро.
У России уже есть полный массив видеоданных, ячеистые сети и отчеты об эффективности применения оружия. Следующий естественный шаг — использовать все эти данные, чтобы обучать и улучшать алгоритмы.
Не надо себя обманывать. Эти люди совершенно серьезно намерены уничтожить Украину. Есть все основания предполагать, что они либо уже входят в этот цикл обучения, либо начинают это делать.
Кроме того, существуют очень мощные открытые большие языковые модели из Китая. Появлялись сообщения, что Россия использует такие модели; сам я не могу подтвердить их достоверность. Но очень похоже, что китайские технологии либо непосредственно передаются России, либо Китай так или иначе помогает ей в этой области.
На украинской стороне я пытаюсь убедить людей уделять больше внимания именно ИИ. Но, во-первых, они ведут войну прямо сейчас, а во-вторых, настоящие технологии ИИ сложны. И вот здесь Запад мог бы оказать Украине действительно серьезную помощь.
От атомной бомбы ИИ отличается скоростью
Возможно, именно российско-украинская война заставит мир осознать опасность, которую несет военный ИИ.
История ядерного сдерживания развивалась сравнительно медленно. США создали атомную бомбу в 1945 году, Советский Союз — в 1949-м. Между этими событиями прошло четыре года.
Сегодня инновационная война развивается не годами, а днями. Я постоянно вижу одну и ту же картину: появляется новая технология, а через три-четыре месяца противная сторона уже находит способ ослабить ее эффект или нейтрализовать ее. Это война адаптации: одна сторона делает ход, другая приспосабливается, затем следует следующий ход.
Всю эту войну можно представить как гонку инноваций вверх по технологической лестнице. Искусственный интеллект способен прежде всего резко ускорить весь цикл. Он позволяет быстрее анализировать, быстрее проектировать, быстрее совершенствовать системы и быстрее принимать решения.
Вопрос в том, приведет ли симметричное обладание такими возможностями к сдерживанию. Допустим, обе стороны имеют развитый военный ИИ, но Россия решает, что знает нечто, чего не знают украинцы, и поэтому может рискнуть. Ошибка в такой ситуации способна привести к огромной трагедии для обеих сторон.
Я боюсь ИИ — но я оптимист
Я беспокоюсь об искусственном интеллекте практически во всех отношениях. Но прежде всего я благодарен за то, что он появляется, потому что с его помощью мы сможем решить огромное количество проблем.
Только этим летом ИИ решил десять крупных математических задач, считавшихся нерешаемыми. Это серьезное достижение. Посмотрите на эффективность производства, энергетику, климат, здравоохранение. Среди моих друзей есть люди, убежденные, что в течение следующих двадцати лет мы сможем решить проблему большинства человеческих болезней. Если это возможно — я за.
Вероятный итог будет таким же, как со всеми предыдущими технологиями: в целом ИИ принесет огромную пользу, но одновременно создаст проблемы, с которыми придется разбираться.
Сегодняшние опасения — это только сегодняшний список. Через год, когда распространение ИИ станет еще шире, появятся новые проблемы.
Меня особенно беспокоит влияние ИИ на детей. В отношении взрослых я склонен быть довольно либертарианским: они взрослые люди и сами могут разобраться. Но дети — не взрослые, их необходимо защищать от негативных последствий ИИ.
В сфере конфликтов первыми настоящими войнами ИИ, вероятно, станут кибератаки. Их будут применять все, и, думаю, США тоже, потому что инструменты становятся чрезвычайно мощными. При этом сама индустрия становится осторожнее. Компании проверяют новые системы на уязвимости и пытаются атаковать собственные продукты до того, как откроют их широкой публике. Это хорошо: общество постепенно учится управлять оборотной стороной технологии.
И все-таки я остаюсь очень большим оптимистом. Думаю, все проблемы, о которых мы сейчас говорим, преодолимы. Я не считаю их неустранимыми.
Мы подошли к точке перелома
Но именно сейчас меня особенно тревожит Украина. Мне кажется, мы подошли к одной из тех точек принятия решения, к настоящему перелому в войне.
И дело не только в реактивных «Шахедах». Дело в совокупности всех изменений.
Исторически преимущество Украины заключалось в том, что это был маленький, очень умный и очень быстрый инноватор. Россия была большой, медленной и не слишком эффективной.
Теперь это изменилось.
И это огромная угроза.
Если вы верите в демократию, как верю я, и считаете, что за демократию необходимо бороться, как считаю я, происходящее должно очень сильно тревожить.
Надо понять: война динамична. Все, что вы знали о ней в прошлом месяце, сегодня уже могло измениться. Сейчас происходят важнейшие новые изменения, которые должны понимать все.
И если вы ничего не делаете, чтобы им противостоять, то потом, когда наступит плохой исход, не жалуйтесь.
