Как битвы будущего видят по ту сторону океана
В конце прошлого года в Калифорнии состоялся полет самолета-шпиона U-2 ВВС США, который пилотировали совместно человек и искусственный интеллект. Это был первый в истории случай, когда ИИ – его назвали Artuμ – контролировал американскую военную машину. Что ж, сцены из «Звездных войн» стали гораздо ближе. Правда, странные буквы в имени нейросети отсылают не к далекой галактике, а к алгоритму μZero, разработанному компанией DeepMind.
Этот коммерческий алгоритм изначально создавался ради победы в шахматах и го, но ВВС США менее чем за пять недель научили его управлять радаром самолета-шпиона. После миллиона тренировок в своем первом реальном полете в составе девятого разведывательного крыла Artuμ уже был не рядовым пилотом, а командиром миссии. Результаты полета оказались настолько многообещающими, что к следующему заданию Artuμ добавили функцию радиоэлектронной борьбы: вероятно, это умение понадобится ИИ в ближайшем будущем. Наверняка Р2-Д2 из «Звездных войн» тоже обладал навыками радиоэлектронного противодействия.
Началась эра алгоритмических войн, в которых важную роль будут играть коммерческие технологии и технологические стартапы.
Геймификация войны
Но каким образом стартап ускорил прогресс в военном деле? Где бы ни велись игры – на досках или компьютерах, – они идеальны для глубокого подкрепляющего обучения или обеспечения процесса, с помощью которого ИИ определяет правила неизвестных систем путем многократных проб и ошибок. Еще в 2010 году DeepMind начал обучать искусственный интеллект играть в старые видеоигры без доступа к базовому коду. К 2013 году его ИИ научился побеждать людей в Pong, а к 2020 году – в любой видеоигре Atari.
Пик карьеры DeepMind пришелся на 2016 год, когда AlphaGo, прапрапрадед алгоритма μZero, одолел действующего чемпиона мира по го, тем самым положив конец человеческому превосходству в стратегических играх. Значение этого события в компьютерной сфере можно сравнить с запуском первого спутника в области космических исследований.
Геймификация войны для компьютерных приложений не является чем-то новым. Например, такие игры, как Call of Duty, добились в этом немалых успехов. Но и реальные разведывательные операции U-2 мало чем отличаются: обнаружение вражеских целей – награда, пропущенные цели (или, что еще хуже, потерянный самолет) – наказание, законы физики – правила игры. Чтобы понять эту «игру», Artuμ пришлось проверить на собственном опыте все варианты, включая самые очевидные, – например, выяснить, не станет ли вражеская ПВО сбивать свои самолеты. Нет, не станет. Урок усвоен.
Однако игра против симулятора полезна лишь до известного предела. Чтобы в процессе обучения выработать варианты тактики, несвойственные человеку (как это получилось у программ семейства µZero в отношении стратегических игр), нужно, чтобы Artuµ начал воевать сам с собой. Правда, в отличие от настольной игры, противостояние в военной операции – например, противодействие разведке в условиях симулированного ракетного удара – требует особого алгоритма для уникальной схемы вознаграждения-наказания. В общем, «вражеского Artuµ» (C2-B5 для фанатов «Звездных войн»), чтобы потренировать ИИ перед его первым полетом, не было.
Итак, чтобы начать электронную войну – то, что Уинстон Черчилль называл Wizard War, «война волшебников», – нужно геймифицировать ее, создав в лаборатории U2 FedLab аналог дроида-астромеханика C2-B5, служившего Галактической империи. Затем надо провести миллионы сражений между Artuµ (светлая сторона, электронная разведка) и Cetuµ (темная сторона, РЭБ), чтобы они овладели (электромагнитной) силой. После освоения базовых чародейских навыков придет время более глубокого изучения джедайской магии. Планка была высоко поставлена еще во время Второй мировой войны – тогда подмена навигационных сигналов привела к тому, что немецкий бомбардировщик люфтваффе по ошибке сел на аэродроме союзников. Чем не джедайский трюк!
Как только Artuµ и будущий ИИ начнут управлять военными системами вместе с людьми, тактики, созданные в результате глубокого обучения, станут критически важными, особенно в схватке с вражеским ИИ. В отличие от настольных игр в войне будущего противостоять друг другу будут команды, состоящие из людей и машин. В этой ситуации практически нет невозможных ходов и решений, в том числе способных обескуражить ИИ. Чтобы выиграть, придется минимизировать интеллектуальные слабости – и тех существ, что базируются на углероде, и тех, что основаны на кремнии. Между ними должна возникнуть синергия, которая породит силу.
Инновации – современное поле битвы
История легко может закончиться прямо здесь: алгоритмическая война как новое поле боя и искусственный интеллект как новое оружие. Но прошлые прорывы в области вооружений, такие как спутники, микроэлектроника и интернет, были созданы почти исключительно для американских военных по ценам, неподъемным для большинства стран, не говоря уж о частных компаниях. Теперь же такие разработки под силу даже стартапам.
Возникновение семейства программ µZero – это больше, чем «эффект русского спутника» для всей индустрии ИИ. Не менее важен и тот факт, что программы были созданы не в государственной лаборатории, не на военном предприятии, не по госконтракту, а благодаря коммерческой инициативе технологического стартапа, который родился вместе с потрясающей идеей и развился до того, чтобы воплотить ее в жизнь.
DeepMind не одинок, и искусственный интеллект не единственная разработка для военных целей. Другие коммерческие технологии – автономность, квантовые машины, космос и синтетическая биология – процветают с помощью частных инвестиций и участия стартапов. Независимо от того, какие технологические прорывы еще произойдут, будущие сражения, несомненно, вырастут из доменной зоны .com.
Глобальные инновации затрудняют прогнозирование войн. Поэтому технологии сами по себе стали новым полем боя, которое есть в каждом университетском классе, лаборатории, бизнесе и стране. На этом поле все еще важно создание мощного вооружения, но развитие технологий – тех, которые со временем породят военные и промышленные революции, – имеет гораздо большее значение.
Победа в технологической гонке уже сейчас становится императивом национальной безопасности. Это принцип Хана Соло: стреляй первым – и выиграешь еще один день.
Но коммерческие инновации исторически игнорируются военными. За последние десятилетия появилось множество перспективных гражданских разработок, однако Пентагон не обратил на них внимания. Здесь можно вспомнить, как Xerox не сразу среагировал на персональные компьютеры, Sears – на электронную коммерцию, а Blockbuster – на потоковое видео. Если военные сейчас прозевают что-то важное, следующая Artuμ-подобная технология будет управлять уже не американским самолетом.
Но речь идет не только о боевой мощи. Прорывные коммерческие технологии влияют и на общество в целом, причем порой так, как предсказывали Оруэлл в «1984» или Netflix в мрачном «Черном зеркале». Новые разработки должны обеспечивать свободу идей, рынков и выборов, а не поддерживать тотальный контроль. Но как стартапам-изобретателям конкурировать с авторитарными государствами и правительствами, жаждущими такого контроля и порой даже крадущими проекты?
Уравнять шансы на инновационном поле боя могут воздушно-космические силы США. Финансирование у них огромное, стабильное и долгосрочное. Американский рынок военных заказов оценивается в 160 млрд долл. в год и может дать компаниям возможность более легкого входа, предложить коммерческие проекты с быстрой прибылью. На стартапы и масштабные проекты ежегодно выделяется почти 1 млрд долл., а инвестиционное подразделение AFWERX сейчас является одним из крупнейших потенциальных инвесторов стартапов на ранней стадии в США. Всего за два года это подразделение наладило сотрудничество более чем с 2300 технологическими компаниями-новичками и успешно провело первое взаимодействие Пентагона с венчурным капиталом, сумев привлечь более 2 млрд долл. частных инвестиций к 600 млн государственных фондов.
Один из ярких примеров – программа суперманевренных летающих автомобилей, в которой участвовало 16 компаний. Недавно такие автомобили были сертифицированы как первое в стране транспортное средство для боевых миссий. Проект дал толчок перспективному рынку летающих машин как для военного, так и для гражданского использования. Масштабирование военного партнерства с коммерческими технологическими компаниями – так сейчас может выглядеть победа на инновационном поле.
Историческая нехватка «военных единорогов», стартапов с оценкой выше 1 млрд долл., показывает, насколько опасна технологическая изоляция Пентагона. Американская оборонно-промышленная база продолжает разрушаться, 80% национальных исследований и проектов стали коммерческими. И если грядущие компании типа DeepMinds не будут рассматривать США как передового инновационного партнера, разработки, подобные Artuμ, станут случайностью, если вообще случатся.
Между тем следующая мировая война уже идет – не горячая, требующая человеческих жертв, и не холодная, направленная против экономически изолированного конкурента, а война технологий, которая и определит будущего победителя.
