 Bezpilotniy eksperimentalniy litak VPS XQ-58A Valkyrie.png)
У політ його приводить ракетний двигун. Він може пролетіти відстань, що дорівнює ширині Китаю. Він має малопомітний дизайн і здатен нести ракети, які можуть вражати ворожі цілі далеко за межами візуального діапазону.
Але що дійсно відрізняє безпілотний експериментальний літак ВПС США XQ-58A Valkyrie - це те, що ним керує штучний інтелект, що ставить його в авангард зусиль американських військових, спрямованих на використання можливостей нової технології, чиї величезні потенційні переваги стримуються глибоким занепокоєнням з приводу того, скільки автономії слід надавати смертоносній зброї.
По суті, безпілотник нового покоління, "Валькірія" є прототипом того, що, як сподіваються ВПС, може стати потужним доповненням до їхнього парку традиційних винищувачів, надавши пілотам-людям рій високопродуктивних роботів-ветеранів для розгортання в бою. Його місія полягає в тому, щоб об'єднати штучний інтелект і сенсори для виявлення і оцінки ворожих загроз, а потім, після схвалення людини, перейти в атаку на знищення.
Нещодавно на авіабазі Еглін на узбережжі Мексиканської затоки у Флориді 34-річний майор Росс Елдер, льотчик-випробувач із Західної Вірджинії, готувався до навчань, в яких він буде керувати своїм винищувачем F-15 разом з "Валькірією".
"Це дуже дивне відчуття, - сказав майор Елдер, коли інші члени команди ВПС готувалися до випробування двигуна на "Валькірії". "Я лечу на крилі чогось, що приймає власні рішення. І це не людський мозок".
Програма "Валькірія" дає уявлення про те, як швидкий технологічний прогрес змінює американський збройовий бізнес, військову культуру, тактику ведення бою і конкуренцію з країнами-суперницями, можливо, в далекосяжних напрямках.
Поява штучного інтелекту сприяє появі нового покоління підрядників Пентагону, які прагнуть підірвати або, принаймні, порушити багаторічну перевагу жменьки гігантських фірм, які постачають збройним силам літаки, ракети, танки і кораблі.
Можливість створення флотів розумних, але відносно недорогих озброєнь, які можуть бути розгорнуті у великих кількостях, дозволяє чиновникам Пентагону по-новому мислити про боротьбу з ворожими силами.
Це також змушує їх замислитися над тим, яку роль повинні відігравати люди в конфліктах, що ведуться за допомогою програмного забезпечення, написаного для того, щоб вбивати, і це питання особливо актуальне для Сполучених Штатів з огляду на їхню історію помилкових ударів звичайних безпілотників, що призводять до жертв серед цивільного населення.
А здобуття і утримання переваги в галузі штучного інтелекту є одним з елементів все більш відкритої гонки з Китаєм за технологічну перевагу в сфері національної безпеки.
Valkyrie — це прототип того, що, як сподіваються ВВС, може стати потужним доповненням до парку традиційних винищувачів, даючи пілотам-людям цілий рій високоздатних роботів-ведучих для розгортання в бою. Едмунд Фонтан
Військові планувальники стурбовані тим, що нинішній склад літаків і систем озброєнь ВПС - попри трильйони доларів, інвестованих в них - більше не може розраховувати на домінування в разі виникнення повномасштабного конфлікту з Китаєм, особливо якщо це буде пов'язано з китайським вторгненням на Тайвань.
Це пов'язано з тим, що Китай розмістив уздовж свого узбережжя і штучних островів у Південно-Китайському морі понад тисячу протикорабельних і зенітних ракет, які суттєво обмежують здатність Сполучених Штатів відповісти на будь-яке можливе вторгнення на Тайвань без масових втрат у повітрі і на морі.
Після десятиліть будівництва все меншої кількості дедалі дорожчих бойових літаків - винищувач F-35 коштує 80 мільйонів доларів за одиницю - ВПС тепер мають найменший і найстаріший флот за всю свою історію.
Саме тут на допомогу прийде нове покоління безпілотників зі штучним інтелектом, відомих як бойові літаки спільного базування. ВПС планують побудувати від 1 000 до 2 000 таких апаратів всього за 3 мільйони доларів за штуку, що становить лише частину вартості сучасного винищувача, тому дехто в ВПС називає цю програму "доступною масовістю".
Існуватиме ціла низка спеціалізованих типів цих літаків-роботів. Одні будуть зосереджені на місіях спостереження або поповнення запасів, інші літатимуть ударними роями, а треті слугуватимуть "вірним напарником" для пілота-людини.
Дрони, наприклад, можуть літати перед пілотованими бойовими літаками, здійснюючи раннє спостереження з високим ступенем ризику. Вони також можуть відігравати важливу роль у виведенні з ладу систем ППО противника, ризикуючи знищити наземні ракетні цілі, які вважатимуться занадто небезпечними для пілотованого літака.
ШІ - більш спеціалізована версія того типу програмування, який зараз найбільш відомий для забезпечення роботи чат-ботів - збиратиме і оцінюватиме інформацію зі своїх сенсорів, коли наближатиметься до ворожих сил, щоб виявити інші загрози і цінні цілі, запитуючи дозволу у людини-пілота перед початком будь-якої атаки своїми бомбами або ракетами.
Найдешевші з них вважатимуться одноразовими, тобто, скоріш за все, матимуть лише одну місію. За оцінками Палати представників, найскладніший з цих роботів може коштувати до 25 мільйонів доларів, що все одно набагато менше, ніж пілотований винищувач.
"Чи це ідеальна відповідь? Ідеальної відповіді ніколи не буває, коли дивишся в майбутнє", - сказав генерал-майор Р. Скотт Джоб, який до цього літа відповідав за визначення вимог до програми повітряних боїв, оскільки ВПС США працюють над впровадженням ШІ в свої винищувачі і безпілотні літаки.
"Але ви можете поставити потенційних супротивників перед дилемою - і однією з таких дилем є масовість", - сказав генерал Джобе в інтерв'ю в Пентагоні, маючи на увазі розгортання великої кількості безпілотників проти сил противника. "Ви можете забезпечити масовість на полі бою потенційно меншою кількістю людей".
Ці зусилля є початком кардинальних змін в тому, як ВПС закуповують деякі з своїх найважливіших інструментів. Після десятиліть, коли Пентагон зосереджувався на закупівлі обладнання, виробленого традиційними підрядниками, такими як Lockheed Martin і Boeing, акцент зміщується на програмне забезпечення, яке може посилити можливості систем озброєнь, створюючи можливість для новітніх технологічних фірм отримати частину величезного бюджету Пентагону на закупівлю.
"Машини фактично спираються на дані, а потім створюють свої власні результати", - сказав бригадний генерал Дейл Вайт, представник Пентагону, який відповідає за нову програму закупівель.
Пентагон витратив кілька років на створення таких прототипів, як Valkyrie. Едмунд Фонтан
ВПС усвідомлюють, що вони також повинні протистояти глибокому занепокоєнню щодо використання штучного інтелекту у військових цілях, чи то страх, що технологія може обернутися проти своїх творців-людей (як Скайнет у серії фільмів "Термінатор"), чи то більш безпосередні побоювання щодо того, що алгоритми можуть керувати застосуванням смертоносної сили.
"Ви переступаєте моральну межу, віддаючи вбивство на аутсорсинг машинам - дозволяючи комп'ютерним сенсорам, а не людям, забирати людське життя", - сказала Мері Воррем, директор з адвокації відділу озброєнь Human Rights Watch, який наполягає на міжнародних обмеженнях на так звану летальну автономну зброю.
Нещодавно переглянута політика Пентагону щодо використання штучного інтелекту в системах озброєнь дозволяє автономне застосування смертоносної сили - але будь-який конкретний план створення або розгортання такої зброї має бути спочатку розглянутий і схвалений спеціальною військовою комісією.
Відповідаючи на запитання, чи зможуть дрони ВПС з часом здійснювати подібні смертоносні удари без явного схвалення кожної атаки людиною, представник Пентагону заявила в інтерв'ю The New York Times, що це питання є надто гіпотетичним, щоб на нього можна було відповісти.
Будь-який автономний дрон ВПС, йдеться в заяві, повинен бути "спроектований таким чином, щоб дозволити командирам і операторам здійснювати належний рівень людського судження щодо застосування сили".
Представники ВПС заявили, що вони повністю розуміють, що машини не є такими ж розумними, як люди. Технології штучного інтелекту також можуть помилятися - як це неодноразово траплялося в останні роки з безпілотними автомобілями - і машини не мають вбудованого морального компасу. Чиновники заявили, що враховують ці фактори при створенні системи.
"Це величезна відповідальність", - сказав полковник Такер Гамільтон (Tucker Hamilton), начальник відділу випробувань та експлуатації ШІ ВПС США, який також допомагає контролювати екіпажі льотних випробувань на авіабазі Еглін, зазначивши, що "антиутопічні оповідання і поп-культура створили своєрідне божевілля" навколо штучного інтелекту.
"Нам просто потрібно йти до цього методично, свідомо, етично - маленькими кроками", - сказав він.
Перекид Пентагону назад
Довгий, обшитий дерев'яними панелями коридор Пентагону, де розташовані кабінети вищого керівництва Військово-повітряних сил, обвішаний портретами лідерів століття впереміш із зображеннями літальних апаратів, які забезпечили Сполученим Штатам глобальне панування в повітрі з часів Другої світової війни.
З цих зображень випливає спільна тема: культова роль пілота.
За словами високопосадовців Пентагону, люди і надалі відіграватимуть центральну роль у новому баченні Повітряних сил, але вони все частіше працюватимуть в команді з інженерами-програмістами і фахівцями з машинного навчання, які постійно вдосконалюватимуть алгоритми, що керуватимуть роботами-ветеранами, які літатимуть поруч з ними.
Майже кожен аспект операцій Повітряних сил доведеться переглянути, щоб врахувати ці зміни. Це завдання до цього літа було в основному покладено на генералів Вайта і Джобе, чиє партнерство офіцери ВПС прозвали "Шоу Дейла і Фрага" (позивний генерала Джобе як пілота - Фраг).
Пентагон через свої дослідницькі підрозділи, такі як DARPA і Дослідницька лабораторія ВПС, вже витратив кілька років на створення прототипів, таких як "Валькірія", і програмного забезпечення, яке ним керує. Але зараз експеримент переходить до так званої "програми рекордів", а це означає, що якщо Конгрес схвалить його, то на закупівлю машин будуть виділені значні кошти платників податків: загалом 5,8 мільярда доларів протягом наступних п'яти років, згідно з планом ВПС США.
На відміну від винищувачів F-35, які постачаються компанією Lockheed Martin та її субпідрядниками в комплексі, ВПС планують розділити літаки і програмне забезпечення як окремі закупівлі.
Компанія Kratos, виробник "Валькірії", вже готується до участі в тендері на будь-який майбутній контракт, як і інші великі компанії, такі як General Atomics, яка роками будувала ударні безпілотники, що використовувалися в Іраку і Афганістані, і Boeing, яка має власний експериментальний прототип автономного винищувача MQ-28 Ghost Bat.
Окрема група компаній, що займаються розробкою програмного забезпечення - технологічні стартапи, такі як Shield AI і Anduril, які фінансуються сотнями мільйонів доларів венчурного капіталу, - змагаються за право продати Пентагону алгоритми штучного інтелекту, які будуть приймати рішення під час місій.
Список перешкод, які необхідно подолати, довгий.
Пентагон має жалюгідний досвід у створенні передового програмного забезпечення і спробах запустити власну програму штучного інтелекту. За ці роки він пройшов через різні перевантажені абревіатурами програмні офіси, які створюються, а потім закриваються, так і не показавши жодних результатів.
У Пентагоні відбувається постійна ротація керівників, що ускладнює зусилля, спрямовані на те, щоб продовжувати рухатися вперед за графіком. Генерала Джобе вже призначили на нову посаду, а незабаром це станеться і з генералом Вайтом.
Пентагону також потрібно буде зруйнувати залізний контроль, який основні оборонні підрядники мають над потоком військових витрат. Як свідчить структура програми "Валькірія", військові хочуть зробити більше для того, щоб використати досвід нового покоління компаній-розробників програмного забезпечення для надання ключових частин пакету, вносячи більше конкуренції, підприємницької швидкості і креативності в те, що довгий час було несхильною до ризику і повільно рухається системою.
Найважливіша робота, принаймні донедавна, покладалася на генерала Джобе, який вперше прославився у ВПС два десятиліття тому, коли допоміг розробити стратегію бомбардувань для знищення глибоко заглиблених бункерів в Іраку, в яких знаходилися найважливіші комутатори військового зв'язку.
Його попросили ухвалити ключові рішення, які визначатимуть, як будуть будуватися роботизовані літаки зі штучним інтелектом. Під час інтерв'ю в Пентагоні та на інших нещодавніх заходах генерали Джоб і Вайт наголосили на тому, що люди залишатимуться остаточними особами, які приймають рішення, а не роботи-безпілотники, відомі як C.C.A. - абревіатура від англ. Collaborative Combat Aircraft - бойові літаки спільного базування.
"Я не дозволю, щоб цей робот просто вийшов і почав стріляти по речах", - сказав генерал Джоби під час брифінгу з журналістами Пентагону наприкінці минулого року.
Він додав, що людина завжди вирішуватиме, коли і як літак, оснащений штучним інтелектом, вступить у бій з ворогом, і що розробники будують брандмауер навколо певних функцій штучного інтелекту, щоб обмежити те, що пристрої зможуть робити самостійно.
"Думайте про це як про розширення вашого відсіку для озброєння, якщо ви літаєте на F-22, F-35 чи чомусь іншому", - сказав він.
Пілоти-випробувачі
У 1947 році Чак Єгер, тоді ще молодий пілот-випробувач з міста Майра, штат Вірджинія, став першою людиною, яка піднялася в повітря зі швидкістю, що перевищує швидкість звуку.
Сімдесят шість років потому інший пілот-випробувач із Західної Вірджинії став одним із перших пілотів ВПС США, який летів поруч з автономним бойовим дроном, оснащеним штучним інтелектом.
Високий і довгов'язий, з легким аппалачським акцентом, майор Елдер минулого місяця пролетів на своєму F-15 Strike Eagle на відстані 1000 футів від експериментального XQ-58A Valkyrie - уважно спостерігаючи, як батьки біжать поруч з дитиною, що вчиться їздити на велосипеді, за тим, як безпілотник летить самостійно, досягаючи певної заданої швидкості і висоти.
Базові функціональні випробування безпілотника були лише підготовкою до справжнього шоу, де "Валькірія" вийде за рамки використання просунутих інструментів автопілота і почне випробовувати бойові можливості свого штучного інтелекту. Під час випробувань, запланованих на кінець цього року, бойовий безпілотник повинен буде переслідувати, а потім знищити імітовану ворожу ціль над Мексиканською затокою, розробляючи власну стратегію для виконання місії.
На даному етапі метою є перевірка льотних характеристик "Валькірії" та програмного забезпечення штучного інтелекту, тому літальний апарат не несе ніякої зброї. Запланований бій буде з "сконструйованим" ворогом, хоча агент ШІ на борту "Валькірії" буде вірити, що він справжній.
Майор Елдер не мав можливості безпосередньо спілкуватися з автономним безпілотником на цій ранній стадії розробки, тому йому довелося дуже уважно спостерігати за тим, як він виконує свою місію.
"Він хоче вбивати і виживати", - сказав майор Елдер про підготовку, яку пройшов безпілотник.
На базі Еглін, яка є однією з найбільших баз ВПС у світі, була зібрана незвичайна команда з офіцерів і цивільних осіб. Серед них капітан Рейчел Прайс з Глендейла, штат Арізона, яка закінчує докторську дисертацію в Массачусетському технологічному інституті з комп'ютерного глибокого навчання, а також майор Трент Макмаллен з Марієтти, штат Джорджія, який отримав ступінь магістра з машинного навчання в Стенфордському університеті.
Пілоти авіабази Еглін планували керувати своїми винищувачами F-16 у тандемі з реактивними літаками, керованими ШІ. Едмунд Фонтан
Одна з речей, за якими слідкує майор Елдер, - це будь-які розбіжності між моделюванням, яке виконує комп'ютер перед польотом, і діями безпілотника, коли він фактично перебуває в повітрі - проблема "sim to real", як вони її називають - або, що ще більш тривожно, будь-які ознаки "емерджентної поведінки", коли робот-безпілотник діє у потенційно шкідливий спосіб.
Під час випробувальних польотів майор Елдер або керівник групи на диспетчерській вежі авіабази Еглін може вимкнути платформу штучного інтелекту, залишивши основний автопілот "Валькірії" працювати. Так само і капітан Абрахам Ітон з міста Горхем, штат Мен, який служить інженером з льотних випробувань в проекті і відповідає за оцінку роботи безпілотника.
"Як ви оцінюєте агента зі штучним інтелектом?" - риторично запитав він. "Ви оцінюєте його за людською шкалою? Мабуть, ні, чи не так?"
Реальні супротивники, ймовірно, намагатимуться обдурити штучний інтелект, наприклад, створюючи віртуальний камуфляж для ворожих літаків або цілей, щоб змусити робота повірити, що він бачить щось інше.
Початкова версія програмного забезпечення ШІ є більш "детермінованою", тобто вона здебільшого слідує сценаріям, за якими її навчили, на основі комп'ютерних симуляцій, які ВПС США запускали мільйони разів під час створення системи. Зрештою, програмне забезпечення ШІ повинне бути здатним сприймати навколишній світ - і навчитися розуміти подібні хитрощі і долати їх - навички, які вимагатимуть масового збору даних для тренування алгоритмів. Програмне забезпечення має бути надійно захищене від злому з боку ворога.
За словами майора Елдера та інших пілотів, найскладнішою частиною цього завдання є розбудова довіри, яка є центральним елементом зв'язку між пілотом і другим пілотом - їхні життя залежать один від одного і від того, як кожен з них реагує. Це також викликає занепокоєння і в Пентагоні.
"Я повинен знати, що ці командири повітряних суден будуть робити те, що я від них очікую, тому що якщо вони цього не зроблять, це може погано закінчитися для мене", - сказав генерал Вайт.
Під час перших випробувань автономні дрони вже показали, що вони можуть діяти незвично: в одному випадку "Валькірія" зробила серію перекидів. Спочатку майор Елдер подумав, що щось не так, але виявилося, що програмне забезпечення визначило, що його інфрачервоні датчики можуть отримати чіткішу картинку, якщо він буде робити безперервні перекиди. Для людини-пілота цей маневр був би схожий на катання на американських гірках, але пізніше команда дійшла висновку, що безпілотник досягнув кращого результату у виконанні місії.
Пілоти Військово-повітряних сил мають досвід довіри до комп'ютерної автоматизації - наприклад, до систем уникнення зіткнень, які вмикаються, якщо винищувач прямує до землі або має зіткнутися з іншим літаком, що є двома основними причинами смертності серед пілотів.
Пілоти спочатку неохоче піднімалися в повітря з увімкненою системою, оскільки це дозволило б комп'ютерам перебрати контроль над літаками, про що кілька пілотів розповіли в інтерв'ю. Коли з'явилися докази того, що система рятує життя, її почали широко використовувати. Але навчитися довіряти роботам-бойовикам буде ще більшою перешкодою, визнали високопосадовці ВПС.
Представники ВПС десятки разів використовували слово "довіра" в низці інтерв'ю, розповідаючи про проблеми, з якими вони стикаються, намагаючись завоювати довіру пілотів. Вони вже розпочали польоти прототипів дронів-роботів з пілотами-випробувачами поруч, щоб розпочати цей процес.
Військово-повітряні сили також розпочали другу програму випробувань під назвою "Проект Веном", в рамках якої пілоти отримають шість винищувачів F-16, оснащених програмним забезпеченням зі штучним інтелектом, що прийматиме ключові рішення під час виконання місій.
За словами представників Пентагону, метою проекту є створення більш непередбачуваних і смертоносних ВПС, які будуть стримувати будь-які дії Китаю, а також менш смертоносних бойових дій, принаймні для ВПС США.
За оцінками офіційних осіб, на розробку функціонуючої системи на основі ШІ для ведення повітряних боїв може знадобитися від п'яти до 10 років. Командування ВПС наполягає на прискоренні робіт, але визнає, що швидкість не може бути єдиною метою.
"Ми не будемо там одразу, але ми туди прийдемо", - сказав генерал Джоб. "Вона вдосконалюється і стає кращою з кожним днем, коли ви продовжуєте тренувати ці алгоритми".
