Рої дронів-вбивць, ймовірно, скоро стануть стандартним явищем на полях битв по всьому світу. Це розпалило дебати про те, як і чи потрібно регулювати їх використання, і викликало занепокоєння щодо перспективи передачі рішень про життя і смерть програмам штучного інтелекту.
Пропонуємо огляд того, як розвивається ця технологія, які види зброї розробляються і як розгортаються дебати.
Наскільки нова ця зброя?
Зрештою, штучний інтелект має дозволити системам озброєнь самостійно приймати рішення щодо вибору певних типів цілей і нанесення по них ударів. Нещодавні розробки в галузі штучного інтелекту активізували дискусію навколо таких систем, відомих як летальна автономна зброя.
Але в певному сенсі автономна зброя не є чимось новим.
Наземні міни, які призначені для автоматичного розряджання, коли над ними проходить людина або об'єкт, використовувалися ще в 1800-х роках під час Громадянської війни в США, імовірно, вперше їх винайшов генерал Конфедерації на ім'я Габріель Рейнс, який назвав їх "підземним снарядом".
Хоча вони були вперше використані задовго до того, як хтось міг навіть уявити собі штучний інтелект, вони актуальні для сьогоднішніх дебатів, оскільки, будучи встановленими, вони працюють без втручання людини - і без розрізнення між наміченими цілями і ненавмисними жертвами.
Солдати обробляють наземні міни перед контрольованим підривом у Са-Каео, Таїланд. Lillian Suwanrumpha/Agence France-Presse — Getty Images
Пентагон почав розвивати автоматизовану зброю кілька десятиліть тому.
Починаючи з кінця 1970-х років, Сполучені Штати почали розвивати цю концепцію, створивши зброю, відому як протичовнова міна "Каптор" (Captor). Міна могла бути скинута з літака або корабля і осісти на дно океану, залишаючись там до автоматичного підриву, коли датчики на пристрої виявляли ворожу ціль.
Починаючи з 1980-х років, десятки кораблів ВМС почали покладатися на систему озброєння AEGIS, яка використовує потужну радіолокаційну систему для пошуку і відстеження будь-яких вхідних ворожих ракет. Її можна перевести в автоматичний режим, щоб вона відстрілювала оборонні ракети до того, як втрутиться людина.
Наступним кроком були боєприпаси з самонаведенням.
Наступним кроком на шляху до більш досконалого автономного озброєння стали самонавідні боєприпаси "вистрілив і забув", такі як вдосконалена ракета середньої дальності "повітря-повітря" AIM-120, яка має радіолокаційну головку самонаведення, що уточнює траєкторію випущеної ракети, намагаючись знищити літаки супротивника.
Самонавідні боєприпаси, як правило, не можуть бути відкликані після того, як вони були випущені, і діють як "штурмовий собака, якого поліція відрядила, щоб наздогнати підозрюваного", - пише Пол Шарре, колишній високопоставлений чиновник Пентагону і автор книги "Армія нічия". Вони мають певний ступінь автономії в уточненні своєї траєкторії, але пан Шарре визначив її як "обмежену автономію". Протикорабельні ракети "Гарпун" діють подібним чином, з обмеженою автономією.
Американські війська керують ракетами AIM-120 на борту авіаносця USS Kitty Hawk у Перській затоці в 2003 році. Стів Хелбер/Associated Press через Дейком
"Блукаючі боєприпаси" можуть бути високоавтоматизованими.
Війна в Україні висвітлила використання форми автоматизованої зброї, відомої як "блукаючі боєприпаси". Ці пристрої з'явилися щонайменше у 1989 році, коли ізраїльський військовий підрядник представив так звану "Гарпію" - безпілотник, який може перебувати в повітрі близько двох годин, шукаючи за сотні кілометрів ворожі радіолокаційні системи, а потім атакуючи їх.
Зовсім недавно американські військові підрядники, такі як каліфорнійська компанія AeroVironment, продавали подібні блукаючі боєприпаси, що несуть вибухову боєголовку. Switchblade 600, як називається ця установка, літає над землею, поки не знайде танк або іншу ціль, а потім вистрілює протитанковою боєголовкою.
Перед тим, як зброя влучить у ціль, все одно потрібен дозвіл людини. Але було б відносно просто вивести людину "з-під удару", зробивши пристрій повністю автономним.
"Сьогодні існує технологія, яка дозволяє сказати пристрою: "Знайди мені російський танк Т-72, не розмовляй зі мною, я збираюся запустити тебе, знайди його", - сказав Вахід Навабі, голова компанії AeroVironment. "І якщо він впевнений на 80 відсотків, що це той самий танк, він його знищує. Вся місія може бути повністю автономною, за винятком запуску".
Switchblade 600 компанії AeroVironment на виставці військово-морського флоту в Національній гавані, штат Меріленд. Джейсон Ендрю
Запуск роїв безпілотників може стати ще більшим зрушенням.
Немає жодних сумнівів щодо того, куди все це рухається далі.
Пентагон зараз працює над створенням роїв безпілотників, згідно з повідомленням, яке він опублікував на початку цього року.
Очікується, що кінцевим результатом стане мережа з сотень або навіть тисяч автономних дронів, оснащених штучним інтелектом і несучих на борту обладнання для спостереження або зброю. Дрони, найімовірніше, будуть розміщені поблизу Китаю, щоб їх можна було швидко розгорнути в разі виникнення конфлікту, і використовувати для знищення або принаймні послаблення розгалуженої мережі протикорабельних і протиповітряних ракетних систем, які Китай побудував уздовж свого узбережжя і штучних островів в Південно-Китайському морі.
Це лише один із заходів, які зараз здійснює Пентагон з метою розгортання тисяч недорогих, автономних і часом смертоносних безпілотників протягом наступного року-двох, які можуть продовжувати діяти навіть тоді, коли сигнали GPS і зв'язок глушаться.
Деякі військові підрядники, в тому числі керівники Palantir Technologies, великого військового підрядника в галузі штучного інтелекту, стверджують, що до повністю автономних летальних атак, керованих ШІ, можуть пройти роки, оскільки найсучасніші алгоритми ще недостатньо надійні, і тому їм не можна довіряти автономне прийняття рішень про життя і смерть, і, можливо, не можна буде довіряти ще протягом деякого часу.
Натомість ШІ, як стверджує Палантир, дозволить військовим приймати швидші і точніші рішення щодо націлювання шляхом швидкого аналізу вхідних хвиль даних, - заявила Кортні Боумен, керівник компанії Палантир, британським законодавцям під час слухань у парламенті в цьому році.
Але в Організації Об'єднаних Націй існує широке занепокоєння щодо ризиків, які несуть в собі нові системи. І хоча деякі види озброєнь вже давно мають певний ступінь автономності, нове покоління принципово відрізняється від них.
"Коли ця розмова розпочалася близько десяти років тому, це було чимось на кшталт наукової фантастики", - сказав пан Шарре. "А зараз це зовсім не так. Технологія дуже, дуже реальна".
