В продължение на почти 14 години израелските оперативни агенти бяха насочени към най-добрия ирански ядрен учен Мохсен Фахризаде, който ръководеше тайна програма за създаване на ядрена бойна глава. На 27 ноември 2020 г., в ход, който смая света, служители на израелското разузнаване убиха учения. Фахризаде и съпругата му бяха напуснали брега на Каспийско море и пътуваха в колона от четири коли към семейния си дом в иранската провинция. Когато наближиха обратен завой, бараж от куршуми разби предното им стъкло и порази многократно Фахризаде, пише за „Бюлетин на ядрените учени“ Стивън Фелдщайн, старши научен сътрудник във „Фондацията Карнеги за международен мир“.
Израелският агент, извършил убийството, не е трябвало да бяга от местопроизшествието: стрелецът е използвал картечница с дистанционно управление, задействана от повече от 1600 километра. Мосад бяха подобрили произведена в Белгия пушка с усъвършенстван роботизиран апарат, който се побира в пикап и е оборудван с набор от камери, осигуряващи пълен изглед на целта и околната среда. За да се справи със забавянето в предаването на сигнали към оръжието, Мосад използва софтуер с изкуствен интелект, за да вземе предвид забавянето във времето, треперенето на камиона, причинено при изстрелването на всеки куршум и скоростта на превозното средство на Фахризаде.
Вместо да служи като изключение, операцията е предвестник на бъдещи иновации. Големи и малки нации се надпреварват да придобият усъвършенствани дронове, да включат анализ на алгоритмично насочване и да разработят набор от автономни наземни и морски оръжия, всичко това с малко надзор или ограничения. Поради това е наложително страните да се споразумеят за общи правила за разработването, разполагането и използването на тези инструменти по време на война.
За да подобрят надзора и предсказуемостта, експертите и политиците трябва да обмислят какви стъпки биха могли да предприемат водещите сили в Изкуствения интелект. Съединените щати биха могли да водят по пътя, като обещаят надзор върху собственото си развитие на оръжия с изкуствен интелект. Може също така да се обединят с други нации, за да се създаде независима експертна група за наблюдение, която да следи как AI се използва във война. И накрая, държавите трябва да седнат на масата, за да решат нормите за използване на нововъзникващи военни технологии – преди да е станало твърде късно.
От Украйна до Газа. Системите с изкуствен интелект, свързани с националната сигурност, обхващат редица приложения, но могат да бъдат широко класифицирани като задачи нагоре по веригата (разузнаване, наблюдение и разузнаване; командване и контрол; управление на информацията; логистика; и обучение) и задачи надолу по веригата (избор на цели и нападение). По-конкретно, AI приложенията позволяват на военните по-голям аналитичен капацитет – да събират и анализират данни от бойното поле и да подобряват оперативния капацитет – за ракетни удари и за разполагане на автономни дронове, задвижвани от AI.
Някои експерти твърдят, че Съединените щати не могат да си позволят да спрат напредъка към разработването на напълно автономни оръжия, за да не би китайците или руснаците да надминат техните усилия. И разбира се, възможностите на AI бързо се разпространяват. Както показват войната в Украйна и военните действия в Газа, без обща рамка и съгласувани ограничения държавите рискуват да изпаднат в надпревара към удавяне, като последователно разполагат по-разрушителни системи с оскъдни ограничения.
Настоящата война в Украйна е описана като „супер лаборатория за изобретения“, която даде възможност на технологични компании и предприемачи да тестват нови инструменти директно на бойното поле. Конфликтът разкри голяма промяна в начина, по който се води война. Една от най-значимите промени беше въвеждането на интегрирани системи за управление на битка, които предлагат актуална прозрачност относно движенията и местоположенията на войските – чак до нивата на основните единици. „Днес колона от танкове или колона от настъпващи войски може да бъде открита за три до пет минути и поразена за още три минути“, предупреждава генерал-майор Вадим Скибицки, високопоставен служител във военното разузнаване на Украйна. „Оцеляването в движение е не повече от 10 минути.“
Фронтовата линия на Украйна е наводнена от безпилотни летателни апарати, които не само осигуряват постоянно наблюдение на развитието на бойното поле, но когато са съчетани със системи за насочване, задвижвани от изкуствен интелект, също позволяват почти мигновено унищожаване на военни активи. Естествено, както руснаците, така и украинците се насочиха към електронната война срещу дронове, за да неутрализират въздействието на безпилотните летателни апарати. Но това доведе до друго развитие – бърз тласък към пълна автономия. Като военен учен T.Х.Хеймс пише: „Автономните дронове няма да имат уязвимата радио връзка с пилотите, нито ще имат нужда от GPS насочване. Автономията също ще увеличи значително броя на дронове, които могат да бъдат използвани наведнъж.“
Военният AI по подобен начин оформя войната в Газа. След като бойци на Хамас смаяха силите на Израел, като неутрализираха високотехнологичните възможности за наблюдение на „Желязната стена“ на страната – дълга над 64 км физическа бариера, оборудвана с интелигентни видеокамери, лазерно насочвани сензори и усъвършенстван радар – Израел си върна технологичната инициатива. Израелските отбранителни сили (IDF) използват платформа за насочване с изкуствен интелект, известна като „Евангелието“. Според докладите, системата играе централна роля в продължаващото нахлуване, произвеждайки „автоматизирани препоръки“ за идентифициране и атакуване на цели. Системата беше активирана за първи път през 2021 г., по време на 11-дневната война на Израел с Хамас. За конфликта от 2023 г. IDF изчислява, че е атакувала 15 000 цели в Газа през първите 35 дни на войната. (За сравнение, Израел удари между 5000 и 6000 цели в конфликта в Газа през 2014 г., който продължи 51 дни.) Докато „Евангелието“ предлага критични военни способности, жертвите на цивилни са тревожни. Един източник описва платформата като „фабрика за масови убийства“ с акцент върху количеството цели пред качеството им. Съществува също така риск, зависимостта на Израел от насочването с ИИ да води до „пристрастност към автоматизацията“, при която човешките оператори са предразположени да приемат машинно генерирани препоръки при обстоятелства, при които хората биха стигнали до различни заключения.
Възможен ли е международен консенсус? Както свидетелстват войните в Украйна и Газа, съперничещите си армии се надпреварват да внедрят автоматизирани инструменти въпреки оскъдния консенсус относно етичните граници за внедряване на неизпитани технологии на бойното поле. Моите изследвания показват, че водещи сили като Съединените щати са се ангажирали да използват „достъпни, автономни системи във всички области“. С други думи, големите армии преосмислят основните принципи за това как се води война и се опират на нови технологии. Тези развития са особено обезпокоителни в светлината на множество неразрешени въпроси: Какви точно са правилата, когато става въпрос за използване на смъртоносни автономни дронове или роботизирани картечници в населени места? Какви предпазни мерки са необходими и кой е виновен, ако цивилни бъдат наранени?
Тъй като все повече и повече държави се убеждават, че AI оръжията държат ключа към бъдещето на войната, те ще бъдат стимулирани да наливат ресурси в разработването и разпространението на тези технологии. Въпреки че може да е непрактично да се забранят смъртоносни автономни оръжия или да се ограничат инструменти с активиран AI, това не означава, че нациите не могат да поемат повече инициатива, за да оформят начина, по който се използват.
Съединените щати изпратиха смесени съобщения в това отношение. Докато администрацията на Байдън пусна набор от политики, очертаващи отговорното използване на автономни оръжия и призоваващи страните да прилагат споделени принципи на отговорност за оръжия с ИИ, Съединените щати също възпрепятстваха напредъка на международните форуми. В ирония на съдбата, на неотдавнашно заседание на комитета на ООН за автономните оръжия, руската делегация всъщност подкрепи американската позиция, която твърди, че поставянето на автономни оръжия под „значителен човешки контрол“ е твърде ограничително.
Американските политици могат да се справят по-добре с три идеи, които си струва да бъдат разгледани.
Първо, Съединените щати трябва да се ангажират със смислен надзор по отношение на разработването на автономни оръжия и оръжия с изкуствен интелект от Пентагона. Новата изпълнителна заповед на Белия дом относно изкуствения интелект налага разработването на меморандум за националната сигурност, който да очертае как правителството ще се справи с рисковете за националната сигурност, породени от технологията. Една идея за би била да се създаде цивилен съвет за национална сигурност за AI, вероятно моделиран от Надзорния съвет за неприкосновеността на личния живот и гражданските свободи (организация, която има за задача да гарантира, че федералното правителство балансира усилията за превенция на тероризма със защитата на гражданските свободи).
Такъв субект може да получи надзорни отговорности за покриване на AI приложения, за които се предполага, че засягат безопасността и правата, както и да му бъде възложено да наблюдава текущите процеси на AI – независимо дали съветва новата работна група за генериране на AI на Министерството на отбраната или предлага съвети на Пентагона относно AI продукти и системи в процес на разработка с частния сектор. Свързана идея би била агенциите за национална сигурност да създадат самостоятелни екипи за оценка на риска от ИИ. Тези звена ще контролират функциите за интегрирана оценка, проектиране, обучение и оценка на риска, които ще създадат оперативни насоки и предпазни мерки, ще тестват за рискове, ще насочват дейностите за обединяване на AI и ще извършват прегледи след действие.
Второ, Съединените щати и подобни на тях демокрации трябва да настояват за създаването на международна независима експертна група, която да наблюдава продължаващите ефекти от инструментите на ИИ, използвани във война. Например, ако докладите са верни, че „90 процента от ударените цели“ в конфликта в Газа се дължат на препоръки, генерирани от AI, тогава е редно политиците да имат по-подробно разбиране за рисковете и ползите от такива системи. Какви са гражданските въздействия на тези платформи за насочване? Какви параметри се използват и какво ниво на надзор се упражнява върху алгоритмите за насочване? Какъв тип процедури за отчетност съществуват? Целта на групата ще бъде да насочи вниманието към области на дейност и да предложи препоръки за правителствата и международните организации как да разрешат възникващите проблеми.
И накрая, държавите трябва да се споразумеят за установяване на долна граница за поведение за това как военните ще използват нововъзникващите технологии във война. Като в „Дивия Запад“ държавите внедряват нови технологии, за да по-напред в защита на интересите си в областта на сигурността. Рискът е държавите, особено недемократичните режими, да започнат надпревара, използвайки все по-смъртоносни комбинации от инструменти за разрушителен ефект. Правителствата биха могли да се споразумеят за основни параметри – заимствайки отчасти принципите на военния ИИ, предложени от Съединените щати и други страни – за да гарантират, че използването на оръжия с ИИ е в съответствие с международното хуманитарно право и че са налице предпазни мерки за смекчаване на риска от непреднамерена ескалация и катастрофални провали.
Това едва ли е първият път, когато международни лидери се изправят пред опустошителния потенциал на новите технологии. Точно както глобалните лидери постигнаха консенсус след Втората световна война за създаване на линии на поведение чрез Женевските конвенции, международните лидери трябва да предприемат подобни усилия за AI технологиите. Либералните демокрации могат да играят много по-голяма роля в определянето на норми и основни условия за разгръщането на тези мощни нови технологии за война.
