Действия на система с изкуствен интелект, като намеса в мрежа за командване и управление на ядрени сили или извършване на военна кибероперация, могат да оставят Вашингтон или Пекин само с минути, за да установят дали става дума за атака от другата страна, предупреждават американски и китайски експерти по сигурността, цитирани от Ройтерс.
Експертите, които участват в американско-китайски диалог, чиято работа допринася за официалните дискусии между двете страни, призовават правителствата им да се подготвят за подобни сценарии на фона на нарастващите опасения, свързани с все по-мощните и автономни системи.
Предложенията им включват определяне на червени линии по отношение на ядрените системи, запазване на човешкия контрол върху кибератаки със сериозни последици и създаване на гореща линия за инциденти, свързани с автономен изкуствен интелект.
Препоръките бяха публикувани миналата седмица преди планираните разговори между правителствата в областта на изкуствения интелект и очакваната среща на 24 септември във Вашингтон между президента на САЩ Доналд Тръмп и китайския президент Си Цзинпин.
Авторите Мелани Сисън, старши научен сътрудник в аналитичния център „Брукингс“ (Brookings Institution), и Тиенцзяо Дзян, доцент в университета „Фудан“, участват в американско-китайския диалог по въпросите на изкуствения интелект и националната сигурност, организиран от 2019 г. от „Брукингс“ и Центъра за международна сигурност и стратегия към университета „Цинхуа“.
Предложенията им показват как съперничеството между САЩ и Китай в областта на изкуствения интелект излиза извън рамките на конкуренцията при чиповете и усъвършенстваните модели и навлиза в сферата на въпроси, отдавна свързвани с контрола на въоръжаването – как да се предотврати погрешното възприемане на инциденти като нападения, как да се ограничи вземането на военни решения от машини и как да се установят правила за комуникация между ядрени сили, когато технологиите действат по неочакван начин.
Китайският министър на държавната сигурност Чън Исин написа тази седмица в правителствено издание, че изкуственият интелект „променя из начините на водене на война“. По думите му ИИ е преминал от спомагателна към важна роля на бойното поле, като той посочи като пример удари, насочвани с помощта на ИИ по време на американско-израелската война с Иран.
ЧЕРВЕНИ ЛИНИИ ПРИ ЯДРЕНИТЕ СИСТЕМИ
Сисън от „Брукингс“ смята, че единствено хора трябва да имат правомощието да инициират кибератаки с помощта на изкуствен интелект срещу системите за командване, контрол и комуникации на ядрените сили на другата страна или срещу стратегически важна инфраструктура.
Автономна система може да се повреди, да излезе извън рамките на зададените ѝ инструкции или да бъде компрометирана, докато атакуваната държава може да се затрудни да установи дали действието е било случайно, или е наредено от нейния противник.
Дзян от университета „Фудан“ предложи въвеждането на изрични червени линии, които да не позволяват на изкуствения интелект самостоятелно да взема решение за използване на ядрени оръжия или автономно да атакува системи за ядрено командване, както и мерки за защита на стратегическата инфраструктура, включително в областта на енергетиката, финансите и здравеопазването.
Той призова и за общо определение на понятието „значим човешки контрол“, за да се предотврати възможността двете страни да използват еднаква формулировка, за да оправдават различни равнища на автономност на машините.
Идеята надгражда принцип, подкрепен през ноември 2024 г. от тогавашния президент на САЩ Джо Байдън и Си Цзинпин, според който хората трябва да запазят контрола върху решенията за използване на ядрени оръжия.
Лора Солман, асоцииран старши научен сътрудник в Стокхолмския международен институт за изследване на мира, написа през февруари, че това е важна точка на сближаване между САЩ и Китай, въпреки че и двете държави показват признаци на все по-дълбоко интегриране на изкуствения интелект в ядрени и свързани с ядрените оръжия системи.
КОГАТО МАШИНИТЕ ДЕЙСТВАТ ПО-БЪРЗО ОТ ХОРАТА
Дзян предложи също създаването на специална военна гореща линия между САЩ и Китай за инциденти, свързани с изкуствен интелект, като предупреди, че автоматизираните кибероперации между двете страни могат да ескалират прекалено бързо, за да бъде възможна човешка намеса.
Защитна система с изкуствен интелект на едната държава може автоматично да реагира на подозрителна дейност, докато другата страна може да възприеме тази реакция като нападение и да отвърне, преди да разбере какво всъщност се е случило.
Подобна гореща линия би позволила на едното правителство да уведоми другото, че необичайна операция с участието на ИИ е била случайна, неразрешена или все още се разследва, преди тя да бъде възприета като умишлено действие на държавата.
Експерти, сред които Карла Фрийман от Факултета по международни отношения към Университета „Джонс Хопкинс“, обаче поставят под въпрос ефективността на съществуващата американско-китайска военна гореща линия за комуникация при кризи, като посочват отказа на китайски представители да отговорят на обажданията на американските си колеги във връзка с „инцидента с шпионския балон“ през февруари 2023 г.
Строгата йерархична структура на китайската бюрокрация също ограничава възможността на по-нископоставени служители да проявяват инициатива при контактите си с американските си колеги, пише тя в статия за „Уор он дъ Рокс“ (War on the Rocks) през януари.
„Никой в китайската система не иска да комуникира със САЩ, докато висшето ръководство, след консултации със съответните представители на китайската партийно-държавна система, не вземе решение за отговор, което може да отнеме дни, ако не и повече“, посочва тя.
ПОЗИЦИИТЕ ВЪВ ВАШИНГТОН И ПЕКИН
Нито едно от двете правителства не е подкрепило публично предложенията на „Брукингс“ и „Цинхуа“, но Китай все по-често включва въпросите на изкуствения интелект в съществуващата си система за контрол на въоръжаването.
Изкуственият интелект официално е част от ресора на Департамента за контрол на въоръжаването на китайското Външно министерство, който се занимава също с ядрените оръжия, неразпространението на оръжия, ракетите и други въпроси на международната сигурност.
Китайският посланик по въпросите на разоръжаването Шън Дзиен заяви на заседание на ООН в Женева през юни, че използването на изкуствен интелект във военната сфера може да засегне стратегическата стабилност и да увеличи риска от погрешни преценки и ескалация на конфликти и че оръжията трябва да останат под човешки контрол. Китай също така твърди, че безопасността на изкуствения интелект не трябва да се превръща в претекст за налагане на технологични ограничения.
Във Вашингтон няма единна институция в областта на контрола на въоръжаването, която да отговаря за изкуствения интелект, като политиката в областта на националната сигурност е разпределена между Съвета за национална сигурност към Белия дом, Държавния департамент, Пентагона и други ведомства.
И двете правителства остават предпазливи към мерки, които биха могли да забавят собственото им технологично развитие. Тръмп предупреди, че широкообхватни ограничения могат да дадат предимство на Китай, докато Пекин разглежда много от американските технологични ограничения като опит за запазване на хегемонията на САЩ.