Американските въоръжени сили почти са стартирали военна операция срещу китайски товарен кораб в Близкия изток, след като получили фалшив разузнавателен доклад, генериран от изкуствен интелект. Информацията, за която източник от телевизия CNN споделя, е убедила властите във Вашингтон, че плавателният съд превозва компоненти за ядрени оръжия, създавайки значителна тревога.
Инцидентът е станал на фона на изострено напрежение в региона, особено с военните действия в Иран. След разпространението на доклада, американските военни незабавно започват подготовка за прехващане на китайския кораб. Въоръжени бойци вече са се готвели да се качат на борда, като едновременно с това са били вдигнати и военни самолети.
Предотвратен сблъсък
Ескалацията е била избегната минути преди началото на операцията, след като висши служители са започнали по-щателна проверка на информацията. Оказало се е, че докладът е генериран от анализатор на Командването за специални операции на САЩ, който е ползвал чатбот, базиран на изкуствен интелект.
Според вътрешен източник, изготвеният документ е бил "напълно неверен", а допуснатата грешка "почти е довела до война". Действията срещу китайския кораб са могли да доведат до непредвидима ескалация на напрежението между Вашингтон и Пекин.
Системна грешка в разузнаването
Анализаторът първоначално е възложил на алгоритъма да обработи разузнавателна информация за товарния манифест на кораба, получена от Командването за специални операции в Тихия океан. Системата е съпоставила данни от открити източници и секретно сигнално разузнаване, в резултат на което е стигнала до погрешното заключение, че в трюмовете на кораба има ядрени компоненти.
Тази информация след това е оформена в стандартен разузнавателен доклад, който е изглеждал автентичен и е бил разпространен сред военното ръководство.
Въпросите пред новите технологии
Случаят поставя важни въпроси относно внедряването на новите технологии в отбраната. През януари министърът на отбраната на САЩ Пийт Хагсет обяви стратегия за ускорено интегриране на изкуствения интелект в военното дело, но в момента използването на тези системи е разпокъсано и различни подразделения работят с различни платформи.
В американската разузнавателна общност вече са се появили известни "технологични халюцинации", при които софтуерът генерира неверни твърдения. Част от експертите предупреждават, че бързината в анализа на данни е рискова и ще продължи да води до инциденти. Един от източниците по случая обобщава: "Изкуственият интелект ви позволява да стигнете до лоша идея по-бързо."
