Генералният секретар на ООН Антонио Гутериш и председателят на Международния комитет на Червения кръст Миряна Сполярич призоваха световните лидери за незабавно въвеждане на международни правила, които да ограничат използването на напълно автономни оръжейни системи. В свое общо изявление те заявиха, че "в момента сме опасно близо да преминем една морална червена линия – автономното насочване на машини срещу хората".
Според тях съществува реална опасност оръжията да бъдат използвани самостоятелно срещу хора без пряка човешка намеса и преценка. Опасенията относно автоматизирането на оръжията ни нарастват, особено на фона на активните конфликти в Украйна, Судан, ивицата Газа и Персийския залив.
Надпревара към пълна автономност
Въпреки че все още няма официален случай на използване на напълно автономно оръжие, технологиите напредват значително. Съществуват примери за автономни дефанзивни оръжия, които се използват от някои армии, но няма доказателства те да са насочвани към човешки цели.
Рискове от фатални грешки
Правозащитните организации изразяват притеснения относно управляемостта на системите, контролирани от изкуствен интелект. Алгоритмите, използвани в такива системи, не са напълно предвидими, което повишава риска от фатални грешки на бойното поле. Основно притеснение е неспособността на машината да разпознае надеждно ранен или предаващ се войник.
Тези инциденти могат да предизвикат сериозни правни проблеми. Например, ако автономна система наруши международното хуманитарно право, ще бъде изключително трудно да се определи отговорността на конкретни лица в случай на дела за военни престъпления.
Предстоящи преговори в Женева
Дискусиите за регулиране на автономните оръжия търсят решение от 2014 година, но напредъкът в технологиите многократно надминава дипломатическите усилия. В момента липсва международен договор, обхващащ оръжията с изкуствен интелект.
Представители на държавите членки на ООН ще се съберат в Женева в близките дни, за да обсъдят приемането на нови правила. Гутериш и Сполярич обявиха, че „необходимостта от ясни ограничения е спешна“, тъй като иновациите трябва да служат на човечеството, а не да го застрашават.
