Над 200 организации искат забрана на "изкуствения интелект" във военните вериги за унищожение

Организации като "Access Now", "Amnesty International" и още над "200 организации на гражданското общество" излязоха със съвместно заявление, в което призовават правителствата и технологичните компании незабавно да прекратят използването на системи с "изкуствен интелект" за "военно целеуказване". Според тях войната с участието на такива технологии се превръща в "конвейер на смъртта, работещ с безпрецедентна скорост и мащаб".

Коалицията бие тревога за "новия порох"

В общото си становище, публикувано на фона на продължаващи военни операции с използване на ИИ в няколко конфликтни зони, коалицията настоява държавите и технологичните компании да "прекратят предоставянето и използването на технологии, които подкопават спазването на международното право при въоръжени конфликти". Според тях инструментите на ИИ, които се използват за "генериране на цели" и "подреждането им по приоритет", тласкат военните към форма на война, която нарушава основните принципи на международното хуманитарно право.

"ИИ се превърна в новия порох, а технологичните компании – в новите търговци на оръжие", заявява "Марва Фатафта", директор по политики и правозащитна дейност за региона "MENA" в "Access Now". "От Газа до Ливан и Иран – реалността на насилието, което носят веригите за унищожение на базата на ИИ, разрушава всякакви твърдения, че тези системи могат да се използват отговорно", добавя тя.

Maven, "Claude" и операция "Epic Fury"

Апелът на коалицията идва след журналистически разкрития, че системата "Maven Smart System" на "Palantir", интегрирана с ИИ модела "Claude" на "Anthropic", е била използвана в рамките на операция "Epic Fury", ръководена от САЩ срещу "Иран". Според публикации системата е служила за "идентифициране и приоритизиране на над 1000 цели за 24 часа".

По данни от специализирани издания "Claude" изпълнява ролята на "механизъм за разсъждение", който помага да се синхронизират различни модули и да се опростят задачите за операторите–хора. Това, според критиците, създава риск решения за живот и смърт да бъдат де факто прехвърляни към алгоритми, дори когато формално се говори за "човек в цикъла".

Правната рамка изостава от технологиите

"Human Rights Watch", един от основателите на кампанията "Stop Killer Robots", многократно е предупреждавала, че използването на ИИ във въоръжени конфликти изпреварва развитието на правни механизми и международни правила. През март организацията критикува решението на "Пентагона" да отхвърли предложените от "Anthropic" етични ограничения за военна употреба на ИИ, определяйки го като "ясен знак, че Пентагонът едва ли ще осигури реални защитни мерки".

Администрацията на "Доналд Тръмп" на "4 юни" предприе обратен курс, като подписа "Президентски меморандум по националната сигурност", който предписва ускорено внедряване на ИИ за "военнослужещи и служители на разузнаването". Документът възлага на министъра на отбраната "Пийт Хегсет" да преразгледа в рамките на "90 дни" действащите директиви за "автономност на системите за въоръжение".

Междувременно през март списание "Nature" публикува редакционна статия с призив да не се допуска използването на ИИ във въоръжени конфликти, докато не бъдат изработени "конкретни правила" за подобно прилагане. В текста се подчертава, че "нито един международен закон" в момента не споменава изрично ИИ в контекста на въоръжени конфликти, което оставя сериозни "правни празноти".

Призив за прозрачност и мораториум

Коалицията на гражданските организации призовава държавите да "прекратят използването на инструменти с ИИ при избора на военни цели", да гарантират "прозрачност" относно това как подобни системи вече се използват в бойни действия и да изискат от компаниите да предприемат мерки, които да изключат възможността техните технологии да причиняват вреда или да съдействат за нарушения на международното право.

"Компаниите, които разработват ИИ, не могат да декларират, че действат в интерес на цялото човечество, и в същото време да печелят от доходоносни военни договори", заявява "Даниел Лойфер", ръководител "Политики за нови технологии" в "Access Now". "Време е да сложим край на кухите етични декларации и да започнем реално търсене на отговорност", добавя той, настоявайки за по-строг контрол върху участието на частни технологични компании във военни програми.