Понад 200 організацій вимагають заборонити «штучний інтелект» у військових ланцюгах знищення

Організації, як "Access Now", "Amnesty International" та ще понад "200 організацій громадянського суспільства", виступили зі спільною заявою, в якій закликають уряди та технологічні компанії негайно припинити використання систем зі "штучним інтелектом" для "військового цілевказування". На їхню думку, війна за участю таких технологій перетворюється на "конвеєр смерті, що працює з безпрецедентною швидкістю та масштабом".

Коаліція б'є на сполох через "новий порох"

У своїй спільній заяві, опублікованій на тлі триваючих військових операцій із застосуванням ШІ в кількох зонах конфліктів, коаліція вимагає, щоб держави та технологічні компанії "припинили надання та використання технологій, які підривають дотримання міжнародного права під час збройних конфліктів". На їхню думку, інструменти ШІ, які використовуються для "генерації цілей" та "їхнього впорядкування за пріоритетністю", підштовхують військових до форми війни, що порушує основні принципи міжнародного гуманітарного права.

"ШІ став новим порохом, а технологічні компанії – новими торговцями зброєю", – заявляє "Марва Фатафта", директорка з політики та правозахисної діяльності для регіону "MENA" в "Access Now". "Від Гази до Лівану та Ірану – реальність насильства, яке несуть ланцюги знищення на базі ШІ, руйнує будь-які твердження про те, що ці системи можна використовувати відповідально", – додає вона.

Maven, "Claude" та операція "Epic Fury"

Заклик коаліції прозвучав після журналістських розкриттів про те, що система "Maven Smart System" компанії "Palantir", інтегрована з моделлю ШІ "Claude" від "Anthropic", була використана в межах операції "Epic Fury", яку проводили США проти "Ірану". Згідно з публікаціями, система слугувала для "ідентифікації та пріоритезації понад 1000 цілей за 24 години".

За даними спеціалізованих видань, "Claude" виконує роль "механізму міркування", який допомагає синхронізувати різні модулі та спростити завдання для операторів-людей. Це, на думку критиків, створює ризик того, що рішення про життя і смерть де-факто передаються алгоритмам, навіть коли формально йдеться про "людину в циклі".

Правова база відстає від технологій

"Human Rights Watch", один із засновників кампанії "Stop Killer Robots", неодноразово попереджала, що використання ШІ у збройних конфліктах випереджає розвиток правових механізмів та міжнародних правил. У березні організація розкритикувала рішення "Пентагону" відхилити запропоновані "Anthropic" етичні обмеження для військового використання ШІ, назвавши це "чітким знаком того, що Пентагон навряд чи забезпечить реальні захисні заходи".

Адміністрація "Дональда Трампа" "4 червня" змінила курс, підписавши "Президентський меморандум з національної безпеки", який передбачає прискорене впровадження ШІ для "військовослужбовців та співробітників розвідки". Документ доручає міністру оборони "Піту Гегсету" переглянути протягом "90 днів" чинні директиви щодо "автономності систем озброєння".

Тим часом у березні журнал "Nature" опублікував редакційну статтю із закликом не допускати використання ШІ у збройних конфліктах, доки не будуть розроблені "конкретні правила" для такого застосування. У тексті підкреслюється, що "жоден міжнародний закон" наразі не згадує явно ШІ в контексті збройних конфліктів, що залишає серйозні "правові прогалини".

Заклик до прозорості та мораторію

Коаліція громадських організацій закликає держави "припинити використання інструментів зі ШІ при виборі військових цілей", гарантувати "прозорість" щодо того, як подібні системи вже використовуються в бойових діях, і вимагати від компаній вживати заходів, що виключають можливість того, щоб їхні технології завдавали шкоди або сприяли порушенням міжнародного права.

"Компанії, які розробляють ШІ, не можуть декларувати, що діють в інтересах усього людства, і водночас заробляти на прибуткових військових контрактах", – заявляє "Даніель Лойфер", керівник напрямку "Політика нових технологій" в "Access Now". "Настав час покласти край порожнім етичним деклараціям і почати реальне притягнення до відповідальності", – додає він, наполягаючи на суворішому контролі за участю приватних технологічних компаній у військових програмах.