Более 200 организаций требуют запрета «искусственного интеллекта» в военных цепях уничтожения

Организации, такие как «Access Now», «Amnesty International» и еще более «200 организаций гражданского общества», выступили с совместным заявлением, в котором призывают правительства и технологические компании немедленно прекратить использование систем с «искусственным интеллектом» для «военного целеуказания». По их мнению, война с участием таких технологий превращается в «конвейер смерти, работающий с беспрецедентной скоростью и масштабом».

Коалиция бьет тревогу из-за «нового пороха»

В своем общем заявлении, опубликованном на фоне продолжающихся военных операций с использованием ИИ в нескольких конфликтных зонах, коалиция настаивает на том, чтобы государства и технологические компании «прекратили предоставление и использование технологий, которые подрывают соблюдение международного права при вооруженных конфликтах». По их мнению, инструменты ИИ, которые используются для «генерации целей» и «ранжирования их по приоритетности», подталкивают военных к форме войны, нарушающей основные принципы международного гуманитарного права.

«ИИ стал новым порохом, а технологические компании – новыми торговцами оружием», — заявляет «Марва Фатафта», директор по политике и правозащитной деятельности в регионе «MENA» в «Access Now». «От Газы до Ливана и Ирана — реальность насилия, которое несут цепи уничтожения на базе ИИ, разрушает любые утверждения о том, что эти системы могут использоваться ответственно», — добавляет она.

Maven, «Claude» и операция «Epic Fury»

Призыв коалиции прозвучал после журналистских расследований о том, что система «Maven Smart System» компании «Palantir», интегрированная с ИИ-моделью «Claude» от «Anthropic», использовалась в рамках операции «Epic Fury», проводимой США против «Ирана». Согласно публикациям, система служила для «идентификации и приоритизации более 1000 целей за 24 часа».

По данным специализированных изданий, «Claude» выполняет роль «механизма рассуждения», который помогает синхронизировать различные модули и упростить задачи для операторов-людей. Это, по мнению критиков, создает риск того, что решения о жизни и смерти будут де-факто переданы алгоритмам, даже когда формально речь идет о «человеке в контуре».

Правовая база отстает от технологий

«Human Rights Watch», один из основателей кампании «Stop Killer Robots», неоднократно предупреждала, что использование ИИ в вооруженных конфликтах опережает развитие правовых механизмов и международных правил. В марте организация раскритиковала решение «Пентагона» отклонить предложенные «Anthropic» этические ограничения для военного использования ИИ, назвав его «ясным знаком того, что Пентагон вряд ли обеспечит реальные защитные меры».

Администрация «Дональда Трампа» «4 июня» взяла обратный курс, подписав «Президентский меморандум по национальной безопасности», который предписывает ускоренное внедрение ИИ для «военнослужащих и сотрудников разведки». Документ поручает министру обороны «Питу Хегсету» пересмотреть в течение «90 дней» действующие директивы об «автономности систем вооружения».

Между тем, в марте журнал «Nature» опубликовал редакционную статью с призывом не допускать использования ИИ в вооруженных конфликтах до тех пор, пока не будут выработаны «конкретные правила» для такого применения. В тексте подчеркивается, что «ни один международный закон» в настоящий момент не упоминает ИИ явно в контексте вооруженных конфликтов, что оставляет серьезные «правовые пробелы».

Призыв к прозрачности и мораторию

Коалиция гражданских организаций призывает государства «прекратить использование инструментов с ИИ при выборе военных целей», гарантировать «прозрачность» относительно того, как подобные системы уже используются в боевых действиях, и потребовать от компаний принять меры, которые исключат возможность причинения их технологиями вреда или содействия нарушениям международного права.

«Компании, которые разрабатывают ИИ, не могут декларировать, что действуют в интересах всего человечества, и в то же время зарабатывать на прибыльных военных контрактах», — заявляет «Даниэль Лойфер», руководитель направления «Политика в области новых технологий» в «Access Now». «Пришло время положить конец пустым этическим декларациям и начать реальный поиск ответственности», — добавляет он, настаивая на более строгом контроле за участием частных технологических компаний в военных программах.