WP: США и Россия смягчили правила ООН по автономному оружию

Американская и российская делегации на заключительном раунде переговоров ООН об автономных вооружениях привлекли примерно по 10 юристов. За 15 часов они добились исключения из проекта ряда ограничений на применение ИИ в военной сфере. Об этом The Washington Post рассказали 3 участника закрытых консультаций; издание также изучило документы.

Встреча проходила в Женеве с 31 августа по 4 сентября в рамках группы, объединяющей правительственных экспертов по смертоносным автономным системам вооружений. Один из собеседников описал процесс как медленное изматывание множеством мелких правок.

Из текста убрали пункт о том, что ИИ-системы обязаны действовать с предсказуемым и надёжным результатом. Также исчезло упоминание этических аспектов при использовании автономного оружия. Кроме того, снято требование, чтобы человек проверял военные цели, выбранные искусственным интеллектом, до удара. Правки вносили на закрытом заседании: камеры ООН выключили, а представителей общественных организаций попросили выйти. По данным WP, обсуждение шло так быстро, что небольшие делегации не успевали следить за ним. Госдеп США, МИД России и ООН на запросы издания не ответили.

Согласованный текст пока не имеет обязательной юридической силы. В ноябре участники Конвенции о конкретных видах обычного оружия рассмотрят, давать ли переговорам официальный мандат. В перспективе это может привести к международному договору. Исполнительный директор коалиции Stop Killer Robots Николь ван Ройен сказала WP, что США и Россия против юридически обязательных правил для автономного оружия. Поскольку решения принимают консенсусом, обе страны могут блокировать инициативы, которые поддерживает большинство.

Параллельно Пентагон пересматривает свою директиву об автономном оружии 2023 года. В документе требуется сохранять человеческое суждение при применении автономных и полуавтономных систем и соблюдать международное право. Дональд Трамп поручил обновить правила за 90 дней, но к концу сентября новая версия не появилась, пишет WP. Американское военное ведомство расширяет использование ИИ для анализа данных и выбора целей.

Система Maven от Palantir, обрабатывающая сведения со спутников, беспилотников и радаров, в марте стала официальной программой Пентагона. Она может автоматически находить потенциальные цели и угрозы. Anthropic ранее потребовала от Пентагона гарантий, что её модели не применят в полностью автономном оружии и для массового наблюдения. В военном ведомстве сочли эти условия попыткой частной компании ограничить использование технологий в интересах национальной безопасности. В сентябре CNN сообщил, что американские военные едва не начали операцию против китайского судна из-за ошибочного вывода ИИ. По данным телеканала, система соединила открытую и секретную информацию и неверно определила назначение судна.

В июле заместитель главы МИД России Александр Алимов заявил, что Москва готова обсуждать конкретные формы международного сотрудничества в сфере ИИ в ООН, Международном союзе электросвязи и других организациях. По его словам, Россия выступает за выработку правил на основе консенсуса и равный доступ государств к технологиям. Возможности российско-американского сотрудничества в этой области ранее обсуждались в основном на уровне предложений. Спецпредставитель президента России Борис Титов допускал, что стороны могли бы участвовать в развитии дата-центров для ИИ с использованием российских запасов редкоземельных металлов.

Глав крупнейших ИИ-компаний вызвали в сенат Австралии на слушания

Достоверные новости всегда под рукой — в канале "МК" в MAX