ИИ в военной сфере предполагает использование искусственного интеллекта в военных системах и в боевых действиях, в том числе в автономных системах вооружений, системах принятия военных решений, в операциях и в качестве инструмента наращивания потенциала в киберсреде, а также в материально-тыловом обеспечении, сборе и анализе разведданных.

Да. МГП распространяется на все средства и методы ведения войны, включая использование технологий ИИ. Любое применение силы должно соответствовать принципам и нормам МГП, таким как проведение различия (между гражданскими лицами и объектами с одной стороны и комбатантами и военными объектами — с другой), соразмерность и принятие мер предосторожности.

МККК обеспокоен тем, что использование ИИ в военной сфере может ускорить темп и увеличить масштабы боевых действий, снизить предсказуемость и ограничить контроль человека над применением силы, что создаст серьезный риск для гражданского населения.

Системы ИИ особенно уязвимы в случае сбоя во враждебной среде, где неприятель постарается сознательно предпринять попытку введения в заблуждение или взломать системы, например посредством нарушения целостности данных или использования слабых мест противоположной стороны.

МККК настаивает на человекоцентричном подходе, поскольку именно люди — а не машины — несут юридическую ответственность за принятие решений, связанных с применением силы. Человеческое суждение необходимо для того, чтобы обеспечить соблюдение МГП и защиту гражданских лиц. Системы ИИ должны помогать человеку в принятии решений, а не ограничивать и не заменять его в выполнении этой задачи.

МККК определил три сферы применения ИИ в военном деле, которые создают существенный риск.

1. Автономные системы вооружений: после приведения в действие такие системы способны самостоятельно выбирать и поражать цели без дальнейшего участия человека.
2. Системы принятия решений на базе ИИ: эти системы обрабатывают огромные объемы данных в помощь лицам, принимающим решения в военной сфере, но использование подобных систем сопряжено с риском в связи с присущими им ненадежностью и непредсказуемостью, а также ввиду склонности человека чрезмерно доверять результатам их работы.
3. ИИ в информационно-коммуникационных технологиях: ИИ всё активнее используется при проведении операций в киберсреде и интегрируется в киберпотенциал, что может привести к увеличению масштаба кибератак, изменить их характер и мощь, особенно в плане неблагоприятного воздействия на гражданских лиц и гражданскую инфраструктуру.
    

В рамках МГП технологические компании и их работники считаются гражданскими лицами и объектами, если не доказано иное, и пользуются защитой от нападений. Однако право на такую защиту может быть утрачено, если сотрудники компании будут вести определенную деятельность или если имущество компании будет использоваться определенным образом. Например, если конкретная инфраструктура или сервисы технологической компании используются воюющей стороной с целью внести реальный вклад в ведение боевых действий и если их полное или частичное уничтожение, захват или нейтрализация в текущих обстоятельствах дает конкретное военное преимущество неприятелю, то такая компания становится военной целью. 

В связи с этим МККК призывает технологические компании тщательно оценивать возможности применения своих товаров и услуг в вооруженном конфликте. Кроме того, компаниям следует принять меры, направленные на то, чтобы избежать пособничества в нарушении МГП и снизить риск, который их технологии могут представлять для гражданских лиц.

Да, МККК активно взаимодействует с технологическими компаниями и другими заинтересованными лицами, участвующими в разработке систем ИИ. Цель такого взаимодействия состоит в том, чтобы ознакомить компании с МГП, в том числе обсудить, каким образом их услуги и деятельность могут создавать риск причинения ущерба их сотрудникам, имуществу и клиентам. Кроме того, беседы касаются возможностей проектирования и доработки систем ИИ в целях содействия соблюдению МГП и уменьшения вреда гражданскому населению