Олег Постников: не стоит сгущать краски в оценке военного ИИ

Директор департамента МИД по вопросам нераспространения и контроля над вооружениями рассказал о позиции России перед конференцией в Женеве

Москва. 18 октября. INTERFAX.RU - Дискуссии о регулировании искусственного интеллекта в военной сфере стремительно набирают актуальность по мере того, как технологии переходят из области научной фантастики в реальность. В сентябре группа правительственных экспертов собралась в Женеве, чтобы обсудить будущие правила использования военного ИИ. Следующим этапом начатого многостороннего диалога станет обзорная конференция, которая пройдет с 16 по 20 ноября. Директор департамента по вопросам нераспространения и контроля над вооружениями МИД России Олег Постников в преддверии конференции рассказал в интервью "Интерфаксу" о позиции России по этой новой острой теме и объяснил, почему Москва против запрета на автономное оружие.

- Олег Владимирович, какой позиции придерживается Россия в вопросе регулирования смертоносных автономных систем вооружений? Осталась ли Москва удовлетворена тем, как ее позиция отражена в докладе группы правительственных экспертов по итогам консультаций, которые прошли в Женеве в начале сентября?

- В контексте регулирования смертоносных автономных систем вооружений Россия, как и подавляющее большинство государств, исходит из того, что нормы международного права, включая международное гуманитарное право, полностью применимы к данным системам вооружений. В международном праве содержится широкий круг ограничений, позволяющих обеспечить гуманизацию боевых действий. На сегодняшний день мы не видим убедительных оснований для введения дополнительных рестрикций в отношении упомянутых систем.

Высоко оцениваем итоги очередного цикла работы группы правительственных экспертов государств-участников Конвенции о "негуманном" оружии по смертоносным автономным системам. Принятие группой в сентябре в Женеве консенсусного доклада, в котором в полной мере учтены российские приоритеты и подходы к указанной проблематике, является значимым шагом вперед в работе на этом направлении. Доклад содержит конкретные понимания и рекомендации по ряду важных аспектов, связанных с указанными системами вооружений. Среди них – впервые сформулированное рабочее определение смертоносных автономных систем; особенности применения международного права, включая международное гуманитарное право, к таким системам вооружений; вопросы человеческого контроля; способы снижения рисков в связи с применением указанных средств. Важно сохранить эту позитивную динамику и продолжить диалог по этой тематике на площадке Конвенции о "негуманном" оружии в рамках ее следующего обзорного цикла с 2027 по 2031 годы.

- Какие меры Россия считает наиболее эффективными для регулирования использования искусственного интеллекта в военной области?

- Проблематика использования ИИ в военной области является для международного сообщества достаточно новой. Прежде чем приступать к выработке неких дополнительных норм регулирования в отношении военного ИИ, государствам необходимо получить четкое представление о предмете, особенностях и перспективах изучения данной темы. В частности, требуется тщательный анализ действующей международно-правовой базы применительно к указанным технологиям, выработка единых пониманий по различным аспектам их задействования, согласование терминологической базы, включая определение самого термина "искусственный интеллект". Без проведения такой подготовительной работы не представляется возможным рассуждать о дополнительном регулировании на данном направлении.

В связи с этим мы не поддерживаем усилия радикально настроенных государств, которые ратуют за немедленный запрет смертоносных автономных систем вооружений. Как правило, такой подход разделяют страны, не обладающие серьёзными наработками в указанной области. Вызывает вопросы и продвигаемая западными государствами так называемая концепция "ответственного применения" военного ИИ, которая предполагает внедрение "норм и правил" регулирования на основе субъективных и неконсенсусных критериев. Упомянутая концепция призвана лишь закрепить лидирующие позиции узкой группы стран Запада в данной сфере посредством навязывания мировому сообществу удобных исключительно данным государствам правил и стандартов.

Исходим из того, что взаимодействие и предметная работа на международном уровне по проблематике военного ИИ должны выстраиваться исключительно на основе подлинного взаимоуважения, равенства, партнёрства и с учетом законных оборонных интересов всех государств. Введение ограничений, препятствующих законной инновационной деятельности и техническому прогрессу, считаем недопустимым. Кроме этого, важно, чтобы соответствующие дискуссии велись в недублирующем ключе на профильных международных площадках, обладающих соответствующим опытом и экспертизой – в группе правительственных экспертов по смертоносным автономным системам, Комиссии ООН по разоружению. Только так возможно обеспечить эффективность принимаемых решений.

- Американские технологические гиганты, например, Anthropic и Microsoft, в последнее время все чаще предупреждают о том, что искусственный интеллект может выйти из-под контроля, в т. ч. и в военной сфере. Разделяют ли эти опасения в Москве?

- Ведя речь о военном ИИ, нельзя игнорировать потенциальные риски, возникающие в связи с использованием систем вооружений и военной техники на основе технологий ИИ. Важно понимать, что для их эффективного купирования уже имеются действенные механизмы.

Ключевым в этом контексте является добросовестное соблюдение всеми государствами международного права, включая международное гуманитарное право. Именно на международное право возложена задача по максимальному снижению негативных последствий вооружённого конфликта путём ограничения его сторон в выборе средств и методов осуществления боевых операций. Необходимо подчеркнуть, что эти требования относятся к людям, а не к системам вооружений. Среди основных положений международного гуманитарного права по снижению рисков, связанных с новыми видами оружия, включая технологии военного ИИ, особое значение имеет статья 36 Дополнительного протокола I к Женевским конвенциям 1949 года. Она предписывает государствам при изучении, разработке, приобретении или принятии на вооружение новых видов оружия, средств или методов ведения войны определять, подпадает ли их использование под действующие международно-правовые запреты и ограничения.

На нивелирование гипотетических вызовов, связанных с военным ИИ, направлен принцип обеспечения человеческого контроля за функционированием соответствующих технологий. Конкретные формы такого контроля определяются государствами самостоятельно на национальном уровне. При этом человеческий контроль не обязательно должен применяться только лишь путем прямого управления.

Снижению рисков в связи с военным ИИ призван способствовать и межгосударственный обмен мнениями на профильных многосторонних площадках, в рамках которого согласуются необходимые рекомендации, руководящие принципы, решения. Упомянутый выше содержательный доклад группы правительственных экспертов по смертоносным автономным системам – наглядный тому пример.

В целом, анализируя потенциальные опасности в области военного ИИ, не следовало бы чрезмерно "сгущать краски" и акцентировать внимание лишь на его негативных сторонах. Необходимо признать, что системы вооружений и военной техники с применением технологий ИИ предоставляют неоспоримые возможности, в числе которых – быстродействие и высокая эффективность, особенно при анализе больших массивов данных. Эти и другие аспекты в совокупности способствуют уменьшению рисков в связи с использованием военного ИИ.

- Как Россия оценивает позицию США по этому вопросу? Насколько работа американской делегации была конструктивна на переговорах в Женеве?

- Позиция США по вопросу о военном использовании ИИ в последнее время претерпела значительные изменения. Вашингтон выступает против рассмотрения указанной проблематики в ООН и категорически отвергает любые ограничения и запреты в отношении использования соответствующих систем вооружений.

При этом группа правительственных экспертов по системам автономных вооружений остаётся чуть ли не единственным международным форматом, в функционировании которого США, как представляется, по-прежнему заинтересованы. Принятие группой консенсусного доклада является важным тому подтверждением. Выйти на указанный результат удалось благодаря участию в работе профильных экспертов из ключевых стран-разработчиков, в том числе США, конструктивному подходу и общему настрою делегаций на достижение практических договорённостей, основанных на разумном балансе между гуманитарными озабоченностями и законными оборонными интересами государств.

- Как в Москве оценивают перспективы принятия юридически обязывающего документа по итогам седьмой Обзорной конференции Конвенции о конкретных видах обычного оружия в ноябре?

- Придаём важное значение результативному проведению 16-20 ноября в Женеве седьмой Обзорной конференции Конвенции о "негуманном" оружии. Надеемся, что государствам-участникам удастся выйти на взаимоприемлемые договорённости, в том числе по тематике смертоносных автономных систем. Ряд делегаций из числа радикально настроенных государств уже сейчас выступают в пользу незамедлительного запуска переговоров по профильному юридически обязывающему инструменту и намерены добиваться принятия на Обзорной конференции соответствующего решения. Однако об одобрении такого инструмента говорить пока рано, да и подход в пользу начала упомянутых переговоров разделяют далеко не все государства-участники конвенции.

Россия исходит из преждевременности радикальных шагов в этой области и необходимости продолжения предметной дискуссии по смертоносным автономным системам в рамках профильной группы правительственных экспертов, которая накопила солидный опыт взаимодействия по данному вопросу. Функционирование группы на основе принципа консенсуса является залогом учёта интересов всех государств-участников, а также результативности принимаемых решений. Одобрение в сентябре консенсусного доклада группы свидетельствует о прогрессе в деятельности на этом направлении. Важно продолжать взаимодействие в рамках группы, сосредоточив внимание на тех аспектах смертоносных автономных систем, в отношении которых у государств по-прежнему сохраняются расхождения, включая терминологический аппарат, особенности применения действующего международного права, в том числе международного гуманитарного права, а также риски и возможности, связанные с такими средствами. Рассчитываем на согласование в ходе предстоящей Обзорной конференции нового мандата группы правительственных экспертов по смертоносных автономных систем и продолжение предметного диалога по этой проблематике на площадке Конвенции о "негуманном" оружии. Со своей стороны приложим все необходимые усилия для принятия соответствующего решения.