16 ноября в Женеве начнется международная конференция ООН, участники которой обсудят возможность запрещения или ограничения применения автономного оружия с искусственным интеллектом. Речь идет о боевых системах, способных самостоятельно выбирать цели и атаковать их без непосредственного участия человека. Такие разработки также называют «роботами-убийцами».
Как сообщает AFP, главной темой встречи станет выработка международных правил использования вооружений, которые могут самостоятельно принимать решение о применении смертоносной силы. Государствам следует рассмотреть, нужно ли полностью запретить такие системы, достаточно ли ввести юридически обязательные ограничения на их разработку и использование.
Необходимость международного регулирования связана с быстрым развитием военных технологий. Возможности искусственного интеллекта выявлять, распознавать и сопровождать цели расширяются быстрее, чем создаются правила их применения. Эксперты предупреждают, что отсутствие согласованных международных норм может привести к распространению вооружений, использование которых будет сложно контролировать.
Современные беспилотные системы уже способны реагировать на изменение боевой обстановки без постоянного вмешательства оператора. В частности, отдельные технологии позволяют аппаратам анализировать полученные данные, корректировать свои действия и определять цели, не заранее заданные человеком. Это создает новые возможности для ведения боевых операций, но в то же время поднимает вопрос о границах допустимой автономности.
При этом не каждый беспилотник с искусственным интеллектом относится к категории автономного летального оружия. Алгоритмы могут использоваться для навигации, анализа изображений, обнаружения объектов или помощи оператору. Ключевым признаком систем, вызывающих наибольшее беспокойство, является способность самостоятельно выбирать объект для поражения и применять против него силу без подтверждения человека.
По данным AFP, автономные вооружения пока не получили массового распространения, однако аналитики уже фиксировали их использование Россией в войне против Украины, а также США во время ударов по Ирану. В то же время, конкретные системы могут иметь разный уровень автономности, поэтому сам факт применения беспилотника с искусственным интеллектом не означает, что решение об атаке полностью принимала машина.
Позиции государств по международному регулированию существенно отличаются. США выступают за сохранение надлежащего человеческого контроля над автономными системами, но не поддерживают полный запрет на все виды вооружений с использованием искусственного интеллекта. Такой подход предполагает возможность дальнейшего развития военных технологий при соблюдении определенных ограничений.
Франция придерживается более жесткой позиции относительно полностью автономных летальных систем. Страна запрещает вооружение, самостоятельно принимающее решение об уничтожении цели без участия человека, однако допускает использование систем с частичной автономностью. Таким образом, французский подход разграничивает автоматизацию отдельных боевых функций и передачу машине окончательного решения о применении смертоносной силы.
Разница в позициях может усложнить достижение международной договоренности. Одним из главных вопросов остается определение того, какой уровень человеческого контроля должен быть обязательным и какие технические характеристики будут классифицировать оружие как автономное. Государствам также необходимо согласовать, должны ли ограничения распространяться на разработку таких систем, их производство, экспорт или непосредственное использование в поле боя.
Ранее генеральный секретарь ООН Антониу Гутерреш и президент Международного комитета Красного Креста Мирьяна Сполярич предупреждали об опасности передачи машинам решений по жизни и смерти людей. Они заявляли, что мир приблизился к пределу, по которому автономные системы смогут самостоятельно определять, кого атаковать.
Международный комитет Красного Креста выступает за установление юридически обязательных ограничений на автономное оружие. Среди основных рисков организация называет невозможность гарантировать соблюдение международного гуманитарного права. В частности, речь идет о необходимости различать военных и гражданских лиц, оценивать пропорциональность применения силы и принимать меры по предотвращению случайных жертв.
Отдельной проблемой остается юридическая ответственность за последствия атак, совершенных автономными системами. Если искусственный интеллект самостоятельно определяет цель и запускает механизм поражения, возникает вопрос об ответственности разработчиков программного обеспечения, изготовителей вооружения, военного командования и операторов. Международные правила должны определить, кто будет отвечать за ошибочные решения таких систем.
Еще одним направлением развития военного искусственного интеллекта есть создание роев беспилотников. Такие группы аппаратов могут координировать действия, распределять задачи между отдельными единицами и одновременно атаковать объекты противника. Использование алгоритмов позволяет изменять тактику в зависимости от ситуации и продолжать выполнение задач даже при потере связи с частью беспилотников.
Эксперты прогнозируют, что в ближайшие годы автономные технологии станут более обычным элементом боевых действий. Массовое использование таких систем может изменить характер военных операций и создать дополнительные трудности для контроля за применением силы. Именно поэтому переговоры в Женеве должны определить, сможет ли международное сообщество установить общие правила до того, как автономное оружие получит широкое распространение.