1 июня 2025 года Украина запустила около 100 небольших дронов на российских авиабазах, расположенных в нескольких часовых поясах. Платформы были контрабандой провезены к целям в деревянных контейнерах, а затем выпущены для совместного удара. Сообщается, что операция, известная как операция «Паутина», проводилась отдельными пилотами, по одному на каждый дрон, что делает ее поразительным достижением координации, а не автономности машины. Но это прямо указывает на более сложный вопрос поля боя. Поскольку функции нацеливания переходят от пилота к платформе и когда дроны начинают действовать вместе с меньшим количеством человеческого управления, кто будет нести ответственность за то, что делает рой?
Вопрос не риторический и не новый. Он находится в центре более чем десятилетних дебатов по поводу автономного оружия. Война на Украине переместила эти дебаты из конференц-зала на поле боя в незапланированном масштабе и темпе. Украинские и российские системы сами берут на себя большую часть работы по наведению и наведению терминалов, и аналитики IEEE Spectrum зафиксировали устойчивый переход к бортовой автономии, поскольку радиоэлектронная борьба разрывает связь между оператором и дроном. Право вооруженных конфликтов по-прежнему применяется в полной мере; более серьезная проблема заключается в том, что архитектура, посредством которой все чаще действуют эти системы, не соответствует тому, как закон распределяет ответственность.
Закон не изменился, архитектура изменилась
Международное гуманитарное право не оставляет машинам лазейки. Государства по-прежнему несут ответственность за международно-противоправные действия, а отдельные лица по-прежнему могут подвергаться судебному преследованию за военные преступления. Как заметил Винсент Буланин из SIPRI, автономные системы не находятся вне закона. Принципы избирательности, пропорциональности и предосторожности связывают командира, использующего рой дронов, точно так же, как они связывают того, кто отдает приказ об артиллерийском ударе. Трудность скорее практическая, чем доктринальная.
В исследовании SIPRI, проведенном в 2022 году, Буланен выделил четыре причины, по которым подотчетность становится необычайно сложной, когда оружие действует автономно. В самом законе неясно, как его правила применяются к этим системам. Непредсказуемость некоторых программ усугубляет старые споры о том, кто несет ответственность, если что-то идет не так. Огромное количество вовлеченных участников, от программистов до командиров, распределяет ответственность между таким количеством рук, что ни одна рука не может быть удержана за нее. И поведение самой системы становится трудно предвидеть в тот момент, когда командир решает ее использовать. Только последнее из них является отчасти инженерной проблемой. Первые три — это проблемы управления, и их невозможно решить с помощью более качественного оборудования. Вместе они описывают одну основную трудность: ответственность по праву вооруженных конфликтов зависит от предсказуемого человеческого решения, и то, как сейчас построены эти системы, имеет тенденцию рассеивать это решение, а не локализовать его.
Ричард Мойес, возглавляющий группу по разоружению «Статья 36», формулирует ставки более резко. Если мы не знаем, как было принято автономное решение, откуда взялась информация или насколько актуальной была эта информация, то принятие решений человеком перестает иметь смысл. Право вооруженных конфликтов основано на моральной ответственности человека и ответственности за его выбор. Уберите человеческое суждение, и вы получите не просто технический пробел; вы удалили то, ради чего был создан закон.
Три способа собрать рой вместе
Чтобы понять, почему архитектура важна для подотчетности, полезно взглянуть на то, как группа людей принимает решения. Рой — это не одна машина. Их много, и правило, по которому их отдельные показания объединяются в одно действие, является дизайнерским выбором. Этот выбор делается инженерами и командирами задолго до того, как улетит рой, и он определяет, где впоследствии может быть локализована ответственность.
Рассмотрим три модели, наблюдаемые в Украине. В первом случае небольшая группа дронов вступает в бой только тогда, когда достигается собственный порог прицеливания каждого участника. Власть основывается на наименьшем общем знаменателе, и командир может указать на четкую цепочку индивидуальных подтверждений. Украинские небольшие подразделения беспилотников в начале войны, описанные в опыте работы Женевского центра политики безопасности, действовали близко к этой модели. Ответственность здесь относительно легко проследить, поскольку человеческие подтверждения явны и зафиксированы.
Во втором шаблоне большая распределенная операция завершается успехом, когда достаточное количество ее участников достигает своих целей, а не когда это делает какой-либо один участник. Дизайн принимает потерю многих платформ и рассматривает успех как собственность группы. Растущее использование в Украине роения и скоординированной автономии, зафиксированное Центром стратегических и международных исследований, движется в этом направлении, поскольку программное обеспечение берет на себя большую часть координации. В данном случае проблема подотчетности заключается в том, что ответственность распространяется на весь пакет мер. Поведение ни одного дрона не скажет вам, соблюдался ли закон в ходе операции, а отчеты о последствиях должны фиксировать коллективное поведение, а не четкую последовательность индивидуальных человеческих решений.
В третьем шаблоне один ведущий элемент координирует, а остальные следуют за ним. Аналитики Королевского института вооруженных сил часто описывают российские ударные пакеты дальнего действия именно в таких терминах. Это концентрирует решение, что в принципе упрощает определение ответственности. Но это также концентрирует риск. Если скомпрометировать или ввести в заблуждение лидера, каждый последователь унаследует эту ошибку. Здесь возникает вопрос об ответственности, понимает ли человек, который установил параметры лидера, что последователи будут делать, когда совершат действия.
Это не экзотические инженерные категории. Это обычные способы организации группы, и каждый из них несет в себе свой ответ на вопрос, кто принял решение. Суть закона в том, что оперативная методология, с помощью которой группа принимает решения, фиксируется во время разработки, а не в разгар боя. Место человеческого решения в этой методологии определяется в тот же момент. Командир не может задним числом определить человеческое решение, которого архитектура никогда не требовала.
Почему контрольный журнал необходим, но недостаточен
Одним из ответов на проблему диффузии и предсказуемости является требование полной и надежной записи того, что система сделала и почему. Это разумное обоснование, и оно должно быть базовым требованием для любого автономного потенциала, предоставляемого государством, которое серьезно относится к своим юридическим обязательствам. Запись, которая не может быть изменена постфактум, является предварительным условием любого честного расследования.
Хорошо продуманная запись не просто подтверждает внутреннюю согласованность. Он может показать, когда датчики системы согласились, а когда нет, вероятность, которую система придала данному решению, элементы, которые привели к этому решению, время каждого шага, а также менялось ли определение взад и вперед перед тем, как прийти к согласию. Это именно та информация, которая необходима следователю и юрисконсульту для того, чтобы восстановить то, как было совершено конкретное действие, и проверить его на соответствие принципам избирательности, соразмерности и предосторожности. Запись, в которой они фиксируются, является серьезным инструментом подотчетности, а не просто защитным журналом.
Но охват пластинки ограничен тем, что записано. Сама по себе она не может сказать нам, было ли то, что наблюдала система, правдой. Противник, который терпеливо искажает общую картину, в течение нескольких недель скармливая рою медленно искажаемое представление об окружающей среде, побеждает систему, внутренние записи которой остаются согласованными друг с другом и чьи вероятностные следы выглядят совершенно упорядоченными. Война на Украине — это своего рода длительное адаптивное соревнование, в котором каждая сторона месяцами учится подделывать и ухудшать работу датчиков другой стороны, где подобные медленные манипуляции вполне правдоподобны. Таким образом, целостность входных данных является вторым, отдельным обязательством, наряду с обеспечением согласованности записей, и о нем легче забыть.
Что это значит для командиров и их юрисконсультов
Руководящие принципы 2019 года, согласованные в Конвенции о конкретных видах обычного оружия, подтверждают, что люди должны сохранять ответственность за использование этих систем, поскольку машина не может быть привлечена к ответственности за нарушение закона. Этот принцип верен, но это пункт назначения, а не маршрут. Сохранение ответственности на практике означает ее закрепление до развертывания.
Далее следуют три вывода. Во-первых, выбор того, как рой формирует свои решения, является не только инженерным, но и юридическим решением, и он заслуживает рассмотрения в рамках рассмотрения вооружений, которого уже требует статья 36 Дополнительного протокола I. Рецензент должен иметь возможность сказать, прежде чем система начнет работать, где находится человеческое суждение в каждом режиме работы. Во-вторых, обязательство по ведению учета должно распространяться на целостность данных, на которые опирается система, а не только на согласованность ее внутренних журналов. В-третьих, юрисконсульт командира должен понимать правило состава с оперативной точки зрения, поскольку вопрос, который в конечном итоге задаст суд или следствие, заключается не в том, как работало программное обеспечение, а в том, кто принял решение и на основании чего.
Заключение
Украина превратила годы теоретических споров в живую демонстрацию. Технология не ждет, пока закон догонит ее, и закон не нужно переписывать, чтобы он соответствовал ей. Его нужно применять раньше, в момент выбора архитектуры роя, а не после удара, когда на вопрос об ответственности уже стало трудно ответить. Пробел в подотчетности не возникает, потому что закон молчит. Он открыт, потому что человеческое решение, от которого зависит закон, разрабатывается незаметно, по одному правилу композиции за раз.
***
Бурак Октенли имеет степень MBA и степень магистра профессиональных исследований в области прикладной разведки Джорджтаунского университета. Его работа сосредоточена на управлении автономными системами, праве вооруженных конфликтов и институциональной архитектуре ответственности за военный потенциал с использованием ИИ.
Выраженные мнения принадлежат автору и не обязательно отражают официальную позицию Военной академии США, Министерства армии или Министерства обороны.
Статьи войныЭто форум профессионалов, где они могут обмениваться мнениями и развивать идеи.Статьи войныНе проверяет статьи на соответствие определенной редакционной программе, а также не одобряет и не пропагандирует публикуемые материалы. Авторство не указывает на принадлежность кСтатьи войныИнститут Либера или Военная академия США в Вест-Пойнте.
Â
Â
Â
Â
Â
Â
Â
Â
Фото предоставлено: Армия США, армейский сержант. Дакота Брэдфорд
