США и Россия настояли на изменениях текста об автономном оружии, согласованного в Женеве 5 сентября 2026 года. По свидетельству Human Rights Watch, из него убрали упоминание этических соображений и требования предсказуемости и надежности. Согласованная основа дальнейших переговоров пока не имеет силы договора. Поэтому последствия этих правок касаются содержания предлагаемых международных ограничений, включая участие человека в выборе цели. The Washington Post сообщила: из проекта исключили проверку целей ИИ человеком. Международный комитет Красного Креста описывает автономное оружие как систему, которая после активации сама выбирает и поражает цели по сведениям датчиков. Командир может разрешить работу в определенном районе, заранее не зная конкретного объекта удара. Такое разрешение оставляет человеку решение начать операцию, но отдельный выбор цели уже способен пройти без него. ИИ при этом может использоваться и в оружии, где решение об атаке сохраняется за оператором. Человеческий контроль требует учитывать изменение обстановки после запуска. МККК предлагает ограничивать район и продолжительность применения автономного оружия, обеспечивая вмешательство и отключение. Из сочетания этих требований следует: первоначальное разрешение и последующий надзор выполняют разные задачи. Командир оценивает условия допуска системы к работе. Оператор должен иметь возможность остановить ее, когда разрешенные условия больше не соблюдаются. Если этой возможности нет, появление гражданских лиц после запуска способно остаться без человеческого решения до удара. Руководитель кампаний британской Ассоциации содействия ООН Софи Радис сообщила, что из женевского текста исключили также требования объяснимости и прослеживаемости работы систем. Они относятся к проверке того, почему оружие выбрало конкретную цель. Без понятного описания допустимого поведения трудно обосновать безопасные условия запуска. Без сведений о фактической работе затрудняется разбор уже состоявшегося поражения. Поэтому общая формула о человеческом контроле нуждается в проверяемых условиях применения, даже когда человек не подтверждает каждую атаку. Этическое ограничение решает еще один вопрос. Генеральный секретарь ООН Антониу Гутерриш и президент МККК Мирьяна Сполярич в обращении от 25 августа выступили против передачи машинам выбора людей для поражения. Их позиция касается допустимости такого делегирования независимо от точности распознавания. Удаление этической оговорки оставляет без согласованного ответа возражение против автоматического решения о человеческой жизни. Улучшение датчиков само по себе на это возражение не отвечает. США и Россия, по сообщению Reuters, предпочитают национальные правила международному юридически обязательному регулированию. Вместе с тем итоговый текст сохраняет человеческое суждение и контроль, необходимые для соблюдения права, отмечает Human Rights Watch. МККК отдельно подчеркивает: правовые обязанности при ведении боевых действий возложены на людей. Изменение проекта не отменяет защиту гражданских и не устанавливает неизбежность того, что оружие с ИИ будет убивать всех подряд. Оно оставляет спор о конкретных обязательных способах предотвращения неправомерного удара. Для командований США и России отсутствие оператора при выборе отдельной цели переносит значительную часть проверки на более раннее решение: кто разрешил автономный режим и на основании каких сведений счел его допустимым. После поражения гражданского объекта потребуется разбирать также возможность остановить систему при изменении условий. Ответственность нельзя установить одним указанием на автоматическое срабатывание. Исследовать придется человеческое решение, которое допустило самостоятельный выбор цели, и действия лиц, отвечавших за дальнейшее применение оружия. @ex_trakt
- 1