США и Россия добились исключения из проекта документа ООН требования об обязательной проверке человеком целей, выбранных искусственным интеллектом, перед нанесением удара. Об этом сообщает The Washington Post со ссылкой на трех участников переговоров и изученные газетой документы.
Переговоры об ограничении автономного оружия проходили в начале сентября в Женеве. По данным издания, в последний день американская и российская делегации в течение примерно 15 часов добивались внесения изменений в текст.
Помимо требования о проверке целей человеком, из документа были удалены положения о том, что автономные системы должны действовать "предсказуемо" и "надежно", а при использовании ИИ в вооружениях должны учитываться этические соображения.
Как пишет The Washington Post, обсуждение проходило за закрытыми дверями, без камер ООН и представителей общественных организаций. По словам собеседников газеты, американская и российская делегации располагали значительно более крупными юридическими группами, чем большинство других участников переговоров.
В Human Rights Watch предупреждают, что ослабление таких ограничений может привести к ситуации, при которой машины будут принимать решения, касающиеся жизни и смерти людей, без человеческого контроля, а ответственность за последствия применения оружия станет менее ясной.
Документ пока не имеет обязательной юридической силы, однако может стать основой будущего международного договора об автономном оружии. В ноябре страны вновь соберутся в Женеве, чтобы решить, следует ли переходить к подготовке юридически обязательного соглашения.
Госдепартамент США, МИД России и ООН не ответили на просьбы The Washington Post прокомментировать переговоры.