Как США и Россия подорвали глобальные усилия по регулированию «убийственного» ИИ — The Washington Post Exclusive. Часть 1/2 Москва и Вашингтон исключили из текста исторической инициативы ООН, направленной на регулирование использования смертоносного автономного оружия, целый ряд мер безопасности. В начале сентября сотни дипломатов собрались в огромном конференц-зале ООН в Швейцарии, работая над жестким договором, регулирующим использование смертоносного автономного оружия — первым соглашением, регулирующим использование летального вооружения на основе искусственного интеллекта. В последний день переговоров тон бесед стал резким. В течение следующих примерно 15 часов американские и российские дипломаты неустанно работали над документом, удаляя ряд положений, призванных защитить использование искусственного интеллекта в вооружениях, как сообщили три человека, знакомые с ходом переговоров. По словам источников, из документов были удалены формулировки, требующие от систем «предсказуемого» и «надежного» функционирования, а также пункт, обязывающий учитывать этические соображения при использовании оружия, созданного с помощью ИИ. Американские и российские специалисты также исключили положение, требующее от людей проверки военных целей, разработанных ИИ, перед нанесением удара, добавили они. Как сообщили три источника, на закрытом заседании, при выключенных камерах ООН и удаленных наблюдателях от гражданского общества, Вашингтон и Москва задействовали свою армию из примерно 10 юристов каждая — почти вдвое больше, чем другие делегации, — чтобы внести изменения, которые происходили настолько быстро, что у меньших по численности делегаций закружилась голова. «Это была смерть от тысячи мелких порезов бумагой», — сказал один из присутствующих. Размывание соглашения, подробности которого ранее не сообщались, показывает, как США и Россия работали над ослаблением глобальных правил регулирования смертоносного оружия на основе искусственного интеллекта, в то время как Пентагон стремится быстро внедрить эту быстро развивающуюся технологию в стратегию ведения боевых действий. Переговоры проходят на фоне ожесточенных общественных дебатов о экзистенциальных рисках, связанных с развитым ИИ, поскольку руководители технологических компаний призывают мировых лидеров к сотрудничеству для установления ограничений на эту технологию. ООН годами пыталась регулировать вооружение на основе ИИ, но с ограниченным прогрессом, и последняя директива является наивысшим достижением в этих усилиях. Слабые правила, регулирующие использование смертоносного оружия на основе ИИ, могут иметь серьезные последствия. «Это может означать, что машины смогут принимать решения, от которых зависят жизнь и смерть, без участия человека», — говорит Верити Койл, замдиректора по вопросам вооружений в Human Rights Watch. «Практические последствия очевидны: больше вреда для гражданского населения, меньше ответственности и более быстрое скатывание к более рискованной, автоматизированной войне». Подписаться
- 21
- 10
- 9
- 1
- 1