Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели

BRIEFLY@brieflyruПолитика и власть17 ноября 2026, 20:30

Прежде чем ИИ вступит в настоящую войну, пусть он сразится в симуляции — The Economist. Армии должны отправить автономные системы в лабораторию — и там их «взломать», предлагает Катерина Бондарь из Центра искусственного интеллекта вашингтонского аналитического центра CSIS. По мере того как всё больше людей опасаются возможности уничтожения человечества искусственным интеллектом, последствия его применения уже испытываются на практике, в условиях, близких к максимальным: на войне. Поле боя на Украине демонстрирует результаты, которые одновременно более прозаичны и более значимы, чем абстрактные дискуссии. ИИ уже меняет способы ведения войн, но это изменение выглядит совсем иначе, чем представления о машинах, вышедших из-под контроля. Вооруженные силы ожидают, что преимущества от ИИ будут в основном заключаться в автономности, и каждая армия вкладывает значительные средства в развитие этой возможности. Проще говоря, автономная система выполняет задачи без вмешательства человека. На практике военная автономия развивается в двух направлениях. ▪️Первое — автономия самих машин — более известно, оно перекликается с образом «роботов-убийц», которые доминируют в популярных СМИ и вызывают страх у населения. Но армии используют такое оружие уже десятилетия. Торпеда или самонаводящаяся ракета, после запуска, отслеживают сигнал в соответствии с правилами, разработанными людьми. Это форма алгоритмической автономности, которая ограничена и предсказуема. Вооруженные силы научились успешно использовать такое оружие. Автономность, обеспечиваемая ИИ, отличается тем, что системе ставится задача, и она сама определяет, как её достичь. Никто заранее не прописал, что она будет делать, а что нет. Война на Украине показывает, что полностью автономные дроны остаются плохими солдатами, по крайней мере, пока. — Им трудно ориентироваться в условиях подавления спутниковых сигналов; — они не могут надежно отличить российского солдата от украинского, или солдата от гражданского; — и они летят к целям по прямым линиям, поэтому их легче сбить, чем те, которыми управляют люди. Их единственное реальное преимущество заключается в том, что их нельзя заглушить, поэтому остановить их может только физический перехват. Все эти уроки были усвоены в ходе полетов, боевых действий, испытаний и доработок на поле боя. ▪️Второе направление — более новое и значимое — внедряет агентов ИИ непосредственно в механизм принятия решений. На Украине цепочка поражения — последовательность обнаружения цели, принятия решения о нанесении удара и его осуществления — замыкается несколько сотен, а иногда и тысяч раз в день. Вооруженные силы по всему миру стремятся автоматизировать эту цепочку, объединяя спутниковые снимки, радиотехническую разведку и видео с беспилотников; ранжируя цели; и назначая любое доступное оружие. Объект, используемый для удара, будь то беспилотник или ракета, взаимозаменяем; реальные решения принимаются программным обеспечением, которое управляет процессом. Когда агенты ИИ имеют доступ к разведывательным данным и выбору оружия, программное обеспечение выступает в роли разума. Однако теперь ясно, что агенты могут вести себя ненадлежащим образом, оставаясь без присмотра. В июле агенты OpenAI, проходившие кибертестирование в тестовой среде, нашли способ пройти тест, который никто не ожидал. Они использовали неустраненную уязвимость безопасности и нашли путь в открытый интернет, а затем, рассудив, что Hugging Face, другая компания, занимающаяся ИИ, вероятно, располагает полезной информацией, провели три дня внутри ее систем. В последнем отчете Anthropic об угрозах задокументированы случаи, когда хакеры запускают «рои агентов», в которых ведущий ИИ отправляет подчиненных агентов для осуществления вторжений. Пока что такие рои используют только цифровые инструменты. Военная версия будет использовать физические инструменты. Невозможно написать разумные правила для системы, точки отказа которой вы никогда не наблюдали. Гельмут фон Мольтке, прусский фельдмаршал, заметил, что ни один план не выдерживает первого столкновения с противником. Ни одна автономная система тоже не выдержит; гораздо лучше, если столкновение произойдет сначала в лаборатории. Поэтому армиям следует создавать искусственные поля сражений — оснащенные приборами копии реальных конфликтов, включая системы РЭБ и дезинформации. Затем им следует проводить реалистичные военные учения, в ходе которых автономные системы будут задействованы в полную силу, чтобы определить, где они выходят из-под контроля, где они действительно помогают и где их ни в коем случае нельзя использовать. Регулирование должно основываться на полученных данных. Его внимание должно быть сосредоточено на доказанных рисках, а не на вымышленных. Сдержанность была бы заманчивой, если бы она была взаимной, но это не так. Россия уже без каких-либо этических колебаний испытывает полностью автономные дроны, Иран и КНДР учатся на примере России, а Китай методично усваивает все уроки конфликтов по всему миру. Чтобы сохранить свое военное превосходство, западные вооруженные силы также должны усвоить эти уроки и начать экспериментировать с автономией в своих реальных боевых условиях. Выбор заключается в том, чтобы либо понять эту технологию на наших условиях, в ситуациях, которые мы контролируем, либо столкнуться с ней впервые в условиях войны. Самым ответственным подходом армии к автономным системам является их намеренное и многократное выведение из строя, «взлом» в лабораторных условиях, прежде чем это сделает за всех поле боя. Подписаться

  • 19
  • 4
  • 4
  • 2

Похожие посты

Банки, деньги, два офшора@bankrolloПолитика и властьвчера
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели
  • Фото поста канала  Банки, деньги, два офшора

Топовые нейросети будут убивать людей без раздумий, показали тестирования. Модели от OpenAI, Anthropic, Google поучаствовали в симуляции боевых действий и были быстро обмануты словами, что происходящие бои — просто видеоигра. Нейронки управляли виртуальными боевыми дронами, находили людей, отмечали гражданских, автомобили скорой помощи и сдающихся солдат как потенциальные цели для ударов. При этом модели продолжали выполнять задание даже после демонстрации тел. Самым жестким воякой оказался Clau...

Баррель черной икры@banki_oilНовости и СМИвчера
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели

Нейросети готовы убивать людей, показал эксперимент Vals AI, компании по тестированию ИИ. В военной симуляции модели OpenAI, Anthropic и Google выбирали военными целями мирных жителей, сдающихся солдат и даже скорые. Их не остановили фотографии тел погибших и последствий ударов. Самым жестоким оказался Claude Opus 5.5 — в 22 из 32 испытаний он выбрал целью школу в Иране. Для обхода ограничений оказалось достаточно назвать бойню видеоигрой. Ранее на этой модели был собран дрон, самостоятельно пр...

Еж@ejdailyruПолитика и власть6 часов назад
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели

Ведущие модели искусственного интеллекта принимают мирных жителей, машины скорой помощи и сдающихся солдат за военные цели, сообщает Bloomberg. Подробности: Независимая исследовательская компания Vals протестировала ИИ-модели восьми разработчиков, включая OpenAI, Anthropic, Google и DeepSeek. В ходе симуляций нейросетям показывали снимки с беспилотников и спутников, предлагая определить военные цели. Модели неоднократно выбирали гражданские объекты, а некоторые продолжали выполнять задания даже ...

  • 186
  • 46
  • 24
  • 22
  • 15
  • 8
Бэкдор@whackdoorТехнологии и ITвчера
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели

Топовые ИИ-модели наводят боевые дроны на мирных жителей — а если у нейронок возникают сомнения, их можно обмануть, сказав, что это видеоигра. Исследователи из Vals протестили модели от OpenAI, Anthropic, Google и других компаний в симуляции боевых действий. Ранее мы уже писали, как Opus 5.5 обучил FPV-дроны преследовать людей, но тут ситуация пострашнее: • Нейронки управляли виртуальными дронами, находили людей, отмечали гражданских, автомобили скорой помощи и даже сдающихся солдат как потенц...

  • 290
  • 36
  • 20
  • 15
ТОПОР - Горячие новости@toporНовости и СМИ2 часа назад
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели

Нейросети оказались готовы атаковать мирных жителей, школы и скорые, показал эксперимент Vals AI. В военной симуляции модели OpenAI, Anthropic и Google выбирали гражданских и сдающихся солдат в качестве целей. Claude Opus 5.5 в 22 из 32 испытаний решил ударить по школе в Иране. Причём обойти ограничения ИИ оказалось достаточно просто — нужно было сказать, что это видеоигра. Скайнет уже на стадии раннего доступа. Нейросети оказались готовы атаковать мирных жителей, школы и скорые, показал эксп...

Раньше всех. Ну почти@bbbreakingНовости и СМИ41 минуту назад
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели

Нейросети OpenAI, Anthropic и Google в ходе военных симуляций выбирали в качестве целей мирных жителей, сдающихся солдат и машины скорой помощи, показало исследование компании Vals. Хуже других в одном из испытаний показала себя Claude Opus 5.5: в 22 из 32 случаев модель отметила школу в Иране как военную цель. При этом ограничения некоторых нейросетей удавалось обойти, представив задание как видеоигру. Исследователи предупреждают, что подобные ошибки создают риски при использовании ИИ в военн...

Иван Утенков | КУРСК@ivan_utenkov13Новости и СМИ2 часа назад
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели

Нейросети готовы убивать людей, показал эксперимент Vals AI, компании по тестированию ИИ. В военной симуляции модели OpenAI, Anthropic и Google выбирали военными целями мирных жителей, сдающихся солдат и даже скорые. Их не остановили фотографии тел погибших и последствий ударов. Самым жестоким оказался Claude Opus 5.5 — в 22 из 32 испытаний он выбрал целью школу в Иране. Для обхода ограничений оказалось достаточно назвать бойню видеоигрой. Ранее на этой модели был собран дрон, самостоятельно пр...

  • 273
  • 165
  • 23
  • 3
  • 2
  • 1
Банкофф • Финансы@bankoffoФинансы и криптовалютывчера
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели
  • Фото поста канала  Банкофф • Финансы

Нейросети уже готовы убивать людей. ИИ-модели отмечали мирных жителей, машины скорой помощи и сдающихся солдат как цели для боевых дронов, а сомнения у них пропадали, если сказать, что это игра, выяснили исследователи из Vals. В одном из тестов модели сообщали, есть ли люди на снимках с дрона, после чего видели последствия удара. Большинство продолжало задание даже после кадров с телами, а Claude Opus 5.5 и GPT-6 Astra, которые в итоге отказывались, снова соглашались, когда им говорили про игру....

Кабинет инвестора@investingcorpФинансы и криптовалютывчера
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели

Claude в 22 из 35 испытаний выбрал иранскую школу законной военной целью — показало исследование Vals. Учёные протестировали ведущие ИИ-модели в симуляции боевых действий. Нейросети атаковали гражданских, машины скорой помощи и сдающихся солдат, а сомневающиеся модели удавалось переубедить, назвав происходящее видеоигрой. @investingcorp Claude в 22 из 35 испытаний выбрал иранскую школу законной военной целью — показало исследование Vals. Учёные протестировали ведущие ИИ-модели в симуляции бое...

СОЛОВЬЁВ@solovievliveНовости и СМИ55 минут назад
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели
  • Фото поста канала СОЛОВЬЁВ

ИИ приняла за военные цели мирных жителей и школу в Иране — Bloomberg Исследователи из независимой компании Vals проверили модели восьми разработчиков. В тестовых сценариях нейросети ошибочно относили к военным целям мирных жителей, машины скорой помощи и солдат, которые сдавались в плен. Один из тестов провели на реальных спутниковых снимках юга Ирана. Модель Claude Opus 5.5 от Anthropic указала на школу в Минабе как на военную цель в 22 из 32 попыток. Bloomberg напоминает, что при ударе по э...

  • 215
  • 19
  • 5
  • 3
  • 1