Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели

Еж@ejdailyruПолитика и власть18 ноября 2026, 02:01

Ведущие модели искусственного интеллекта принимают мирных жителей, машины скорой помощи и сдающихся солдат за военные цели, сообщает Bloomberg. Подробности: Независимая исследовательская компания Vals протестировала ИИ-модели восьми разработчиков, включая OpenAI, Anthropic, Google и DeepSeek. В ходе симуляций нейросетям показывали снимки с беспилотников и спутников, предлагая определить военные цели. Модели неоднократно выбирали гражданские объекты, а некоторые продолжали выполнять задания даже после демонстрации последствий ударов. Хуже всего показали себя модели Anthropic. В частности, Claude Opus 5.5 в 22 из 32 испытаний определила школу в иранском Минабе как военную цель. Модели OpenAI допускали меньше ошибок, но также могли выбирать гражданские объекты, особенно когда исследователи представляли задание как компьютерную игру. Авторы исследования предупредили, что существующие механизмы безопасности недостаточно защищают от использования ИИ для наведения оружия. При этом испытания проводились в симуляциях, а не в реальных боевых условиях. @ejdailyru

  • 70
  • 20
  • 11
  • 9
  • 8
  • 3
  • 3
  • 3
  • 3
  • 1

Похожие посты

Банки, деньги, два офшора@bankrolloПолитика и властьвчера
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели
  • Фото поста канала  Банки, деньги, два офшора

Топовые нейросети будут убивать людей без раздумий, показали тестирования. Модели от OpenAI, Anthropic, Google поучаствовали в симуляции боевых действий и были быстро обмануты словами, что происходящие бои — просто видеоигра. Нейронки управляли виртуальными боевыми дронами, находили людей, отмечали гражданских, автомобили скорой помощи и сдающихся солдат как потенциальные цели для ударов. При этом модели продолжали выполнять задание даже после демонстрации тел. Самым жестким воякой оказался Clau...

Баррель черной икры@banki_oilНовости и СМИвчера
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели

Нейросети готовы убивать людей, показал эксперимент Vals AI, компании по тестированию ИИ. В военной симуляции модели OpenAI, Anthropic и Google выбирали военными целями мирных жителей, сдающихся солдат и даже скорые. Их не остановили фотографии тел погибших и последствий ударов. Самым жестоким оказался Claude Opus 5.5 — в 22 из 32 испытаний он выбрал целью школу в Иране. Для обхода ограничений оказалось достаточно назвать бойню видеоигрой. Ранее на этой модели был собран дрон, самостоятельно пр...

Бэкдор@whackdoorТехнологии и ITвчера
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели

Топовые ИИ-модели наводят боевые дроны на мирных жителей — а если у нейронок возникают сомнения, их можно обмануть, сказав, что это видеоигра. Исследователи из Vals протестили модели от OpenAI, Anthropic, Google и других компаний в симуляции боевых действий. Ранее мы уже писали, как Opus 5.5 обучил FPV-дроны преследовать людей, но тут ситуация пострашнее: • Нейронки управляли виртуальными дронами, находили людей, отмечали гражданских, автомобили скорой помощи и даже сдающихся солдат как потенц...

  • 202
  • 19
  • 11
  • 8
Кабинет инвестора@investingcorpФинансы и криптовалютывчера
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели

Claude в 22 из 35 испытаний выбрал иранскую школу законной военной целью — показало исследование Vals. Учёные протестировали ведущие ИИ-модели в симуляции боевых действий. Нейросети атаковали гражданских, машины скорой помощи и сдающихся солдат, а сомневающиеся модели удавалось переубедить, назвав происходящее видеоигрой. @investingcorp Claude в 22 из 35 испытаний выбрал иранскую школу законной военной целью — показало исследование Vals. Учёные протестировали ведущие ИИ-модели в симуляции бое...

Банкофф • Финансы@bankoffoФинансы и криптовалютывчера
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели
  • Фото поста канала  Банкофф • Финансы

Нейросети уже готовы убивать людей. ИИ-модели отмечали мирных жителей, машины скорой помощи и сдающихся солдат как цели для боевых дронов, а сомнения у них пропадали, если сказать, что это игра, выяснили исследователи из Vals. В одном из тестов модели сообщали, есть ли люди на снимках с дрона, после чего видели последствия удара. Большинство продолжало задание даже после кадров с телами, а Claude Opus 5.5 и GPT-6 Astra, которые в итоге отказывались, снова соглашались, когда им говорили про игру....

🇷🇺⚡️Сводки ополчения Новороссии Z.O.V. (ДНР, ЛНР, Украина, Война)@swodkiАрмия и СВОвчера
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели
  • Фото поста канала  🇷🇺⚡️Сводки ополчения Новороссии Z.O.V. (ДНР, ЛНР, Украина, Война)

Топовые нейросети будут убивать людей без раздумий, показали тестирования. Модели от OpenAI, Anthropic, Google поучаствовали в симуляции боевых действий и были быстро обмануты словами, что происходящие бои — просто видеоигра. Нейронки управляли виртуальными боевыми дронами, находили людей, отмечали гражданских, автомобили скорой помощи и сдающихся солдат как потенциальные цели для ударов. При этом модели продолжали выполнять задание даже после демонстрации тел. Самым жестким воякой оказался Cla...

  • 53
  • 17
  • 6
  • 4
  • 3
  • 2
XOR@xor_journalТехнологии и ITвчера
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели

Ведущие ИИ-модели наводят удары на мирных жителей — а когда сомневаются, то обмануть их можно, сказав, что это видеоигра 😱 Исследователи Vals протестировали модели OpenAI, Anthropic, Google и других компаний в симуляции боевых действий. И ситуация, мягко говоря, плачевная. 🟢 Нейросети управляли виртуальными дронами, обнаруживали людей и отмечали гражданских, машины скорой помощи и даже сдающихся солдат как потенциальные военные цели. 🟢 Более того, даже после демонстрации последствий ударов,...

  • 82
  • 20
  • 7
  • 4
  • 3
  • 1
BRIEFLY@brieflyruПолитика и властьвчера
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели

Прежде чем ИИ вступит в настоящую войну, пусть он сразится в симуляции — The Economist. Армии должны отправить автономные системы в лабораторию — и там их «взломать», предлагает Катерина Бондарь из Центра искусственного интеллекта вашингтонского аналитического центра CSIS. По мере того как всё больше людей опасаются возможности уничтожения человечества искусственным интеллектом, последствия его применения уже испытываются на практике, в условиях, близких к максимальным: на войне. Поле боя на Укр...

  • 16
  • 3
  • 3
  • 1
Haqqin.az@haqqin_azzПолитика и властьвчера
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели
  • Фото поста канала  Haqqin.az

🤖 Нейросети уже готовы убивать людей ИИ-модели отмечали мирных жителей, машины скорой помощи и сдающихся солдат как цели для боевых дронов, выяснили исследователи из Vals. В одном из тестов модели сообщали, есть ли люди на снимках с дрона, после чего видели последствия удара. Большинство продолжало задание даже после кадров с телами, а Claude Opus 5.5 и GPT-6 Astra, которые в итоге отказывались, снова соглашались, когда им говорили про игру. 🌍 Haqqin.az 📥 Связаться

  • 8
  • 4
  • 2
  • 2
  • 2
4BS | Экономика, бизнес и финансы@fourbesЭкономика и бизнес2 часа назад
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели
  • Фото поста канала  4BS | Экономика, бизнес и финансы

ИИ будет убивать людей, если получит такую возможность: исследователи создали симуляцию боевых действий, в которой протестировали одни из последних моделей крупнейших разработчиков, включая OpenAI, Anthropic и Google. В симуляции нейросети управляли дронами и должны были уничтожать угрозы. Однако это закончилось тем, что ИИ отмечали в качестве угроз мирных жителей, машины скорой помощи, школы и другие гражданские объекты. Модели посчитали все это легитимными военными целями, несмотря на явные пр...