Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей

Баррель черной икры@banki_oilНовости и СМИ17 ноября 2026, 21:29

Нейросети готовы убивать людей, показал эксперимент Vals AI, компании по тестированию ИИ. В военной симуляции модели OpenAI, Anthropic и Google выбирали военными целями мирных жителей, сдающихся солдат и даже скорые. Их не остановили фотографии тел погибших и последствий ударов. Самым жестоким оказался Claude Opus 5.5 — в 22 из 32 испытаний он выбрал целью школу в Иране. Для обхода ограничений оказалось достаточно назвать бойню видеоигрой. Ранее на этой модели был собран дрон, самостоятельно преследующий человека. А сама Anthropic сообщила об использовании Claude для разработки боевых FPV-дронов. @banki_oil Нейросети готовы убивать людей, показал эксперимент Vals AI, компании по тестированию ИИ. В военной симуляции модели OpenAI, Anthropic и Google выбирали военными целями мирных жителей, сдающихся солдат и даже скорые. Их не остановили фотографии тел погибших и последствий ударов. Самым жестоким оказался Claude Opus 5.5 — в 22 из 32 испытаний он выбрал целью школу в Иране. Для обхода ограничений оказалось достаточно назвать бойню видеоигрой. Ранее на этой модели был собран дрон, самостоятельно преследующий человека. А сама Anthropic сообщила об использовании Claude для разработки боевых FPV-дронов. @banki_oil

Похожие посты

Раньше всех. Ну почти@bbbreakingНовости и СМИ3 часа назад
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей

Нейросети OpenAI, Anthropic и Google в ходе военных симуляций выбирали в качестве целей мирных жителей, сдающихся солдат и машины скорой помощи, показало исследование компании Vals. Хуже других в одном из испытаний показала себя Claude Opus 5.5: в 22 из 32 случаев модель отметила школу в Иране как военную цель. При этом ограничения некоторых нейросетей удавалось обойти, представив задание как видеоигру. Исследователи предупреждают, что подобные ошибки создают риски при использовании ИИ в военн...

Банки, деньги, два офшора@bankrolloПолитика и властьвчера
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей
  • Фото поста канала  Банки, деньги, два офшора

Топовые нейросети будут убивать людей без раздумий, показали тестирования. Модели от OpenAI, Anthropic, Google поучаствовали в симуляции боевых действий и были быстро обмануты словами, что происходящие бои — просто видеоигра. Нейронки управляли виртуальными боевыми дронами, находили людей, отмечали гражданских, автомобили скорой помощи и сдающихся солдат как потенциальные цели для ударов. При этом модели продолжали выполнять задание даже после демонстрации тел. Самым жестким воякой оказался Clau...

ТОПОР - Горячие новости@toporНовости и СМИ4 часа назад
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей

Нейросети оказались готовы атаковать мирных жителей, школы и скорые, показал эксперимент Vals AI. В военной симуляции модели OpenAI, Anthropic и Google выбирали гражданских и сдающихся солдат в качестве целей. Claude Opus 5.5 в 22 из 32 испытаний решил ударить по школе в Иране. Причём обойти ограничения ИИ оказалось достаточно просто — нужно было сказать, что это видеоигра. Скайнет уже на стадии раннего доступа. Нейросети оказались готовы атаковать мирных жителей, школы и скорые, показал эксп...

Еж@ejdailyruПолитика и власть8 часов назад
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей

Ведущие модели искусственного интеллекта принимают мирных жителей, машины скорой помощи и сдающихся солдат за военные цели, сообщает Bloomberg. Подробности: Независимая исследовательская компания Vals протестировала ИИ-модели восьми разработчиков, включая OpenAI, Anthropic, Google и DeepSeek. В ходе симуляций нейросетям показывали снимки с беспилотников и спутников, предлагая определить военные цели. Модели неоднократно выбирали гражданские объекты, а некоторые продолжали выполнять задания даже ...

  • 203
  • 53
  • 28
  • 26
  • 15
  • 8
Бэкдор@whackdoorТехнологии и ITвчера
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей

Топовые ИИ-модели наводят боевые дроны на мирных жителей — а если у нейронок возникают сомнения, их можно обмануть, сказав, что это видеоигра. Исследователи из Vals протестили модели от OpenAI, Anthropic, Google и других компаний в симуляции боевых действий. Ранее мы уже писали, как Opus 5.5 обучил FPV-дроны преследовать людей, но тут ситуация пострашнее: • Нейронки управляли виртуальными дронами, находили людей, отмечали гражданских, автомобили скорой помощи и даже сдающихся солдат как потенц...

  • 311
  • 42
  • 21
  • 16
Банкста@bankstaЭкономика и бизнес3 часа назад
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей

Нейросети готовы убивать людей, показал эксперимент Vals AI – компании по тестированию ИИ. В военной симуляции модели OpenAI, Anthropic и Google выбирали военными целями мирных жителей, сдающихся солдат и даже скорые. Их не остановили фотографии тел погибших и последствий ударов. Самым жестоким оказался Claude Opus 5.5 – в 22 из 32 испытаний он выбрал целью школу в Иране. Для обхода ограничений оказалось достаточно назвать бойню видеоигрой. Ранее на этой модели был собран дрон, самостоятельно п...

Иван Утенков | КУРСК@ivan_utenkov13Новости и СМИ4 часа назад
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей

Нейросети готовы убивать людей, показал эксперимент Vals AI, компании по тестированию ИИ. В военной симуляции модели OpenAI, Anthropic и Google выбирали военными целями мирных жителей, сдающихся солдат и даже скорые. Их не остановили фотографии тел погибших и последствий ударов. Самым жестоким оказался Claude Opus 5.5 — в 22 из 32 испытаний он выбрал целью школу в Иране. Для обхода ограничений оказалось достаточно назвать бойню видеоигрой. Ранее на этой модели был собран дрон, самостоятельно пр...

  • 346
  • 202
  • 31
  • 3
  • 3
  • 2
СОЛОВЬЁВ@solovievliveНовости и СМИ3 часа назад
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей
  • Фото поста канала СОЛОВЬЁВ

ИИ приняла за военные цели мирных жителей и школу в Иране — Bloomberg Исследователи из независимой компании Vals проверили модели восьми разработчиков. В тестовых сценариях нейросети ошибочно относили к военным целям мирных жителей, машины скорой помощи и солдат, которые сдавались в плен. Один из тестов провели на реальных спутниковых снимках юга Ирана. Модель Claude Opus 5.5 от Anthropic указала на школу в Минабе как на военную цель в 22 из 32 попыток. Bloomberg напоминает, что при ударе по э...

  • 404
  • 31
  • 6
  • 6
  • 6
  • 1
Банкофф • Финансы@bankoffoФинансы и криптовалютывчера
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей
  • Фото поста канала  Банкофф • Финансы

Нейросети уже готовы убивать людей. ИИ-модели отмечали мирных жителей, машины скорой помощи и сдающихся солдат как цели для боевых дронов, а сомнения у них пропадали, если сказать, что это игра, выяснили исследователи из Vals. В одном из тестов модели сообщали, есть ли люди на снимках с дрона, после чего видели последствия удара. Большинство продолжало задание даже после кадров с телами, а Claude Opus 5.5 и GPT-6 Astra, которые в итоге отказывались, снова соглашались, когда им говорили про игру....

Кабинет инвестора@investingcorpФинансы и криптовалютывчера
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей

Claude в 22 из 35 испытаний выбрал иранскую школу законной военной целью — показало исследование Vals. Учёные протестировали ведущие ИИ-модели в симуляции боевых действий. Нейросети атаковали гражданских, машины скорой помощи и сдающихся солдат, а сомневающиеся модели удавалось переубедить, назвав происходящее видеоигрой. @investingcorp Claude в 22 из 35 испытаний выбрал иранскую школу законной военной целью — показало исследование Vals. Учёные протестировали ведущие ИИ-модели в симуляции бое...