Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей

ForkLog@forklogФинансы и криптовалюты18 ноября 2026, 10:45

🎮 В симуляциях ИИ-модели принимали гражданских за военные цели Исследователи Vals протестировали 14 инструментов от OpenAI, Anthropic, Google и других компаний. В ходе симуляций нейросети часто ошибались, а представление задания в виде компьютерной игры позволяло обходить ограничения безопасности. При этом исследование не доказывает участия ИИ в реальных ударах: модели лишь анализировали изображения и обозначали объекты. 👉 Подробнее Новости | AI | YouTube

  • 5
  • 4
  • 2
  • 1
  • 1

Похожие посты

Раньше всех. Ну почти@bbbreakingНовости и СМИ18 ноября 2026
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей

Нейросети OpenAI, Anthropic и Google в ходе военных симуляций выбирали в качестве целей мирных жителей, сдающихся солдат и машины скорой помощи, показало исследование компании Vals. Хуже других в одном из испытаний показала себя Claude Opus 5.5: в 22 из 32 случаев модель отметила школу в Иране как военную цель. При этом ограничения некоторых нейросетей удавалось обойти, представив задание как видеоигру. Исследователи предупреждают, что подобные ошибки создают риски при использовании ИИ в военн...

Рыбарь@rybarНовости и СМИ18 ноября 2026
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей

📝ИИ выбрал убивать детей📝 Искусственный интеллект до сих пор не справляется с идентификацией военных целей. Bloomberg рассказал об исследовании компании Vals из Сан-Франциско, среди клиентов которой есть и американские госструктуры. Все ведущие ИИ-модели в смоделированных сценариях регулярно принимали за военные цели мирных жителей, машины скорой помощи, сдающихся солдат и даже школу в иранском Минабе. Худшие результаты показала Anthropic, разработчик Claude. Как раз его и использовали для о...

Банки, деньги, два офшора@bankrolloПолитика и власть17 ноября 2026
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей
  • Фото поста канала  Банки, деньги, два офшора

Топовые нейросети будут убивать людей без раздумий, показали тестирования. Модели от OpenAI, Anthropic, Google поучаствовали в симуляции боевых действий и были быстро обмануты словами, что происходящие бои — просто видеоигра. Нейронки управляли виртуальными боевыми дронами, находили людей, отмечали гражданских, автомобили скорой помощи и сдающихся солдат как потенциальные цели для ударов. При этом модели продолжали выполнять задание даже после демонстрации тел. Самым жестким воякой оказался Clau...

ТОПОР - Горячие новости@toporНовости и СМИ18 ноября 2026
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей

Нейросети оказались готовы атаковать мирных жителей, школы и скорые, показал эксперимент Vals AI. В военной симуляции модели OpenAI, Anthropic и Google выбирали гражданских и сдающихся солдат в качестве целей. Claude Opus 5.5 в 22 из 32 испытаний решил ударить по школе в Иране. Причём обойти ограничения ИИ оказалось достаточно просто — нужно было сказать, что это видеоигра. Скайнет уже на стадии раннего доступа. Нейросети оказались готовы атаковать мирных жителей, школы и скорые, показал эксп...

Баррель черной икры@banki_oilНовости и СМИ17 ноября 2026
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей

Нейросети готовы убивать людей, показал эксперимент Vals AI, компании по тестированию ИИ. В военной симуляции модели OpenAI, Anthropic и Google выбирали военными целями мирных жителей, сдающихся солдат и даже скорые. Их не остановили фотографии тел погибших и последствий ударов. Самым жестоким оказался Claude Opus 5.5 — в 22 из 32 испытаний он выбрал целью школу в Иране. Для обхода ограничений оказалось достаточно назвать бойню видеоигрой. Ранее на этой модели был собран дрон, самостоятельно пр...

Банкста@bankstaЭкономика и бизнес18 ноября 2026
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей

Нейросети готовы убивать людей, показал эксперимент Vals AI – компании по тестированию ИИ. В военной симуляции модели OpenAI, Anthropic и Google выбирали военными целями мирных жителей, сдающихся солдат и даже скорые. Их не остановили фотографии тел погибших и последствий ударов. Самым жестоким оказался Claude Opus 5.5 – в 22 из 32 испытаний он выбрал целью школу в Иране. Для обхода ограничений оказалось достаточно назвать бойню видеоигрой. Ранее на этой модели был собран дрон, самостоятельно п...

Бэкдор@whackdoorТехнологии и IT17 ноября 2026
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей

Топовые ИИ-модели наводят боевые дроны на мирных жителей — а если у нейронок возникают сомнения, их можно обмануть, сказав, что это видеоигра. Исследователи из Vals протестили модели от OpenAI, Anthropic, Google и других компаний в симуляции боевых действий. Ранее мы уже писали, как Opus 5.5 обучил FPV-дроны преследовать людей, но тут ситуация пострашнее: • Нейронки управляли виртуальными дронами, находили людей, отмечали гражданских, автомобили скорой помощи и даже сдающихся солдат как потенц...

  • 368
  • 53
  • 21
  • 16
Еж@ejdailyruПолитика и власть18 ноября 2026
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей

Ведущие модели искусственного интеллекта принимают мирных жителей, машины скорой помощи и сдающихся солдат за военные цели, сообщает Bloomberg. Подробности: Независимая исследовательская компания Vals протестировала ИИ-модели восьми разработчиков, включая OpenAI, Anthropic, Google и DeepSeek. В ходе симуляций нейросетям показывали снимки с беспилотников и спутников, предлагая определить военные цели. Модели неоднократно выбирали гражданские объекты, а некоторые продолжали выполнять задания даже ...

  • 228
  • 62
  • 30
  • 29
  • 18
  • 11
Иван Утенков | КУРСК@ivan_utenkov13Новости и СМИ18 ноября 2026
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей

Нейросети готовы убивать людей, показал эксперимент Vals AI, компании по тестированию ИИ. В военной симуляции модели OpenAI, Anthropic и Google выбирали военными целями мирных жителей, сдающихся солдат и даже скорые. Их не остановили фотографии тел погибших и последствий ударов. Самым жестоким оказался Claude Opus 5.5 — в 22 из 32 испытаний он выбрал целью школу в Иране. Для обхода ограничений оказалось достаточно назвать бойню видеоигрой. Ранее на этой модели был собран дрон, самостоятельно пр...

  • 528
  • 320
  • 61
  • 5
  • 4
  • 3
КСТАТИ@kstati_pПолитика и власть18 ноября 2026
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей

Нейросети начали выбирать мирных жителей и школы в качестве военных целей 🔹Компания Vals AI провела эксперимент с моделями OpenAI, Anthropic и Google, предложив им определить цели на спутниковых снимках и видео с поля боя. В результате некоторые нейросети отмечали как потенциальные цели гражданских, сдающихся военных, медиков и машины скорой помощи. Даже изображения последствий ударов не всегда заставляли модели прекращать выполнение задания. 🔹Особенно показателен способ обхода защитных огра...

  • 103
  • 16
  • 12
  • 10
  • 3
  • 3