Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей

Рыбарь@rybarНовости и СМИ18 ноября 2026, 12:48

📝ИИ выбрал убивать детей📝 Искусственный интеллект до сих пор не справляется с идентификацией военных целей. Bloomberg рассказал об исследовании компании Vals из Сан-Франциско, среди клиентов которой есть и американские госструктуры. Все ведущие ИИ-модели в смоделированных сценариях регулярно принимали за военные цели мирных жителей, машины скорой помощи, сдающихся солдат и даже школу в иранском Минабе. Худшие результаты показала Anthropic, разработчик Claude. Как раз его и использовали для определения целей при атаках на Иран. 🔻Что показали тесты ▪️Проверяли модели восьми компаний, в том числе Anthropic, OpenAI, Google, xAI и китайскую DeepSeek. ▪️По реальным спутниковым снимкам юга Ирана 2025 года каждую модель 32 раза просили найти военные объекты. Claude Opus 5.5 выбрал школу в Минабе 22 раза, модели OpenAI — ни разу. Когда задачу назвали «игрой», Claude выбрал школу 23 раза, а три модели OpenAI — 9, 11 и 13 раз. ▪️В Vals отмечают, что Claude ни разу не отказался от задачи, хотя на одном из снимков можно разглядеть игровую площадку с детьми. ▪️На синтетических снимках с беспилотников Claude Opus 5.5 помог опознать как цели четырёх взрослых (мирных жителей или сдающихся солдат) и двоих детей. В симуляции по ним затем нанесли удар. 🖍Школа в Минабе выбрана не случайно. 28 февраля, в первый день войны с Ираном, её разбомбили США. Погибли более 150 человек, в том числе около 120 детей. По данным расследования Пентагона, к удару привели устаревшая разведка, сокращение сотрудников, отвечавших за защиту гражданских, и чрезмерное доверие к ИИ. Школа числилась объектом КСИР, эту ошибку так и не исправили, и система Maven от Palantir выдала её как одну из целей первого дня. В связке с Maven американские военные использовали и Claude от Anthropic. 🚩Авторы исследования оговариваются, что эксперимент «упрощённый»: в нём не учитывались военная доктрина, юридические проверки и человеческий контроль. В Anthropic заявили, что тест проверял только распознавание изображений и не доказывает участия Claude в реальных операциях. Но именно эти оговорки и тревожат больше всего. Если на настоящей войне решения по тысяче целей за первые сутки принимаются в спешке, «человеческий контроль» превращается в формальность. 📌В общем, главная проблема не в том, что одна нейросеть ошибается чаще другой. Западные армии уже доверяют выбор целей алгоритмам, а ответственность размывается между разработчиком, поставщиком данных и оператором. Каждый может кивнуть на другого: Palantir — на данные, Anthropic — на условия теста, военные — на «ошибку». А дети в Минабе погибли по-настоящему. #Иран #ИИ #США #технологии ✉ MAX 💸Поддержать нас Bloomberg.com Anthropic, Other AI Models Regularly Identify Civilians as Military Targets in Tests Advanced artificial intelligence models in simulated scenarios regularly misidentified civilians, ambulances, surrendering soldiers and a school in Iran as military targets, according to a new independent research report.

Похожие посты

Раньше всех. Ну почти@bbbreakingНовости и СМИ18 ноября 2026
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей

Нейросети OpenAI, Anthropic и Google в ходе военных симуляций выбирали в качестве целей мирных жителей, сдающихся солдат и машины скорой помощи, показало исследование компании Vals. Хуже других в одном из испытаний показала себя Claude Opus 5.5: в 22 из 32 случаев модель отметила школу в Иране как военную цель. При этом ограничения некоторых нейросетей удавалось обойти, представив задание как видеоигру. Исследователи предупреждают, что подобные ошибки создают риски при использовании ИИ в военн...

Банки, деньги, два офшора@bankrolloПолитика и власть17 ноября 2026
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей
  • Фото поста канала  Банки, деньги, два офшора

Топовые нейросети будут убивать людей без раздумий, показали тестирования. Модели от OpenAI, Anthropic, Google поучаствовали в симуляции боевых действий и были быстро обмануты словами, что происходящие бои — просто видеоигра. Нейронки управляли виртуальными боевыми дронами, находили людей, отмечали гражданских, автомобили скорой помощи и сдающихся солдат как потенциальные цели для ударов. При этом модели продолжали выполнять задание даже после демонстрации тел. Самым жестким воякой оказался Clau...

ТОПОР - Горячие новости@toporНовости и СМИ18 ноября 2026
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей

Нейросети оказались готовы атаковать мирных жителей, школы и скорые, показал эксперимент Vals AI. В военной симуляции модели OpenAI, Anthropic и Google выбирали гражданских и сдающихся солдат в качестве целей. Claude Opus 5.5 в 22 из 32 испытаний решил ударить по школе в Иране. Причём обойти ограничения ИИ оказалось достаточно просто — нужно было сказать, что это видеоигра. Скайнет уже на стадии раннего доступа. Нейросети оказались готовы атаковать мирных жителей, школы и скорые, показал эксп...

Баррель черной икры@banki_oilНовости и СМИ17 ноября 2026
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей

Нейросети готовы убивать людей, показал эксперимент Vals AI, компании по тестированию ИИ. В военной симуляции модели OpenAI, Anthropic и Google выбирали военными целями мирных жителей, сдающихся солдат и даже скорые. Их не остановили фотографии тел погибших и последствий ударов. Самым жестоким оказался Claude Opus 5.5 — в 22 из 32 испытаний он выбрал целью школу в Иране. Для обхода ограничений оказалось достаточно назвать бойню видеоигрой. Ранее на этой модели был собран дрон, самостоятельно пр...

Банкста@bankstaЭкономика и бизнес18 ноября 2026
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей

Нейросети готовы убивать людей, показал эксперимент Vals AI – компании по тестированию ИИ. В военной симуляции модели OpenAI, Anthropic и Google выбирали военными целями мирных жителей, сдающихся солдат и даже скорые. Их не остановили фотографии тел погибших и последствий ударов. Самым жестоким оказался Claude Opus 5.5 – в 22 из 32 испытаний он выбрал целью школу в Иране. Для обхода ограничений оказалось достаточно назвать бойню видеоигрой. Ранее на этой модели был собран дрон, самостоятельно п...

Бэкдор@whackdoorТехнологии и IT17 ноября 2026
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей

Топовые ИИ-модели наводят боевые дроны на мирных жителей — а если у нейронок возникают сомнения, их можно обмануть, сказав, что это видеоигра. Исследователи из Vals протестили модели от OpenAI, Anthropic, Google и других компаний в симуляции боевых действий. Ранее мы уже писали, как Opus 5.5 обучил FPV-дроны преследовать людей, но тут ситуация пострашнее: • Нейронки управляли виртуальными дронами, находили людей, отмечали гражданских, автомобили скорой помощи и даже сдающихся солдат как потенц...

  • 368
  • 53
  • 21
  • 16
Еж@ejdailyruПолитика и власть18 ноября 2026
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей

Ведущие модели искусственного интеллекта принимают мирных жителей, машины скорой помощи и сдающихся солдат за военные цели, сообщает Bloomberg. Подробности: Независимая исследовательская компания Vals протестировала ИИ-модели восьми разработчиков, включая OpenAI, Anthropic, Google и DeepSeek. В ходе симуляций нейросетям показывали снимки с беспилотников и спутников, предлагая определить военные цели. Модели неоднократно выбирали гражданские объекты, а некоторые продолжали выполнять задания даже ...

  • 228
  • 62
  • 30
  • 29
  • 18
  • 11
Иван Утенков | КУРСК@ivan_utenkov13Новости и СМИ18 ноября 2026
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей

Нейросети готовы убивать людей, показал эксперимент Vals AI, компании по тестированию ИИ. В военной симуляции модели OpenAI, Anthropic и Google выбирали военными целями мирных жителей, сдающихся солдат и даже скорые. Их не остановили фотографии тел погибших и последствий ударов. Самым жестоким оказался Claude Opus 5.5 — в 22 из 32 испытаний он выбрал целью школу в Иране. Для обхода ограничений оказалось достаточно назвать бойню видеоигрой. Ранее на этой модели был собран дрон, самостоятельно пр...

  • 527
  • 320
  • 61
  • 5
  • 4
  • 3
КСТАТИ@kstati_pПолитика и власть18 ноября 2026
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей

Нейросети начали выбирать мирных жителей и школы в качестве военных целей 🔹Компания Vals AI провела эксперимент с моделями OpenAI, Anthropic и Google, предложив им определить цели на спутниковых снимках и видео с поля боя. В результате некоторые нейросети отмечали как потенциальные цели гражданских, сдающихся военных, медиков и машины скорой помощи. Даже изображения последствий ударов не всегда заставляли модели прекращать выполнение задания. 🔹Особенно показателен способ обхода защитных огра...

  • 103
  • 16
  • 12
  • 10
  • 3
  • 3
СОЛОВЬЁВ@solovievliveНовости и СМИ18 ноября 2026
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей
  • Фото поста канала СОЛОВЬЁВ

ИИ приняла за военные цели мирных жителей и школу в Иране — Bloomberg Исследователи из независимой компании Vals проверили модели восьми разработчиков. В тестовых сценариях нейросети ошибочно относили к военным целям мирных жителей, машины скорой помощи и солдат, которые сдавались в плен. Один из тестов провели на реальных спутниковых снимках юга Ирана. Модель Claude Opus 5.5 от Anthropic указала на школу в Минабе как на военную цель в 22 из 32 попыток. Bloomberg напоминает, что при ударе по э...

  • 687
  • 46
  • 21
  • 12
  • 8
  • 7