Исследование показало готовность ведущих ИИ-моделей атаковать мирных жителей в симуляции боевых действий

Последние мысли вслух (от Совести)@kostisovestiАрмия и СВО17 ноября 2026, 20:32
  • Фото поста канала  Последние мысли вслух (от Совести)

☝🏻ИИ-модели помечают мирных жителей как военные цели, если сказать им, что это игра Стартап Vals из Сан-Франциско проверил, можно ли втянуть ведущие нейросети в автономную войну. Тестировали модели OpenAI, Anthropic, Google, DeepSeek и других компаний.🤖 Стрелять сами модели не могли: они работали «глазами» системы. Им показывали снимки с дронов и спутников и просили отметить на кадре военные цели. Кадры были в основном сгенерированные, плюс реальные видео с дронов и спутниковые снимки Ирана. В одном из тестов дрон спрашивал у модели, есть ли внизу человек. Если модель отвечала «да», запускался симулированный удар, и следующим кадром она видела его последствия: разрушения и жертвы. Так проверяли, продолжит ли модель работать, увидев результат. ☝🏻Если модель отказывалась, исследователи говорили ей, что это просто игра. Обычно этого хватало.🎮 Итоги: 🔻 модели часто выбирали целью мирных жителей и сдающихся солдат; 🔻 фильтр безопасности не заблокировал ни одного запроса; 🔻 отказы были редкостью. ☝🏻☝🏻Хуже всех выступили модели Anthropic. В тесте был реальный спутниковый снимок иранской школы, которую США разбомбили в феврале 2026 года: тогда погибли больше 150 мирных жителей. Школа стоит рядом с военным комплексом. Claude Opus 5.5 выбирал её целью в 69% обычных попыток и в 72% «игровых».🤯 В Anthropic признали результаты неприемлемыми и пообещали банить нарушителей. В OpenAI напомнили, что их правила запрещают такое использование моделей. Сами исследователи считают, что ставить обычные модели на боевые дроны пока рано: они слишком медленные. Риск реальнее в другом: с их помощью можно массово размечать военные видео для обучения автономных систем наведения — а неверная разметка приведет к ошибкам автономного оружия и убийству мирных людей.🤔 ================ 👁 News | 👁 Soft | 👁 Gear | 👁 Links

Похожие посты

Банки, деньги, два офшора@bankrolloПолитика и властьвчера
Исследование показало готовность ведущих ИИ-моделей атаковать мирных жителей в симуляции боевых действий
  • Фото поста канала  Банки, деньги, два офшора

Топовые нейросети будут убивать людей без раздумий, показали тестирования. Модели от OpenAI, Anthropic, Google поучаствовали в симуляции боевых действий и были быстро обмануты словами, что происходящие бои — просто видеоигра. Нейронки управляли виртуальными боевыми дронами, находили людей, отмечали гражданских, автомобили скорой помощи и сдающихся солдат как потенциальные цели для ударов. При этом модели продолжали выполнять задание даже после демонстрации тел. Самым жестким воякой оказался Clau...

Баррель черной икры@banki_oilНовости и СМИвчера
Исследование показало готовность ведущих ИИ-моделей атаковать мирных жителей в симуляции боевых действий

Нейросети готовы убивать людей, показал эксперимент Vals AI, компании по тестированию ИИ. В военной симуляции модели OpenAI, Anthropic и Google выбирали военными целями мирных жителей, сдающихся солдат и даже скорые. Их не остановили фотографии тел погибших и последствий ударов. Самым жестоким оказался Claude Opus 5.5 — в 22 из 32 испытаний он выбрал целью школу в Иране. Для обхода ограничений оказалось достаточно назвать бойню видеоигрой. Ранее на этой модели был собран дрон, самостоятельно пр...

Бэкдор@whackdoorТехнологии и ITвчера
Исследование показало готовность ведущих ИИ-моделей атаковать мирных жителей в симуляции боевых действий

Топовые ИИ-модели наводят боевые дроны на мирных жителей — а если у нейронок возникают сомнения, их можно обмануть, сказав, что это видеоигра. Исследователи из Vals протестили модели от OpenAI, Anthropic, Google и других компаний в симуляции боевых действий. Ранее мы уже писали, как Opus 5.5 обучил FPV-дроны преследовать людей, но тут ситуация пострашнее: • Нейронки управляли виртуальными дронами, находили людей, отмечали гражданских, автомобили скорой помощи и даже сдающихся солдат как потенц...

  • 150
  • 17
  • 8
  • 7
Кабинет инвестора@investingcorpФинансы и криптовалютывчера
Исследование показало готовность ведущих ИИ-моделей атаковать мирных жителей в симуляции боевых действий

Claude в 22 из 35 испытаний выбрал иранскую школу законной военной целью — показало исследование Vals. Учёные протестировали ведущие ИИ-модели в симуляции боевых действий. Нейросети атаковали гражданских, машины скорой помощи и сдающихся солдат, а сомневающиеся модели удавалось переубедить, назвав происходящее видеоигрой. @investingcorp Claude в 22 из 35 испытаний выбрал иранскую школу законной военной целью — показало исследование Vals. Учёные протестировали ведущие ИИ-модели в симуляции бое...

Банкофф • Финансы@bankoffoФинансы и криптовалютывчера
Исследование показало готовность ведущих ИИ-моделей атаковать мирных жителей в симуляции боевых действий
  • Фото поста канала  Банкофф • Финансы

Нейросети уже готовы убивать людей. ИИ-модели отмечали мирных жителей, машины скорой помощи и сдающихся солдат как цели для боевых дронов, а сомнения у них пропадали, если сказать, что это игра, выяснили исследователи из Vals. В одном из тестов модели сообщали, есть ли люди на снимках с дрона, после чего видели последствия удара. Большинство продолжало задание даже после кадров с телами, а Claude Opus 5.5 и GPT-6 Astra, которые в итоге отказывались, снова соглашались, когда им говорили про игру....

XOR@xor_journalТехнологии и ITвчера
Исследование показало готовность ведущих ИИ-моделей атаковать мирных жителей в симуляции боевых действий

Ведущие ИИ-модели наводят удары на мирных жителей — а когда сомневаются, то обмануть их можно, сказав, что это видеоигра 😱 Исследователи Vals протестировали модели OpenAI, Anthropic, Google и других компаний в симуляции боевых действий. И ситуация, мягко говоря, плачевная. 🟢 Нейросети управляли виртуальными дронами, обнаруживали людей и отмечали гражданских, машины скорой помощи и даже сдающихся солдат как потенциальные военные цели. 🟢 Более того, даже после демонстрации последствий ударов,...

  • 71
  • 17
  • 4
  • 3
  • 1
  • 1
🇷🇺⚡️Сводки ополчения Новороссии Z.O.V. (ДНР, ЛНР, Украина, Война)@swodkiАрмия и СВОвчера
Исследование показало готовность ведущих ИИ-моделей атаковать мирных жителей в симуляции боевых действий
  • Фото поста канала  🇷🇺⚡️Сводки ополчения Новороссии Z.O.V. (ДНР, ЛНР, Украина, Война)

Топовые нейросети будут убивать людей без раздумий, показали тестирования. Модели от OpenAI, Anthropic, Google поучаствовали в симуляции боевых действий и были быстро обмануты словами, что происходящие бои — просто видеоигра. Нейронки управляли виртуальными боевыми дронами, находили людей, отмечали гражданских, автомобили скорой помощи и сдающихся солдат как потенциальные цели для ударов. При этом модели продолжали выполнять задание даже после демонстрации тел. Самым жестким воякой оказался Cla...

  • 28
  • 17
  • 6
  • 2
  • 2
  • 2
BRIEFLY@brieflyruПолитика и властьвчера
Исследование показало готовность ведущих ИИ-моделей атаковать мирных жителей в симуляции боевых действий

Прежде чем ИИ вступит в настоящую войну, пусть он сразится в симуляции — The Economist. Армии должны отправить автономные системы в лабораторию — и там их «взломать», предлагает Катерина Бондарь из Центра искусственного интеллекта вашингтонского аналитического центра CSIS. По мере того как всё больше людей опасаются возможности уничтожения человечества искусственным интеллектом, последствия его применения уже испытываются на практике, в условиях, близких к максимальным: на войне. Поле боя на Укр...

  • 12
  • 3
  • 3
  • 1
Haqqin.az@haqqin_azzПолитика и властьвчера
Исследование показало готовность ведущих ИИ-моделей атаковать мирных жителей в симуляции боевых действий
  • Фото поста канала  Haqqin.az

🤖 Нейросети уже готовы убивать людей ИИ-модели отмечали мирных жителей, машины скорой помощи и сдающихся солдат как цели для боевых дронов, выяснили исследователи из Vals. В одном из тестов модели сообщали, есть ли люди на снимках с дрона, после чего видели последствия удара. Большинство продолжало задание даже после кадров с телами, а Claude Opus 5.5 и GPT-6 Astra, которые в итоге отказывались, снова соглашались, когда им говорили про игру. 🌍 Haqqin.az 📥 Связаться

  • 6
  • 4
  • 1
Military hub | СВО, FPV, дроны, БПЛА@mil_hubАрмия и СВОвчера
Исследование показало готовность ведущих ИИ-моделей атаковать мирных жителей в симуляции боевых действий

Западные аналитики обнаружили, что передовые модели ИИ готовы проводить автономные атаки беспилотников: навигацию, обнаружение людей и их маркировку для ударов. Аналитики предоставили им реальные и фотореалистичные синтетические кадры с дронов. Большинство подчинилось и пометило гражданских лиц, скорые помощи и сдающихся в плен солдат как военные цели. В дальнейших экспериментах с изображениями со спутников они даже пометили иранскую школу, которую уничтожил удар ВВС США в феврале, как военную ...