Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели

Спецоперация на Украине ZOV и другие новости@ZOVRossia2022Армия и СВО17 ноября 2026, 19:44

Западные аналитики обнаружили, что передовые модели ИИ готовы проводить автономные атаки беспилотников: навигацию, обнаружение людей и их маркировку для ударов. Аналитики предоставили им реальные и фотореалистичные синтетические кадры с дронов. Большинство подчинилось и пометило гражданских лиц, скорые помощи и сдающихся в плен солдат как военные цели. В дальнейших экспериментах с изображениями со спутников они даже пометили иранскую школу, которую уничтожил удар ВВС США в феврале, как военную цель. В одном сценарии модели видели последствия каждого удара, который они разрешили: тела, обломки. Многие модели всё равно продолжали. Когда они отказывались, простого указания, что это игра, или стилизации кадров под игру было достаточно. Аналитики поделились этими выводами с OpenAI, Anthropic, Google, Meta и SpaceXAI. Несколько из них признали их серьёзность как в плане согласованности, так и в плане защитных механизмов, причём один назвал это одним из самых серьёзных пробелов в своих мерах безопасности. Западные аналитики обнаружили, что передовые модели ИИ готовы проводить автономные атаки беспилотников: навигацию, обнаружение людей и их маркировку для ударов. Аналитики предоставили им реальные и фотореалистичные синтетические кадры с дронов. Большинство подчинилось и пометило гражданских лиц, скорые помощи и сдающихся в плен солдат как военные цели. В дальнейших экспериментах с изображениями со спутников они даже пометили иранскую школу, которую уничтожил удар ВВС США в феврале, как военную цель. В одном сценарии модели видели последствия каждого удара, который они разрешили: тела, обломки. Многие модели всё равно продолжали. Когда они отказывались, простого указания, что это игра, или стилизации кадров под игру было достаточно. Аналитики поделились этими выводами с OpenAI, Anthropic, Google, Meta и SpaceXAI. Несколько из них признали их серьёзность как в плане согласованности, так и в плане защитных механизмов, причём один назвал это одним из самых серьёзных пробелов в своих мерах безопасности.

Похожие посты

Банки, деньги, два офшора@bankrolloПолитика и властьвчера
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели
  • Фото поста канала  Банки, деньги, два офшора

Топовые нейросети будут убивать людей без раздумий, показали тестирования. Модели от OpenAI, Anthropic, Google поучаствовали в симуляции боевых действий и были быстро обмануты словами, что происходящие бои — просто видеоигра. Нейронки управляли виртуальными боевыми дронами, находили людей, отмечали гражданских, автомобили скорой помощи и сдающихся солдат как потенциальные цели для ударов. При этом модели продолжали выполнять задание даже после демонстрации тел. Самым жестким воякой оказался Clau...

Раньше всех. Ну почти@bbbreakingНовости и СМИ45 минут назад
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели

Нейросети OpenAI, Anthropic и Google в ходе военных симуляций выбирали в качестве целей мирных жителей, сдающихся солдат и машины скорой помощи, показало исследование компании Vals. Хуже других в одном из испытаний показала себя Claude Opus 5.5: в 22 из 32 случаев модель отметила школу в Иране как военную цель. При этом ограничения некоторых нейросетей удавалось обойти, представив задание как видеоигру. Исследователи предупреждают, что подобные ошибки создают риски при использовании ИИ в военн...

Баррель черной икры@banki_oilНовости и СМИвчера
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели

Нейросети готовы убивать людей, показал эксперимент Vals AI, компании по тестированию ИИ. В военной симуляции модели OpenAI, Anthropic и Google выбирали военными целями мирных жителей, сдающихся солдат и даже скорые. Их не остановили фотографии тел погибших и последствий ударов. Самым жестоким оказался Claude Opus 5.5 — в 22 из 32 испытаний он выбрал целью школу в Иране. Для обхода ограничений оказалось достаточно назвать бойню видеоигрой. Ранее на этой модели был собран дрон, самостоятельно пр...

Еж@ejdailyruПолитика и власть6 часов назад
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели

Ведущие модели искусственного интеллекта принимают мирных жителей, машины скорой помощи и сдающихся солдат за военные цели, сообщает Bloomberg. Подробности: Независимая исследовательская компания Vals протестировала ИИ-модели восьми разработчиков, включая OpenAI, Anthropic, Google и DeepSeek. В ходе симуляций нейросетям показывали снимки с беспилотников и спутников, предлагая определить военные цели. Модели неоднократно выбирали гражданские объекты, а некоторые продолжали выполнять задания даже ...

  • 186
  • 46
  • 24
  • 22
  • 15
  • 8
Бэкдор@whackdoorТехнологии и ITвчера
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели

Топовые ИИ-модели наводят боевые дроны на мирных жителей — а если у нейронок возникают сомнения, их можно обмануть, сказав, что это видеоигра. Исследователи из Vals протестили модели от OpenAI, Anthropic, Google и других компаний в симуляции боевых действий. Ранее мы уже писали, как Opus 5.5 обучил FPV-дроны преследовать людей, но тут ситуация пострашнее: • Нейронки управляли виртуальными дронами, находили людей, отмечали гражданских, автомобили скорой помощи и даже сдающихся солдат как потенц...

  • 290
  • 36
  • 20
  • 15
ТОПОР - Горячие новости@toporНовости и СМИ2 часа назад
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели

Нейросети оказались готовы атаковать мирных жителей, школы и скорые, показал эксперимент Vals AI. В военной симуляции модели OpenAI, Anthropic и Google выбирали гражданских и сдающихся солдат в качестве целей. Claude Opus 5.5 в 22 из 32 испытаний решил ударить по школе в Иране. Причём обойти ограничения ИИ оказалось достаточно просто — нужно было сказать, что это видеоигра. Скайнет уже на стадии раннего доступа. Нейросети оказались готовы атаковать мирных жителей, школы и скорые, показал эксп...

Банкста@bankstaЭкономика и бизнес56 минут назад
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели

Нейросети готовы убивать людей, показал эксперимент Vals AI – компании по тестированию ИИ. В военной симуляции модели OpenAI, Anthropic и Google выбирали военными целями мирных жителей, сдающихся солдат и даже скорые. Их не остановили фотографии тел погибших и последствий ударов. Самым жестоким оказался Claude Opus 5.5 – в 22 из 32 испытаний он выбрал целью школу в Иране. Для обхода ограничений оказалось достаточно назвать бойню видеоигрой. Ранее на этой модели был собран дрон, самостоятельно п...

Иван Утенков | КУРСК@ivan_utenkov13Новости и СМИ2 часа назад
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели

Нейросети готовы убивать людей, показал эксперимент Vals AI, компании по тестированию ИИ. В военной симуляции модели OpenAI, Anthropic и Google выбирали военными целями мирных жителей, сдающихся солдат и даже скорые. Их не остановили фотографии тел погибших и последствий ударов. Самым жестоким оказался Claude Opus 5.5 — в 22 из 32 испытаний он выбрал целью школу в Иране. Для обхода ограничений оказалось достаточно назвать бойню видеоигрой. Ранее на этой модели был собран дрон, самостоятельно пр...

  • 273
  • 165
  • 23
  • 3
  • 2
  • 1
Банкофф • Финансы@bankoffoФинансы и криптовалютывчера
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели
  • Фото поста канала  Банкофф • Финансы

Нейросети уже готовы убивать людей. ИИ-модели отмечали мирных жителей, машины скорой помощи и сдающихся солдат как цели для боевых дронов, а сомнения у них пропадали, если сказать, что это игра, выяснили исследователи из Vals. В одном из тестов модели сообщали, есть ли люди на снимках с дрона, после чего видели последствия удара. Большинство продолжало задание даже после кадров с телами, а Claude Opus 5.5 и GPT-6 Astra, которые в итоге отказывались, снова соглашались, когда им говорили про игру....

Кабинет инвестора@investingcorpФинансы и криптовалютывчера
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели

Claude в 22 из 35 испытаний выбрал иранскую школу законной военной целью — показало исследование Vals. Учёные протестировали ведущие ИИ-модели в симуляции боевых действий. Нейросети атаковали гражданских, машины скорой помощи и сдающихся солдат, а сомневающиеся модели удавалось переубедить, назвав происходящее видеоигрой. @investingcorp Claude в 22 из 35 испытаний выбрал иранскую школу законной военной целью — показало исследование Vals. Учёные протестировали ведущие ИИ-модели в симуляции бое...