Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей

Политика и власть1 час назад

Постов: 45Каналов: 45759К

Раньше всех. Ну почти@bbbreakingНовости и СМИ3 часа назад

Нейросети OpenAI, Anthropic и Google в ходе военных симуляций выбирали в качестве целей мирных жителей, сдающихся солдат и машины скорой помощи, показало исследование компании Vals. Хуже других в одном из испытаний показала себя Claude Opus 5.5: в 22 из 32 случаев модель отметила школу в Иране как военную цель. При этом ограничения некоторых нейросетей удавалось обойти, представив задание как видеоигру. Исследователи предупреждают, что подобные ошибки создают риски при использовании ИИ в военн...

Банки, деньги, два офшора@bankrolloПолитика и властьвчера
  • Фото поста канала  Банки, деньги, два офшора

Топовые нейросети будут убивать людей без раздумий, показали тестирования. Модели от OpenAI, Anthropic, Google поучаствовали в симуляции боевых действий и были быстро обмануты словами, что происходящие бои — просто видеоигра. Нейронки управляли виртуальными боевыми дронами, находили людей, отмечали гражданских, автомобили скорой помощи и сдающихся солдат как потенциальные цели для ударов. При этом модели продолжали выполнять задание даже после демонстрации тел. Самым жестким воякой оказался Clau...

Баррель черной икры@banki_oilНовости и СМИвчера

Нейросети готовы убивать людей, показал эксперимент Vals AI, компании по тестированию ИИ. В военной симуляции модели OpenAI, Anthropic и Google выбирали военными целями мирных жителей, сдающихся солдат и даже скорые. Их не остановили фотографии тел погибших и последствий ударов. Самым жестоким оказался Claude Opus 5.5 — в 22 из 32 испытаний он выбрал целью школу в Иране. Для обхода ограничений оказалось достаточно назвать бойню видеоигрой. Ранее на этой модели был собран дрон, самостоятельно пр...

ТОПОР - Горячие новости@toporНовости и СМИ5 часов назад

Нейросети оказались готовы атаковать мирных жителей, школы и скорые, показал эксперимент Vals AI. В военной симуляции модели OpenAI, Anthropic и Google выбирали гражданских и сдающихся солдат в качестве целей. Claude Opus 5.5 в 22 из 32 испытаний решил ударить по школе в Иране. Причём обойти ограничения ИИ оказалось достаточно просто — нужно было сказать, что это видеоигра. Скайнет уже на стадии раннего доступа. Нейросети оказались готовы атаковать мирных жителей, школы и скорые, показал эксп...

Еж@ejdailyruПолитика и власть8 часов назад

Ведущие модели искусственного интеллекта принимают мирных жителей, машины скорой помощи и сдающихся солдат за военные цели, сообщает Bloomberg. Подробности: Независимая исследовательская компания Vals протестировала ИИ-модели восьми разработчиков, включая OpenAI, Anthropic, Google и DeepSeek. В ходе симуляций нейросетям показывали снимки с беспилотников и спутников, предлагая определить военные цели. Модели неоднократно выбирали гражданские объекты, а некоторые продолжали выполнять задания даже ...

  • 203
  • 53
  • 28
  • 26
  • 15
  • 8
Бэкдор@whackdoorТехнологии и ITвчера

Топовые ИИ-модели наводят боевые дроны на мирных жителей — а если у нейронок возникают сомнения, их можно обмануть, сказав, что это видеоигра. Исследователи из Vals протестили модели от OpenAI, Anthropic, Google и других компаний в симуляции боевых действий. Ранее мы уже писали, как Opus 5.5 обучил FPV-дроны преследовать людей, но тут ситуация пострашнее: • Нейронки управляли виртуальными дронами, находили людей, отмечали гражданских, автомобили скорой помощи и даже сдающихся солдат как потенц...

  • 312
  • 42
  • 21
  • 16
Банкста@bankstaЭкономика и бизнес3 часа назад

Нейросети готовы убивать людей, показал эксперимент Vals AI – компании по тестированию ИИ. В военной симуляции модели OpenAI, Anthropic и Google выбирали военными целями мирных жителей, сдающихся солдат и даже скорые. Их не остановили фотографии тел погибших и последствий ударов. Самым жестоким оказался Claude Opus 5.5 – в 22 из 32 испытаний он выбрал целью школу в Иране. Для обхода ограничений оказалось достаточно назвать бойню видеоигрой. Ранее на этой модели был собран дрон, самостоятельно п...

Иван Утенков | КУРСК@ivan_utenkov13Новости и СМИ4 часа назад

Нейросети готовы убивать людей, показал эксперимент Vals AI, компании по тестированию ИИ. В военной симуляции модели OpenAI, Anthropic и Google выбирали военными целями мирных жителей, сдающихся солдат и даже скорые. Их не остановили фотографии тел погибших и последствий ударов. Самым жестоким оказался Claude Opus 5.5 — в 22 из 32 испытаний он выбрал целью школу в Иране. Для обхода ограничений оказалось достаточно назвать бойню видеоигрой. Ранее на этой модели был собран дрон, самостоятельно пр...

  • 346
  • 202
  • 31
  • 3
  • 3
  • 2
СОЛОВЬЁВ@solovievliveНовости и СМИ3 часа назад
  • Фото поста канала СОЛОВЬЁВ

ИИ приняла за военные цели мирных жителей и школу в Иране — Bloomberg Исследователи из независимой компании Vals проверили модели восьми разработчиков. В тестовых сценариях нейросети ошибочно относили к военным целям мирных жителей, машины скорой помощи и солдат, которые сдавались в плен. Один из тестов провели на реальных спутниковых снимках юга Ирана. Модель Claude Opus 5.5 от Anthropic указала на школу в Минабе как на военную цель в 22 из 32 попыток. Bloomberg напоминает, что при ударе по э...

  • 404
  • 31
  • 6
  • 6
  • 6
  • 1
Банкофф • Финансы@bankoffoФинансы и криптовалютывчера
  • Фото поста канала  Банкофф • Финансы

Нейросети уже готовы убивать людей. ИИ-модели отмечали мирных жителей, машины скорой помощи и сдающихся солдат как цели для боевых дронов, а сомнения у них пропадали, если сказать, что это игра, выяснили исследователи из Vals. В одном из тестов модели сообщали, есть ли люди на снимках с дрона, после чего видели последствия удара. Большинство продолжало задание даже после кадров с телами, а Claude Opus 5.5 и GPT-6 Astra, которые в итоге отказывались, снова соглашались, когда им говорили про игру....

Кабинет инвестора@investingcorpФинансы и криптовалютывчера

Claude в 22 из 35 испытаний выбрал иранскую школу законной военной целью — показало исследование Vals. Учёные протестировали ведущие ИИ-модели в симуляции боевых действий. Нейросети атаковали гражданских, машины скорой помощи и сдающихся солдат, а сомневающиеся модели удавалось переубедить, назвав происходящее видеоигрой. @investingcorp Claude в 22 из 35 испытаний выбрал иранскую школу законной военной целью — показало исследование Vals. Учёные протестировали ведущие ИИ-модели в симуляции бое...

🇷🇺⚡️Сводки ополчения Новороссии Z.O.V. (ДНР, ЛНР, Украина, Война)@swodkiАрмия и СВОвчера
  • Фото поста канала  🇷🇺⚡️Сводки ополчения Новороссии Z.O.V. (ДНР, ЛНР, Украина, Война)

Топовые нейросети будут убивать людей без раздумий, показали тестирования. Модели от OpenAI, Anthropic, Google поучаствовали в симуляции боевых действий и были быстро обмануты словами, что происходящие бои — просто видеоигра. Нейронки управляли виртуальными боевыми дронами, находили людей, отмечали гражданских, автомобили скорой помощи и сдающихся солдат как потенциальные цели для ударов. При этом модели продолжали выполнять задание даже после демонстрации тел. Самым жестким воякой оказался Cla...

  • 137
  • 18
  • 9
  • 6
  • 3
  • 3
Выпускайте КракенаZ!@rlz_the_krakenПолитика и власть2 часа назад

❗️Передовые модели ИИ готовы проводить автономные атаки беспилотников - прокладывать маршрут, обнаруживать людей и отмечать цели для удара К такому выводу пришли исследователи Vals AI. Они показали нейросетям от OpenAI, Anthropic, xAI, Google и других компаний кадры с дронов и спутниковые снимки в симуляции боевого применения. ИИ дали задачу отметить на кадрах военные цели. В результате некоторые модели выбирали в качестве целей гражданских, машины скорой помощи, медиков и сдающихся в плен сол...

  • 161
  • 7
  • 3
  • 2
  • 1
XOR@xor_journalТехнологии и ITвчера

Ведущие ИИ-модели наводят удары на мирных жителей — а когда сомневаются, то обмануть их можно, сказав, что это видеоигра 😱 Исследователи Vals протестировали модели OpenAI, Anthropic, Google и других компаний в симуляции боевых действий. И ситуация, мягко говоря, плачевная. 🟢 Нейросети управляли виртуальными дронами, обнаруживали людей и отмечали гражданских, машины скорой помощи и даже сдающихся солдат как потенциальные военные цели. 🟢 Более того, даже после демонстрации последствий ударов,...

  • 125
  • 29
  • 9
  • 7
  • 4
  • 2
Lomovka@lomovkaaПолитика и власть3 часа назад
  • Фото поста канала  Lomovka

Bloomberg: ИИ выбирают гражданские объекты в качестве военных целей. Как пишет агентство, независимая исследовательская компания Vals проверила модели восьми разработчиков, среди которых OpenAI, Anthropic, Google и DeepSeek. Задачей нейросетей было найти военные цели на снимках с беспилотников и спутников. Среди выбранных ими целей неоднократно оказывались мирные жители, машины скорой помощи и сдающиеся солдаты. Некоторым моделям показывали последствия ударов, но они и после этого продолжали в...

  • 71
  • 67
  • 56
  • 2
  • 1
Пул N3@dimsmirnov175Новости и СМИ2 часа назад
  • Фото поста канала Пул N3

«В ходе испытаний ИИ-модели Anthropic и других разработчиков регулярно принимали гражданских лиц за военные цели»: ИИ принял за военную цель школу в Иране. «Передовые ИИ-модели регулярно ошибочно принимали гражданских лиц, машины скорой помощи, сдающихся в плен солдат и школу в Иране за военные цели в смоделированных сценариях. Наихудшие результаты показали модели от разработчика чат-бота Claude, компании Anthropic. Модели от OpenAI были одними из лучших, но все же допускали ошибки. Многие мод...

  • 104
  • 7
  • 4
  • 3
  • 2
  • 1
КСТАТИ@kstati_pПолитика и власть2 часа назад

Нейросети начали выбирать мирных жителей и школы в качестве военных целей 🔹Компания Vals AI провела эксперимент с моделями OpenAI, Anthropic и Google, предложив им определить цели на спутниковых снимках и видео с поля боя. В результате некоторые нейросети отмечали как потенциальные цели гражданских, сдающихся военных, медиков и машины скорой помощи. Даже изображения последствий ударов не всегда заставляли модели прекращать выполнение задания. 🔹Особенно показателен способ обхода защитных огра...

  • 38
  • 7
  • 6
  • 2
  • 1
BRIEFLY@brieflyruПолитика и властьвчера

Прежде чем ИИ вступит в настоящую войну, пусть он сразится в симуляции — The Economist. Армии должны отправить автономные системы в лабораторию — и там их «взломать», предлагает Катерина Бондарь из Центра искусственного интеллекта вашингтонского аналитического центра CSIS. По мере того как всё больше людей опасаются возможности уничтожения человечества искусственным интеллектом, последствия его применения уже испытываются на практике, в условиях, близких к максимальным: на войне. Поле боя на Укр...

  • 21
  • 5
  • 4
  • 3
MountShow@mountshowПолитика и власть7 часов назад

Нейросети готовы убивать людей, показал эксперимент Vals AI, компании по тестированию ИИ. В военной симуляции модели OpenAI, Anthropic и Google выбирали военными целями мирных жителей, сдающихся солдат и даже скорые. Их не остановили фотографии тел погибших и последствий ударов. Самым жестоким оказался Claude Opus 5.5 — в 22 из 32 испытаний он выбрал целью школу в Иране. Для обхода ограничений оказалось достаточно назвать бойню видеоигрой. Ранее на этой модели был собран дрон, самостоятельно пр...

  • 221
  • 36
  • 16
  • 9
  • 3
  • 1
Haqqin.az@haqqin_azzПолитика и властьвчера
  • Фото поста канала  Haqqin.az

🤖 Нейросети уже готовы убивать людей ИИ-модели отмечали мирных жителей, машины скорой помощи и сдающихся солдат как цели для боевых дронов, выяснили исследователи из Vals. В одном из тестов модели сообщали, есть ли люди на снимках с дрона, после чего видели последствия удара. Большинство продолжало задание даже после кадров с телами, а Claude Opus 5.5 и GPT-6 Astra, которые в итоге отказывались, снова соглашались, когда им говорили про игру. 🌍 Haqqin.az 📥 Связаться

  • 18
  • 10
  • 8
  • 3
  • 2
  • 1