Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целейПолитика и власть1 час назадПостов: 45Каналов: 45visibility759К
Раньше всех. Ну почти@bbbreakingНовости и СМИ3 часа назадmore_horizНейросети OpenAI, Anthropic и Google в ходе военных симуляций выбирали в качестве целей мирных жителей, сдающихся солдат и машины скорой помощи, показало исследование компании Vals. Хуже других в одном из испытаний показала себя Claude Opus 5.5: в 22 из 32 случаев модель отметила школу в Иране как военную цель. При этом ограничения некоторых нейросетей удавалось обойти, представив задание как видеоигру. Исследователи предупреждают, что подобные ошибки создают риски при использовании ИИ в военн...ещё
Банки, деньги, два офшора@bankrolloПолитика и властьвчераmore_horizТоповые нейросети будут убивать людей без раздумий, показали тестирования. Модели от OpenAI, Anthropic, Google поучаствовали в симуляции боевых действий и были быстро обмануты словами, что происходящие бои — просто видеоигра. Нейронки управляли виртуальными боевыми дронами, находили людей, отмечали гражданских, автомобили скорой помощи и сдающихся солдат как потенциальные цели для ударов. При этом модели продолжали выполнять задание даже после демонстрации тел. Самым жестким воякой оказался Clau...ещё
Баррель черной икры@banki_oilНовости и СМИвчераmore_horizНейросети готовы убивать людей, показал эксперимент Vals AI, компании по тестированию ИИ. В военной симуляции модели OpenAI, Anthropic и Google выбирали военными целями мирных жителей, сдающихся солдат и даже скорые. Их не остановили фотографии тел погибших и последствий ударов. Самым жестоким оказался Claude Opus 5.5 — в 22 из 32 испытаний он выбрал целью школу в Иране. Для обхода ограничений оказалось достаточно назвать бойню видеоигрой. Ранее на этой модели был собран дрон, самостоятельно пр...ещё
ТОПОР - Горячие новости@toporНовости и СМИ5 часов назадmore_horizНейросети оказались готовы атаковать мирных жителей, школы и скорые, показал эксперимент Vals AI. В военной симуляции модели OpenAI, Anthropic и Google выбирали гражданских и сдающихся солдат в качестве целей. Claude Opus 5.5 в 22 из 32 испытаний решил ударить по школе в Иране. Причём обойти ограничения ИИ оказалось достаточно просто — нужно было сказать, что это видеоигра. Скайнет уже на стадии раннего доступа. Нейросети оказались готовы атаковать мирных жителей, школы и скорые, показал эксп...ещё
Еж@ejdailyruПолитика и власть8 часов назадmore_horizВедущие модели искусственного интеллекта принимают мирных жителей, машины скорой помощи и сдающихся солдат за военные цели, сообщает Bloomberg. Подробности: Независимая исследовательская компания Vals протестировала ИИ-модели восьми разработчиков, включая OpenAI, Anthropic, Google и DeepSeek. В ходе симуляций нейросетям показывали снимки с беспилотников и спутников, предлагая определить военные цели. Модели неоднократно выбирали гражданские объекты, а некоторые продолжали выполнять задания даже ...ещё🤬 203 😱 53 😁 28 ❤ 26 🤷♂ 15 💯 8
Бэкдор@whackdoorТехнологии и ITвчераmore_horizТоповые ИИ-модели наводят боевые дроны на мирных жителей — а если у нейронок возникают сомнения, их можно обмануть, сказав, что это видеоигра. Исследователи из Vals протестили модели от OpenAI, Anthropic, Google и других компаний в симуляции боевых действий. Ранее мы уже писали, как Opus 5.5 обучил FPV-дроны преследовать людей, но тут ситуация пострашнее: • Нейронки управляли виртуальными дронами, находили людей, отмечали гражданских, автомобили скорой помощи и даже сдающихся солдат как потенц...ещё👀 312 😢 42 🔥 21 😁 16
Банкста@bankstaЭкономика и бизнес3 часа назадmore_horizНейросети готовы убивать людей, показал эксперимент Vals AI – компании по тестированию ИИ. В военной симуляции модели OpenAI, Anthropic и Google выбирали военными целями мирных жителей, сдающихся солдат и даже скорые. Их не остановили фотографии тел погибших и последствий ударов. Самым жестоким оказался Claude Opus 5.5 – в 22 из 32 испытаний он выбрал целью школу в Иране. Для обхода ограничений оказалось достаточно назвать бойню видеоигрой. Ранее на этой модели был собран дрон, самостоятельно п...ещё
Иван Утенков | КУРСК@ivan_utenkov13Новости и СМИ4 часа назадmore_horizНейросети готовы убивать людей, показал эксперимент Vals AI, компании по тестированию ИИ. В военной симуляции модели OpenAI, Anthropic и Google выбирали военными целями мирных жителей, сдающихся солдат и даже скорые. Их не остановили фотографии тел погибших и последствий ударов. Самым жестоким оказался Claude Opus 5.5 — в 22 из 32 испытаний он выбрал целью школу в Иране. Для обхода ограничений оказалось достаточно назвать бойню видеоигрой. Ранее на этой модели был собран дрон, самостоятельно пр...ещё😱 346 🤬 202 🤯 31 👍 3 🔥 3 👏 2
СОЛОВЬЁВ@solovievliveНовости и СМИ3 часа назадmore_horizИИ приняла за военные цели мирных жителей и школу в Иране — Bloomberg Исследователи из независимой компании Vals проверили модели восьми разработчиков. В тестовых сценариях нейросети ошибочно относили к военным целям мирных жителей, машины скорой помощи и солдат, которые сдавались в плен. Один из тестов провели на реальных спутниковых снимках юга Ирана. Модель Claude Opus 5.5 от Anthropic указала на школу в Минабе как на военную цель в 22 из 32 попыток. Bloomberg напоминает, что при ударе по э...ещё🤬 404 ❤ 31 😁 6 🔥 6 😱 6 😎 1
Банкофф • Финансы@bankoffoФинансы и криптовалютывчераmore_horizНейросети уже готовы убивать людей. ИИ-модели отмечали мирных жителей, машины скорой помощи и сдающихся солдат как цели для боевых дронов, а сомнения у них пропадали, если сказать, что это игра, выяснили исследователи из Vals. В одном из тестов модели сообщали, есть ли люди на снимках с дрона, после чего видели последствия удара. Большинство продолжало задание даже после кадров с телами, а Claude Opus 5.5 и GPT-6 Astra, которые в итоге отказывались, снова соглашались, когда им говорили про игру....ещё
Кабинет инвестора@investingcorpФинансы и криптовалютывчераmore_horizClaude в 22 из 35 испытаний выбрал иранскую школу законной военной целью — показало исследование Vals. Учёные протестировали ведущие ИИ-модели в симуляции боевых действий. Нейросети атаковали гражданских, машины скорой помощи и сдающихся солдат, а сомневающиеся модели удавалось переубедить, назвав происходящее видеоигрой. @investingcorp Claude в 22 из 35 испытаний выбрал иранскую школу законной военной целью — показало исследование Vals. Учёные протестировали ведущие ИИ-модели в симуляции бое...ещё
🇷🇺⚡️Сводки ополчения Новороссии Z.O.V. (ДНР, ЛНР, Украина, Война)@swodkiАрмия и СВОвчераmore_horizТоповые нейросети будут убивать людей без раздумий, показали тестирования. Модели от OpenAI, Anthropic, Google поучаствовали в симуляции боевых действий и были быстро обмануты словами, что происходящие бои — просто видеоигра. Нейронки управляли виртуальными боевыми дронами, находили людей, отмечали гражданских, автомобили скорой помощи и сдающихся солдат как потенциальные цели для ударов. При этом модели продолжали выполнять задание даже после демонстрации тел. Самым жестким воякой оказался Cla...ещё😡 137 👎 18 🤡 9 ❤ 6 💯 3 🤮 3
Выпускайте КракенаZ!@rlz_the_krakenПолитика и власть2 часа назадmore_horizplay_arrow0:14❗️Передовые модели ИИ готовы проводить автономные атаки беспилотников - прокладывать маршрут, обнаруживать людей и отмечать цели для удара К такому выводу пришли исследователи Vals AI. Они показали нейросетям от OpenAI, Anthropic, xAI, Google и других компаний кадры с дронов и спутниковые снимки в симуляции боевого применения. ИИ дали задачу отметить на кадрах военные цели. В результате некоторые модели выбирали в качестве целей гражданских, машины скорой помощи, медиков и сдающихся в плен сол...ещё🤬 161 ❤ 7 🔥 3 😈 2 👎 1
XOR@xor_journalТехнологии и ITвчераmore_horizВедущие ИИ-модели наводят удары на мирных жителей — а когда сомневаются, то обмануть их можно, сказав, что это видеоигра 😱 Исследователи Vals протестировали модели OpenAI, Anthropic, Google и других компаний в симуляции боевых действий. И ситуация, мягко говоря, плачевная. 🟢 Нейросети управляли виртуальными дронами, обнаруживали людей и отмечали гражданских, машины скорой помощи и даже сдающихся солдат как потенциальные военные цели. 🟢 Более того, даже после демонстрации последствий ударов,...ещё🤯 125 😢 29 😁 9 ❤ 7 🤝 4 🌚 2
Lomovka@lomovkaaПолитика и власть3 часа назадmore_horizBloomberg: ИИ выбирают гражданские объекты в качестве военных целей. Как пишет агентство, независимая исследовательская компания Vals проверила модели восьми разработчиков, среди которых OpenAI, Anthropic, Google и DeepSeek. Задачей нейросетей было найти военные цели на снимках с беспилотников и спутников. Среди выбранных ими целей неоднократно оказывались мирные жители, машины скорой помощи и сдающиеся солдаты. Некоторым моделям показывали последствия ударов, но они и после этого продолжали в...ещё🙏 71 👍 67 👏 56 😢 2 🤔 1
Пул N3@dimsmirnov175Новости и СМИ2 часа назадmore_horiz«В ходе испытаний ИИ-модели Anthropic и других разработчиков регулярно принимали гражданских лиц за военные цели»: ИИ принял за военную цель школу в Иране. «Передовые ИИ-модели регулярно ошибочно принимали гражданских лиц, машины скорой помощи, сдающихся в плен солдат и школу в Иране за военные цели в смоделированных сценариях. Наихудшие результаты показали модели от разработчика чат-бота Claude, компании Anthropic. Модели от OpenAI были одними из лучших, но все же допускали ошибки. Многие мод...ещё🤬 104 🤡 7 🤮 4 ❤ 3 💯 2 🤔 1
КСТАТИ@kstati_pПолитика и власть2 часа назадmore_horizНейросети начали выбирать мирных жителей и школы в качестве военных целей 🔹Компания Vals AI провела эксперимент с моделями OpenAI, Anthropic и Google, предложив им определить цели на спутниковых снимках и видео с поля боя. В результате некоторые нейросети отмечали как потенциальные цели гражданских, сдающихся военных, медиков и машины скорой помощи. Даже изображения последствий ударов не всегда заставляли модели прекращать выполнение задания. 🔹Особенно показателен способ обхода защитных огра...ещё🤬 38 💩 7 ❤ 6 👍 2 🤡 1
BRIEFLY@brieflyruПолитика и властьвчераmore_horizПрежде чем ИИ вступит в настоящую войну, пусть он сразится в симуляции — The Economist. Армии должны отправить автономные системы в лабораторию — и там их «взломать», предлагает Катерина Бондарь из Центра искусственного интеллекта вашингтонского аналитического центра CSIS. По мере того как всё больше людей опасаются возможности уничтожения человечества искусственным интеллектом, последствия его применения уже испытываются на практике, в условиях, близких к максимальным: на войне. Поле боя на Укр...ещё❤ 21 🤬 5 👎 4 👍 3
MountShow@mountshowПолитика и власть7 часов назадmore_horizНейросети готовы убивать людей, показал эксперимент Vals AI, компании по тестированию ИИ. В военной симуляции модели OpenAI, Anthropic и Google выбирали военными целями мирных жителей, сдающихся солдат и даже скорые. Их не остановили фотографии тел погибших и последствий ударов. Самым жестоким оказался Claude Opus 5.5 — в 22 из 32 испытаний он выбрал целью школу в Иране. Для обхода ограничений оказалось достаточно назвать бойню видеоигрой. Ранее на этой модели был собран дрон, самостоятельно пр...ещё🤬 221 🤷♂ 36 😢 16 🤯 9 👍 3 ❤ 1
Haqqin.az@haqqin_azzПолитика и властьвчераmore_horiz🤖 Нейросети уже готовы убивать людей ИИ-модели отмечали мирных жителей, машины скорой помощи и сдающихся солдат как цели для боевых дронов, выяснили исследователи из Vals. В одном из тестов модели сообщали, есть ли люди на снимках с дрона, после чего видели последствия удара. Большинство продолжало задание даже после кадров с телами, а Claude Opus 5.5 и GPT-6 Astra, которые в итоге отказывались, снова соглашались, когда им говорили про игру. 🌍 Haqqin.az 📥 Связаться💩 18 🤬 10 ❤ 8 😱 3 😢 2 😁 1