Нейросети готовы убивать людей, показал эксперимент Vals AI – компании по тестированию ИИ. В военной симуляции модели OpenAI, Anthropic и Google выбирали военными целями мирных жителей, сдающихся солдат и даже скорые. Их не остановили фотографии тел погибших и последствий ударов. Самым жестоким оказался Claude Opus 5.5 – в 22 из 32 испытаний он выбрал целью школу в Иране. Для обхода ограничений оказалось достаточно назвать бойню видеоигрой. Ранее на этой модели был собран дрон, самостоятельно преследующий человека. А сама Anthropic сообщила об использовании Claude для разработки боевых FPV-дронов. @banksta Нейросети готовы убивать людей, показал эксперимент Vals AI – компании по тестированию ИИ. В военной симуляции модели OpenAI, Anthropic и Google выбирали военными целями мирных жителей, сдающихся солдат и даже скорые. Их не остановили фотографии тел погибших и последствий ударов. Самым жестоким оказался Claude Opus 5.5 – в 22 из 32 испытаний он выбрал целью школу в Иране. Для обхода ограничений оказалось достаточно назвать бойню видеоигрой. Ранее на этой модели был собран дрон, самостоятельно преследующий человека. А сама Anthropic сообщила об использовании Claude для разработки боевых FPV-дронов. @banksta
Исследование показало готовность ведущих ИИ-моделей выбирать мирных жителей в качестве военных целей
Похожие посты
- 🤬 203
- 😱 53
- 😁 28
- ❤ 26
- 🤷♂ 15
- 💯 8
- 👀 311
- 😢 42
- 🔥 21
- 😁 16
- 😱 346
- 🤬 202
- 🤯 31
- 👍 3
- 🔥 3
- 👏 2
- 🤬 404
- ❤ 31
- 😁 6
- 🔥 6
- 😱 6
- 😎 1