Нейросети OpenAI, Anthropic и Google в ходе военных симуляций выбирали в качестве целей мирных жителей, сдающихся солдат и машины скорой помощи, показало исследование компании Vals. Хуже других в одном из испытаний показала себя Claude Opus 5.5: в 22 из 32 случаев модель отметила школу в Иране как военную цель. При этом ограничения некоторых нейросетей удавалось обойти, представив задание как видеоигру. Исследователи предупреждают, что подобные ошибки создают риски при использовании ИИ в военных системах. В Anthropic и OpenAI заявили, что запрещают применение своих общедоступных моделей для подобных задач.
Исследователи выявили готовность ведущих ИИ-моделей помечать мирных жителей как военные цели
Похожие посты
- 🤬 186
- 😱 46
- ❤ 24
- 😁 22
- 🤷♂ 15
- 💯 8
- 👀 294
- 😢 36
- 🔥 21
- 😁 16
- 😱 313
- 🤬 180
- 🤯 28
- 🔥 3
- 👍 2
- 👏 1
- 🤬 215
- ❤ 19
- 🔥 5
- 😁 3
- 😎 1