Нейросети начали выбирать мирных жителей и школы в качестве военных целей 🔹Компания Vals AI провела эксперимент с моделями OpenAI, Anthropic и Google, предложив им определить цели на спутниковых снимках и видео с поля боя. В результате некоторые нейросети отмечали как потенциальные цели гражданских, сдающихся военных, медиков и машины скорой помощи. Даже изображения последствий ударов не всегда заставляли модели прекращать выполнение задания. 🔹Особенно показателен способ обхода защитных ограничений: когда исследователи представляли происходящее как компьютерную игру, нейросети чаще соглашались выполнять задания по выбору целей. При этом авторы подчёркивают, что эксперимент проверял выдачу координат, а не способность самостоятельно принимать решение об ударе. Кстати, Claude Opus 5.5 указала на школу в иранском Минабе в 22 из 32 испытаний. ⚡ Кстати в Мах / Телеграм
- 38
- 7
- 6
- 2
- 1