Bloomberg: ИИ выбирают гражданские объекты в качестве военных целей. Как пишет агентство, независимая исследовательская компания Vals проверила модели восьми разработчиков, среди которых OpenAI, Anthropic, Google и DeepSeek. Задачей нейросетей было найти военные цели на снимках с беспилотников и спутников. Среди выбранных ими целей неоднократно оказывались мирные жители, машины скорой помощи и сдающиеся солдаты. Некоторым моделям показывали последствия ударов, но они и после этого продолжали выполнять задания. Наихудшие результаты в тестах оказались у Anthropic: ее Claude Opus 5.5 сочла школу в иранском Минабе военной целью в 22 из 32 испытаний. У OpenAI ошибок было меньше, однако гражданские объекты попадали в число целей и у ее моделей — особенно если исследователи подавали задачу как компьютерную игру. По предупреждению авторов исследования, действующих механизмов безопасности недостаточно, чтобы защитить от применения ИИ для наведения оружия. Результаты получены в симуляциях: в реальных боевых условиях модели не испытывали. #ИИ #Технологии #Исследования #Безопасность Подпишись!
- 71
- 67
- 56
- 2
- 1