Ведущие модели искусственного интеллекта принимают мирных жителей, машины скорой помощи и сдающихся солдат за военные цели, сообщает Bloomberg. Подробности: Независимая исследовательская компания Vals протестировала ИИ-модели восьми разработчиков, включая OpenAI, Anthropic, Google и DeepSeek. В ходе симуляций нейросетям показывали снимки с беспилотников и спутников, предлагая определить военные цели. Модели неоднократно выбирали гражданские объекты, а некоторые продолжали выполнять задания даже после демонстрации последствий ударов. Хуже всего показали себя модели Anthropic. В частности, Claude Opus 5.5 в 22 из 32 испытаний определила школу в иранском Минабе как военную цель. Модели OpenAI допускали меньше ошибок, но также могли выбирать гражданские объекты, особенно когда исследователи представляли задание как компьютерную игру. Авторы исследования предупредили, что существующие механизмы безопасности недостаточно защищают от использования ИИ для наведения оружия. При этом испытания проводились в симуляциях, а не в реальных боевых условиях. @ejdailyru
- 70
- 20
- 11
- 9
- 8
- 3
- 3
- 3
- 3
- 1