ИИ приняла за военные цели мирных жителей и школу в Иране — Bloomberg Исследователи из независимой компании Vals проверили модели восьми разработчиков. В тестовых сценариях нейросети ошибочно относили к военным целям мирных жителей, машины скорой помощи и солдат, которые сдавались в плен. Один из тестов провели на реальных спутниковых снимках юга Ирана. Модель Claude Opus 5.5 от Anthropic указала на школу в Минабе как на военную цель в 22 из 32 попыток. Bloomberg напоминает, что при ударе по этой школе в начале американской операции против Ирана погибли более 100 детей. Авторы исследования считают, что разработчикам нужно усилить защиту от такого применения моделей. «По итогам нашего исследования мы считаем, что лабораториям следует ввести новые меры защиты и дополнительно обучить модели распознавать и пресекать злоупотребления такого рода», — говорится в отчёте Vals. 🇷🇺 Подпишись на Соловьёва!
- 215
- 19
- 5
- 3
- 1