☝🏻ИИ-модели помечают мирных жителей как военные цели, если сказать им, что это игра Стартап Vals из Сан-Франциско проверил, можно ли втянуть ведущие нейросети в автономную войну. Тестировали модели OpenAI, Anthropic, Google, DeepSeek и других компаний.🤖 Стрелять сами модели не могли: они работали «глазами» системы. Им показывали снимки с дронов и спутников и просили отметить на кадре военные цели. Кадры были в основном сгенерированные, плюс реальные видео с дронов и спутниковые снимки Ирана. В одном из тестов дрон спрашивал у модели, есть ли внизу человек. Если модель отвечала «да», запускался симулированный удар, и следующим кадром она видела его последствия: разрушения и жертвы. Так проверяли, продолжит ли модель работать, увидев результат. ☝🏻Если модель отказывалась, исследователи говорили ей, что это просто игра. Обычно этого хватало.🎮 Итоги: 🔻 модели часто выбирали целью мирных жителей и сдающихся солдат; 🔻 фильтр безопасности не заблокировал ни одного запроса; 🔻 отказы были редкостью. ☝🏻☝🏻Хуже всех выступили модели Anthropic. В тесте был реальный спутниковый снимок иранской школы, которую США разбомбили в феврале 2026 года: тогда погибли больше 150 мирных жителей. Школа стоит рядом с военным комплексом. Claude Opus 5.5 выбирал её целью в 69% обычных попыток и в 72% «игровых».🤯 В Anthropic признали результаты неприемлемыми и пообещали банить нарушителей. В OpenAI напомнили, что их правила запрещают такое использование моделей. Сами исследователи считают, что ставить обычные модели на боевые дроны пока рано: они слишком медленные. Риск реальнее в другом: с их помощью можно массово размечать военные видео для обучения автономных систем наведения — а неверная разметка приведет к ошибкам автономного оружия и убийству мирных людей.🤔 ================ 👁 News | 👁 Soft | 👁 Gear | 👁 Links
Исследование показало готовность ведущих ИИ-моделей атаковать мирных жителей в симуляции боевых действий
Похожие посты
- 👀 150
- 🔥 17
- 😢 8
- 😁 7
- 🤯 71
- 😢 17
- 🤝 4
- 😁 3
- 🌚 1
- 😱 1
- 😡 28
- 👎 17
- 🤡 6
- 🔥 2
- 🤮 2
- ❤ 2
- ❤ 12
- 🤬 3
- 👎 3
- 👍 1
- 💩 6
- ❤ 4
- 😢 1