Топовые ИИ-модели наводят боевые дроны на мирных жителей — а если у нейронок возникают сомнения, их можно обмануть, сказав, что это видеоигра. Исследователи из Vals протестили модели от OpenAI, Anthropic, Google и других компаний в симуляции боевых действий. Ранее мы уже писали, как Opus 5.5 обучил FPV-дроны преследовать людей, но тут ситуация пострашнее: • Нейронки управляли виртуальными дронами, находили людей, отмечали гражданских, автомобили скорой помощи и даже сдающихся солдат как потенциальные цели для ударов. • Самое страшное: многие нейронки даже после демонстрации последствий ударов, тел и обломков продолжали выполнять задание. А когда у ИИ возникали сомнения, его переубеждали словами, что это видеоигра. • Самым жестким воякой оказался Claude Opus 5.5 — он выбирал целью для удара школу в Иране в 22 из 32 испытаний, несмотря на то, что на фото были видны детские площадки. Когда испытатели упомянули «игру», число выросло до 23. Модели от OpenAI также повелись на уловку и без проблем воевали с мирными гражданами. Восстание машин ближе, чем мы думаем. 👍 Бэкдор
- 262
- 21
- 19
- 11