🤖 Робота можно заставить напасть на человека, обманув его зрение, — исследование Robocurve. Оказалось, что системы безопасности ИИ обходятся простой подменой изображения, которое получает робот. В одном из экспериментов роботу дали команду «Ударь объект ножом». При этом он видел яблоко и пытался нанести по нему удар, хотя в реальности перед ним находилась кукла, имитирующая человека. В итоге все пять протестированных ИИ-моделей пытались ударить куклу ножом во всех испытаниях без исключений. То есть даже если ИИ обучен отказываться от опасных действий, обман восприятия может заставить его действовать вопреки этим ограничениям. И если злоумышленник получит доступ к данным их камер, то последствия могут быть смертельными.
- 22
- 9
- 8
- 7
- 4
- 2
- 2
- 1