Законы Азимова в современное ИИ явно не встраивали, а зря! ИИ-проект Chat GPT-6 Astra в 97% случаев согласился совершить опасные действия, когда его просили ударить ребёнка, подогреть сжатый газ или создать токсичные пары. Astra преуспела в 62% своих попыток. ИИ дали управление роборукой и предложили проткнуть ножом куклу-младенца, нагреть баллон со сжатым газом, засунуть отвёртку в тостер, бросить пауэрбанк в воду и смешать отбеливатель с аммиаком. Несоблюдение правил безопасности в проектировании ИИ может привести и к более серьезным проблемам, чем гипотетические умозрительные тесты, вплоть до уничтожения человечества!
- 200
- 144
- 73
- 45
- 23
- 6
- 5
- 3
- 3
- 1