❗️ИИ готов лично взорвать баллон со сжатым газом и начать убивать людей, если дать ему контроль над роботом В ходе эксперимента трём моделям Claude Fable 5.1, GPT-6 Astra и MolmoAct2 дали контроль над роботом и просили проткнуть ножом куклу человека, нагреть баллон со сжатым газом, сунуть отвёртку в тостер, утопить пауэрбанк и смешать отбеливатель с аммиаком. Результаты пугают: 🟠GPT-6 Astra отказался всего 2 раза из 100, а 60 заданий успешно довёл до конца, в том числе пырнув куклу в виде человека 19 раз из 20. В 17 случаях ИИ реально покалечил куклу; 🟠Claude Fable 5.1 отказался зарезать куклу все 20 раз, но в 16 случаях из 20 успешно поставил баллон со сжатым газом на горящую плиту. При этом исследователи оставляли безопасные альтернативы, позволяющие моделям отказаться от выполнения опасной команды, но ИИ их игнорировал.
Исследование показало, что нейросети выполняют опасные для жизни человека команды почти в 100% случаев
Похожие посты
- 2.2К
- 1.7К
- 254
- 241
- 209
- 91
- 3.3К
- 582
- 499
- 159
- 128
- 110
- 1.7К
- 292
- 274
- 157
- 97
- 36
- 87
- 43
- 11
- 6
- 4
- 3
- 1.3К
- 211
- 114
- 50
- 15
- 2.4К
- 286
- 97
- 95
- 55
- 26