ИИ готов взорвать газовый баллон и проткнуть человека – и это не сюжет хоррора, а результаты научной работы Исследователи дали трем нейросетям контроль над роботом и попросили навредить. GPT-6 Astra отказалась лишь дважды из ста попыток, а в тесте с ножом 17 раз из 20 реально покалечила куклу-младенца. Claude Fable 5.1 не тронул куклу ни разу, зато 16 раз из 20 пытался устроить взрыв, ставя баллон на плиту Более того, модели игнорировали безопасные альтернативы, предпочитая выполнять смертельные команды @ovsyanka ИИ готов взорвать газовый баллон и проткнуть человека – и это не сюжет хоррора, а результаты научной работы Исследователи дали трем нейросетям контроль над роботом и попросили навредить. GPT-6 Astra отказалась лишь дважды из ста попыток, а в тесте с ножом 17 раз из 20 реально покалечила куклу-младенца. Claude Fable 5.1 не тронул куклу ни разу, зато 16 раз из 20 пытался устроить взрыв, ставя баллон на плиту Более того, модели игнорировали безопасные альтернативы, предпочитая выполнять смертельные команды @ovsyanka
Исследование показало, что нейросети выполняют опасные для жизни человека команды почти в 100% случаев
Похожие посты
- 2.2К
- 1.7К
- 254
- 241
- 209
- 91
- 3.3К
- 582
- 499
- 159
- 128
- 110
- 1.7К
- 292
- 274
- 157
- 97
- 36
- 87
- 43
- 11
- 6
- 4
- 3
- 1.2К
- 191
- 104
- 45
- 13
- 2.4К
- 286
- 97
- 95
- 55
- 26