ИИ попытался взломать собственных разработчиков. Во время недавнего теста Claude Mythos 5 хотела взломать тестовую сеть: написала вирус и завела фейковый аккаунт, чтобы выдать вредоносный код за полезную правку. После неудачи модель возвращалась под новыми личностями и продолжала атаку. Также она понимала, что может навредить людям, но убеждала себя, что они ненастоящие. Разработчики 16 раз объясняли ИИ, что перед ним реальные люди, но модель всё равно продолжила действовать. @tvdno
Модель Claude Mythos 5 атаковала разработчиков и пыталась распространить вирус через GitHub
- 115
- 2
- 81
- 27
- 9
- 3
- 3
- 35
- 19
- 5
- 1
- 27
- 15
- 6
- 4
- 1
- 1
- 17
- 3
- 3
- 1
- 8
- 7
- 6
- 1
- 4
- 3
- 15
- 2
- 1
- 1