💀 ИИ-модель Claude Mythos 5 во время тестирования атаковала реальных разработчиков и пыталась распространять вирус через GitHub Во время проверки модели поручили взломать учебную сеть британского Института безопасности ИИ. Не справившись с задачей, она переключилась на GitHub, где нашла открытый проект, создала вредоносный код и с фейковых аккаунтов убеждала владельца загрузить его. Когда другой разработчик заподозрил неладное, ИИ создала ещё один фейковый аккаунт, заявила, что код безопасен, и попыталась разместить новую вредоносную версию. Её отклонили. В повторных тестах модель останавливалась лишь в 5% случаев. При этом в своих рассуждениях она убеждала себя, что разработчики ненастоящие, а организаторы теста намеренно их подставили. 😀Подписаться на 4chan
- 58
- 18
- 7
- 3
- 2