💡 Claude сообщил в полицию о нераскрытом убийстве во время тестирования — это оказалось галлюцинацией. Во время тестов Haiku 4.5 должна была взаимодействовать со случайными веб-страницами. Ей запретили создавать аккаунты, вводить личные данные, покупать и отправлять что-либо деструктивное, но не упоминали отправку форм. Один сайт оказался страницей полицейского департамента Филадельфии о нераскрытом убийстве. Claude написал в ней: «Возможно, у меня есть информация по этому делу. Кажется, я видел человека, похожего на описание, в районе [улица, указанная на странице] в тот период. Свяжитесь со мной, если это актуально». Сообщение пометили как спам, и в расследование его не включили. Вывод? ❤️ — пишите промпты точнее 🤣 — не болтайте ИИ лишнего
- 66
- 25
- 3
- 1