🇺🇸 В Филадельфии ИИ-модель Anthropic отправила ложное сообщение об убийстве. По данным Anthropic, сообщение было создано моделью Claude Haiku 4.5 в рамках автоматизированного тестирования. ИИ сгенерировал текст от лица человека, который якобы мог располагать сведениями о расследуемом убийстве, однако поля с именем и контактными данными оставил незаполненными. В Anthropic объяснили, что Claude тестировала выполнение действий на случайных сайтах. Модель не получала указаний обращаться в полицию или отправлять вредоносные данные, но могла самостоятельно заполнять и отправлять формы. После инцидента тестирование остановили. Полиция заявила, что признаков взлома её систем или утечки данных не обнаружено. 🇺🇸 В Филадельфии ИИ-модель Anthropic отправила ложное сообщение об убийстве. По данным Anthropic, сообщение было создано моделью Claude Haiku 4.5 в рамках автоматизированного тестирования. ИИ сгенерировал текст от лица человека, который якобы мог располагать сведениями о расследуемом убийстве, однако поля с именем и контактными данными оставил незаполненными. В Anthropic объяснили, что Claude тестировала выполнение действий на случайных сайтах. Модель не получала указаний обращаться в полицию или отправлять вредоносные данные, но могла самостоятельно заполнять и отправлять формы. После инцидента тестирование остановили. Полиция заявила, что признаков взлома её систем или утечки данных не обнаружено.
- 26
- 8