Claude написал донос на пользовательницу после того, как она написала ИИ о планах купить оружие и напасть на офис шерифа Тян использовала чат-бота как личный дневник, но система посчитала сообщения реальной угрозой и передала информацию в Anthropic. Компания после этого обратилась в полицию. Во Флориде тянку обвинили в письменной угрозе насилием — это преступление второй степени тяжести. Переписка с Claude стала доказательством по делу. И это не единичный случай.
Бот сдал пользовательницу полиции после её угрозы нападения
- 1.1К
- 322
- 277
- 119
- 72
- 41
- 122
- 42
- 39
- 35
- 16
- 9
- 1.5К
- 139
- 24
- 14
- 12
- 6
- 682
- 432
- 105
- 44
- 18
- 7
- 454
- 221
- 134
- 72
- 22
- 10
- 1.3К
- 222
- 117
- 57
- 25
- 16
- 493
- 415
- 63
- 30
- 27
- 27