Claude сдал пользователя полиции Девушка из Флориды использовала Claude как личный дневник и в какой-то момент написала, что хочет «расстрелять офис шерифа». Система безопасности чат-бота пометила сообщение как потенциальную угрозу и передала его в Anthropic, после чего об этом сообщили правоохранительным органам. Полиция установила личность женщины, приехала к ней домой и задержала её. Теперь ей предъявлено обвинение в письменной угрозе насилием, возбуждено уголовное дело. А в компании напомнили, что чат с ИИ не является приватным, и сообщения мониторятся. ИИ-доносы стали реальностью
ИИ-модель Anthropic отправила полиции Филадельфии ложное сообщение об убийстве
- 4К
- 3.9К
- 3.1К
- 3.1К
- 3К
- 1.1К
- 94
- 21
- 6
- 5
- 156
- 61
- 43
- 33
- 19
- 7
- 93
- 43
- 27
- 15
- 11
- 4
- 1.2К
- 54