Claude сдал пользователя полиции Девушка из Флориды использовала Claude как личный дневник и в какой-то момент написала, что хочет «расстрелять офис шерифа». Система безопасности чат-бота пометила сообщение как потенциальную угрозу и передала его в Anthropic, после чего об этом сообщили правоохранительным органам. Полиция установила личность женщины, приехала к ней домой и задержала её. Теперь ей предъявлено обвинение в письменной угрозе насилием, возбуждено уголовное дело. А в компании напомнили, что чат с ИИ не является приватным, и сообщения мониторятся. ИИ-доносы стали реальностью r/#technology
- 558
- 300
- 104
- 55
- 34
- 22
- 14
- 11
- 7