Anthropic сдала в полицию жительницу Флориды, которая рассказала Claude о планах обстрелять офис шерифа. Женщина использовала чат-бот как личный дневник. В сентябре она писала, что готовит нападение. На следующий день призналась ИИ, что уже купила оружие. Система мониторинга Anthropic пометила эти сообщения как «контент с угрозами», в итоге информацию передали правоохранителям. Женщину задержали, ей предъявили обвинения. Это не первый случай, когда ИИ фигурирует в тяжких преступлениях. Ранее в Массачусетсе подросток использовал ChatGPT для планирования убийства матери и брата. СМИ подчёркивали: разговоры с ИИ уже становятся частью судебных процессов — и с развитием технологии подобных случаев будет всё больше.
Бот сдал пользовательницу полиции после её угрозы нападения
- 1.2К
- 329
- 283
- 126
- 74
- 44
- 122
- 42
- 39
- 35
- 16
- 9
- 852
- 521
- 133
- 62
- 24
- 8
- 1.9К
- 170
- 31
- 17
- 13
- 7
- 641
- 521
- 77
- 48
- 36
- 32
- 454
- 221
- 134
- 72
- 22
- 10