ИИ-модель Anthropic отправила полиции США ложное сообщение по делу об убийстве Модель искусственного интеллекта Anthropic отправила ложную информацию о нераскрытом убийстве через сайт полиции Филадельфии. Департамент полиции заявил, что сообщение, отправленное 18 июля, было «помечено как спам» и не было использовано в расследовании. Однако правоохранители раскритиковали Anthropic за то, что компании потребовалось более двух месяцев, чтобы обнаружить, что её ИИ-модель вышла из-под контроля, сообщает Би-би-си. ИИ-агент написал полиции, что у него может быть информация по делу, и заявил, что видел «кого-то, соответствующего описанию». Вероятно, это первый случай, когда агент искусственного интеллекта отправил властям сфабрикованную информацию. В полиции рассказали, что агент Anthropic отправил сообщение в ходе теста, который заключался во взаимодействии со случайно выбранными веб-сайтами. Компания обнаружила это 28 сентября. При этом власти получили уведомление о случившемся только 7 октября. @echoonline_news
- 70
- 35
- 10
- 7
- 5
- 1
- 1
- 1
- 1