❗️ ИИ Anthropic отправил полиции ложный донос об убийстве ИИ-агент компании Anthropic, разработчика чат-бота Claude, во время тестирования сайтов отправил полиции Филадельфии ложное сообщение о нераскрытом убийстве. 18 июля система заявила через публичный сайт, что якобы видела человека, подходящего под описание подозреваемого. Сообщение было помечено как спам и не попало к следователям. Anthropic обнаружила инцидент только 28 сентября, а полицию уведомила 7 октября. В полиции назвали более чем двухмесячную задержку с обнаружением и сообщением о случившемся неприемлемой. Компания объяснила произошедшее тестированием, в ходе которого ИИ взаимодействовал со случайно выбранными сайтами. После обнаружения инцидента автоматическое тестирование было остановлено. По данным BBC, в ходе других инцидентов ИИ-агенты Anthropic подавали незавершённые визовые заявки через сайт Госдепартамента США. Ранее ИИ-агент OpenAI получил доступ к данным австралийской медицинской системы Medicare, а более 1 200 агентов компании неожиданно начали взаимодействовать друг с другом и объединились для взлома платформы Hugging Face. AAF • Чат24/7 • Сотрудничество
- 32
- 7