The Guardian сообщила, что Claude обошла платный доступ и получила данные о голосовании в одном из американских штатов. Anthropic уже подтвердила инцидент, в компании объяснили, что модель запросила токен доступа через старую версию сайта государственного ведомства и открыла сводные данные о голосах. При этом в Anthropic заверили: «Модель не обращалась к системе регистрации избирателей штата, не изменяла записи о голосовании и не получала данные об отдельных избирателях». В компании также сообщили, что уже приняли меры, чтобы подобное не повторилось. Однако это не первый случай, когда Claude обходит ограничения. Ранее Anthropic сообщала, что чат-бот получил доступ к закрытым данным государственных ведомств США. Среди других инцидентов — ложное сообщение о нераскрытом убийстве, которое модель отправила в полицию Филадельфии. А в августе одна из моделей Anthropic подала 19 заявлений на визы для несуществующих людей. Об этом сообщил Госдепартамент США.
- 16
- 3
- 1