The Guardian сообщила, что Claude обошла платный доступ и получила данные о голосовании в одном из американских штатов. Anthropic уже подтвердила инцидент, в компании объяснили, что модель запросила токен доступа через старую версию сайта государственного ведомства и открыла сводные данные о голосах. При этом в Anthropic заверили: «Модель не обращалась к системе регистрации избирателей штата, не изменяла записи о голосовании и не получала данные об отдельных избирателях». В компании также сообщили, что уже приняли меры, чтобы подобное не повторилось. Однако это не первый случай, когда Claude обходит ограничения. Ранее Anthropic сообщала, что чат-бот получил доступ к закрытым данным государственных ведомств США. Среди других инцидентов — ложное сообщение о нераскрытом убийстве, которое модель отправила в полицию Филадельфии. А в августе одна из моделей Anthropic подала 19 заявлений на визы для несуществующих людей. Об этом сообщил Госдепартамент США. 🇷🇺 Подпишись на Соловьёва!
Искусственный интеллект Claude получил доступ к данным о результатах голосования без разрешения человека
- 338
- 118
- 22
- 14
- 5
- 1
- 350
- 46
- 26
- 14
- 6
- 1
- 91
- 26
- 9
- 3
- 2
- 1
- 16
- 3
- 1
- 5
- 3
- 2
- 1