😒 Anthropic учит ИИ доказывать, кто именно дал ответ Anthropic представила FlashProve — открытую исследовательскую систему, которая позволяет проверить, какая именно ИИ-модель сгенерировала ответ. Это попытка решить проблему, о которой редко задумываются пользователи чат-ботов: а точно ли сервис использовал ту модель, которую обещал? Представьте, что вы оплатили доступ к самой мощной модели, а сервис незаметно подменил её более дешёвой. Или компания заявляет, что проверила свой код с помощью продвинутого ИИ, но доказать это не может. FlashProve предлагает прикладывать к ответу криптографическое доказательство, своего рода цифровую подпись. Оно позволяет проверить, что текст действительно создан определённой моделью, не раскрывая её внутреннее устройство. Для этого используется технология zkSNARK, которая позволяет подтверждать вычисления с помощью компактного математического доказательства. Стоит понимать: речь идет именно об идентификации используемой модели, а не достоверности ответа. Даже если текст действительно написала заявленная модель, она всё равно может ошибаться. Кроме того, сейчас FlashProve требует в десятки раз больше вычислительных ресурсов, чем обычный запуск модели, так что, пока это исключительно исследовательский прототип, а не проект для массового использования. 👍 — Будет полезно 🤝 — Все равно будет ошибаться
- 40
- 15
- 2
- 2
- 1