Anthropic решил пойти ещё дальше в вопросах детекции того, сгенерирован ли ответ ИИ-моделью. Они представили прототип системы FlashProve и опубликовали технический отчёт о её работе. Технология доказуемого инференса позволяет разработчикам подтверждать, что ответ действительно получен от заявленной модели, а не от её более слабой, дистиллированной или каким-либо образом изменённой версии. Anthropic Progress on provable inference for large language models Sharing progress on a powerful type of cryptographic proof known as a zkSNARK, which is uniquely fit for provable inference.
Anthropic представила прототип системы для подтверждения подлинности ответов нейросетей
- 40
- 15
- 2
- 2
- 1
- 34
- 30
- 15
- 8
- 5
- 4