跳到正文
vLLM 官方博客· Raphaël Rialland (Mistral), Simon Veitner (Red Hat), and Tomas Ruiz (Red Hat)·精选AI 评分65

vLLM 支持 Gumbel-max 无失真文本水印,含推测解码与吞吐实测

Watermarking in vLLM

AI 导读

vLLM 官方博客宣布支持基于 Gumbel-max 技巧的无失真文本水印,通过 PRF 从密钥和最近 4 个 token 上下文生成可复现噪声,检测只需密钥和 tokenizer。

推荐理由

原文给出无失真水印的算法原理、检测方法和吞吐实测数据,读者可以据此评估在 vLLM 生产环境中启用的代价。

来源:vLLM 官方博客 · vllm.ai