vLLM 官方博客· Raphaël Rialland (Mistral), Simon Veitner (Red Hat), and Tomas Ruiz (Red Hat)·精选AI 评分65
vLLM 支持 Gumbel-max 无失真文本水印,含推测解码与吞吐实测
Watermarking in vLLM
AI 导读
vLLM 官方博客宣布支持基于 Gumbel-max 技巧的无失真文本水印,通过 PRF 从密钥和最近 4 个 token 上下文生成可复现噪声,检测只需密钥和 tokenizer。
推荐理由
原文给出无失真水印的算法原理、检测方法和吞吐实测数据,读者可以据此评估在 vLLM 生产环境中启用的代价。
来源:vLLM 官方博客 · vllm.ai