AK·· 4 天前AI 评分44
NVIDIA 在 Hugging Face 发布用于 Qwen3.8-27B 的 4B 参数推测解码草稿模型
RT DailyPapers: NVIDIA just released a speculative decoding draft on Hugging Face It accelerates Qwen3.8-27B with 4B parameters, boosting token accept...
AI 导读
NVIDIA 在 Hugging Face 发布一款 4B 参数的推测解码草稿模型,用于加速 Qwen3.8-27B。其 token 接受率较内置 head 提升 46%。
来源:AK · x.com