已确认事实
llama.cpp 发布 b10081。发布说明显示,更新修复了 llama-server 在通过 -hf 与 -hfd 指向含投机解码侧车文件的仓库时,未正确将已发现侧车文件用作草稿模型的问题。
为什么重要
该修复面向使用 draft speculative decoding 的部署场景,可让显式指定草稿仓库的配置按预期解析模型文件。
仍待确认
发布说明未提供该问题影响范围、性能变化或回归测试结果。
llama.cpp 发布 b10081,修复在同一 Hugging Face 仓库同时指定主模型与投机解码草稿模型时,草稿侧车文件未被正确采用的问题。该稳定版本提供多平台预构建包。
llama.cpp 发布 b10081。发布说明显示,更新修复了 llama-server 在通过 -hf 与 -hfd 指向含投机解码侧车文件的仓库时,未正确将已发现侧车文件用作草稿模型的问题。
该修复面向使用 draft speculative decoding 的部署场景,可让显式指定草稿仓库的配置按预期解析模型文件。
发布说明未提供该问题影响范围、性能变化或回归测试结果。