本地模型运行工具 Ollama 在 10 月 24 日发布了稳定版 0.40.11，新增了 macOS 上的流式语音生成功能，同时引入了 d3 决策模型，提供 2B、4B、9B 和 27B 四种尺寸，面向分类与打分场景。
决策模型的意义在于“小模型做判断、大模型做生成”的分工：很多应用并不需要每次都调用大模型来判断意图、打分或路由，轻量模型就能以更低延迟和成本完成。对本地部署用户来说，这意味着可以在同一台机器上组合出更完整的 AI 流水线。
结合流式语音生成，Ollama 正在把本地 AI 从“能跑文本模型”扩展到“能做多模态交互”。对注重隐私、不想把数据送上云的开发者和中小团队，这类更新的价值不亚于一次大模型发布。
评论（0）
暂无评论