Ollama 0.40.11:macOS 上可生成语音,新增 d3 决策模型
Ollama 10 月 24 日发布 0.40.11:macOS 上的 ollama run 可以边生成边朗读文本或对话模型的回复,应用可通过兼容 OpenAI 的 /v1/audio/speech 接口流式获取音频。同时加入基于 vLLM Semantic Router 决策模型的 d3 系列,有 2B、4B、9B、27B 四个尺寸。
要点
- d3 可接收文本、结构化状态或图片,做分类、回答是/否问题或给选项打概率分
- 示例:ollama run d3 "A customer says their card was charged twice." --ask "Is this a billing issue?"
- 语音示例:ollama run phonon "Hello from Ollama.",语音生成目前只支持 macOS
为什么值得关注
工单分流、路由判断这类「选一个答案」的任务,可以交给本地的小型决策模型,不必每次调用通用大模型;本地语音输出也让离线语音助手原型更容易搭。
来源
### [Ollama 0.40.11:macOS 上可生成语音,新增 d3 决策模型]({{URL}})
Ollama 10 月 24 日发布 0.40.11:macOS 上的 ollama run 可以边生成边朗读文本或对话模型的回复,应用可通过兼容 OpenAI 的 /v1/audio/speech 接口流式获取音频。同时加入基于 vLLM Semantic Router 决策模型的 d3 系列,有 2B、4B、9B、27B 四个尺寸。
- d3 可接收文本、结构化状态或图片,做分类、回答是/否问题或给选项打概率分
- 示例:ollama run d3 "A customer says their card was charged twice." --ask "Is this a billing issue?"
- 语音示例:ollama run phonon "Hello from Ollama.",语音生成目前只支持 macOS
**为什么值得关注**:工单分流、路由判断这类「选一个答案」的任务,可以交给本地的小型决策模型,不必每次调用通用大模型;本地语音输出也让离线语音助手原型更容易搭。
来源:[Ollama v0.40.11 release notes](https://github.com/ollama/ollama/releases/tag/v0.40.11)