一些功能建议

[RyensX]

1. 思考过程展示很好看，但如果能和DS官方一样在思考结束后显示耗时就更好了
2. ollama支持在generate 时通过keep_alive设置存活时间能否加一个设置项控制该参数
3. 助手头像支持本地图片
4. 系统助手话题命名等操作，希望可选当前模型，不然显存可能比较大浪费
5. 还是话题命名，如果用R1等推理模型，话题不会去掉<think> 等标签和思考过程，很影响观感

[SAnBlog]

第一个是有的吧

[arvinxx]

展示耗时只能是ds那种官方的接口规范才支持。如果是 <think> 标签的话是没有用时的。（没法读到这个数据）

[RyensX]

展示耗时只能是ds那种官方的接口规范才支持。如果是 <think> 标签的话是没有用时的。（没法读到这个数据）

这个可以试试通过在流传入完<think> 后就记录时间来实现

[arvinxx]

ollama支持在generate 时通过keep_alive设置存活时间能否加一个设置项控制该参数

这个有文档吗？我可以看下，要加的话应该好加的

助手头像支持本地图片

这个会做的~敬请期待！

[arvinxx]

这个场景感觉有点小众，一般正常都是选一个便宜模型来做的，用当前模型的概率非常低

我觉得对于普通机器，算力和显存有限，是不太想同时运行多个模型，而是尽可能的榨干给一个能用的质量最好的模型

存疑。ollama这样的模式应该没法做到单模型并发推理的吧，如果按你这个思路，当聊完一条信息以后，就必须要等同一个模型生成完topic标题，总结完历史记录后才能继续二次问答。这个体验一想就不太合理

[RyensX]

这个场景感觉有点小众，一般正常都是选一个便宜模型来做的，用当前模型的概率非常低

我觉得对于普通机器，算力和显存有限，是不太想同时运行多个模型，而是尽可能的榨干给一个能用的质量最好的模型

存疑。ollama这样的模式应该没法做到单模型并发推理的吧，如果按你这个思路，当聊完一条信息以后，就必须要等同一个模型生成完topic标题，总结完历史记录后才能继续二次问答。这个体验一想就不太合理

这个也确实也有道理。不过实际上ollama在v0.1.33后就支持单模并发了

[arvinxx]

不过实际上ollama在v0.1.33后就支持单模并发了

那单模并发的生成 和 同时加载两个模型各自生成 ，两者哪种开销更小？还是接近？

[RyensX]

不过实际上ollama在v0.1.33后就支持单模并发了

那单模并发的生成 和 同时加载两个模型各自生成 ，两者哪种开销更小？还是接近？

这个倒没具体测过，但是多模肯定是要吃更多显存的，而显存更重要。

[arvinxx]

我觉得得实际测过才能下结论吧。

方案1：一个 R1 32B 的模型同时并发推理的内存消耗与耗时；
方案2：一个 R1 32B 模型 + 一个 7B Qwen2.5 模型推理的内存消耗与耗时