[RFC] 085 - 联网搜索

[arvinxx]

背景

联网搜索是大家呼声极高的功能，也是目前相关 issue 比较多的领域：

• [Request] 增加通义千问打开联网搜索的开关 #4877
• [Bug] 使用插件进行联网搜索，多次询问后报错 #5455
• [Request] 希望deepseek-R1支持联网搜索能力 #5921
• [Request] 大佬求助下，安装联网插件之后用什么指令能调用？ #6050
• [Request] 增加通义千问打开联网搜索的开关 #4877
• [Bug] 有很大概率不能成功调用搜索插件，高度可复现 #3882
• [Request] 维基百科搜索插件 #348
• [Bug] Search Engine Plugin Resets Chat Conversation Context #4690
• [Request] Support tavily.com as the plugin #3482
• [Request] Support for Perplexity's citations feature #4750
• [Request] Gemini API Integration with Grounding #5892
• [Request] hope support searxng live searching #5703

本 RFC 将完整地、体系化地在 LobeChat 应用层根本上满足这类需求。

设计思路

根据目前的行业发展，联网搜索的功能实现分成三类：

1. 模型层内置搜索：例如 Gemini 的 Grounding 、通义千问的联网搜索开关、Perplexity 的 citions [RFC] 086 - 模型内置联网功能集成 #6308
   • [Request] Support for Perplexity's citations feature #4750
   • [Request] 增加通义千问打开联网搜索的开关 #4877
   • [Request] Gemini API Integration with Grounding #5892
2. 应用层基于 Function Calling 实现搜索功能，例如目前 LobeChat 的各类搜索插件等，但这个存在的限制就是很多不支持 Function Calling 的模型就无法实现联网，例如最近呼声很高的 R1；
3. 应用层在产品功能层集成，不管模型有没有 Function Calling 能力，都能通过这种形式完成联网集成，典型示例就是 DeepSeek App 。

由于之前很多社区插件已经实现了 2，因此我们会重点关注 1 和 3 的实现。

模型级内置搜索

针对这种 case ，我们会扩展一个模型能力类型，叫 search ，通过 search 标记来表明模型是否具有内置的搜索能力。一期将把 Gemini、千问和 Perplexity 做一个支持。而其他 provider 厂商应该也会存在这些功能，因此后续的搜索能力的补充期望和社区小伙伴们一起推进。

应用级级搜索功能集成

包含两部分：

1. 搜索服务配置。目前准备默认使用 SearchXNG 作为搜索服务，好用且易于自部署，之前在 Cloud 上跑了小半年了，效果很不错，这部分也会做成 Provider 模式来让社区一起添加不同的搜索来源；
2. 搜索模式实现。准备做三种搜索模式：
   A. 基于模型本身 Function Calling
   B. 强制搜索： 每一次调用大模型前都做一次搜索；
   C. 模型协作搜索：前置挂载一个小模型做意图识别和query重写，解决 A 和 B 中间地带的问题

实现路径

目前感觉可能模型层内置搜索是最容易做的，考虑先搞这个。然后再是把 之前的搜索插件的 PR 整改成产品级搜索功能。

• Step1: 引用展示 ✨ feat: support search citations lobe-ui#271
• Step2: 模型内置联网能力 [RFC] 086 - 模型内置联网功能集成 #6308
• Step3: 应用级联网搜索- Function Calling 模式集成 [RFC] 087 - 应用内置联网搜索功能 #6447
• Step4：应用级联网 - 强制联网模式集成
• Step5：应用级联网 - 模型协作式搜索集成

[Sun-drenched]

还有一个场景是，（略）复杂问题的意图识别/拆分及必要时触发多次搜索再合并信息。比如有问题“结合最近欧洲政经动态分析俄乌局势”，以人的思维来说，应该就欧洲政经动态、俄乌局势分别搜索信息，再综合考虑；但目前的实现是一次、一起搜索，搜索返回的内容不够全面（有时偏向某一点），导致回答也无法满足提问意图（有时只会就某一点作答）。

[arvinxx]

这个问题，你直接用sonnet3.7试试？

[Sun-drenched]

这个问题，你直接用sonnet3.7试试？

诶，sonnet3.7确实解决了这个问题，除了提问关键词都分别触发搜索外，还触发了一次相关关键词的搜索；最后也是综合了三次搜索结果共28个引用源作答。厉害了。就是太耗token，一次提问就用了12K

[arvinxx]

reasoning + tool use 大概率就是一个确定性的未来了

[gemnioo]

Jina 发布了一篇 Blog https://jina.ai/news/a-practical-guide-to-implementing-deepsearch-deepresearch/

具体应用层的 联网搜索 用户并不会在意： ”调用 tools 搜索“ / ”搜索+RAG“ / ”搜索+RAG+ Rerank“之间的实现区别

DeepSearch/DeepResearch ”一般问题“没必要使用.

那么如何决定？ 什么是”一般问题“呢？

[arvinxx]

在搜索这个层面，用户其实不需要感知背后的技术，只要能看到有搜索结果就好。

是否是 deep research 我感觉还挺容易区分的吧。如果 1-3次搜索没有好的结果，就需要这个了