别让 AI 瞎编了，先搭个知识库

上个月我帮一个做跨境电子的朋友处理客服邮件，他之前用 ChatGPT 回复客户咨询，结果 AI 把产品保修期从 12 个月说成了 24 个月，还信誓旦旦。客户截图发过来，差点闹到平台仲裁。这事不怪 AI，怪他没给 AI 喂资料。ChatGPT 默认只知道 2023 年之前的数据，你公司 2024 年改的售后政策，它上哪儿知道去？

所谓知识库，就是把你手头的 PDF、Word、Excel、网页链接、Notion 文档这些资料，提前切碎、索引、存进一个向量数据库里。AI 回答问题时，先从库里检索相关片段，再基于这些片段生成答案。相当于给 AI 配了个随身资料员，回答前先翻资料，而不是全靠脑补。 我目前用的是 Dify（开源版，免费）配合 Qwen 的 Embedding 模型，加上 DeepSeek-V3 做生成。整套跑下来，每月 API 花费大概 30-50 块人民币，取决于你问答量。如果你不想折腾部署，直接用腾讯云的知识引擎或者百度千帆，也有免费额度，但控制精度差一些。下面直接上技巧，都是我踩过坑之后总结的。

技巧清单：8 条实战经验

1. 先分块再入库，块大小 300-500 字

别把整个 PDF 丢进去。AI 检索是按「块」来的，块太大，比如一整个章节几千字，检索时命中噪音多，AI 容易被无关内容带偏。我试过 800 字的块，回答准确率掉到 70% 左右；切成 300-500 字，准确率能到 90% 以上。具体做法：用 Dify 自带的文本分割器，按段落切，重叠字符设 50 字，防止句子被切断。为什么有效？因为向量检索看的是语义相似度，块越小，语义越聚焦，命中越准。但别低于 200 字，否则上下文不够，AI 理解不了。

2. 文档命名用「标签+内容」格式

比如「2025-Q2-售后政策-最终版.pdf」「产品手册-X100-固件2.3.pdf」。为什么？因为多数知识库工具支持元数据过滤，你在问答时可以用过滤器限定只搜某个标签。我帮朋友搭客服知识库时，把退货政策、保修条款、物流说明分别打上标签，AI 回答物流问题时，只检索物流标签下的块，不会混入退货内容。实测误答率降了 40%。操作上，Dify 里导入文档时，在「元数据」栏填上标签，问答时在 Prompt 里加一句「仅检索标签为[物流]的内容」就行。

3. 混合检索比纯向量检索靠谱

纯向量检索对同义词、口语化表达效果好，但遇到精确数字、型号、订单号就抓瞎。比如你问「X100 的固件版本 2.3 支持蓝牙 5.2 吗」，向量检索可能匹配到「X100 固件」但漏掉「蓝牙 5.2」。解决办法：打开 Dify 的「混合检索」开关，同时跑向量检索和关键词 BM25 检索，然后合并结果重排。我测试过，混合检索在技术文档场景下，命中率比纯向量高 25% 左右。如果你用 RAGFlow，它自带混合检索，默认开启，省事。

4. Prompt 里强制要求引用来源

这是最容易被忽视的。不加这句，AI 可能自由发挥。我在系统 Prompt 里写死：「你必须基于提供的参考片段回答，如果参考片段不足以回答问题，直接说『资料不足』，不要编造。回答末尾列出引用的文档名和块编号。」为什么有效？因为大模型天生倾向于「圆谎」，你给它一个「不知道就说不知道」的出口，它反而更老实。我这边实践下来，编造率从 15% 降到 2% 以内。

5. 多轮对话要开「引用重写」

用户问第一句「保修多久」，AI 答了 12 个月。用户接着问「那电池呢」。如果不开引用重写，AI 可能不知道「那电池」指的是保修期内的电池，去检索了电池规格。Dify 有个「查询重写」功能，自动把用户当前问题结合历史对话改写成一个独立问题，比如「X100 的电池保修期是多久」。我实测，开了这个功能后，多轮对话的准确率从 68% 提升到 84%。

6. 知识库要定期「体检」

文档会更新，旧版本还占着坑。比如你 3 月更新了价格表，但 1 月的旧价格表还在库里，AI 检索时可能命中旧数据。我每周跑一次测试集，准备 20 个高频问题，逐条问，看答案是否准确。发现问题后，去知识库里删掉旧文档或标记为过期。Dify 支持文档版本管理，你可以保留历史版本但设为「不参与检索」。另外，每天新增的聊天记录如果含有效信息，比如用户问了一个文档里没有的新问题，我会手動把答案补进知识库，形成闭环。

7. 别只传 PDF，把网页和表格也丢进去

PDF 转文字经常乱码，尤其是扫描件。我处理过一个 200 页的产品手册，扫描版，OCR 之后错字率 8%，检索时一塌糊涂。后来改用网页版手册的 URL 导入，Dify 支持抓取网页内容，干净得多。表格数据别用 PDF，转成 CSV 或 Markdown 表格再导入，AI 对结构化数据的理解比图片好太多。价格表、参数对照表这类，用 CSV 导入，检索时直接给出行内容，准确率接近 100%。

8. 用「答案评分」反推知识库质量

搭建完不是结束。我在 Dify 里接了个简单的评分逻辑：每次 AI 回答后，让用户点「有帮助/没帮助」，把数据存下来。每周看一次，没帮助的问答里，抽 10 条分析原因。80% 的情况是知识库缺资料或文档过期，20% 是 Prompt 写得不清楚。这个反馈循环比任何优化技巧都管用。我自己的知识库跑了两个月，帮助率从 62% 涨到 88%。

工具选型：别迷信贵的，开源够用

我用的组合是 Dify（社区版，免费）+ DeepSeek-V3（API 按量计费，每百万 token 约 2 元）+ Qwen3-Embedding-0.6B（本地跑，免费）。整套成本：服务器用一台 2 核 4G 的轻量云，一年 300 块左右，加上 API 费用，每月总成本控制在 80 元内。如果你不想自己部署，用 FastGPT（开源，也有云版）或者腾讯云的知识引擎，后者的免费额度是 100 万 token，够个人玩一个月。

为什么不用 LangChain？它太底层，你得自己拼装组件，调试成本高。Dify 和 FastGPT 这类应用层工具，开箱即用，内置了检索、重排、引用管理。我最早用 LangChain 搭了一版，折腾两周，效果还不如 Dify 一天配出来的。工具复杂度低，你才有精力去调 Prompt 和清洗数据，这才是效果的关键。

另外，如果你处理的是大量英文资料，考虑用 Cohere 的 Rerank 模型做重排，它能提升检索排序质量，但每月有免费额度限制，个人用基本够了。国内用户连不上 Cohere 的话，用 BGE-Reranker 也行，效果差 5% 左右，但免费。

一个实战案例：客服知识库从 0 到 1

回到开头那个做跨境电子的朋友。我花了一个周末帮他搭完，流程是这样：他导出 300 条历史客服聊天记录，我把常见问题提炼成 50 个标准问答对，存成 CSV 导入知识库；再把他公司的产品手册 PDF 按章节切成 400 字左右的块，导入；最后在 Dify 里建了个客服机器人，挂到他的企业微信上。

第一天运行，机器人独立回答了 80% 的常见问题，剩下 20% 转人工。一周后，我看了数据：平均响应时间从人工的 15 分钟降到 3 秒，客户满意度反而升了 5 个百分点——因为机器人回答一致性好，不会像不同客服那样说法不一。成本上，原来两个客服轮班，现在一个就够，另一个转去做售后跟进。他每月省下的工资，够买 20 台轻量服务器。

有个细节：机器人回答末尾会附上「来源：产品手册第 3.2 节」，客户看到有出处，信任感明显增强。朋友说，以前人工客服也做不到每条回复都标出处，AI 反而更严谨。

💬 你在用什么AI工具？

老周我最近在 AI House 排行榜（aibunkhouse.com/rankings/）上逛，发现里面投票数据挺有意思，Dify 和 FastGPT 在知识库工具里排前两名，但票数差距不大，说明大家还在观望。你搭知识库用的是哪套方案？Dify 还是别的？或者你有更好的分块技巧？去排行榜上看看真实用户的评价，给你正在用的工具投一票，也看看别人踩了什么坑。投票不要钱，但能帮后来的人少走弯路。