
很多新手做智能体时最常犯的一个错误,就是把几万字的产品说明书直接扔进系统提示词(Prompt)里。结果模型要么直接报超长错误,要么记住了前头忘了后头,回答问题依旧满嘴跑火车。
大模型本身并不具备你的私有业务记忆。要让智能体准确回答你的专业问题,正确做法是在 COZE(扣子) 里搭建一个结构化的知识库。知识库的底层原理叫检索增强生成(RAG)。简单来说,就是把你的文档切成许多小块,存入数据库。当用户提问时,系统先去数据库里找出最相关的几句话,再把这几句话和用户的问题一起交给大模型。大模型照着这几句话组织语言,答案自然就不会出错。
我在实际帮团队搭建售前咨询助手、内部 SOP 问答助理时发现,知识库搭建的质量,百分之八十取决于你上传前的数据清洗和分段设置。下面把完整的实操步骤、核心参数调优以及踩坑记录完整写出来。
第一步:准备数据,不要直接上传原始文档
很多人把带有复杂页眉页脚、扫描图片或者复杂嵌套表格的 PDF 文件直接往 COZE 里传。这是检索失败率最高的操作。因为系统在解析 PDF 时,很容易丢失标题层级,甚至把表格文本错位拆碎。
先看下面这张常见文档格式在知识库中的表现对比:
| 数据格式 | 解析准确度 | 维护成本 | 适用场景 | 关键处理建议 |
|---|---|---|---|---|
| Markdown (.md) | 最高 | 低 | 规章制度、产品操作手册、技术文档 | 用 `#` 和 `##` 标明层级,语义块最清晰 |
| 纯文本 (.txt) | 高 | 低 | 结构简单的问答对、短备忘录 | 段落之间空一行,避免无换行长篇大论 |
| 表格 (.xlsx / .csv) | 中等偏上 | 中 | 价格表、员工通讯录、产品规格参数对比 | 每一行数据必须包含完整的表头主键信息 |
| Word (.docx) | 中 | 中 | 普通图文说明书 | 上传前删掉所有页眉、页脚及复杂分栏 |
| PDF (.pdf) | 较差 | 高 | 仅在只有扫描件或固定格式时使用 | 尽量先用本地工具转为纯文本或 Markdown |
处理文本的黄金准则是:保证每一个独立分块都能自解释。
比如你在说明书里写:“第 3 条:违规者罚款两百元。”大模型单独检索到这句话时,根本不知道主体是谁。你必须改成:“【销售部考勤规定】员工未按时打卡且未补卡,违规者罚款两百元。”这样切片被单独调出时,模型才能看懂上下文。
第二步:在 COZE 创建知识库与选择分段规则
进入 COZE 工作空间,在左侧导航栏点击“知识库”,选择“创建知识库”。
目前 COZE 支持文本知识库、表格知识库和照片知识库。做问答助手,选 文本知识库。数据源选择“上传本地文件”,把整理好的 Markdown 或 TXT 文档拖进去。
接下来进入最核心的步骤:分段设置(Chunking)。COZE 提供了两种分片方式,选哪种直接决定了召回的精准度。
| 分块方案 | 分块逻辑 | 优点 | 缺点 | 适用情况 |
|---|---|---|---|---|
| 自动分段 | 系统根据固定字符数和标点自动截断 | 省事,点一下就能完成处理 | 容易把完整的一句话切成两半,破坏语境 | 文字段落长度均匀、内容关联度低的泛读材料 |
| 自定义分段 | 按照指定的分隔符或固定最大长度切分 | 语义边界完全受控,检索命中率最高 | 需要在上传前人工添加标记符号 | 常见问答(FAQ)、合同条款、专业操作规程 |
实操建议:优先选择“自定义分段”。
在整理文档时,统一在每个问答对或章节末尾加上特定符号,例如连续三个短横线 `—` 或 `###`。在 COZE 的自定义设置中,将分段标识符设为你指定的符号,最大分段长度建议设置为 600 到 800 字符,重叠字符(Overlap)设为 100 字符。设置重叠字符的作用,是防止重要内容正好卡在切割点上导致语义断裂。
第三步:挂载知识库并配置检索参数
知识库建好后,需要把它装进智能体中。
在 COZE 的智能体编排页面,中间栏找到“知识”模块,点击加号,勾选刚才创建的知识库。添加完成后,点击知识库右侧的齿轮图标,进行 检索与召回配置。这里有三个核心参数必须手动调整:
1.调用方式:选“自动调用”还是“按需调用”?
•如果你的智能体定位是纯粹的专项知识库助手(例如“公司报销制度问答机”),必须选择“自动调用”。这样每一轮用户输入,系统都会先查库,不会因为大模型偷懒漏掉资料。
•如果智能体兼顾闲聊、写文案等多种功能,选择“按需调用”,并在提示词中明确写清楚调用条件。
2.召回片段数量(Top K):推荐设置为 3 到 5 条。
•设为 1 到 2 条,容易丢失补充信息,导致回答不全。
•设为 6 条以上,会把大量相关度较低的噪音文字塞进大模型上下文,不仅减慢回复速度,还容易导致大模型抓不住重点。
3.最小匹配度阈值(Score):建议设为 0.5 到 0.6。
•默认数值如果是 0.5,通常比较均衡。如果你的业务对准确率要求极高(比如法律法规查询),可以调高到 0.65,过滤掉模棱两可的内容。但千万不要设置超过 0.8,否则稍微换个问法系统就判定为无相关内容。
第四步:编写防胡说的提示词(Prompt)
光有知识库还不够。如果大模型本身的权限太高,它在知识库查不到东西时,就会开始调用底层通用常识自己编造。
需要在智能体左侧的“人设与回复逻辑”中加入严格的约束指令。可以直接参考这段逻辑:
# 角色
你是一个专业的公司内部制度咨询助手。
# 任务规则
1. 优先根据知识库召回的内容回答用户问题。
2. 回答内容必须严格基于知识库事实,禁止推测、臆造不存在的条款。
3. 如果知识库中没有与用户问题相关的记录,直接回复:“抱歉,当前知识库中未收录该内容,请联系行政部核对。”禁止使用外部通用知识随意编造答案。
4. 回答风格保持客观、简练,直接输出解决步骤,不要说客套话。
加了“知识库没有就明说”的限制之后,智能体的真实性和可靠性会得到明显改善。
第五步:测试、查漏与调优
完成上述配置后,不要急着发布。在右侧的预览调试窗口里做三轮测试:
先做 原话测试。用文档里的原句提问,检查系统能否百分之百召回并正确作答。
再做 同义改写测试。比如文档里写的是“差旅交通补贴报销标准”,测试时输入“出差坐车怎么给报销”。如果这一步答不上来,说明你设置的 最小匹配度过高,或者分块时 缺少业务关键词,需要回知识库给对应片段加上别名。
最后做 越界负向测试。故意问一个知识库里绝对没有的问题,观察智能体是否能老老实实说“不知道”,而不是开始瞎编。
日常维护时,如果发现某条回答不准,直接在 COZE 知识库管理页面点击搜索测试,输入该问题,看系统到底排查出了哪几个切片。如果切出来的文字牛头不对马嘴,直接在后台编辑修改那个分块,改完立即生效,不需要重新训练整个模型。按照这个路径搭建,零基础也能在半小时内做出一台回答精准的专属业务助手。
原创文章,作者:七点互动,如若转载,请注明出处:https://ai.qidianhudong.com/aiyy/4252.html