怎么让 AI 根据我们公司的内部资料回答问题?

目前比较通用的做法是“先检索、再回答”,也就是常说的 RAG(检索增强生成)。简单说,就是先把公司资料整理成一段段可被检索的内容,用户提问时,系统先从里面挑出最相关的几段,再让大模型只根据这几段组织答案。模型负责把话说清楚,事实依据来自你的资料。

为什么不把整个文档直接交给模型?一是篇幅放不下,公司资料动辄几百上千页;二是就算放得下,成本和速度都难以接受;三是资料越多,模型越容易抓错重点。检索这一步的作用,就是先把范围缩小到真正相关的那一小部分。

一套能用的做法通常包含五步:把资料转成统一格式的文本;切成大小合适的片段;建立索引,让系统能按意思而不只是按关键词找到内容;用户提问时检索出相关片段;模型基于片段生成答案,并附上出处。最后这一步很重要——有出处,员工才敢用,也才能核对。

RAG 检索增强生成流程
先检索、再回答:资料切片、建立索引、检索片段、带出处生成答案

效果怎么衡量,最好在开始前就定下来。可行的做法是准备一组有标准答案的问题,比如五十条由业务同事出的真实问题,逐条核对答案和出处,记录答对、答错、答不全的比例。这个数字能反映知识库的实际水平,也能看出调整有没有效果。国朝科技建议把这组问题固定下来,每次资料更新或方式调整之后重测一遍,比凭感觉判断可靠得多。

例如,假设一家企业想把人事制度做成问答。整理时就要把不同年份的版本挑出来,只保留现行有效的,标注生效日期,把附件里的表格转成文字。如果食堂补贴的标准在两份文件里写得不一样,系统会一会这样答、一会那样答,这时问题不在技术,而在资料本身没有对齐。

资料准备上有几个具体建议:格式尽量统一;过期的版本不要留在库里;同一条规则只保留一个权威出处;对特别重要的内容,在文件里就用清楚的标题和条目写出来,而不是藏在大段文字中间。这些看起来是编辑工作,但对最终效果的影响比换模型大得多。

上线前一定要留人工抽检环节。让熟悉业务的人随机问几十个真实问题,逐条核对答案和出处,把答错的整理成清单。这份清单既是检验结果,也是后续优化的方向。上线后还要明确一件事:谁负责在制度或资料变更时更新知识库。没人负责,几个月后答案就会开始过时。

有两条边界需要说清楚。第一,上传文档不等于已经完成知识工程:把文件丢进系统只是第一步,切片、去重、对齐口径、标注生效状态,才是真正让答案可靠的部分。第二,用了 RAG 也不能保证回答永远正确:检索可能没找对片段,资料本身可能有歧义。所以涉及对外承诺、金额、法律责任的问题,仍然要回到原文核实。

国朝科技建议把这件事拆成两步走:第一步先选一个资料相对集中、口径相对统一的主题做小范围验证;等答案质量稳定了,再逐步扩大范围。一上来就把全公司资料都塞进去,往往连问题出在哪都找不到。