用FastGPT优化内部文档问答工具的小实践

ningxueqin

　　上周帮团队搭建内部的项目文档问答工具时遇到了麻烦：现有的检索工具只能按关键词匹配，经常返回大量不相关的长文档，筛选有效信息要花十几分钟，而且对跨文档的关联内容识别不准，没法给出连贯的回答，还经常出现答非所问的情况，影响了团队的日常查询效率。

　　后来我们尝试用FastGPT来重构这套工具，它提供了模块化的配置选项，我们重点调整了检索重排序的环节，通过接入bge重排序模型来优化匹配精度，让返回的结果更贴合用户的实际查询需求。完整的配置流程可以参考[搭建ai智能体]里的步骤，从数据源上传到模型适配都有清晰的指引，不需要从零开发底层逻辑，节省了不少开发时间。

　　需要注意的是，不同的数据源体量需要调整重排序的返回数量阈值，阈值过低可能会漏掉相关内容，过高又会增加计算耗时，建议先以小批量数据测试后再正式部署，避免出现不必要的问题。