适合哪些对象?
- 拥有大量内部文档、制度或技术知识库的组织
- 希望快速、一致地回答员工或客户常见问题的团队
- 苦恼于通用聊天机器人不了解公司特定信息的人
工作方式
以下步骤为通用框架;范围和周期会根据每个组织进行调整。
确定数据来源
我们确定将使用哪些 PDF、电子邮件、数据库和文档系统,以及适用谁的访问权限。
架构设计
我们设计数据如何拆分、索引、检索并传递给模型,同时考虑访问权限和隐私要求。
原型与评估
我们在由您真实问题组成的测试集上衡量回答准确性和来源引用情况,并据此改进架构。
上线与监控
我们通过用户反馈和质量指标监控系统,并在数据变化时更新索引。
交付成果
- 以您的数据为依据并注明来源的助手设计
- 评估测试集和质量报告
- 遵循访问权限的数据与安全架构
- 运维与更新指南
常见问题
RAG 能完全防止幻觉吗?
不能。以您的资料为依据作答可以降低幻觉风险,但无法消除。因此我们会设置来源引用、让助手在不知道时明确说明,并定期进行评估测试。
我们的数据会发送给模型并流出组织吗?
这取决于架构。使用企业级 API 时,可能只会把与问题相关的文档片段发送给模型;如果隐私要求很高,模型可以在您的组织内部运行(本地部署)。无论哪种情况,我们都会记录数据流。