- 先选择高频、可验证、风险可控的任务。
- 检索质量和知识治理通常比模型参数更影响结果。
- 每个 AI 动作都要有权限、引用、反馈和人工兜底。
企业 AI 项目的价值不在于增加一个聊天窗口，而在于让模型能够在权限范围内理解企业知识、调用业务工具，并对结果负责。没有知识治理和流程边界的应用，很容易产生回答不稳定、信息泄露和无法验收的问题。
本案例从智能客服、知识问答和学习助手等界面出发，说明企业 AI 工作台应如何连接数据、模型与真实任务。
企业应该从哪些 AI 场景开始？
优先场景通常具有资料分散、重复查询多、输出格式明确和人工校验容易等特点，例如制度问答、客服辅助、投标资料检索、会议摘要和工单分类。
不应一开始就让模型独立执行高风险决策。可以先让 AI 提供建议、草稿和引用，由员工确认后再进入业务系统。
企业知识库为什么需要治理？
文档上传并不等于知识可用。需要处理版本、有效期、来源、负责人、权限、重复内容和扫描质量。切分策略还应考虑标题层级、表格、附件与跨段语义。
回答必须展示引用片段和原文链接，让用户能够判断依据。过期或冲突内容应触发提示，而不是由模型自行选择一个看似合理的答案。
- 内容来源与有效期
- 角色和部门权限
- 文档解析与切分
- 引用与追溯
- 更新和删除机制
RAG 检索和模型回答如何评估？
评估应拆分为检索是否找到正确材料、回答是否基于材料、格式是否符合要求和风险内容是否被拦截。只用主观“看起来不错”无法支持持续优化。
可以建立真实问题集，覆盖正常问题、模糊问题、无答案问题、越权问题和对抗输入，并记录命中率、引用准确率、拒答准确率和人工采纳率。
AI 如何安全地连接业务流程？
模型调用 CRM、工单、日程或 ERP 时，需要使用明确工具接口，而不是直接访问数据库。每个工具要限制参数、权限和可执行范围，高风险动作应要求二次确认。
系统应保存提示、引用、模型版本、工具调用和最终结果，支持问题追踪。敏感数据还需要脱敏、隔离和保留期限管理。
企业 AI 应用怎样持续运营？
上线后需要观察问题分布、无答案率、引用点击、用户反馈、人工转接和成本。高频无答案问题可以推动知识补充，而不是只调整提示词。
模型和知识都会变化，因此应建立版本发布、离线评估、灰度验证和回滚机制。真正可用的企业 AI 是一套持续运营系统，而不是一次模型接入。
本文基于寻光数字科技的产品能力与典型业务场景整理，用于介绍解决问题的方法，不涉及未公开客户数据。
常见问题
企业知识库必须私有化部署吗？
不一定。应根据数据敏感度、合规要求、并发规模和运维能力选择公有云、专有实例或私有化方案。
更换更强模型能解决知识问答不准确吗？
不一定。文档质量、切分、检索、权限和提示结构都会影响结果，通常需要先定位错误发生在检索还是生成阶段。
如何防止 AI 泄露内部信息？
需要在检索和工具调用前执行身份与权限过滤，并结合敏感信息识别、输出审查、日志审计和最小权限原则。