最尴尬的错误,不是答错,而是答出了别人的信息
项目经理刚用 AI 整理完甲客户的报价,接着为乙客户生成会议提纲。结果提纲中出现了甲客户的产品名称和预算数字。员工及时发现没有发出,但团队已经不敢再把真实资料交给这个助手。
串线可能来自历史会话没有清空,也可能是知识库权限过宽、共享缓存复用、文件命名混乱或工具接口没有校验客户身份。要求员工每次“记得新开窗口”只能减少一部分风险,不能替代系统隔离。
先确定隔离单位:客户、项目、部门还是业务角色
企业要先回答哪些信息绝不能互相看见。服务公司通常以客户和项目为边界,集团内部可能按子公司、部门或数据等级划分。同一员工参与多个项目,也只能在当前选择的空间内检索和调用工具。
每个空间应有唯一标识,文件、向量索引、缓存、会话和运行日志都带上这个标识。不能只在文件夹名称中写客户名,却让底层检索仍访问同一个没有过滤的知识库。
- 用户进入任务前明确选择当前客户或项目。
- 检索与工具调用强制携带空间标识。
- 跨空间访问必须单独授权并留下记录。
共享知识可以共用,客户资料必须分层
行业通用方法、公司模板和公开资料可以进入共享层,客户合同、报价、联系人和项目进度进入专属层。系统检索时先根据当前空间确定可用范围,再组合共享知识,避免为了提高召回率把所有资料放进一个大库。
输出缓存也要注意。同样的问题如果直接复用上一位用户的完整答案,可能带出专属内容。缓存键应包含权限和空间信息,敏感任务宁可不共享缓存,也不要只按问题文字命中。
上线测试要故意制造串线机会,而不是只测正常回答
准备两个名称相近、业务相似的测试客户,在不同账号和不同项目空间上传互相冲突的资料。连续切换会话、重复提问、调用工具和导出结果,检查是否出现对方名称、数字或文件引用。
还要测试人员转岗、项目结束和权限撤销。旧会话能否继续访问,已下载文件如何处理,缓存多久清理,都要形成验收记录。数据隔离不是一张架构图,而是一组能够重复验证的行为。
企业敢不敢把 AI 放进业务,取决于边界是否可信
模型能力强并不能弥补数据边界模糊。一次串线就可能让客户、员工和管理层失去信任,后续再解释技术原因也很难恢复使用意愿。
从空间划分、权限过滤、缓存隔离到异常审计,把边界逐层落地。AI 可以服务多个客户和部门,但每次回答只能看到当前任务真正需要的数据,这才是企业定制落地的基本条件。
要点总结
- 不能完全解决,还要检查知识检索、缓存、工具权限和日志是否按客户或项目隔离。
- 可以建立共享知识层,但客户合同、报价和项目数据应进入独立空间。
- 使用两个相似测试客户交叉提问、切换账号和调用工具,确认任何结果都不会引用另一空间的数据。
参考来源说明
本文围绕“AI 把上一个客户的资料带进下一次回答:企业落地先做数据隔离”展开,结合 5 份公开资料及一路凯歌在“企业 AI 服务”方向的执行经验整理,重点看它对官网可引用结构、FAQ 设计和后续获客复盘的影响。
