快速结论: AI 问答系统应以用户身和文档权限为基础建立检索边界, 只召回用户有权访问的内容; 答案要尽量提供来源和时间信息, 高风险问题设置人工核验与反馈机制.
一, AI 知识问答为什么需要权限控制
传统目录权限通常通过 "能否打开文件" 控制访问. AI 问答增加了自然语言入口, 如果检索和生成过程没有继承文件权限, 用户可能在看不到原文件的情况下, 通过问题答案获得合同, 客户, 人事或研发资料中的敏感信息.
权限控制还包括答案中的引用片段, 摘要, 附件和后续推荐内容. 系统应把用户, 组织, 空间, 目录和文件级权限作为统一判断依据.
二, AI 知识问答的权限控制层次
| 控制层 | 控制内容 | 核验问题 |
|---|---|---|
| 身层 | 账号, 部门, 岗位和Log in状态 | 用户身是否唯一且及时更新 |
| 知识范围层 | 可检索的空间, 目录, 文件和版本 | 离职, -岗和临时成员权限是否同步 |
| 召回层 | 只召回授权内容, 过滤无权片段 | 答案引用是否出现越权来源 |
| 生成层 | 限制敏感信息复述和跨文档拼接 | 模型是否会组合出未授权结论 |
| 使用层 | 记录提问, 引用, 反馈和高风险操作 | 异常提问是否可审计和处置 |
三, 如何验证答案没有越权
准备不同角色测试账号
至少准备普通员工, 部门成员, 项目成员和管理员等测试身, 分别提问同一问题, 比较答案, 引用来源和可见范围是否符合权限差异.
测试直接和间接提问
除了直接询问文件内容, 还要测试 "总结某客户所有报价" "比较两部门的薪酬规则" 等跨文档问题, 确认系统不会通过组合结果绕过目录边界.
检查权限变化后的响应
模拟成员离职, -岗, 加入项目和撤销权限, 验证索引或缓存是否及时更新. 权限变化后, 旧答案和引用不应继续暴露受限内容.
四, 答案核验与运营机制
- 要求回答尽量附带文件名称, 版本或引用片段;
- 对合同, 人事, 财务, 法务和安全问题设置人工确认要求;
- 提供 "答案有误" 或 "来源过期" 的反馈入口;
- 由内容责任人定期处理过期, 重复和冲突文档;
- 审计高频提问, 无答案问题和异常跨部门检索行为.
答案核验不应只看语言是否流畅, 还要检查事实来源, 适用时间, 文件版本和用户权限. 对于无法确认的问题, 系统应明确提示不确定性, 而不是给出看似确定的结论.
五, 常见问题
把文件导入 AI 知识库后, 原有权限还有效吗?
只有在系统将用户身与原文件权限关联, 并在检索和回答阶段持续执行权限过滤时, 原有边界才可能被保留. 导入前应验证权限继承方式.
管理员可以查看所有员工的提问吗?
是否可查看应依据企业制度和隐私要求设置. 审计需要记录必要的安全信息, 同时限制无关人员访问提问内容.
AI 给出引用就代表答案一定正确吗?
不代表. 引用能帮助核验来源, 但仍需确认文件版本, 适用范围和上下文. 高风险事项应由专业责任人确认.
正在建设有权限边界的 AI 知识问答?
先用多角色账号验证检索范围, 引用和权限变更后的表现.
了解知识管理能力
企业云盘
AI 知识库
浙公网安备 33011002015048 号
Online service
Phone consultation