公司里有多少个 AI 在跑,没人说得清:治理从盘点开始

公司里有多少个 AI 在跑,没人说得清:治理从盘点开始

一、三重困境,一重比一重具体

困境表现后果
不知道有多少 AI 在用公网 AI、采购应用、自研助手、桌面 Agent、部门私搭工具同时存在;有的审批过、有的没报备、有的已接内部数据、有的暴露在公网风险评估、权限管理、安全审计都无从谈起
不同类型不能用同一套方法公网 AI 的问题是敏感数据外发;内部 AI 的问题是权限边界;Agent 的问题是执行动作用一把尺子量,处处漏
看见风险也不知道从哪开始资产、身份、数据、工具链,样样都要改停在"知道有问题"这一步

把 AI 从聊天工具变成业务链路的一部分后,安全问题就从内容风险,延伸到数据、资产、身份、权限和实际执行动作——范围一下扩大了五倍。

二、按类型分开治,才是正解

公网 AI 管"数据出不出得去",内部 AI 管"权限给到哪",Agent 管"动作落没落地"。三件事,三套办法。
  • 公网 AI:核心是敏感数据外发与未授权使用。手段是入口收敛、上传内容识别、明确可用清单。
  • 内部 AI / 私搭应用:核心是资产暴露与越权访问。手段是影子 AI 发现、把可控应用纳入安全围栏。
  • Agent:核心是它能调用什么工具、拿到什么权限、做过的动作能不能还原。手段是独立身份、工具白名单、高风险操作二次确认、全链路审计。

三、0–90 天路线图

阶段目标关键动作
0–30 天看清风险AI 资产盘点:有哪些 AI 在用、接触了什么数据、暴露在哪
30–90 天建立控制影子 AI 发现、安全围栏、数据处理规则、Agent 权限收口
90 天后持续运营按覆盖率、风险面、处置效率、业务体验四个指标评估

这套顺序的道理在于:不知道资产在哪,后面所有动作都是猜。很多企业跳过第一步直接买产品,结果买了一堆管不住东西的盒子。

四、普通员工该知道的边界

  • 客户资料、合同、源代码,别贴进公网对话框。这是最常见也最贵的一次失误。
  • 别私搭对外的 AI 应用。自己试用的接口一旦开在公网,暴露的不只是模型,还有你的内网结构。
  • Agent 给的权限越小越好。它能读的文件、能调的工具,按任务给,用完就收。

五、一句话收束

AI 治理不是"禁止使用",而是"知道它在哪、能碰什么、做过什么"。这三件事做到了,效率和安全就不冲突。