AI 治理如何降低安全风险

AI 治理通过强制执行最低特权访问、保护 AI 系统处理的数据与凭据，并确保所有 AI 操作均可审计，从而降低安全风险。 这很重要，因为大多数组织部署 AI 的速度已超出其治理能力。 员工使用未经授权的工具，并以现有用户身份创建自主 AI 智能体。 每增加一个不受监控的机器身份，就会扩大攻击面——而这正是治理所要弥补的漏洞。

继续阅读，了解有关什么是 AI 治理、其有助于降低的风险，以及 Keeper^® 如何助力治理 AI 智能体并保护其所依赖的凭据、访问权限和数据的更多信息。

什么是 AI 治理？

AI 治理是指规范整个组织内如何部署、访问和监控 AI 系统的一系列策略、流程和控制措施。 它通过强制执行最低特权访问，并使每个 AI 操作透明且可追溯，从而降低安全风险。 在实践中，这意味着要确切了解正在运行哪些 AI、它可以访问哪些内容以及它执行的操作。

强有力的 AI 治理依托于五大支柱：

AI 治理有助于降低的风险

若缺乏治理，组织所采用的每一个 AI 工具和智能体都会成为安全盲点。 治理通过让安全团队了解和控制 AI 的使用方式、访问权限和行为方式来降低这种风险。 它主要针对以下风险。

影子 AI

影子 AI 是指使用未经组织批准或不知情的 AI 工具。 当员工为了提高效率而将敏感信息粘贴至未经许可的聊天机器人或代码助手时，没人掌握正在使用的工具清单，没有关于可以共享哪些数据的策略，也无法了解这些模型如何保留和重复使用这些输入内容。影子 AI 正在制造一场失控的身份危机，但治理可以通过在 AI 接触敏感数据之前要求进行发现与制定策略来降低风险。

常设访问权限

AI 智能体和账户无论是否主动使用，都会积累常设访问权限。 在任何环境中，长设访问权限都是最大的安全风险之一，因为任何残留的凭据都可能被网络犯罪分子利用。 AI 加剧了这一问题，因为 AI 智能体可以迅速启动，并被授予广泛的访问权限以完成任务，但事后却很少受到审查或撤销。 常设访问权限越多，攻击面就越大，因此，一旦任何身份遭到泄露，影响范围也会越大。 AI 治理通过致力于实现 ZSP 来降低这一风险，其中任何身份都不拥有永久访问权限。 相反，身份会被授予针对特定任务的临时访问权限，一旦任务完成，该访问权限就会自动撤销。

数据泄露

AI 系统的安全性取决于流经其中的数据的安全性。 输入到提示框中的信息不会在模型做出响应后就消失。 根据提供商和套餐的不同，它可以被记录、保留或用于训练模型，在某些情况下，它还会出现在其他用户的输出中。 治理通过控制 AI 系统可以访问和摄取哪些数据来降低这种风险。

凭据和机密暴露

AI 脚本、管道和应用程序需要 API 密钥、令牌和密码等凭据才能运行。 这些机密信息经常被直接硬编码到代码或配置中，它们可能会通过存储库、日志或漏洞泄露，进而被网络犯罪分子重新利用。 治理通过要求以安全的方式存储、管理和注入机密，而不是将其嵌入到任何人都能找到这些机密的地方，从而降低该风险。

NHI 蔓延

NHI 是机器身份。包括 AI 智能体、服务帐户和机器人，能够自行进行身份验证并采取行动。 AI 加速了 NHI 的增长，现在机器身份的数量已是人类用户的数倍。 然而，它们很少受到同样严格的治理，从而造成了无人审查或轮换常设访问权限和静态凭据的情况。 治理通过将人类账户拥有的相同访问控制、所有权与生命周期管理扩展至 NHI 来弥补这一差距。

提示注入

在提示注入攻击中，网络犯罪分子精心设计恶意输入来劫持 AI 模型的行为，覆盖其指令以泄露数据、执行高风险操作或绕过安全控制。 最低特权访问可以限制损害；被劫持的 AI 智能体只能访问其获得严格授权的内容。 监控 AI 活动的组织可以在注入引发的异常行为扩散之前检测到该行为。

Keeper 如何帮助治理智能体 AI

只有当团队在接触 AI 的每一个身份上都强制执行 AI 治理时，才能降低风险。 Keeper 通过单一平台提供这种治理。

对所有端点上的智能体 AI 进行治理

AI 编码助手和自主 AI 智能体以启动它们的用户的身份运行，这意味着它们会继承该用户的特权，能够读取敏感文件、运行特权命令或访问外部服务。Keeper 端点特权管理器 (Keeper EPM) 对这些智能体的管理方式与对具有特权访问权限的人类用户的管理方式相同。 Keeper EPM 可以识别哪些智能体正在端点上运行，决定是否允许指定的智能体运行，并通过独立于用户自身权限评估每个请求，来限制正在运行的智能体可以执行的操作。 智能体无法静默继承过度的特权，也不能不受监督地执行操作——每项敏感操作都会被允许、拒绝或留待审批。

适用于 NHI 的安全机密管理

AI 运行所需的凭据通常最终会被硬编码到脚本、管道和应用程序中，导致这些凭据暴露并可能被网络犯罪分子重复使用。Keeper Secrets Manager 通过将凭据存储在加密保管库中，并在运行时安全地注入凭据，从而消除硬编码凭据。 它专为机器身份和服务账户构建，为其提供受控访问权限，而非无人监控的常设机密。 Keeper Secrets Manager 还通过模型上下文协议 (MCP) 与 AI 智能体工作流集成，使智能体能够按需检索所需的机密，而不是将其存储在本地。

强制执行最低特权和即时 (JIT) 访问

常设特权可以将一个被攻破的 AI 智能体演变成重大安全事件。KeeperPAM^® 在特权账户以及 AI 涉及的系统中实施零常设特权 (ZSP) 和 JIT 访问，因此仅针对特定任务授予访问权限，并在任务完成时立即将其撤销。 自动凭据轮换与发现可确保其持续处于受控状态。 通过消除常驻访问权限，Keeper 可以将过度授权的访问权限以及任何受损账户的 AI 影响范围降至最低，从而减少网络犯罪分子可以利用的资源。

实施零知识加密

保护 AI 处理的数据，首先要确保只有授权用户才能读取这些数据。 Keeper 的零知识架构意味着加密和解密仅在用户设备上进行；无论是在静态还是传输过程中，Keeper 永远都不会看到这些数据。 诸如基于 HSM 的静态加密等纵深防御 (DiD) 层可进一步保护存储的数据。 这能大幅降低数据泄露和未经授权访问的风险，因为 AI 系统和凭据所依赖的敏感信息始终处于加密状态，且仅供授权用户读取。

检测并监控 AI 威胁

即使拥有细粒度访问控制，团队也需要了解何时出现了异常行为。KeeperAI^® 将跨特权活动的 AI 驱动威胁检测、异常检测和会话见解与风险等级分类结合起来，让团队能够专注于最重要的事务。 Keeper 不会让恶意或可疑行为在造成损害后才被发现，而是实时将其呈现，并将其转化为安全团队可以立即采取行动的警报。

支持审计、报告与合规

AI 治理取决于能否证明 AI 工具和账户的行为。 Keeper 的 高级报告和警报模块 (ARAM) 提供详细的事件日志记录、自定义报告、可配置警报和 SIEM 集成，使团队能够对每一项 AI 操作和特权操作进行全面追责。 Keeper 还拥有广泛的合规覆盖：

• SOC 2 Type 2
• ISO 27001
• FedRAMP High 认证
• GovRAMP High 授权
• FIPS 140-3
• HIPAA
• GDPR

借助 Keeper，安全团队不仅能弥补审计漏洞，还可以与日益定义负责任的 AI 使用的框架保持一致，例如 NIST AI RMF 和《欧盟 AI 法案》。

立即使用 Keeper 保护 AI 访问

AI 治理将 AI 安全风险从不受管理的状态转变为受控状态。 对每个人类与机器身份实施最低特权访问，保护 AI 所依赖的凭据、机密和数据，并通过提供对 AI 在各环境中运行方式的可见性与控制的治理机制，确保所有 AI 操作均可审计。 Keeper 将智能体 AI 治理、机密管理、特权访问和全面的可审计性整合到同一个平台中，因此您无需拼凑多个工具即可治理 AI。

立即免费试用 KeeperPAM，掌控在您的环境中运行的 AI。