网络安全 
员工纷纷使用人工智能 (AI) 工具来提升工作效率，
想象一下，贵公司的客服代表将敏感的客户数据上传到 AI 工具中，以便更快地起草电子邮件。 当员工未经 IT 批准使用 AI 工具时，这被称为影子 AI，这种情况正变得越来越普遍。 根据 Microsoft《2024 年工作趋势指数》，在工作中使用 AI 的员工中，有 78% 表示其使用的工具尚未获得组织正式批准。 尽管安全团队已制定了应对传统影子 IT 的策略，但影子 AI 带来了新的风险，需要采用更现代的方法加以应对。 影子 IT 和影子 AI 之间的主要区别在于，影子 AI 不仅可以传输和存储敏感数据，还会主动处理并保留这些数据。
继续阅读，了解有关影子 IT、影子 AI 以及如何有效检测和管理影子 AI 的更多信息。
什么是影子 IT？
影子 IT 是指员工在 IT 部门不知情或未批准的情况下使用的任何软件或云服务。 这可能包括使用个人电子邮件账户共享工作文件、安装未经授权的浏览器扩展程序或将个人设备连接到公司网络。 由于这些操作绕过了正式审批流程，因此在使用前未经安全团队审查。 尽管影子 IT 主要是出于提高工作效率而非恶意目的，但它可能带来多种安全风险：
- 可见性有限：如果 IT 团队不了解未经授权的应用程序，就无法监测使用情况或保护公司数据。 这些应用程序中的任何安全漏洞都可能成为入侵网络的隐藏入口点。
- 违规行为：未经授权的软件很少能满足 GDPR 或 HIPAA 等法规的数据处理标准。 如果数据处理不当，组织可能面临严重的处罚和罚款。
- 攻击面扩大：每一个未经批准的应用程序都可能成为网络犯罪分子的潜在攻击途径。 随着影子 IT 的不断发展，尤其是在云环境中，保障组织的安全边界变得更加困难。
什么是影子 AI？
影子 AI 指的是在 IT 部门不知情或未批准的情况下使用 AI 工具或应用程序。 常见的例子包括员工使用生成式 AI 起草包含机密数据的内部通信，或者开发人员使用个人账户通过 AI 工具运行代码。 影子 AI 之所以特别具有挑战性，是因为员工并不总是有意绕过安全措施。 许多现代应用程序默认嵌入了 AI 功能，因此员工可能根本没有意识到他们正在使用 AI。
影子 AI 带来的风险超出了许多组织所能应对的范围：
- 无法追踪的数据泄露：当员工通过个人账户使用 AI 工具时，组织通常无法访问交互日志，即使是在提供企业级日志记录的平台上也是如此。 至于输入了哪些数据、如何处理或是否保留了这些数据，都没有审计跟踪。
- 身份安全影响：随着自主 AI 智能体的兴起，影子 AI 带来了传统安全模型未曾设计应对的新安全风险。 当员工在外部 AI 平台上创建账户时，组织将失去对这些身份如何访问敏感数据的控制权。
影子 IT 与影子 AI 的主要区别
影子 IT 和影子 AI 的根本原因相同，都是员工采用工具来提高工作效率，但它们在引入风险的方式上有所不同。
数据处理与共享
在影子 IT 中，数据通常遵循结构化流程，例如文件上传或文档共享。 这些操作会创建可预测的模式，安全工具可以检测到这些模式。 而影子 AI 则通过非结构化的对话输入来运作。 员工在提示中输入敏感数据，这些提示经过实时处理并通过标准 HTTPS 流量传输，因此很难将这种流量与正常活动区分开来。
可见性与可审计性
影子 IT 活动通常通过应用程序使用、文件传输或网络监测生成审计跟踪，以便安全团队能够调查安全事件。 相比之下，影子 AI 通常缺乏集中可见性，因为许多 AI 平台不为组织提供详细的交互日志。 当员工使用外部 AI 工具，尤其是通过个人账户使用时，组织可能只能有限地访问或无法访问交互数据，从而难以确定信息的使用或存储方式。
数据保留风险
影子 IT 带来了未经授权的数据存储风险，敏感数据最终存储在批准系统之外的可识别位置。 影子 AI 带来了另一种风险。 在消费级 AI 平台上，输入到提示中的数据可能会默认用于训练未来的模型，尽管大多数企业级平台都会禁用此功能。 当员工在消费级工具上使用个人账户时，绕过了企业许可提供的数据保护，风险最高。
| Shadow IT | Shadow AI | |
|---|---|---|
| Scope | Any unauthorized software or cloud service | Unauthorized AI tools, models and applications |
| Data processing | Structured transfers and uploads | Unstructured, conversational inputs via natural language prompts |
Detection |
Detectable through DLP and network monitoring tools | Mainly invisible to traditional DLP tools since it appears as normal HTTPS traffic |
| Auditability | Typically available through network analysis and logs | Limited, if any; none if employees use personal accounts to access AI tools |
| Data retention risk | No equivalent risk | Sensitive data may be used to train third-party AI models |
| Level of autonomy | Tools require human action | AI agents can act autonomously across multiple systems on behalf of users |
| Governance | More established policies | Largely ungoverned |
如何检测和管理影子 AI
由于影子 AI 会以难以察觉的方式暴露敏感数据，因此企业必须采取积极主动的方法进行管理。 用于管理影子 IT 的传统工具无法解决员工将敏感数据输入到 AI 平台或允许 AI 访问内部系统相关的相同风险。 虽然许多组织倾向于全面禁止 AI 工具，但这往往适得其反，因为这会促使员工在无人监管的情况下寻找未经批准的工具。 组织应通过以下方式专注于治理：
- 制定 AI 可接受使用策略：制定明确的指导方针，明确哪些 AI 工具可批准使用，可共享的数据范围以及滥用行为的后果。
- 构建内部 AI 应用目录：为员工提供经过审核的 AI 工具清单，避免他们使用未经批准且可能存在风险的替代方案。
- 部署企业级 AI 解决方案：与消费级 AI 工具相比，企业 AI 解决方案可以更好地控制数据处理和存储。
- 定期进行 AI 合规性审计：监测正在使用的 AI 工具，识别新出现的安全风险。
- 对员工进行 AI 使用培训：持续的教育可培养员工的组织意识，而员工仅通过阅读策略可能无法充分理解。 开展积极培训计划的组织有助于员工了解如何安全地使用 AI。
掌控影子 AI
影子 AI 传播迅速，通过难以监测的渠道运作，并带来了传统安全工具无法捕获的风险。 要对其进行有效管理，就必须了解所有与 AI 系统进行交互的身份（人类和机器）及其访问的数据。 随着 AI 智能体嵌入企业工作流程，它们依赖的机器身份（即 API 密钥、服务账户令牌和基础设施机密）需要与人类用户账户相同的治理。 权限过大且没有审计跟踪的 AI 智能体是最危险的影子 AI 风险。
通过像 Keeper® 这样的零信任特权访问管理 (PAM) 解决方案，组织可以获得对用户、系统和身份的集中可见性和控制。 无论风险来自未经授权的应用程序还是未经批准的 AI 使用，Keeper 都能帮助确保所有访问都受到严密监测和保护。
立即开始免费试用 KeeperPAM，确保环境中的所有身份都得到妥善管理。
