What is an AI Agent?
- IAM 词汇表
- What is an AI Agent?
AI 智能体是一种非人类身份 (NHI)，能够感知或接收有关其环境的信号，做出决策并采取行动（通常通过工具或集成），以实现特定目标。它使用人工智能 (AI) 技术，包括大型语言模型 (LLM)、机器学习模型和基于规则的逻辑，来分析数据、确定下一步行动，并在不同程度的人工干预下完成任务。与主要根据提示生成响应的独立、单轮 AI 模型不同，AI 智能体以目标为导向，以行动为驱动，它们可以通过保持状态、使用工具和适应新环境来进行多步操作。
AI 智能体、聊天机器人与生成式 AI
虽然 AI 智能体、聊天机器人和生成式 AI 经常被互换使用，但它们在功能和自主程度上有所不同。AI 智能体旨在做出决策并采取行动以实现特定目标，通常与外部系统集成以执行工作流程。聊天机器人主要根据提示进行对话，但有些现代聊天机器人可以执行有限的预定义操作。生成式 AI 侧重于根据学习到的模式创建新颖的输出（例如文本、代码、图像或结构化数据），可用于自动化系统，但其本身并不一定会规划或执行现实世界中的操作。它们的主要区别如下：
| 功能 | AI 智能体 | 聊天机器人 | 生成式 AI |
|---|---|---|---|
| 功能 | 通过决策和自主行动实现目标 | 主要进行对话并回答询问 | 根据提示生成内容 |
| 自主级别 | 能够在尽量减少人力投入的情况下计划和执行任务 | 根据用户输入作出反应 | 根据提示生成输出（自主性取决于集成方式） |
| 采取行动的能力 | 可以执行工作流程并调用 API | 有些可以执行预定义操作 | 它通常会生成输出；只有连接到工具或系统时才会“采取行动” |
AI 智能体的工作原理
AI 智能体在感知、决策和行动的重复循环中发挥作用。尽管 AI 智能体背后的技术可能有所不同，但大多数都遵循类似的工作流程：
接收指令、提示或目标：AI 智能体由用户请求、预定义目标或来自系统的事件驱动触发。
收集上下文：在完成任务之前，AI 智能体会收集相关数据，例如用户输入、数据库记录或 API 响应。有些智能体会保留短期或长期记忆，以参考过去的经验或之前的互动。
做出决策：AI 智能体会利用机器学习模型、LLM 或基于规则的逻辑来评估可行的操作，权衡潜在结果，并确定最佳的下一步操作。
计划和执行行动：对于复杂的目标，AI 智能体会制定一系列行动，例如更新文件或系统，以实现目标。
可以评估结果：一些先进的智能体能够评估其操作是否达到了预期的结果，然后相应地调整其未来的行动。
五种主要的 AI 智能体类型
根据 AI 智能体做出决策和与环境互动的方式，可将其分为五种主要类型。
1. 简单反射型智能体
简单反射型智能体是最基本的 AI 智能体类型，它们根据预定义规则对特定输入做出响应。这些智能体不保留记忆，也不考虑更广泛的上下文，因此非常适合可预测的环境，但在复杂场景中却受到限制。
2. 基于模型的反射型智能体
基于模型的反射型智能体可维持其环境的内部模型，这使它们能够追踪变化，并考虑过去的交互如何影响当前状况。与简单的反射型智能体相比，它们的适应能力更强，因为它们能记住先前状态的各个方面，但它们仍然主要依赖于预定义的逻辑。
3. 基于目标的智能体
基于目标的智能体以明确的目标为导向运作，并确定哪些行动将帮助他们实现该目标。这些智能体会考虑未来的后果，并相应地规划步骤，但仍受限于其程序化的决策框架。
4. 基于效用的智能体
基于效用的智能体会衡量和比较各种结果的可取性，选择收益最大、风险最小的行动。与基于目标的智能体相比，这些智能体能在动态环境中有效地权衡利弊，做出更细致入微的决策。
5. 学习智能体
在 AI 智能体中，学习型智能体是最先进的，因为它们会根据新数据和过去的经验不断提升性能。它们的适应能力使其成为复杂环境的理想选择。
AI 智能体示例
在许多行业中，AI 智能体被用于自动化决策、执行工作流程和减少人工干预。以下是几个在实际使用场景中常见的 AI 智能体示例：
- 客户支持智能体：AI 驱动的客户支持智能体能够分析客户咨询、检索账户信息、处理退款，或将工单转交给合适的团队成员。
- 编码智能体：编码智能体通过生成、测试和改进代码，识别代码库中的漏洞并提出改进建议，从而为开发人员提供支持。
- 自动驾驶汽车：自动驾驶汽车利用传感器和 AI 模型来解读路况和交通模式，并实时做出驾驶决策，从而提高运输效率。
- 库存管理智能体：在零售环境中，AI 智能体可以监控库存水平，自动处理采购订单，检测设备故障，重新规划运输路线以应对延误，并减少供应链中断。
- IT 运营智能体：AI 智能体可用于企业 IT 环境，以检测异常、部署补丁并触发预定义的修复工作流。
- 金融交易智能体：在金融服务领域，AI 智能体可以实时分析市场数据，并根据预定义策略执行交易，优先考虑速度和可扩展性。
AI 智能体如何引入新的安全风险
随着 AI 智能体在企业系统中的集成度越来越高，它们也带来了新的安全问题。由于 AI 智能体可以访问数据、与应用程序交互并自主执行操作，因此当它们使用自己的身份（例如服务主体、工作负载身份、API 令牌或 OAuth 应用程序）时，它们可以作为 NHI 发挥作用。与服务账户或机器人一样，AI 智能体在运行时拥有自己的凭据和权限，这意味着必须以与人类用户相同的方式（即最小权限、强身份验证和审计日志）对其进行严格控制和监控。在零信任安全模型中，无论是人类身份还是机器身份都不会被默认信任，必须持续验证和授权访问权限以降低安全风险。与 AI 智能体相关的主要风险包括：
- 未经授权的访问：AI 智能体通常需要凭据、令牌或 API 密钥才能工作。如果这些机密被泄露或配置错误，网络犯罪分子可能会通过 AI 智能体的身份访问关键系统或内部数据库。
- 特权升级： 当 AI 智能体获得过多权限时，它们可能会超出预期范围行事。如果遭到入侵，智能体可以更改关键系统、访问受限数据或修改配置。
- 提示注入攻击：由大型语言模型 (LLM) 驱动的 AI 智能体可能会受到提示注入攻击，即恶意输入操纵系统的指令。这些攻击可能导致 AI 智能体泄露敏感信息、暴露凭据或执行未经授权的操作。
- 数据泄露：由于 AI 智能体通常会连接到 SaaS 平台和内部数据库，因此错误配置可能会暴露个人身份信息 (PII) 或机密财务记录。
- 过度授权的集成：为了实现工作流程自动化，AI 智能体通常会与多个服务和应用程序集成。当 AI 智能体被授予跨系统的广泛访问权限时，一旦遭入侵或配置不当，就会显著扩大组织的攻击面。
- 工具/ API 滥用和操作完整性：即使没有“遭入侵”，智能体也可能因误解上下文或收到含糊不清的指令而采取错误但看似合理的操作，例如删除数据、向错误的收件人发送电子邮件或更改配置。
- 供应链和依赖风险：智能体通常依赖于第三方模型、插件、连接器或工具服务器；这些依赖关系中的弱点或恶意更新可能会引入新的攻击路径。
