What is an AI Agent?

• Glossário do IAM
• What is an AI Agent?

Um agente de IA é uma Identidade Não Humana (NHI) que pode perceber ou receber sinais sobre o seu ambiente, tomar decisões e realizar ações (frequentemente por meio de ferramentas ou integrações) para atingir objetivos específicos. Utiliza técnicas de Inteligência Artificial (IA), incluindo Grandes Modelos de Linguagem (LLMs), modelos de aprendizado de máquina e lógica baseada em regras, para analisar dados, determinar os próximos passos e completar tarefas com diferentes níveis de intervenção humana. Ao contrário dos modelos de IA independentes de turno único, que geram principalmente respostas a prompts, os agentes de IA são orientados por objetivos e ações, podendo operar em várias etapas, mantendo o estado, utilizando ferramentas e adaptando-se a novos contextos.

Agentes de IA vs chatbots vs IA generativa

Embora muitas vezes sejam usados de forma intercambiável, os agentes de IA, os chatbots e a IA generativa diferem em termos de função e nível de autonomia. Os agentes de IA são projetados para tomar decisões e realizar ações para atingir determinados objetivos, muitas vezes integrando-se a sistemas externos para executar fluxos de trabalho. Os chatbots conduzem conversas principalmente em resposta a solicitações, mas alguns chatbots modernos podem executar ações limitadas e predefinidas. A IA generativa concentra-se na criação de novos resultados (ou seja, texto, código, imagens ou dados estruturados) a partir de padrões aprendidos e pode ser usada em sistemas automatizados, mas, por si só, não necessariamente planeja ou executa ações no mundo real. Estas são as principais diferenças:

Como funcionam os agentes de IA

Agentes de IA funcionam em um ciclo iterativo e repetitivo de percepção, tomada de decisão e ação. Embora a tecnologia por trás dos agentes de IA possa variar, a maioria segue um fluxo de trabalho semelhante:

1. Recebe uma instrução, um aviso ou uma meta: o agente de IA é acionado por uma solicitação do usuário, um objetivo predefinido ou um gatilho baseado em eventos de um sistema.

2. Coleta de contexto: antes de concluir sua tarefa, o agente de IA coleta dados relevantes, como entradas do usuário, registros de banco de dados ou respostas de API. Alguns agentes mantêm memória de curto ou longo prazo para consultar experiências passadas ou interações anteriores.

3. Toma uma decisão: utilizando modelos de aprendizado de máquina, LLMs ou lógica baseada em regras, o agente de IA avalia possíveis ações, pesa os resultados potenciais e determina os melhores próximos passos.

4. Planeja e executa ações: para objetivos complexos, o agente de IA estabelece uma sequência de ações, como atualizar arquivos ou sistemas, para alcançar seu objetivo.

5. Pode avaliar resultados: alguns agentes avançados podem avaliar se sua ação atingiu o resultado esperado e modificar seu comportamento futuro de acordo com isso.

Cinco tipos principais de agentes de IA

Os agentes de IA podem ser categorizados em cinco tipos principais com base na forma como tomam decisões e interagem com o ambiente.

1. Agentes reflexivos simples

Agentes de reflexo simples são o tipo mais básico de agente de IA, respondendo a entradas específicas usando regras predefinidas. Esses agentes não retêm memória nem consideram o contexto mais amplo, tornando-os ideais para ambientes previsíveis, mas limitados em cenários complexos.

2. Agentes reflexivos baseados em modelos

Agentes de reflexo baseados em modelos mantêm um modelo interno do seu ambiente, permitindo-lhes acompanhar mudanças e levar em conta como interações passadas afetam as condições presentes. Eles são mais adaptáveis do que os agentes de reflexo simples porque se lembram de aspectos de estados anteriores, mas ainda dependem principalmente de uma lógica predefinida.

3. Agentes baseados em objetivos

Agentes baseados em objetivos operam com um resultado claro em mente e determinam quais ações os ajudarão a alcançar esse objetivo. Esses agentes consideram consequências futuras e planejam etapas de acordo, mas ainda são limitados por suas estruturas de decisão programadas.

4. Agentes baseados em utilidade

Agentes baseados em utilidade medem e comparam a conveniência de vários resultados, selecionando a ação que maximiza os benefícios e minimiza os riscos. Eficazes em ambientes dinâmicos, esses agentes ponderam as vantagens e desvantagens e tomam decisões mais sutis do que os agentes baseados em objetivos.

5. Agentes de aprendizagem

Entre os agentes de IA, os agentes de aprendizagem são os mais avançados porque melhoram continuamente seu desempenho com base em novos dados e experiências passadas. Sua capacidade de adaptação os torna ideais para ambientes complexos.

Exemplos de agentes de IA

Em diversos setores, agentes de IA são utilizados para automatizar a tomada de decisões, executar fluxos de trabalho e reduzir a intervenção humana. A seguir, apresentamos alguns exemplos comuns de agentes de IA em casos de uso do mundo real:

• Agentes de suporte ao cliente: agentes de suporte ao cliente com inteligência artificial analisam as solicitações dos clientes, recuperam informações da conta, processam reembolsos ou encaminham os chamados para os membros apropriados da equipe.
• Agentes de codificação: os agentes de codificação auxiliam os desenvolvedores gerando, testando e aprimorando o código, identificando vulnerabilidades e sugerindo melhorias em repositórios de código.
• Veículos autônomos: os veículos autônomos utilizam sensores e modelos de IA para interpretar as condições da estrada e os padrões de tráfego, e tomam decisões de condução em tempo real para um transporte mais eficiente.
• Agentes de gestão de estoque: em ambientes de varejo, agentes de IA podem monitorar os níveis de estoque, automatizar pedidos de compra, detectar falhas em equipamentos, redirecionar remessas para acomodar atrasos e reduzir interrupções na cadeia de suprimentos.
• Agentes de operações de TI: agentes de IA podem ser usados em ambientes de TI corporativos para detectar anomalias, implantar correções e acionar fluxos de trabalho de remediação predefinidos.
• Agentes de negociação financeira: no setor de serviços financeiros, agentes de IA podem analisar dados de mercado em tempo real e executar negociações com base em estratégias predefinidas, priorizando velocidade e escalabilidade.

Como os agentes de IA introduzem novos riscos de segurança

À medida que os agentes de IA se integram cada vez mais aos sistemas empresariais, surgem novas preocupações de segurança. Como os agentes de IA podem acessar dados, interagir com aplicações e executar ações de forma autônoma, eles podem funcionar como NHIs quando usam suas próprias identidades, como entidades de serviço, identidades de carga de trabalho, tokens de API ou aplicações OAuth. Assim como contas de serviço ou bots, os agentes de IA operam com suas próprias credenciais e permissões, o que significa que devem ser cuidadosamente controlados e monitorados da mesma forma que usuários humanos (ou seja, com privilégios mínimos, autenticação forte e registro de auditoria). Nos modelos de segurança com confiança zero, nenhuma identidade, seja humana ou de máquina, é implicitamente confiável. O acesso deve ser continuamente verificado e autorizado para reduzir os riscos de segurança. Os principais riscos associados aos agentes de IA incluem:

• Acesso não autorizado: muitas vezes, os agentes de IA exigem credenciais, tokens ou chaves de API para funcionar. Se esses segredos forem expostos ou configurados incorretamente, cibercriminosos podem acessar sistemas críticos ou bancos de dados internos por meio da identidade do agente de IA.
• Aumento de privilégios: quando os agentes de IA recebem permissões excessivas, eles podem agir além do escopo pretendido. Se comprometido, um agente pode alterar sistemas críticos, acessar dados restritos ou modificar configurações.
• Ataques de injeção de prompt: Agentes de IA que utilizam LLMs podem ser vulneráveis a injeções de prompt, em que entradas maliciosas manipulam as instruções do sistema. Esses ataques podem fazer com que agentes de IA vazem informações confidenciais, exponham credenciais ou executem ações não autorizadas.
• Vazamento de dados: como os agentes de IA normalmente se conectam a plataformas SaaS e bancos de dados internos, configurações incorretas podem expor informações de identificação pessoal (PII) ou registros financeiros confidenciais.
• Integrações com permissões excessivas: para automatizar fluxos de trabalho, os agentes de IA frequentemente se integram a vários serviços e aplicações. Quando recebem amplo acesso a diversos sistemas, agentes de IA comprometidos ou mal configurados podem ampliar significativamente a superfície de ataque de uma organização.
• Abuso de ferramentas/APIs e integridade de ações: mesmo sem um "comprometimento", um agente pode tomar ações incorretas, mas plausíveis, como excluir dados, enviar e-mails para o destinatário errado ou alterar configurações, se interpretar mal o contexto ou receber instruções ambíguas.
• Riscos na cadeia de fornecimento e dependências: os agentes frequentemente dependem de modelos, plugins, conectores ou servidores de ferramentas de terceiros. Vulnerabilidades ou atualizações maliciosas nessas dependências podem introduzir novas vias de ataque.