What is an AI Agent?
- IAM-Glossar
- What is an AI Agent?
Ein KI-Agent ist eine nicht-menschliche Identität (Non-Human Identity, NHI), die Signale über seine Umgebung wahrnehmen oder empfangen, Entscheidungen treffen und Maßnahmen (oft über Tools oder Integrationen) ergreifen kann, um bestimmte Ziele zu erreichen. Er verwendet Technologien der Künstlichen Intelligenz (KI), darunter Large Language Models (LLMs), Machine-Learning-Modelle und regelbasierte Logik, um Daten zu analysieren, nächste Schritte zu bestimmen und Aufgaben mit unterschiedlichen menschlichen Eingriffen auszuführen. Im Gegensatz zu eigenständigen, einstufigen KI-Modellen, die primär Antworten auf Prompts generieren, sind KI-Agenten zielorientiert und handlungsgesteuert und können über mehrere Schritte hinweg agieren, indem sie ihren Zustand beibehalten, Tools einsetzen und sich an neue Kontexte anpassen.
KI-Agenten vs. Chatbots vs. generative KI
Obwohl die Begriffe KI-Agenten, Chatbots und generative KI oft synonym verwendet werden, unterscheiden sie sich in ihrer Funktion und ihrem Autonomiegrad. KI-Agenten sind so konzipiert, dass sie Entscheidungen treffen und Aktionen ausführen, um bestimmte Ziele zu erreichen, wobei sie zur Ausführung von Workflows oft mit externen Systemen integriert werden. Chatbots führen hauptsächlich Unterhaltungen als Reaktion auf Prompts, aber einige moderne Chatbots können begrenzte, vorkonfigurierte Aktionen ausführen. Generative KI konzentriert sich auf die Erzeugung neuartiger Ausgaben (z. B. Text, Code, Bilder oder strukturierte Daten) aus gelernten Mustern und kann innerhalb automatisierter Systeme eingesetzt werden, plant oder führt aber von sich aus nicht unbedingt Aktionen in der Praxis aus. Hier sind die wichtigsten Unterschiede:
| Funktion | KI-Agenten | Chatbots | Generative KI |
|---|---|---|---|
| Funktion | Ziele durch Entscheidungsfindung und autonomes Handeln erreichen | Hauptsächlich Unterhaltungen führen und Anfragen beantworten | Inhalte basierend auf Prompts generieren |
| Grad der Autonomie | Kann Aufgaben mit minimaler menschlicher Eingabe planen und ausführen | Reagiert auf Benutzereingaben | Gibt auf Aufforderung Ausgaben aus (die Autonomie hängt davon ab, wie das System integriert ist) |
| Fähigkeit zum Handeln | Kann Workflows ausführen und APIs aufrufen | Einige können vorkonfigurierte Aktionen ausführen | Liefert in der Regel Ausgabeergebnisse; es „greift nur ein“, wenn sie mit Tools oder Systemen verbunden ist |
So arbeiten KI-Agenten
KI-Agenten agieren in einem sich wiederholenden, iterativen Zyklus aus Wahrnehmung, Entscheidungsfindung und Handlung. Obwohl die Technologie hinter KI-Agenten unterschiedlich sein kann, folgen die meisten einem ähnlichen Workflow:
Erhält eine Anweisung, einen Prompt oder ein Ziel: Der KI-Agent wird durch eine Benutzeranfrage, ein vorkonfiguriertes Ziel oder einen ereignisgesteuerten Trigger von einem System ausgelöst.
Erfasst Kontext: Bevor der KI-Agent seine Aufgabe abschließen kann, sammelt er relevante Daten wie Benutzereingaben, Datenbankdatensätze oder API-Antworten. Einige Agenten verfügen über ein Kurzzeit- oder Langzeitgedächtnis, um auf vergangene Erfahrungen oder frühere Interaktionen zurückzugreifen.
Trifft eine Entscheidung: Mit Machine-Learning-Modellen, LLMs oder regelbasierter Logik bewertet der KI-Agent mögliche Aktionen, wägt mögliche Ergebnisse ab und bestimmt die besten nächsten Schritte.
Plant und führt Aktionen aus: Für komplexe Ziele erstellt der KI-Agent eine Abfolge von Aktionen, wie z. B. das Aktualisieren von Dateien oder Systemen, um sein Ziel zu erreichen.
Kann Ergebnisse auswerten: Einige fortschrittliche Agenten können auswerten, ob ihre Aktion das beabsichtigte Ergebnis erzielt hat, und dann ihr zukünftiges Verhalten entsprechend anpassen.
Fünf Haupttypen von KI-Agenten
KI-Agenten können in fünf Haupttypen unterteilt werden, je nachdem, wie sie Entscheidungen treffen und mit ihrer Umgebung interagieren.
1. Einfache Reflexagenten
Einfache Reflexagenten sind die grundlegendste Art von KI-Agenten, die auf bestimmte Eingaben mit vorkonfigurierten Regeln reagieren. Diese Agenten haben weder ein Gedächtnis noch berücksichtigen sie den breiteren Kontext, was sie ideal für vorhersehbare Umgebungen macht, aber in komplexen Szenarien einschränkt.
2. Modellbasierte Reflexagenten
Modellbasierte Reflexagenten verfügen über ein internes Modell ihrer Umgebung, wodurch sie Veränderungen verfolgen und berücksichtigen können, wie vergangene Interaktionen die gegenwärtigen Bedingungen beeinflussen. Sie sind anpassungsfähiger als einfache Reflexagenten, da sie sich an Aspekte vorheriger Zustände erinnern, aber sie verlassen sich immer noch hauptsächlich auf eine vorkonfigurierte Logik.
3. Zielbasierte Agenten
Zielbasierte Agenten arbeiten mit einem klaren Ziel vor Augen und bestimmen, welche Aktionen ihnen helfen, dieses Ziel zu erreichen. Diese Agenten berücksichtigen zukünftige Konsequenzen und planen ihre Schritte entsprechend, sind aber dennoch durch ihre programmierten Entscheidungs-Frameworks eingeschränkt.
4. Nutzenbasierte Agenten
Nutzenbasierte Agenten messen und vergleichen die Erwünschtheit verschiedener Ergebnisse und wählen die Aktion aus, die den Nutzen maximiert und das Risiko minimiert. Diese Agenten sind in dynamischen Umgebungen effektiv, wägen Kompromisse ab und treffen differenziertere Entscheidungen als zielbasierte Agenten.
5. Lernende Agenten
Unter den KI-Agenten sind lernende Agenten die fortschrittlichsten, da sie ihre Leistung kontinuierlich auf Grundlage neuer Daten und vergangener Erfahrungen verbessern. Ihre Anpassungsfähigkeit macht sie ideal für komplexe Umgebungen.
Beispiele für KI-Agenten
In vielen Branchen werden KI-Agenten eingesetzt, um Entscheidungsprozesse zu automatisieren, Workflows auszuführen und menschliche Eingriffe zu reduzieren. Im Folgenden finden Sie mehrere gängige Beispiele für KI-Agenten in Anwendungsfällen aus der Praxis:
- Kundensupport-Agenten: KI-gestützte Kundensupport-Agenten analysieren Kundenanfragen, rufen Kontoinformationen ab, bearbeiten Rückerstattungen oder leiten Tickets an die zuständigen Teammitglieder weiter.
- Coding-Agenten: Coding-Agenten unterstützen Entwickler, indem sie Code generieren, testen und verbessern, Schwachstellen identifizieren und Verbesserungen in Code-Repositorys vorschlagen.
- Autonome Fahrzeuge: Selbstfahrende Fahrzeuge nutzen Sensoren und KI-Modelle, um Straßenverhältnisse und Verkehrsmuster zu interpretieren und Fahrentscheidungen in Echtzeit für einen effizienteren Transport zu treffen.
- Bestandsverwaltungsagenten: Im Einzelhandel können KI-Agenten die Lagerbestände überwachen, Bestellaufträge automatisieren, Gerätefehlfunktionen erkennen, Lieferungen umleiten, um Verzögerungen auszugleichen und Unterbrechungen in der Lieferkette zu reduzieren.
- IT-Betriebsagenten: KI-Agenten können in IT-Umgebungen von Unternehmen eingesetzt werden, um Anomalien zu erkennen, Patches zu verteilen und vorkonfigurierte Fehlerbehebungsworkflows auszulösen.
- Finanzhandelsagenten: Im Finanzdienstleistungssektor können KI-Agenten Marktdaten in Echtzeit analysieren und Handelsgeschäfte auf Basis vorkonfigurierter Strategien ausführen, wobei Geschwindigkeit und Skalierbarkeit an erster Stelle stehen.
So führen KI-Agenten neue Sicherheitsrisiken ein
Mit der zunehmenden Integration von KI-Agenten in Unternehmenssysteme entstehen neue Sicherheitsrisiken. Da KI-Agenten auf Daten zugreifen, mit Anwendungen interagieren und Aktionen autonom ausführen, können sie als NHIs fungieren, wenn sie ihre eigenen Identitäten verwenden, wie z. B. Dienstprinzipals, Workload-Identitäten, API-Token oder OAuth-Anwendungen. Wie Dienstkonten oder Bots arbeiten KI-Agenten mit ihren eigenen Zugangsdaten und Berechtigungen, was bedeutet, dass sie genauso sorgfältig kontrolliert und überwacht werden müssen wie menschliche Benutzer (d. h. Least-Privilege-Prinzip, starke Authentifizierung und Audit-Protokollierung). In Zero-Trust-Sicherheitsmodellen wird keiner Identität – weder Mensch noch Maschine – implizit vertraut und der Zugriff muss kontinuierlich überprüft und genehmigt werden, um Sicherheitsrisiken zu verringern. Zu den Hauptrisiken im Zusammenhang mit KI-Agenten gehören:
- Unautorisierter Zugriff: Oft benötigen KI-Agenten Zugangsdaten, Token oder API-Schlüssel, um zu funktionieren. Wenn diese Geheimnisse offengelegt oder falsch konfiguriert werden, können Cyberkriminelle über die Identität des KI-Agenten Zugriff auf kritische Systeme oder interne Datenbanken erhalten.
- Rechteerweiterung: Wenn KI-Agenten übermäßige Berechtigungen erhalten, können sie über den vorgesehenen Rahmen hinaus agieren. Im Falle einer Kompromittierung könnte ein Angreifer kritische Systeme verändern, auf geschützte Daten zugreifen oder Konfigurationen modifizieren.
- Prompt-Injektionsangriffe: KI-Agenten, die auf LLMs basieren, können anfällig für Prompt-Injektionsangriffe sein, bei denen bösartige Eingaben die Anweisungen des Systems manipulieren. Diese Angriffe können dazu führen, dass KI-Agenten vertrauliche Informationen preisgeben, Zugangsdaten offenlegen oder unautorisierte Aktionen ausführen.
- Datenleck: Da KI-Agenten in der Regel mit SaaS-Plattformen und internen Datenbanken verbunden sind, können Fehlkonfigurationen persönlich identifizierbare Informationen (PII) oder vertrauliche Finanzdatensätze offenlegen.
- Überberechtigte Integrationen: Um Workflows zu automatisieren, integrieren KI-Agenten häufig mehrere Dienste und Anwendungen. Wenn ihnen ein breiter Zugriff auf alle Systeme gewährt wird, können kompromittierte oder falsch konfigurierte KI-Agenten die Angriffsoberfläche eines Unternehmens deutlich vergrößern.
- Missbrauch von Tools/APIs und Integrität von Aktionen: Selbst ohne eine „Kompromittierung“ kann ein Agent falsche, aber plausible Maßnahmen ergreifen, wie das Löschen von Daten, das Senden von E-Mails an den falschen Empfänger oder das Ändern der Konfigurationen, wenn er den Kontext missversteht oder mehrdeutige Anweisungen erhält.
- Lieferketten- und Abhängigkeitsrisiko: Agenten verlassen sich oft auf Drittanbietermodelle, Plugins, Connectors oder Toolserver; Schwächen oder bösartige Updates in diesen Abhängigkeiten können neue Angriffspfade verursachen.
