What is an AI Agent?
- Słownik IAM
- What is an AI Agent?
Agent AI to tożsamość nieosobowa (NHI), która potrafi postrzegać lub odbierać sygnały ze swojego otoczenia, podejmować decyzje i wykonywać działania (często za pomocą narzędzi lub integracji) w celu osiągnięcia określonych celów. Wykorzystuje techniki sztucznej inteligencji (AI), w tym duże modele językowe (LLM), modele uczenia maszynowego oraz logikę opartą na regułach, aby analizować dane, określać kolejne kroki i wykonywać zadania przy różnym poziomie interwencji człowieka. W przeciwieństwie do samodzielnych modeli AI działających w pojedynczej interakcji, które głównie generują odpowiedzi na polecenia, agenci AI są zorientowani na cele i działania, a także mogą działać wieloetapowo poprzez utrzymywanie stanu, korzystanie z narzędzi i dostosowywanie się do nowych kontekstów.
Agenci AI vs chatboty vs generatywna AI
Choć terminy te są często używane zamiennie, agenci AI, chatboty i generatywna AI różnią się pod względem funkcji i poziomu autonomii. Agenci AI są projektowani do podejmowania decyzji i wykonywania działań w celu osiągania określonych celów, często integrując się z zewnętrznymi systemami w celu realizacji przepływów pracy. Chatboty prowadzą głównie rozmowy i odpowiadają na polecenia, choć niektóre nowoczesne chatboty potrafią wykonywać ograniczone, wcześniej zdefiniowane działania. Generatywna AI koncentruje się na tworzeniu nowych wyników (np. tekstu, kodu, obrazów lub danych strukturalnych) na podstawie wyuczonych wzorców i może być wykorzystywana w systemach automatycznych, ale sama w sobie nie planuje ani nie wykonuje rzeczywistych działań. Poniżej przedstawiono główne różnice:
| Funkcja | Agenci AI | Chatboty | Generatywna sztuczna inteligencja |
|---|---|---|---|
| Funkcja | Osiąganie celów poprzez podejmowanie decyzji i autonomiczne działania | Głównie prowadzenie rozmów i odpowiadanie na zapytania | Generowanie treści na podstawie poleceń |
| Poziom autonomii | Może planować i wykonywać zadania przy minimalnym udziale człowieka | Działa reaktywnie na podstawie danych wejściowych użytkownika | Generuje wyniki po otrzymaniu polecenia (autonomia zależy od sposobu integracji) |
| Możliwość podejmowania działań | Może wykonywać przepływy pracy i wywoływać API | Niektóre mogą wykonywać wcześniej zdefiniowane działania | Zazwyczaj generuje wyniki; „podejmuje działania” wyłącznie po połączeniu z narzędziami lub systemami |
Jak działają agenci AI
Agenci AI działają w powtarzalnym, iteracyjnym cyklu postrzegania, podejmowania decyzji i działania. Choć technologia stojąca za agentami AI może się różnić, większość z nich działa według podobnego schematu:
Otrzymuje instrukcję, polecenie lub cel: Agent AI jest uruchamiany przez żądanie użytkownika, wcześniej zdefiniowany cel lub wyzwalacz zdarzeniowy pochodzący z systemu.
Gromadzi kontekst: Zanim agent AI będzie mógł wykonać zadanie, zbiera odpowiednie dane, takie jak dane wejściowe użytkownika, rekordy baz danych lub odpowiedzi API. Niektórzy agenci utrzymują pamięć krótkoterminową lub długoterminową, aby odwoływać się do wcześniejszych doświadczeń lub wcześniejszych interakcji.
Podejmuje decyzję: Korzystając z modeli uczenia maszynowego, LLM lub logiki opartej na regułach, agent AI ocenia możliwe działania, analizuje potencjalne wyniki i określa najlepsze kolejne kroki.
Planuje i wykonuje działania: W przypadku złożonych celów agent AI ustala sekwencję działań, takich jak aktualizacja plików lub systemów, aby osiągnąć swój cel.
Może oceniać wyniki: Niektórzy zaawansowani agenci potrafią ocenić, czy ich działanie osiągnęło zamierzony rezultat, a następnie odpowiednio zmodyfikować swoje przyszłe zachowanie.
Pięć głównych typów agentów AI
Agentów AI można podzielić na pięć głównych typów w zależności od sposobu podejmowania decyzji i interakcji z otoczeniem.
1. Prości agenci refleksowi
Prości agenci refleksowi są podstawowym typem agenta AI i reagują na określone dane wejściowe za pomocą wcześniej zdefiniowanych reguł. Agenci ci nie przechowują pamięci ani nie uwzględniają szerszego kontekstu, co sprawia, że są odpowiedni dla przewidywalnych środowisk, ale ograniczeni w bardziej złożonych scenariuszach.
2. Agenci refleksowi oparci na modelu
Agenci refleksowi oparci na modelu utrzymują wewnętrzny model swojego środowiska, co pozwala im śledzić zmiany i uwzględniać wpływ wcześniejszych interakcji na bieżące warunki. Są bardziej adaptacyjni niż prości agenci refleksowi, ponieważ pamiętają elementy wcześniejszych stanów, lecz nadal opierają się głównie na wcześniej zdefiniowanej logice.
3. Agenci zorientowani na cele
Agenci zorientowani na cele działają z jasno określonym rezultatem i ustalają, które działania pomogą im osiągnąć ten cel. Agenci ci uwzględniają przyszłe konsekwencje i odpowiednio planują kolejne kroki, ale nadal są ograniczeni przez zaprogramowane mechanizmy decyzyjne.
4. Agenci oparci na użyteczności
Agenci oparci na użyteczności mierzą i porównują pożądanie różnych rezultatów, wybierając działanie, które maksymalizuje korzyści i minimalizuje ryzyko. Skuteczne w dynamicznych środowiskach, agenci ci analizują kompromisy i podejmują bardziej zniuansowane decyzje niż agenci zorientowani na cele.
5. Agenci uczący się
Spośród agentów AI agenci uczący się są najbardziej zaawansowani, ponieważ stale poprawiają swoją wydajność na podstawie nowych danych i wcześniejszych doświadczeń. Ich zdolność adaptacji sprawia, że idealnie nadają się do złożonych środowisk.
Przykłady agentów AI
W wielu branżach agenci AI są wykorzystywani do automatyzacji podejmowania decyzji, realizacji przepływów pracy oraz ograniczania interwencji człowieka. Poniżej przedstawiono kilka typowych przykładów agentów AI wykorzystywanych w rzeczywistych zastosowaniach:
- Agenci obsługi klienta: Agenci obsługi klienta wspierani przez AI analizują zapytania klientów, pobierają informacje o kontach, przetwarzają zwroty lub przekazują zgłoszenia do odpowiednich członków zespołu.
- Agenci kodowania: Agenci kodowania wspierają programistów poprzez generowanie, testowanie i ulepszanie kodu, identyfikowanie podatności oraz sugerowanie ulepszeń w repozytoriach kodu.
- Pojazdy autonomiczne: Pojazdy autonomiczne wykorzystują czujniki i modele AI do interpretowania warunków drogowych oraz wzorców ruchu, a także podejmowania decyzji dotyczących jazdy w czasie rzeczywistym w celu zapewnienia bardziej efektywnego transportu.
- Agenci zarządzania zapasami: W środowiskach handlu detalicznego agenci AI mogą monitorować poziomy zapasów, automatyzować zamówienia zakupowe, wykrywać awarie sprzętu, przekierowywać dostawy w celu uwzględnienia opóźnień oraz ograniczać zakłócenia w łańcuchu dostaw.
- Agenci operacji IT: Agenci AI mogą być wykorzystywani w korporacyjnych środowiskach IT do wykrywania anomalii, wdrażania poprawek oraz uruchamiania wcześniej zdefiniowanych przepływów naprawczych.
- Agenci handlu finansowego: W usługach finansowych agenci AI mogą analizować dane rynkowe w czasie rzeczywistym i realizować transakcje na podstawie wcześniej zdefiniowanych strategii, stawiając na szybkość i skalowalność.
Jak agenci AI wprowadzają nowe zagrożenia bezpieczeństwa
W miarę coraz większej integracji agentów AI z systemami korporacyjnymi pojawiają się nowe zagrożenia bezpieczeństwa. Ponieważ agenci AI mogą uzyskiwać dostęp do danych, wchodzić w interakcje z aplikacjami i autonomicznie wykonywać działania, mogą funkcjonować jako NHI, gdy korzystają z własnych tożsamości, takich jak service principals, tożsamości obciążeń roboczych, tokeny API lub aplikacje OAuth. Podobnie jak konta usługowe lub boty, agenci AI działają przy użyciu własnych danych uwierzytelniających i uprawnień, co oznacza, że muszą być starannie kontrolowani i monitorowani w taki sam sposób jak użytkownicy osobowi (tj. zasada najmniejszych uprawnień, silne uwierzytelnianie i rejestrowanie audytowe). W modelach bezpieczeństwa zero-trust żadna tożsamość – ani osobowa, ani maszynowa – nie jest domyślnie uznawana za zaufaną, a dostęp musi być stale weryfikowany i autoryzowany w celu ograniczenia zagrożeń bezpieczeństwa. Główne zagrożenia związane z agentami AI obejmują:
- Nieautoryzowany dostęp: Agenci AI często wymagają danych uwierzytelniających, tokenów lub kluczy API do działania. Jeśli te tajne dane zostaną ujawnione lub nieprawidłowo skonfigurowane, cyberprzestępcy mogą uzyskać dostęp do krytycznych systemów lub wewnętrznych baz danych za pośrednictwem tożsamości agenta AI.
- Eskalacja uprawnień: Gdy agenci AI otrzymują nadmierne uprawnienia, mogą działać poza zakresem swoich zamierzonych funkcji. W przypadku naruszenia bezpieczeństwa agent może zmieniać krytyczne systemy, uzyskiwać dostęp do danych o ograniczonym dostępie lub modyfikować konfiguracje.
- Ataki typu prompt injection: Agenci AI działający w oparciu o LLM mogą być podatni na ataki typu prompt injection, w których złośliwe dane wejściowe manipulują instrukcjami systemu. Ataki te mogą spowodować, że agenci AI ujawnią informacje poufne, poświadczenia lub wykonają nieautoryzowane działania.
- Wyciek danych: Ponieważ agenci AI zazwyczaj łączą się z platformami SaaS i wewnętrznymi bazami danych, błędne konfiguracje mogą prowadzić do ujawnienia danych osobowych (PII) lub poufnych danych finansowych.
- Integracje z nadmiernymi uprawnieniami: W celu automatyzacji przepływów pracy agenci AI często integrują się z wieloma usługami i aplikacjami. Gdy otrzymują szeroki dostęp do wielu systemów, przejęci lub błędnie skonfigurowani agenci AI mogą znacząco zwiększyć powierzchnię ataku organizacji.
- Nadużycia narzędzi/API i integralność działań: Nawet bez „naruszenia bezpieczeństwa” agent może wykonywać błędne, ale pozornie uzasadnione działania, takie jak usuwanie danych, wysyłanie wiadomości e-mail do niewłaściwego odbiorcy lub zmiana konfiguracji, jeśli błędnie zinterpretuje kontekst lub otrzyma niejednoznaczne instrukcje.
- Ryzyko związane z łańcuchem dostaw i zależnościami: Agenci często opierają się na modelach zewnętrznych, wtyczkach, konektorach lub serwerach narzędziowych; podatności lub złośliwe aktualizacje w tych zależnościach mogą tworzyć nowe ścieżki ataku.
