ej áj ejdžentTakéLLM agent, intelligent agent, autonomní agentPokročilý
Definice
AI agent je softwarový systém, který pomocí modelu umělé inteligence vnímá zadaný kontext, plánuje další kroky a samostatně volá nástroje nebo služby k dosažení cíle. Na rozdíl od jednorázového promptu udržuje stav úlohy, vyhodnocuje výsledky akcí a může opakovat postup, dokud nesplní zadání nebo nenarazí na limit.
Nezaměňujte: AI agent může znamenat obecný inteligentní agent v klasické umělé inteligenci, postavu v herní AI nebo dnešní LLM aplikaci, která plánuje a používá nástroje.
Než se na to spolehnete: Pojem AI agent se rychle vyvíjí a v praxi se překrývá s LLM agenty, autonomními agenty i starším pojmem inteligentní agent.
Co dělá AI agent navíc oproti chatu
AI agent není jen okno pro otázku a odpověď. Důležitý rozdíl spočívá v tom, že agent dostane cíl, průběžně si skládá kontext a může provádět akce mimo samotný jazykový model. Typická akce je zavolání API, vyhledání v databázi, vytvoření tiketu, spuštění testu nebo předání výsledku člověku ke schválení.
Samotný model obvykle generuje text a odhaduje další krok. Agentická aplikace kolem modelu řeší paměť úlohy, oprávnění, výběr nástrojů, kontrolu výstupu a ukončení běhu. Kvalita proto nezávisí jen na prompt engineeringu, ale také na architektuře, pozorovatelnosti a bezpečnostních mantinelech.
Smyčka vnímání, plánování a akce
Agentický běh se často popisuje jako opakující se smyčka. Vstupem může být požadavek uživatele, událost v systému nebo nový dokument. Agent nejprve sestaví pracovní kontext, například načte relevantní data přes RAG, potom navrhne další krok a vybere nástroj. Výsledek nástroje se vrací zpět do kontextu a agent rozhodne, zda pokračovat.
- Vnímání: agent přečte zadání, stav systému a dostupná data.
- Plán: agent rozdělí cíl na menší kroky a zvolí pořadí.
- Akce: agent zavolá nástroj, například vyhledávání, kalendář, shell nebo interní API.
- Kontrola: agent porovná výsledek s cílem, limity a pravidly.
Kde se rozhoduje o důvěře
AI agent má větší dopad než běžný chatbot, protože může něco skutečně změnit. Návrh odpovědi je nízké riziko, odeslání e-mailu zákazníkovi už vyšší a změna produkční konfigurace velmi vysoké. Praktické nasazení proto pracuje s oprávněními, auditním logem, limity nákladů, timeouty a schvalovacími branami.
Rizikem nejsou jen halucinace v textu. Nebezpečný může být i správně znějící plán, který použije špatný nástroj, přehlédne okrajový případ nebo opakuje volání až do vyčerpání rozpočtu. Dobrý agent proto odděluje návrh kroku od jeho provedení a u citlivých operací vyžaduje lidské potvrzení.
Minimalistický náčrt agentického běhu
Následující náčrt ukazuje princip, ne produkční řešení. Skutečný systém by navíc řešil autentizaci, validaci argumentů, observabilitu, návratové chyby a pravidla pro ukončení.
while (!done && steps < maxSteps) {
const decision = await model.chooseNextAction(context, tools);
if (decision.type === "ask_human") break;
const result = await tools[decision.tool].run(decision.args);
context.push({ action: decision, result });
done = await model.evaluateGoal(context);
steps++;
}Kde se AI agent hodí a kde zůstává přehnaný
AI agent se hodí pro úlohy, které mají jasný cíl, proměnlivý postup a dostupné digitální nástroje. Příkladem je třídění incidentů, příprava rešerše, kontrola objednávky nebo pomoc vývojáři s opakovanými kroky v repozitáři. Přínos roste tam, kde samotné vyhledání informace nestačí a výsledek vyžaduje několik navazujících rozhodnutí.
Agent bývá zbytečně složitý pro deterministické workflow s pevnými pravidly. Pokud lze proces spolehlivě popsat několika podmínkami, obyčejný skript, fronta úloh nebo integrační platforma bývá levnější, rychlejší a lépe testovatelná. Agent dává smysl až ve chvíli, kdy variabilita úlohy ospravedlní cenu nejistoty.
Příklady z praxe
Třídění produkčního incidentu
Ve firmě začne po deployi růst počet HTTP 500 chyb. AI agent projde logy, porovná čas chyby s poslední změnou a založí incident s podezřelou službou, ukázkou stack trace a odkazem na deployment. Výsledek neschválí sám jako opravu, pouze připraví podklady pro on-call vývojáře.
const tools = { searchLogs: async (query) => logStore.find(query), createTicket: async (data) => jira.createIssue(data) }; const goal = "Najdi pravděpodobnou příčinu 500 chyb a založ incident."; const result = await runAgent({ goal, tools, maxSteps: 5 });Návrh odpovědi v zákaznické podpoře
Zákazník napíše, že mu nepřišla faktura za objednávku. AI agent vyhledá objednávku v interním systému, ověří stav platby a načte pravidla pro opětovné odeslání dokladu. Agent připraví odpověď a návrh akce, ale odeslání e-mailu nechá na operátorovi, protože pracuje s osobními údaji.
Časté omyly
- MýtusAI agent je jen delší prompt pro ChatGPT.
- Ve skutečnostiAI agent obvykle obsahuje model, ale také smyčku řízení, nástroje, paměť úlohy a pravidla pro akce. Prompt je jen jedna část celého systému.
- MýtusKdyž má AI agent přístup k nástrojům, sám pozná, co smí udělat.
- Ve skutečnostiAI agent nerozumí oprávněním stejně jako aplikační server. Povolené akce, validaci vstupů a schvalování musí vynucovat okolní software, ne jen textová instrukce v promptu.
Časté dotazy
- Kdy dává AI agent smysl místo obyčejného chatbotu?
- AI agent dává smysl místo obyčejného chatbotu tehdy, když úloha vyžaduje více kroků a práci s nástroji. Chatbot většinou odpoví na základě dodaného kontextu, zatímco agent může nejprve vyhledat data, zavolat API, vyhodnotit návratovou hodnotu a podle výsledku pokračovat. Typickým signálem je zadání typu „vyřiď“, „zkontroluj“, „najdi příčinu“ nebo „připrav změnu“.
- Může AI agent běžet úplně automaticky?
- AI agent může pracovat bez průběžného lidského schválení jen u nízkorizikových operací s jasnými limity. Bezpečné bývá čtení veřejných dat, třídění interních položek nebo příprava návrhů. Změny v produkci, finanční transakce, právně významná sdělení a práce s citlivými údaji obvykle vyžadují schvalovací krok, audit a možnost běh okamžitě zastavit.
- Co musí vývojář u AI agenta omezit jako první?
- Vývojář by měl u AI agenta omezit především dostupné nástroje, rozsah oprávnění, počet kroků, cenu volání a typ dat, se kterými smí agent pracovat. Důležitá je také validace argumentů před zavoláním nástroje. Jazykový model může navrhnout akci, ale aplikace musí rozhodnout, zda je akce povolená, bezpečná a slučitelná s pravidly systému.
- Jak se testuje kvalita AI agenta?
- Kvalita AI agenta se testuje scénáři, které pokrývají celý běh od zadání po akci, ne jen přesnost jedné odpovědi. Testy sledují, zda agent zvolil správný nástroj, nepřekročil oprávnění, rozpoznal neúplná data a uměl se zastavit. U důležitých procesů se vyplatí ukládat stopy rozhodování, návratové hodnoty nástrojů a finální výsledek pro pozdější audit.
Zdroje
- Artificial Intelligence Risk Management Framework (AI RMF 1.0)(otevře se v novém okně)
- ReAct: Synergizing Reasoning and Acting in Language Models(otevře se v novém okně)
- Toolformer: Language Models Can Teach Themselves to Use Tools(otevře se v novém okně)
- Generative Agents: Interactive Simulacra of Human Behavior(otevře se v novém okně)
Související pojmy
