Chatbot (konverzační robot)

Příklady z praxe

1. 01

   Zákaznická podpora v e-shopu

   E-shop nasadí chatbota na dotazy ke stavu objednávky. Bot si podle čísla objednávky načte stav ze systému a odpoví zákazníkovi bez čekání na operátora. Jakmile zákazník zmíní reklamaci nebo vrácení peněz, konverzace se předá člověku, protože chyba by měla finanční dopad.

   function routeChatbotReply(message, confidence) {
     const needsHuman = /reklamace|vrácení peněz|právník/i.test(message);
   
     if (needsHuman || confidence < 0.65) {
       return { next: "human_agent", reason: "nízká jistota nebo citlivé téma" };
     }
   
     return { next: "bot_reply", reason: "běžný dotaz" };
   }

2. 02

   Interní znalostní asistent

   Technologická firma nasadí interního chatbota nad dokumentací k nástupu zaměstnanců. Nový kolega se zeptá na pravidla home office a bot odpoví podle aktuální stránky v intranetu, ne podle staré obecné znalosti modelu. Pokud dokument neobsahuje jednoznačnou odpověď, bot uvede, že pravidlo nenašel, a nabídne kontakt na HR.

Časté omyly

MýtusChatbot s umělou inteligencí přece vždycky ví odpověď.

Ve skutečnostiChatbot může odpověď odhadnout, špatně pochopit dotaz nebo vycházet z neúplných dat. U generativních chatbotů je potřeba počítat s nejistotou, zdroji a předáním člověku.

MýtusStačí připojit chatbot k celé firemní dokumentaci a je hotovo.

Ve skutečnostiChatbot nad dokumentací potřebuje řízení přístupů, kvalitní indexaci, aktuální obsah a testování odpovědí. Bez těchto vrstev může vracet zastaralé informace nebo odhalit texty, které uživatel nemá vidět.

Časté dotazy

Kdy stačí pravidlový chatbot místo LLM?

Pravidlový chatbot stačí tam, kde má konverzace malý počet předvídatelných scénářů a kde je důležitější kontrola než jazyková volnost. Typickým příkladem je výběr typu požadavku, ověření stavu objednávky nebo sběr údajů do formuláře. Jazykový model dává větší smysl u otevřených otázek, rozsáhlé dokumentace a situací, kde uživatelé formulují stejnou věc mnoha různými způsoby.

Proč chatbot neumí garantovat pravdivost odpovědi?

Chatbot založený na jazykovém modelu generuje odpověď podle pravděpodobných jazykových vzorů a dostupného kontextu, ne podle vrozeného smyslu pro pravdu. Pravdivost zvyšuje napojení na ověřené zdroje, citace, validace výstupů a omezení témat. Kritické odpovědi, například právní, zdravotní nebo finanční doporučení, by proto neměly zůstat bez kontroly odborníka nebo jasného varování.

Jak se chatbot bezpečně napojuje na firemní data?

Firemní chatbot se bezpečně napojuje na data přes řízené API, vyhledávací index nebo databázovou vrstvu s oprávněními uživatele. Chatbot by neměl dostat neomezený přístup ke všem dokumentům jen proto, že běží uvnitř firmy. Bezpečný návrh filtruje dokumenty podle rolí, loguje akce, maskuje citlivé údaje a potvrzuje nevratné operace, například změnu objednávky nebo odeslání e-mailu.

Má být chatbot na webu viditelný hned po načtení stránky?

Webový chatbot nemusí být viditelný hned agresivním vyskakovacím oknem. Lepší chování závisí na kontextu stránky, zařízení a důvodu návštěvy. Na stránce s podporou může být výrazný vstup užitečný, zatímco u čtení článku nebo dokončování nákupu může rušit. UX návrh by měl sledovat, zda chatbot skutečně pomáhá dokončit úkol, nebo jen zvyšuje počet zbytečných interakcí.

Zdroje

1. Artificial Intelligence Risk Management Framework (AI RMF 1.0)(otevře se v novém okně)National Institute of Standards and Technology, 2023
2. Azure Bot Service documentation(otevře se v novém okně)Microsoft
3. Dialogflow documentation(otevře se v novém okně)Google Cloud
4. Chat templates(otevře se v novém okně)Hugging Face
5. OWASP Top 10 for Large Language Model Applications(otevře se v novém okně)OWASP

Související pojmy

• HalucinaceHalucinace je výstup generativního modelu, který zní přesvědčivě, ale není podložen vstupem, trénovacími daty ani ověřitelnou skutečností. V AI se týká hlavně jazykových modelů, které doplní neexistující citaci, chybný fakt, smyšlené API nebo nepřesný závěr místo přiznání nejistoty uživateli.
• Large language modelLarge language model je neuronový jazykový model trénovaný na rozsáhlých textech, který z kontextu předpovídá a generuje posloupnosti tokenů. Používá se pro chat, sumarizaci, překlad, práci s kódem i vyhledávání informací, ale výstupy mohou obsahovat chyby, zkreslení nebo neověřené domněnky.
• RAGRAG je architektura pro práci s jazykovým modelem, která před generováním odpovědi vyhledá relevantní informace v externím úložišti a vloží je do kontextu modelu. Díky tomu může aplikace odpovídat z aktuálních firemních dat, dokumentace nebo znalostní báze, aniž by se musel model pokaždé znovu trénovat.
• PromptPrompt je textový (případně obrazový či zvukový) vstup, kterým člověk nebo program zadá jazykovému modelu úkol a kontext pro odpověď. Model prompt převede na tokeny a na jeho základě predikuje pokračování. Kvalita a struktura promptu přímo určuje, jak přesný, konzistentní a použitelný výstup modelu bude.
• A/B testováníA/B testování je řízený experiment, který porovnává dvě varianty stránky, funkce, ceny nebo sdělení na podobných skupinách uživatelů. Měří předem zvolenou metriku, například konverzi nebo retenci, a pomáhá rozhodnout, zda změna skutečně zlepšuje výsledek, nebo zda pozorovaný rozdíl mohl vzniknout náhodou.
• Adaptive IconAdaptivní ikona je formát ikony aplikace na Androidu, který se místo jedné hotové bitmapy skládá z oddělených vrstev: pozadí a popředí. Systém výsledný tvar sám ořízne podle masky výrobce zařízení a může vrstvy animovat nebo přebarvit. Vývojář tak dodá jeden zdroj a launcher z něj vytvoří kruh, čtverec i squircle.
• AI agentAI agent je softwarový systém, který pomocí modelu umělé inteligence vnímá zadaný kontext, plánuje další kroky a samostatně volá nástroje nebo služby k dosažení cíle. Na rozdíl od jednorázového promptu udržuje stav úlohy, vyhodnocuje výsledky akcí a může opakovat postup, dokud nesplní zadání nebo nenarazí na limit.
• AI etikaAI etika je obor, který zkoumá, jaké dopady mají systémy umělé inteligence na lidi, a formuluje pravidla pro jejich návrh, trénink a provoz. Řeší zaujatost dat, transparentnost rozhodování, ochranu soukromí, odpovědnost za chybu i bezpečnost modelu. Ve firemní praxi se promítá do interních politik, dokumentace modelů a povinností podle regulace typu AI Act.