Chatbot je software, který vede s uživatelem dialog v přirozeném jazyce, nejčastěji přes web, aplikaci nebo komunikační platformu. Může být pravidlový, napojený na databáze nebo založený na jazykovém modelu; cílem je vyřídit požadavek, poradit, sbírat údaje nebo předat případ člověku.
Confusion matrix je tabulka, která porovnává předpovědi klasifikačního modelu se skutečnými třídami a rozděluje je na správné a chybné případy. U dvou tříd obsahuje čtyři čísla: true positive, true negative, false positive a false negative. Z těchto čtyř hodnot se počítá accuracy, precision, recall i F1 skóre.
Context window je maximální množství vstupního textu a často i nedávné konverzace, které může jazykový model zpracovat najednou při generování odpovědi. Udává se obvykle v tokenech, zahrnuje systémové instrukce, prompt i přiložené dokumenty a přímo ovlivňuje cenu, latenci a spolehlivost práce s informacemi.