Generativní AI je oblast umělé inteligence, která vytváří nový text, obrázky, zvuk, video nebo kód podle zadaného kontextu. Model se učí statistické vzory z dat a při použití skládá pravděpodobný výstup, nevyhledává hotovou odpověď. Proto vyžaduje kontrolu faktů, práv i bezpečnosti.
Gradientní sestup je optimalizační metoda, která postupně mění parametry modelu ve směru nejrychlejšího poklesu ztrátové funkce. V praxi se používá hlavně při trénování modelů strojového učení, kde pomáhá najít váhy s menší chybou, i když prostor možných řešení má miliony rozměrů.
Guardrails jsou vrstva pravidel, filtrů a kontrol kolem jazykového modelu nebo AI agenta, která hlídá, co smí přijít na vstup a co smí odejít na výstup. Blokují nebo přepisují nevhodné dotazy, ověřují formát odpovědi, omezují dostupné nástroje a zachytí témata, kterým se aplikace má vyhnout.