Hyperparametr (hyperparameter)

Příklady z praxe

1. 01

   Rychlost učení rozhoduje, jestli síť vůbec konverguje

   Při trénování klasifikátoru obrázků skončí s rychlostí učení 0,5 ztráta na NaN, protože kroky optimalizátoru přestřelují minimum. S hodnotou 0,001 síť konverguje, s 0,00001 se učí tak pomalu, že rozpočet epoch nestačí. Rychlost učení se proto zkouší po řádech, ne po setinách.

   import torch
   
   model = MyNet()
   # hyperparametry: lr, weight_decay, batch_size, epochs
   optim = torch.optim.AdamW(model.parameters(), lr=1e-3, weight_decay=0.01)
   loader = torch.utils.data.DataLoader(train_ds, batch_size=64, shuffle=True)
   
   for epoch in range(20):
       for x, y in loader:
           loss = criterion(model(x), y)
           loss.backward()
           optim.step()
           optim.zero_grad()

2. 02

   Náhodné prohledávání s křížovou validací u gradientního boostingu

   U tabulkových dat se hloubka stromů, počet stromů a rychlost učení ladí společně, protože se navzájem ovlivňují: mělčí stromy potřebují jich víc. Padesát náhodně losovaných kombinací s pětinásobnou křížovou validací obvykle najde lepší model než ručně vybraná mřížka o stejném počtu běhů. Testovací sada zůstává celou dobu stranou.

   from sklearn.model_selection import RandomizedSearchCV
   from scipy.stats import loguniform, randint
   
   space = {
       "learning_rate": loguniform(1e-3, 3e-1),
       "max_depth": randint(2, 9),
       "n_estimators": randint(100, 1000),
   }
   search = RandomizedSearchCV(model, space, n_iter=50, cv=5, scoring="roc_auc")
   search.fit(X_train, y_train)
   print(search.best_params_)

Časté omyly

MýtusStačí najet grid search přes všechno a nechat to běžet přes noc.

Ve skutečnostiPočet kombinací v mřížce roste exponenciálně s počtem hyperparametrů, takže i tři hyperparametry po pěti hodnotách znamenají 125 dotrénování. Náhodné prohledávání nebo bayesovská optimalizace dosáhnou při stejném rozpočtu obvykle lepšího výsledku.

MýtusNejlepší hyperparametry poznám podle nejvyšší přesnosti na testovací sadě.

Ve skutečnostiVýběr podle testovací sady z ní dělá další validační sadu a výsledné číslo přestává být nezaujatým odhadem výkonu. Ladit se má na validační sadě a testovací se otevírá až jednou, na konci.

MýtusHyperparametry z blogového návodu budou fungovat i na mých datech.

Ve skutečnostiOptimální nastavení závisí na velikosti datasetu, poměru tříd i předzpracování. Přejaté hodnoty jsou rozumný výchozí bod pro první běh, ne náhrada za vlastní hledání.

Časté dotazy

Jaký je rozdíl mezi hyperparametrem a parametrem modelu?

Hyperparametr nastavuje člověk nebo automatický vyhledávač před trénováním a algoritmus ho během učení nemění: patří sem rychlost učení, velikost dávky, hloubka stromu nebo síla regularizace. Parametry modelu, tedy váhy neuronové sítě, koeficienty regrese nebo dělicí prahy ve stromech, se naopak dopočítají z trénovacích dat optimalizačním algoritmem. Jednoduchá kontrola: co se ukládá do souboru s natrénovaným modelem a mění se každou epochu, jsou parametry. Co musíte zapsat do konfigurace, aby šlo trénování vůbec spustit, je hyperparametr.

Které hyperparametry ladit jako první, když je málo času?

U neuronových sítí má největší dopad rychlost učení, hned za ní velikost dávky, síla regularizace (weight decay, dropout) a počet epoch v kombinaci s early stoppingem. U gradientního boostingu na tabulkových datech rozhoduje trojice rychlost učení, počet stromů a maximální hloubka, které se ladí společně. Architekturní hyperparametry jako počet vrstev se řeší až potom, protože jejich změna je nákladná. Nejlevnějším zlepšením ale bývá čistší dataset a lepší příznaky, ne jemnější mřížka hodnot.

Počítá se teplota u jazykového modelu jako hyperparametr?

Teplota se běžně označuje jako hyperparametr inference, protože se nastavuje zvenčí a model se z ní neučí. Na rozdíl od trénovacích hyperparametrů se ale mění za běhu při každém požadavku a nevyžaduje přetrénování. Do stejné skupiny patří top-k, top-p, penalizace opakování a maximální délka odpovědi. Nízká teplota vede k předvídatelnějším a opakovanějším výstupům, vyšší k rozmanitějším, ale méně spolehlivým. Pro produkční nasazení se tyto hodnoty ladí proti sadě testovacích promptů podobně jako klasické hyperparametry.

Jak poznat, že jsem se hyperparametry přeučil na validační sadu?

Podezřelý je stav, kdy skóre na validační sadě po desítkách běhů dál pomalu roste, ale rozdíly mezi nejlepšími kandidáty jsou menší než šum měření. Kontrolou je odložená testovací sada, kterou během hledání nikdo neotevře: pokud na ní model spadne výrazně pod validační číslo, hledání si vybralo šum konkrétního rozdělení. Spolehlivější postup je vnořená křížová validace, kde vnitřní smyčka ladí hyperparametry a vnější odhaduje výkon na datech, která se ladění neúčastnila.

Zdroje

1. torch.optim(otevře se v novém okně)PyTorch
2. Hyperparameter (machine learning)(otevře se v novém okně)Wikipedia
3. Hyperband: A Novel Bandit-Based Approach to Hyperparameter Optimization(otevře se v novém okně)arXiv, 2016

Související pojmy

• Křížová validaceKřížová validace je postup hodnocení modelu strojového učení, při kterém se data opakovaně rozdělí na trénovací a testovací část a model se vyhodnotí na každé části zvlášť. Výsledné metriky se zprůměrují, takže odhad výkonu méně závisí na jednom náhodném rozdělení dat a lépe odhalí přeučení.
• Trénování modeluTrénování modelu je proces, při kterém algoritmus strojového učení opakovaně upravuje vnitřní parametry (váhy) tak, aby jeho předpovědi na trénovacích datech co nejméně chybovaly. Chybu měří ztrátová funkce, směr úpravy určuje gradient. Výsledkem je model, který se naučené vzory dokáže aplikovat i na data, jež nikdy neviděl.
• A/B testováníA/B testování je řízený experiment, který porovnává dvě varianty stránky, funkce, ceny nebo sdělení na podobných skupinách uživatelů. Měří předem zvolenou metriku, například konverzi nebo retenci, a pomáhá rozhodnout, zda změna skutečně zlepšuje výsledek, nebo zda pozorovaný rozdíl mohl vzniknout náhodou.
• AI agentAI agent je softwarový systém, který pomocí modelu umělé inteligence vnímá zadaný kontext, plánuje další kroky a samostatně volá nástroje nebo služby k dosažení cíle. Na rozdíl od jednorázového promptu udržuje stav úlohy, vyhodnocuje výsledky akcí a může opakovat postup, dokud nesplní zadání nebo nenarazí na limit.
• AI etikaAI etika je obor, který zkoumá, jaké dopady mají systémy umělé inteligence na lidi, a formuluje pravidla pro jejich návrh, trénink a provoz. Řeší zaujatost dat, transparentnost rozhodování, ochranu soukromí, odpovědnost za chybu i bezpečnost modelu. Ve firemní praxi se promítá do interních politik, dokumentace modelů a povinností podle regulace typu AI Act.
• ArbitrážArbitráž je obchodní strategie, která využívá rozdíl v ceně stejného nebo ekonomicky shodného aktiva na různých trzích, místech nebo v různých formách. Trader se snaží levně koupit a současně dráž prodat, aby zisk vznikl z cenové nesrovnalosti, ne z dlouhodobého odhadu směru trhu. V praxi rozhodují poplatky, rychlost, likvidita a riziko vypořádání.
• AtribuceAtribuce je způsob, jak v marketingové analytice přiřadit zásluhu za konverzi jednotlivým kontaktům zákazníka se značkou, například reklamě, e-mailu nebo organickému vyhledávání. Pomáhá odhadnout přínos kanálů a kampaní, ale sama o sobě nedokazuje kauzalitu. Výsledek závisí na datech, pravidlech měření a zvoleném atribučním modelu.
• BackpropagationBackpropagation je algoritmus, kterým neuronová síť zjistí, jak moc se má každá váha změnit. Spočítá chybu na výstupu a pomocí řetízkového pravidla ji postupně rozpočítá zpět přes všechny vrstvy až na vstup.