Generativní AI (Generative AI)

Příklady z praxe

1. 01

   Návrh odpovědi pro zákaznickou podporu

   Support agent vloží dotaz zákazníka, číslo objednávky a interní pravidla pro vracení zboží. Generativní AI připraví návrh odpovědi s přátelským tónem a upozorní, které údaje si má agent ověřit v systému. Výsledkem není automatické rozhodnutí, ale rychlejší první verze textu.

   {
     "ukol": "navrhni odpoved zakaznikovi",
     "ton": "vecny a zdvorily",
     "nepis": "neslibuj vraceni penez bez overeni objednavky"
   }

2. 02

   Generování testů pro změněnou funkci

   Vývojář změní funkci pro výpočet ceny dopravy a požádá model o návrh hraničních testů. Generativní AI doplní případy pro nulovou hmotnost, chybějící PSČ a limit dopravy zdarma. Vývojář testy upraví podle skutečné doménové logiky a spustí je v CI.

   def test_free_shipping_limit():
       assert shipping_price(total=1500, weight=2) == 0

Časté omyly

MýtusGenerativní AI jen kopíruje části trénovacích dat.

Ve skutečnostiGenerativní AI obvykle skládá nový výstup z naučených statistických vztahů. Kopírování se ale může objevit, zvlášť u zapamatovaných nebo velmi častých pasáží, proto je důležitá kontrola originality a licencí.

MýtusKdyž model uvede zdroj, tak je odpověď ověřená.

Ve skutečnostiGenerativní AI může uvést neexistující nebo irelevantní citaci. Zdroj je potřeba otevřít, zkontrolovat jeho obsah a ověřit, že skutečně podporuje tvrzení v odpovědi.

MýtusVětší model automaticky znamená bezpečnější výstup.

Ve skutečnostiVětší model může lépe formulovat odpovědi a zvládat složitější kontext, ale bezpečnost závisí také na datech, nastavení, filtrování, testování a řízení přístupu.

Časté dotazy

Kdy se generativní AI vyplatí nasadit do firemního procesu?

Generativní AI může ušetřit čas, pokud je úkol snadno ověřitelný a výstup slouží jako návrh. Typické jsou sumarizace dokumentů, návrhy e-mailů, prototypy kódu, překlady tónu textu nebo tvorba variant marketingového sdělení. Nasazení dává menší smysl tam, kde kontrola trvá déle než ruční práce nebo kde chyba způsobí vysokou právní, finanční či bezpečnostní škodu.

Může generativní AI používat citlivá firemní data?

Generativní AI může zpracovávat osobní údaje, zdrojový kód nebo interní dokumenty podle toho, jaký nástroj a nastavení firma použije. Riziko nevzniká jen z trénování modelu, ale také z logů, dočasného uložení promptů, přístupu administrátorů a přenosu dat mimo organizaci. Bezpečné použití vyžaduje smluvní podmínky, klasifikaci dat a technické omezení citlivých vstupů.

Jak ověřovat výstupy generativní AI v praxi?

Generativní AI potřebuje testování, protože plynulý text nezaručuje správné řešení. U kódu se kontrolují jednotkové testy, statická analýza, bezpečnostní pravidla a code review. U textu se hodnotí věcná správnost, soulad s pravidly značky a riziko nepravdivých tvrzení. Kvalita se má měřit na typických úlohách organizace, ne jen na jedné ukázkové odpovědi.

Proč generativní AI někdy nestačí místo vyhledávače?

Generativní AI nenahrazuje vyhledávač ve všech situacích. Vyhledávač vrací zdroje, které lze číst a citovat, zatímco generativní model vytváří novou formulaci z kontextu a naučených vzorů. Pro práci s fakty je vhodné požadovat odkazy na zdroje, používat RAG nebo výsledek porovnat s primární dokumentací.

Zdroje

1. Artificial Intelligence Risk Management Framework (AI RMF 1.0)(otevře se v novém okně)NIST, 2023
2. Attention Is All You Need(otevře se v novém okně)arXiv, 2017
3. Language Models are Few-Shot Learners(otevře se v novém okně)arXiv, 2020
4. Denoising Diffusion Probabilistic Models(otevře se v novém okně)arXiv, 2020

Související pojmy

• HalucinaceHalucinace je výstup generativního modelu, který zní přesvědčivě, ale není podložen vstupem, trénovacími daty ani ověřitelnou skutečností. V AI se týká hlavně jazykových modelů, které doplní neexistující citaci, chybný fakt, smyšlené API nebo nepřesný závěr místo přiznání nejistoty uživateli.
• Large language modelLarge language model je neuronový jazykový model trénovaný na rozsáhlých textech, který z kontextu předpovídá a generuje posloupnosti tokenů. Používá se pro chat, sumarizaci, překlad, práci s kódem i vyhledávání informací, ale výstupy mohou obsahovat chyby, zkreslení nebo neověřené domněnky.
• Prompt engineeringPrompt engineering je navrhování, testování a průběžné ladění vstupních instrukcí pro generativní modely tak, aby dávaly spolehlivě užitečné a kontrolovatelné výstupy. Zahrnuje volbu role, kontextu, formátu odpovědi, příkladů, omezení i kontrol proti halucinacím, prompt injection a úniku citlivých dat v aplikacích.
• RAGRAG je architektura pro práci s jazykovým modelem, která před generováním odpovědi vyhledá relevantní informace v externím úložišti a vloží je do kontextu modelu. Díky tomu může aplikace odpovídat z aktuálních firemních dat, dokumentace nebo znalostní báze, aniž by se musel model pokaždé znovu trénovat.
• TransformerTransformer je architektura neuronové sítě postavená na mechanismu pozornosti (self-attention), která zpracovává celou sekvenci najednou místo prvku po prvku. Publikovaná byla v roce 2017 v práci Attention Is All You Need a stala se základem dnešních jazykových modelů, překladačů i modelů pro obraz a zvuk.
• Fine-tuningFine-tuning je úprava již předtrénovaného modelu strojového učení na menší sadě cílených dat, aby lépe zvládal konkrétní úlohu, doménu nebo styl odpovědí. Místo učení od nuly navazuje na existující znalosti modelu a mění část jeho parametrů nebo přidává malé trénovatelné vrstvy.
• ACIDACID je sada čtyř vlastností databázové transakce: atomicity, consistency, isolation a durability. Zaručuje, že skupina zápisů proběhne jako jeden celek, neporuší definovaná pravidla databáze, nebude se nebezpečně míchat s jinými transakcemi a po potvrzení přežije pád systému, například při převodu peněz.
• Adaptive IconAdaptivní ikona je formát ikony aplikace na Androidu, který se místo jedné hotové bitmapy skládá z oddělených vrstev: pozadí a popředí. Systém výsledný tvar sám ořízne podle masky výrobce zařízení a může vrstvy animovat nebo přebarvit. Vývojář tak dodá jeden zdroj a launcher z něj vytvoří kruh, čtverec i squircle.