Few-Shot Prompting

Few-Shot Prompting je technika, pri ktorej modelu nedáš iba zadanie úlohy, ale aj niekoľko ukážkových dvojíc vstup -> výstup. Model sa podľa nich prispôsobí očakávanému formátu, štýlu a rozhodovacím pravidlám.

Inak povedané: namiesto „povedz, čo má robiť" mu to krátko ukážeš na príkladoch.

1. Zero-shot vs One-shot vs Few-shot

Režim Čo model dostane Kedy sa hodí
Zero-shot iba inštrukciu jednoduché a bežné úlohy
One-shot 1 príklad keď stačí naznačiť formát
Few-shot 2-10 príkladov nejednoznačné pravidlá, špecifický štýl

Few-shot je prakticky najsilnejší, keď úloha závisí na jemných nuansách (tone-of-voice, doménové pravidlá, hraničné prípady).

2. Prečo to funguje

Model využíva in-context learning: z príkladov odčíta „lokálne pravidlá" bez toho, aby sa pretrénoval.

Z príkladov sa naučí najmä:

  • formát výstupu (JSON, tabuľka, odrážky),
  • štýl (stručný, formálny, technický),
  • rozhodovanie (ako klasifikuješ hraničné prípady),
  • obmedzenia (čo má ignorovať alebo odmietnuť).

3. Ako navrhnúť dobrý few-shot prompt

  1. Začni pravidlami Krátko definuj úlohu a čo presne má model vrátiť.

  2. Pridaj reprezentatívne príklady Nevyberaj len „ľahké" prípady. Daj tam aj hraničné a mätúce vstupy.

  3. Udrž konzistentný formát Každý príklad má mať rovnakú štruktúru.

  4. Oddeľ príklady od reálneho vstupu Použi jasné delimitery (napr. ### Príklady, ### Úloha).

  5. Drž počet príkladov primeraný Začni 3-5 príkladmi, potom pridávaj iba ak to merateľne zlepšuje výsledok.

4. Šablóna (copy-paste)

Si klasifikátor sentimentu pre e-shop recenzie.
Vráť iba jednu hodnotu: {pozitivne|neutralne|negativne}.

### Príklady
Vstup: "Produkt prišiel rýchlo a funguje perfektne."
Výstup: pozitivne

Vstup: "Balenie bolo dobré, ale výkon je priemerný."
Výstup: neutralne

Vstup: "Po dvoch dňoch sa pokazil, neodporúčam."
Výstup: negativne

### Úloha
Vstup: "Služba bola v poriadku, ale čakal som lepšiu kvalitu."
Výstup:

5. Praktické použitie

Few-shot sa hodí najmä na:

  • klasifikáciu textu (sentiment, intent, priorita),
  • extrakciu údajov do presného formátu,
  • normalizáciu odpovedí (konzistentný štýl),
  • doménové úlohy s vlastným žargónom,
  • interné pravidlá, ktoré nechceš riešiť fine-tuningom.

6. Najčastejšie chyby (anti-patterny)

  • Príklady si navzájom odporujú -> model je nekonzistentný.
  • Všetky príklady sú príliš podobné -> zlyhanie na hraničných vstupoch.
  • Miešanie formátov -> model mení štruktúru výstupu.
  • Priveľa príkladov -> rast ceny, latencie a riziko zahltenia kontextu.
  • Uniknuté citlivé dáta v príkladoch -> bezpečnostný problém.

7. Limity a trade-offy

  • Token budget: viac príkladov = menej miesta pre aktuálny vstup a výstup.
  • Latencia a cena: dlhší prompt býva pomalší a drahší.
  • Krehkosť pri doménovej zmene: nové typy vstupov môžu vyžadovať nové príklady.
  • Nie je to tréning modelu: pravidlá platia iba v rámci aktuálneho kontextu.

8. Quick Reference

Parameter Odporúčanie
Počet príkladov začni 3-5, potom iteruj podľa eval výsledkov
Zloženie príkladov mix jednoduchých + hraničných prípadov
Formát striktne konzistentný
Delimitery jasné sekcie pre príklady a reálnu úlohu
Eval testuj na slepom sete mimo príkladov
Bezpečnosť anonymizuj citlivé dáta v ukážkach

Zhrnutie

  • Few-shot prompting je najrýchlejší spôsob, ako zvýšiť presnosť a konzistenciu bez fine-tuningu.
  • Kvalitu určuje najmä výber príkladov a konzistentný formát.
  • Funguje výborne pri špecifických pravidlách, ale treba kontrolovať tokeny, cenu a robustnosť na nových vstupoch.