Transfer Learning

Transfer Learning je technika, pri ktorej vezmeš model už natrénovaný na veľkej úlohe (alebo na veľkom množstve dát) a „prenastavíš" ho na svoju konkrétnu úlohu. V praxi je to dôvod, prečo dnes vieš dostať dobrý AI výsledok aj s relatívne malým vlastným datasetom — a prečo väčšina moderných AI produktov (od chatbotov po systémy kontroly kvality) nestavia modely od nuly.

V roku 2026 je transfer learning de facto štandardom. Predtrénované modely ako LLaMA 3, Mistral, Gemma alebo Qwen tvorí základ, na ktorom firmy stavajú vlastné riešenia bez toho, aby investovali do multi-miliónovej infraštruktúry.

1. Čo to je (definícia + analógia)

  • Definícia: Transfer learning znamená, že model neštartuje od nuly – prenesie si už naučené „vedomosti" (reprezentácie) do novej úlohy alebo domény.
  • Analógia: Predstav si kuchára, ktorý roky varil v talianskej reštaurácii. Keď začne variť slovenské jedlá, veľa vecí už vie: prácu s ohňom, chuťové vyváženie, hygienu. Učí sa nové recepty, ale základné zručnosti len prispôsobí.
  • Čo sa prenáša: Nie hotové odpovede, ale vzorové rozpoznávanie – napr. „ako vyzerá hrana na obrázku", „ako funguje gramatika", „aké sú typické vzťahy medzi slovami".
  • Kľúčový posun v 2026: Transfer learning sa presunul od adaptácie menších sietí (napr. ResNet, BERT) k adaptácii obrovských základových modelov (foundation models) s miliardami parametrov. Techniky ako LoRA alebo QLoRA umožňujú takúto adaptáciu aj na bežnom hardvéri.

2. Ako to funguje (krok za krokom)

  • 1) Pretraining (predtrénovanie): Model sa najprv učí na obrovskom množstve dát všeobecné vzory.
    • Videnie: učí sa vizuálne rysy (tvary, textúry, objekty, ich vzťahy).
    • Text: učí sa štruktúru jazyka, kontext, fakty, súvislosti.
    • Multimodálne modely: súčasne zvládajú obraz, text, prípadne aj zvuk (napr. GPT-4o, Gemini 2.0).
  • 2) Prenos reprezentácií: Vnútorné vrstvy modelu obsahujú užitočné „stavebné bloky".
    • Nižšie vrstvy: zachytávajú všeobecné rysy — jednoduché vzory, základná gramatika, hrany v obraze.
    • Vyššie vrstvy: viac špecifické pre pôvodnú úlohu alebo doménu — tie sa pri adaptácii menia najviac.
  • 3) Adaptácia na tvoju úlohu: Tu máš typicky štyri praktické cesty (rozvedené v sekcii 4):
    • Feature extractor (bez učenia váh)
    • Full fine-tuning (doladenie všetkých váh)
    • Partial fine-tuning (zmrazené spodné vrstvy, trénujú sa len vrchné)
    • PEFT (parameter-efficient fine-tuning) — trénuje sa len malá časť nových parametrov, napr. cez LoRA
  • 4) Kontrola „čo sa pokazí": Pri prenose môže nastať:
    • Catastrophic forgetting: model pri doladení zabudne časť všeobecných schopností.
    • Negative transfer: prenos uškodí, lebo pôvodná doména je príliš odlišná.
    • Overfitting na malý dataset: model sa naučí tréningové dáta naspamäť, ale negeneralizuje.

3. Porovnanie prístupov adaptácie

Každý prístup má iný pomer medzi flexibilitou, nákladmi a rizikami. Táto tabuľka zhrňuje, kedy ktorý zvoliť:

Prístup Čo sa trénuje Dáta potrebné Výpočtová náročnosť Riziko zabudnutia Typické použitie
Feature extractor Nič (model zmrazený) 100–1 000 Veľmi nízka Žiadne Rýchly prototyp, málo dát
Partial fine-tuning Len vrchné vrstvy 1 000–10 000 Nízka–stredná Nízke Doménová adaptácia, NLP klasifikácia
Full fine-tuning Všetky váhy 10 000+ Vysoká Stredné–vysoké Špecifický štýl, komplexná doména
LoRA / QLoRA (PEFT) Malé adaptačné matice 500–50 000 Nízka (aj spotrebiteľský GPU) Nízke Produkčné LLM adaptácie v 2025–2026
Prompt/Prefix tuning Len soft prompty 100–5 000 Veľmi nízka Žiadne Rýchla adaptácia bez zmeny váh

Praktické odporúčanie pre 2026: Pre väčšinu firemných LLM úloh (chatbot, klasifikátor, extrakcia) začni s LoRA — dáva takmer rovnaké výsledky ako full fine-tuning za zlomok nákladov.

4. Parameter-Efficient Fine-Tuning (PEFT) a LoRA

Najväčší posun v transfer learningu za posledné dva roky nie je v prístupe, ale v efektivite adaptácie. Metódy PEFT umožňujú doladiť model s miliardami parametrov bez toho, aby si menil väčšinu z nich.

LoRA (Low-Rank Adaptation)

Namiesto úpravy pôvodných váh pridáva LoRA do vybraných vrstiev dve malé matice (nízkeho ranku), ktoré zachytávajú potrebnú zmenu. Pôvodné váhy zostávajú zmrazené.

  • Model s 7 miliardami parametrov → LoRA adaptér má typicky len 10–100 miliónov parametrov (< 1 %).
  • Adaptér sa dá uložiť zvlášť a kedykoľvek pripojiť/odpojiť od základného modelu.
  • QLoRA pridáva kvantizáciu základného modelu (4-bit), čo zníži pamäťovú stopu ešte výraznejšie — model ako LLaMA 3 8B vieš doladiť aj na GPU s 8 GB VRAM.

Ďalšie PEFT metódy

  • Prefix tuning / Prompt tuning: trénovateľné tokeny vložené na začiatok vstupu, model samotný sa nemení.
  • Adapter layers: malé doplnkové vrstvy vložené medzi existujúce transformer bloky.
  • IA³: škálovanie aktivácií namiesto pridávania váh — ešte kompaktnejšie než LoRA.

Kód: LoRA fine-tuning (zjednodušene)

from peft import LoraConfig, get_peft_model
from transformers import AutoModelForCausalLM

model = AutoModelForCausalLM.from_pretrained("meta-llama/Meta-Llama-3-8B")

lora_config = LoraConfig(
    r=16,           # rank — väčší = viac kapacity, väčší adaptér
    lora_alpha=32,
    target_modules=["q_proj", "v_proj"],  # ktoré vrstvy adaptovať
    lora_dropout=0.05,
)

model = get_peft_model(model, lora_config)
model.print_trainable_parameters()
# Trainable params: 3.3M || All params: 8.0B || Trainable%: 0.041%

Základný model zostáva zmrazený — trénuješ len 0,04 % parametrov.

5. Prečo je to dôležité / kde sa to používa

  • Rýchlejší štart: Namiesto týždňov a obrovských dát často stačí menší dataset a kratšie doladenie.
  • Lacnejšie učenie: Šetríš výpočtový výkon — najťažšia práca (predtrénovanie) už prebehla, a náklady niesol tvorca základného modelu.
  • Lepšie výsledky v praxi: Získaš model, ktorý je presnejší na tvoju úlohu, robustnejší pri šume a použiteľný aj bez „big data".

Typické použitia v roku 2026:

  • NLP / firemné LLM asistenty: adaptácia open-source modelu na internú terminológiu, procesy a tón — bez zdieľania dát s externou cloudovou službou.
  • Computer vision: detekcia defektov vo výrobe, rozpoznávanie typov tovaru, kontrola kvality na výrobných linkách.
  • Medicína a právo: adaptácia modelu na odborný jazyk; tu je nevyhnutná aj dôsledná validácia a sledovanie výkonu v produkcii.
  • Audio a reč: rozpoznávanie reči v špecifickom prostredí (výrobná hala, call centrum), detekcia anomálií v zvuku.
  • Kód: modely ako CodeLlama alebo DeepSeek Coder sú samy o sebe výsledkom transfer learningu — predtréning na texte, ďalší tréning na kóde.
  • Recommender systémy: prenos signálov medzi produktovými kategóriami alebo regiónmi, keď nová kategória nemá dostatok histórie.

6. Výhody a obmedzenia

Výhody:

  • Menej dát: stačia stovky až tisíce príkladov (nie milióny), ak je úloha „blízko" pôvodnému predtréningu.
  • Rýchlejšie nasadenie: kratší čas od nápadu po pilot; PEFT metódy zvládne aj tím bez dedikovaného ML inžiniera.
  • Stabilnejší výkon: predtrénovaný model býva menej náchylný na preučenie než model trénovaný od nuly.
  • Oddelenie základu od adaptácie: pri LoRA môžeš meniť adaptér bez dotyku základného modelu — jednoduchšia správa verzií.

Obmedzenia:

  • Závislosť od pôvodu modelu: ak bol model trénovaný na niečom veľmi odlišnom od tvojej domény, prenos môže byť slabý alebo škodlivý (negative transfer).
  • Licencie a kompatibilita: nie každý model môžeš legálne/komerčne doladiť alebo nasadiť. Skontroluj licenciu (napr. Llama 3 má osobitné podmienky pre produkty nad 700M používateľov).
  • Bias a „zdedené" chyby: prenášaš aj skreslenia a slepé miesta pôvodného modelu. Ak základný model zle reprezentuje nejakú skupinu alebo tému, doladenie to automaticky neopraví.
  • Riziko preučenia: pri malom datasete vie fine-tuning urobiť model „sebavedomo zlý" — odpovedá s istotou, ale nesprávne.
  • Nekontrolovaný výstup: adaptovaný model môže produkovať obsah, ktorý základný model potláčal. Pri citlivých doménach je potrebný aj alignment krok (napr. RLHF alebo DPO).

7. Praktické použitie (čo to znamená pre teba)

Kedy sa s tým stretneš, aj keď o tom nevieš:

  • Keď používaš nástroj, ktorý ponúka custom model alebo doladenie na firemné dáta.
  • Keď „AI v appke" zrazu začne lepšie rozumieť tvojej terminológii – za tým je nejaká forma adaptácie.
  • Keď open-source model spustíš lokálne a dáš mu systémový prompt s firemným kontextom — aj to je slabá forma adaptácie (prompt engineering na predtrénovanom základe).

Ako si vybrať prístup:

  • Ak máš málo dát a chceš rýchlo výsledok: začni ako feature extractor (embeddingy + jednoduchý klasifikátor).
  • Ak máš stredne veľa dát a potrebuješ špecifický štýl alebo presnosť: choď do LoRA / partial fine-tuning.
  • Ak máš dostatok dát a potrebuješ hlbokú doménovú adaptáciu: full fine-tuning, ale počítaj s vyššími nákladmi a potrebou validácie.
  • Ak je doména citlivá (zdravie, financie, právo): doladenie nie je len technika — potrebuješ validáciu, testy, audit trail a proces pre prípad chyby.

Na čo si dať pozor (konkrétne):

  • Kvalita dát: radšej 500 čistých príkladov než 5 000 špinavých. Garbage in, garbage out platí pri fine-tuningu dvojnásobne.
  • Rozdelenie dát: drž si bokom test set, ktorý model „nevidel" — inak si budeš klamať o kvalite.
  • Definícia úspechu: stanov si metriku (presnosť, F1, recall pri kritickej triede) ešte pred trénovaním, nie po ňom.
  • Zabúdanie schopností: ak doladením zhoršíš všeobecné správanie, pomáha nižší learning rate, zmrazenie viac vrstiev, alebo prechod na LoRA.
  • Evalvácia vs. benchmarky: firemné use cases majú iné kritériá než akademické benchmarky — testuj na reálnych vstupoch z tvojho prostredia.

Bezpečnosť a súkromie v praxi:

  • Citlivé dáta: ak posielaš dáta do cloudu na doladenie, ber to ako export — anonymizuj, minimalizuj, kontroluj prístupy. Preferuj lokálne trénovanie pri dátach s osobnými alebo obchodnými tajomstvami.
  • Úniky cez správanie modelu: model môže „nasávať" špecifické frázy alebo identifikátory, ak ich dáš do tréningu príliš doslova — osobné údaje, interné čísla objednávok a podobne.
  • Najmenšie potrebné dáta: trénuj iba to, čo musíš — uprataj slovník, kategórie a príklady pred tréningom.

8. Fine-tuning v kóde (klasický prístup)

Typický partial fine-tuning zmrazí väčšinu predtrénovaného modelu a doučí len malú časť:

model = load_pretrained("base-model")

# zmraz spodné vrstvy — všeobecné reprezentácie nechaj tak
for p in model.backbone.parameters():
    p.requires_grad = False

# doučíš len novú „hlavu" na svoju úlohu (nízky learning rate!)
optimizer = AdamW(model.head.parameters(), lr=1e-4)
model.fit(my_small_dataset)

Nízky learning rate a zmrazené vrstvy sú obrana proti catastrophic forgetting. Ak vidíš, že výkon na pôvodných úlohách klesá, znížiš learning rate ešte viac alebo zmrazíš ďalšie vrstvy.

9. Súvislosti

  • Deep Learning: transfer learning je jeho kľúčová prax pri malých dátach — bez predtrénovaných sietí by bolo deep learning pre väčšinu firiem nedostupné.
  • LLM: dnešné jazykové modely sú „transfer learning v obrovskom meradle" — predtréning na internete, potom doladenie na inštrukciách (SFT) a zarovnaní (RLHF/DPO).
  • Machine Learning: širší kontext, kam adaptácia modelov patrí.
  • PEFT / LoRA: špecifická technika, ktorá spravila transfer learning prakticky dostupným aj pre malé tímy s bežným hardvérom.

Zhrnutie

  • Transfer learning ti umožní stavať AI riešenia bez toho, aby si model trénoval od nuly — prenášaš si naučené vzory z predtrénovaného základu.
  • V praxi to najčastejšie znamená feature extractor, LoRA/PEFT, alebo čiastočné doladenie — plné doladenie všetkých váh je stále relevantné, ale pre väčšinu prípadov prehnané.
  • V roku 2026 je štandardom adaptovať open-source základové modely (LLaMA 3, Mistral, Gemma) cez LoRA — kombinácia nízkych nákladov, dobrých výsledkov a zachovania kontroly nad dátami.
  • Najväčšie riziká sú negative transfer, catastrophic forgetting, slabá kvalita tréningových dát a prenesené skreslenia pôvodného modelu.
  • Ak chceš dobrý výsledok, najviac pomáha byť konkrétny: jasná metrika, čisté dáta, realistické testovanie a opatrné doladenie.