No Free Lunch Theorem

No Free Lunch Theorem (NFL) hovorí (zjednodušene), že ak spriemeruješ výkon algoritmov cez všetky možné problémy, žiadny nemá výhodu. Inými slovami: ak niečo vyhráva často, je to preto, že „hrá" na konkrétny typ úloh — nie preto, že je univerzálne najlepšie. Vetu sformulovali David Wolpert a William Macready v roku 1997 a je jedným z mála skutočne fundamentálnych tvrdení v strojovom učení.

V dobe, keď sa skloňujú jazykové modely s biliónom parametrov, škálovacie zákony a „AGI za rohom", zostáva NFL nepríjemnou, ale nevyhnutnou pripomienkou toho, čo matematika o učení skutočne hovorí. Nie je to veta o beznádeji — je to veta o poctivosti: o tom, že každý výkon má svoju cenu a každý algoritmus nesie skryté predpoklady.

1. Definícia

Jadro myšlienky: neexistuje algoritmus, ktorý by bol nadpriemerne dobrý na všetky možné úlohy, ak nemáš žiadne predpoklady o tom, aké úlohy ťa čakajú.
Prečo sa o tom hovorí: v AI často hľadáme „silver bullet" — jeden model, jeden trik, jeden optimalizátor. NFL pripomína, že bez štruktúry problému to nejde.
Analógia – univerzálny kľúč: kľúč, ktorý „ako-tak" pasuje do všetkých zámkov, bude pri konkrétnom zámku horší než kľúč vyrobený presne naň.
Historický kontext: Wolpert a Macready formalizovali to, čo mnohí praktici intuitívne tušili — že „najlepší algoritmus" je vždy relatívne tvrdenie, nie absolútne.
Čo veta nehovorí: netvrdí, že žiadny algoritmus nie je lepší ako iný. Tvrdí len, že nie je lepší uniformne cez všetky problémy. V praxi to znamená, že výber algoritmu je vždy implicitnou hypotézou o štruktúre problému.

2. Formálna matematická formulácia

Pre záujemcov o presnosť: NFL pre optimalizáciu tvrdí, že pre ľubovoľné dva algoritmy $A$ a $B$ platí:

Σ_f P(d^m_y | f, m, A) = Σ_f P(d^m_y | f, m, B)

kde:

f je cieľová funkcia z množiny všetkých možných funkcií,
m je počet vyhodnotení,
d^m_y je postupnosť nájdených hodnôt.

Zjednodušene: ak súčtuješ výkony cez všetky funkcie f, vyjde to rovnako pre akýkoľvek algoritmus. Rovnako to platí pre učenie: ak spriemuješ generalizačnú chybu cez všetky možné distribúcie dát, každý klasifikátor skončí na rovnakom čísle.

Dôležitá podmienka: výsledok platí len vtedy, ak sa distribúcia trénovacích a testovacích dát nelíši od rovnomerného rozloženia cez všetky možné problémy. Práve toto obmedzenie otvára dvere pre zmysluplné strojové učenie — pretože reálny svet rovnomerný nie je.

Čo to matematicky znamená: priestor všetkých možných funkcií f : X → Y je pre rozumné |X| astronomicky veľký. Drvivá väčšina týchto funkcií je úplne náhodná a bez štruktúry. Reálne problémy tvoria nepatrný, ale vysoko štruktúrovaný podpriestor — a práve tam algoritmom vzniká ich výhoda.

Praktická implikácia nerovnomernosti: reálne distribúcie problémov sú klastrovité — jazyk má gramatiku, obrazy majú priestorovú lokalitu, fyzikálne systémy majú zákony zachovania. Algoritmy, ktoré tieto štruktúry odrážajú (konvolúcie pre obrazy, attention pre sekvencie, fyzikálne simulátory pre pohyb), dominujú práve preto, že ich inductive bias zodpovedá skutočnému rozloženiu problémov v danej doméne.

3. Dve verzie vety

NFL existuje v dvoch príbuzných formách:

NFL pre optimalizáciu: spriemerované cez všetky možné cieľové funkcie dosiahne každý optimalizačný algoritmus rovnaký výkon. Žiadna heuristika (genetické algoritmy, simulated annealing, gradientný zostup) nie je univerzálne lepšia než slepé náhodné hľadanie.
NFL pre učenie/klasifikáciu: spriemerované cez všetky možné distribúcie dát má každý učiaci algoritmus rovnakú očakávanú chybu na nevidených dátach.

Spoločná pointa: výhoda algoritmu vždy pochádza z toho, že realita nie je „všetky problémy rovnako" — má štruktúru, a algoritmus na ňu sadne.

Σ (výkon algoritmu A cez VŠETKY problémy) = Σ (výkon algoritmu B cez VŠETKY problémy)

→ ak A poráža B na tvojej úlohe, musí B porážať A na nejakej inej.

Toto nie je špekulácia — je to matematická nevyhnutnosť vyplývajúca z toho, ako sú definované „všetky problémy".

4. Prečo to platí (intuícia)

Priemerovanie cez všetko: veta predpokladá, že „všetky problémy" sú rovnako pravdepodobné. Vtedy sa výhody a nevýhody algoritmov navzájom vyrušia.
Skryté predpoklady: ak algoritmus funguje výborne na nejakej triede úloh, implicitne má inductive bias na túto triedu. Ak tvrdíš, že ho nemáš, klamieš sám sebe — výber dát, architektúry a metriky je bias.
Konzervácia výkonu: čo algoritmus získa na jednej skupine problémov, presne to stratí na inej. Je to bilancia, ktorá musí vyjsť na nulu.
Priestor funkcií je obrovský: väčšina „problémov" vo vesmíre všetkých možných funkcií je chaotická a nesúvislá. Naše reálne problémy sú hladké, lokálne a kompozičné — čo je práve dôvod, prečo gradientný zostup funguje.
Každý benchmark je filter: keď hovoríme, že jeden algoritmus vyhral súťaž, v skutočnosti hovoríme, že na tejto konkrétnej distribúcii problémov bol lepší. NFL nás núti neprekladať tento výsledok do „je lepší všeobecne".

5. Súvislosť s bias-variance tradeoffom

NFL a bias-variance tradeoff sú dve strany tej istej mince — oba opisujú, ako predpoklady a výkon súvisia.

Bias-variance tradeoff hovorí: každý model balancuje medzi:

Biasom (príliš silné predpoklady → model je systematicky nepresný),
Varianciou (príliš slabé predpoklady → model je citlivý na šum v dátach).

NFL to zovšeobecňuje na celý priestor algoritmov: zníženie biasu nikdy nie je zadarmo — platíš väčšou varianciou, alebo presuniete chybu na iné typy problémov.

Bias-variance:   znížiš bias → zvýšiš varianciu (v rámci jedného problému)
NFL:             znížiš chybu na triede A → zvýšiš chybu na triede B (medzi problémami)

Toto má priamy praktický dôsledok pri výbere modelu:

Situácia	Odporúčaný smer
Málo dát, jednoduchá doména	Väčší bias (lineárny model, regularizácia)
Veľa dát, komplexná doména	Väčšia kapacita (hlboká sieť, transformery)
Neznáma doména	Explicitné testovanie biasu, nie jeho minimalizácia
Kritická aplikácia	Konzervatívny bias + silná validácia mimo distribúcie
Nová doména s malým datasetom	Transfer learning + selektívne doladenie, nie tréning od nuly

Záver: neexistuje „nulový bias" — len zámerný alebo skrytý bias. NFL ti hovorí, že sa nevyhneš výberu; bias-variance tradeoff ti hovorí, aká je cena každej voľby.

6. Hlavné prejavy v praxi

„Vyhral benchmark" ≠ „vyhrá u teba": model môže dominovať na sade testov, ale mimo tejto distribúcie výkon padá. Toto sme videli opakovane — od ImageNet-víťazov po jazykové modely hodnotené na MMLU.
Hyperparametre ako lotéria: pri ladení naslepo narazíš na bod, kde zlepšenie jednej metriky zhorší inú. NFL to predpovedá — optimalizuješ na proxy, nie na cieľ.
Doménová znalosť sa vracia zadnými dverami: aj keď tvrdíš, že „nepredpokladáš nič", už len výber dát, metrík a architektúry sú predpoklady.
Transfer learning má hranice: pretrénovaný model prináša bias z pôvodnej domény. Keď ho nasadíš inde, platíš daň presne tam, kde sa domény líšia.
Catastrophic forgetting ako NFL-jav: pri doladení na novej úlohe model „zabúda" pôvodné schopnosti — výhoda v novej doméne prichádza na úkor starých. Toto je NFL v akcii na úrovni parametrov siete.
AutoML a NAS nepomáhajú: automatické hľadanie architektúr (Neural Architecture Search) nevyrieši NFL — len presunie problém výberu predpokladov z človeka na samotný vyhľadávací algoritmus, ktorý tiež musí mať vlastný bias.
Prompt engineering je tiež bias: výber promptovej stratégie je implicitná hypotéza o tom, čo model „vie". Chain-of-thought prompting funguje lepšie na problémy s krokovitou štruktúrou — a horšie tam, kde taká štruktúra neexistuje.

7. NFL a veľké jazykové modely (2026)

Toto je téma, kde sa NFL v súčasnosti prejavuje najviditeľnejšie. Modely ako Claude Opus 4, GPT-5, Gemini 2.x, Llama 4 a ďalšie vlajkové modely roka 2025–2026 sú trénované na obrovských korpusoch textu — čo vyzerá ako „bez predpokladov". Nie je to tak.

Aký bias majú LLM?

Sú predoptimalizované na ľudský jazyk v konkrétnych distribúciách (angličtina dominuje, web-text dominuje, formálny text dominuje).
Sú lepšie na úlohy, ktoré sú dobre reprezentované v trénovacom korpuse (programovanie, eseje, faktické QA), a horšie na úlohy, ktoré nie sú (vzácne jazyky, vysoko špecializované domény, nové udalosti po cutoff).
Ich „znalosti" sú implicitné — nevieme presne, aký bias nesú, čo sťažuje predikciu zlyhania.
RLHF a post-training alignment pridávajú ďalšiu vrstvu biasu: modely sú naladené na ľudské preferencie z konkrétnej demografickej skupiny hodnotiteľov. Toto nie je „neutrálna" úprava.

Praktický dôsledok: keď nasadíš LLM na firemnú doménu (medicína, právo, výroba), výkon závisí od toho, nakoľko sa táto doména kryje s trénovacou distribúciou. NFL predpovedá, že zlepšenie v jednej oblasti môže znamenať horšie výsledky v inej — čo vidíme pri fine-tuningu, kde model „zabúda" na pôvodnú schopnosť.

Model / prístup	Silná doména (bias)	Slabá doména (daň)
Claude Opus 4 (Anthropic)	Dlhý kontext, uvažovanie, bezpečnosť	Numerické výpočty bez nástrojov, nišové jazyky
GPT-5 (OpenAI)	Angličtina, kód, široka faktická báza	Vzácne jazyky, fyzická intuícia, post-cutoff udalosti
Gemini 2.x (Google)	Multimodálne, integrácia vyhľadávania	Nišové odborné domény mimo webového indexu
Llama 4 (Meta, open-source)	Flexibilita fine-tuningu, komunita	Menšia základná kapacita, nižšia bezpečnosť
Fine-tuned domain model	Cieľová doména (napr. medicína)	Generalizácia mimo domény, catastrophic forgetting
RAG systém	Aktuálnosť faktov, citovateľnosť	Syntetické uvažovanie, konzistencia dlhých odpovedí
Mixture of Experts (MoE)	Efektivita na distribuovaných úlohách	Koordinačná réžia, bias jednotlivých expertov pretrváva

Poznámka k MoE architektúram: Mixture of Experts (používaná napr. v Mixtral, Grok a interných verziách väčších modelov) nevyrieši NFL — len paralelizuje bias. Každý expert nesie vlastný bias, a router sa musí naučiť, kedy ktorý expert použiť — čo je samo o sebe učiaci problém s vlastným biasom.

8. NFL a reasoning modely / test-time compute (2026)

Od roku 2024 dominuje v špičkovom AI výskume nový prístup: namiesto (alebo popri) škálovaní trénovania sa škáluje výpočet pri inferencii — model dostane čas „myslieť" pred odpoveďou. Príkladmi sú o3 (OpenAI), DeepSeek-R1, Claude s rozšíreným myslením (extended thinking) alebo Gemini s dlhými reťazcami uvažovania.

Naivná otázka: ak model myslí dlhšie a výsledky sú lepšie — nevyriešil tým NFL?

Odpoveď: nie. Reasoning modely len posúvajú problém biasu na iné miesto, neodstraňujú ho.

Kde reasoning prináša skutočný zisk:

Problémy s overiteľnou správnosťou (matematika, kód, formálna logika) — model môže generovať a overovať hypotézy v cykle.
Úlohy, kde existuje jasná signálna cesta medzi medzikrokmi a výsledkom.
Domény dobre zastúpené v trénovacom korpuse vrátane vzoriek uvažovacieho procesu (reťazce dôkazov, matematické riešenia).

Kde reasoning nezaberá — a prečo je to NFL:

Problémy bez overiteľného medziodznamu: ak model nevie zistiť, či jeho uvažovací krok bol správny, dlhšie myslenie produkuje dlhšiu, ale nie správnejšiu halucináciu.
Domény nedostatočne pokryté tréningom: viac krokov uvažovania na neznámej doméne môže zosilniť chybu namiesto jej opravenia.
Sociálne, estetické a hodnotové úlohy: „správnosť" nie je overiteľná zvnútra modelu, takže iteratívne myslenie nemá signál na opravu.

Test-time compute scaling:  výkon ↑ s výpočtom (pre overiteľné problémy v trénovanej distribúcii)
NFL:                        výkon na neoveriteľných / mimo-distribučných problémoch je nezaručený
Záver:                      reasoning je bias smerom k štrukturovaným, overiteľným úlohám

Reinforcement learning z overených výsledkov (RLVR — prístup za DeepSeek-R1, o3 a podobnými) funguje práve preto, že v matematike a kóde existuje objektívny reward signal. Tento prístup je extrémne efektívny — a extrémne zaujatý. Modely trénované primárne cez RLVR sú silné na formálne domény a relatívne slabé na otvorené, kreatívne alebo hodnotovo-zložité úlohy, kde reward signal neexistuje.

Typ reasoning modelu	Výhoda (silný bias)	Daň (slabý bias)
RLVR (math/code)	Overiteľné formálne problémy	Otvorené, ambígne, hodnotové úlohy
Extended thinking (dlhý CoT)	Viacstupňové dedukcie	Rýchle odpovede, kreativita bez štruktúry
Self-consistency sampling	Robustnosť na konzistentné problémy	Nekonzistentné domény (estetika, etika)
Tree-of-thought search	Problémy s jasným prehľadávacím priestorom	Problémy s implicitnými / fuzzy stavmi

Praktický záver: reasoning modely nie sú výnimkou z NFL — sú jej ďalším príkladom. Ich sila je reálna, ale ohraničená tým, čo bolo overiteľné počas trénovania. Keď nasadzuješ reasoning model, pýtaj sa: je táto úloha overiteľná rovnakým spôsobom, ako boli overiteľné trénovacie príklady? Ak nie, očakávaj väčšiu neistotu, ako by naznačoval benchmark.

9. NFL a agentné systémy

V roku 2026 je dominantným paradigmom nasadzovania AI tzv. agentic stack — model (alebo viacero modelov) dostane nástroje, pamäť, prístup k internetu a schopnosť vykonávať akcie v dlhých horizontoch. Príklady zahŕňajú autonómnych kódovacích agentov (SWE-agent, Devin-typ systémy), podnikových asistentov s prístupom k interným databázam, či multiagentné pipeline pre analýzu a rozhodovanie.

NFL v agentnom kontexte sa prejavuje na viacerých úrovniach:

Bias orchestrátora: v multi-agentnom systéme musí router/orchestrátor rozhodovať, ktorý sub-agent dostane úlohu. Toto rozhodovanie je samo o sebe učiaci problém s vlastným biasom — systém sa naučí efektívne smerovať len pre distribúciu úloh, ktorú videl počas trénovania alebo promptovania.

Kompozícia biasov: keď reťazíš viaceré modely (napr. plánovač → executor → verifikátor), ich individuálne biasy sa nekompenzujú — môžu sa zosilňovať. Chyba plánovača nastavená na jednu distribúciu problémov sa presunie ako kontext do executora, ktorý ju ďalej amplifikuje.

Hodnotenie agentných systémov je obzvlášť náchylné na NFL-skreslenie:

Benchmark	Čo meria	Kde NFL udrí
SWE-bench	Oprava bugov v open-source repo	Iné kódovacie štýly, interné repo, novšie frameworky
GAIA	Všeobecné agentic úlohy (web, súbory)	Špecializované domény, privátne zdroje
WebArena	Navigácia webových rozhraní	Nové / firemné / neštandardné UI
Tau-bench	Zákaznícky servis dialógy	Iné odvetvia, iné jazyky zákazníkov

Pamäť a dlhý horizont: agenti s externou pamäťou (vector stores, knowledge graphs) môžu dočasne „rozšíriť" svoju distribúciu vedomostí. Ale aj výber toho, čo uložiť do pamäte a ako to vyhľadávať, je bias — systém bude lepší na typy informácií, ktoré jeho pamäťová stratégia preferuje.

Praktický záver pre agentné systémy: evaluuj agenta na distribúcii, ktorá zodpovedá tvojmu skutočnému nasadeniu — nie na verejnom benchmarku. Rozdiely medzi „lab výkonom" a produkčným výkonom sú pri agentoch výraznejšie než pri jednorazových modeloch, práve preto, že reťaz akcií zvyšuje šancu, že agent narazí na situáciu mimo svojej trénovacej distribúcie.

10. NFL a škálovacie zákony

Od roku 2020 dominuje v AI diskusii myšlienka škálovacích zákonov (Kaplan et al., 2020; Hoffmann et al., 2022 — Chinchilla): väčší model + viac dát + viac výpočtu = lepší výkon. Táto myšlienka vyzerá ako odpoveď na NFL. Nie je.

Čo škálovacie zákony hovoria: v rámci konkrétnej triedy úloh (jazykové modelovanie na web-texte) platí predvídateľný vzťah medzi výpočtovým rozpočtom a výkonom. Toto je empirický zákon, nie matematická istota.

Čo škálovacie zákony nehovoria:

Že väčší model bude lepší na tvojej špecifickej úlohe.
Že škálovanie prekoná límity dané distribúciou trénovacích dát.
Že zlepšenie na perplexite jazykového modelu sa preloží na zlepšenie v ľubovoľnej downstream úlohe.

NFL a škálovanie v praxi: škálovanie posilní bias modelu — ak model bol trénovaný na angličtine, väčší model bude viac zaujatý voči angličtine v relatívnom porovnaní s vzácnymi jazykmi, nie menej. Emergentné schopnosti (aritmetika, reťazové uvažovanie) sa objavia pri istej škále, ale to neznamená, že všetky schopnosti škálujú rovnako — a NFL predpovedá, že niektoré schopnosti sa pri škálovaní môžu implicitne zhoršiť.

Škálovacie zákony:  výkon ↑ s výpočtom (v rámci trénovanej distribúcie)
NFL:                výkon na inej distribúcii je nezaručený, možná daň
Záver:              škálovanie nie je náhrada za správne zvolený inductive bias

V roku 2026 vidíme prvé jasné príklady, kde škálovanie narazilo na strop mimo trénovacej distribúcie — napr. pri riešení nových matematických problémov, ktoré nie sú v trénovacích dátach, alebo pri generalizácii do fyzických simulácií. NFL to predpovedala.

11. Mýty vs. realita

Častá predstava	Čo NFL vlastne hovorí
Existuje „najlepší model"	Najlepší je vždy na nejakú distribúciu úloh
Stačí viac dát	Aj viac dát je predpoklad (aké dáta? z akej domény?)
Stačí tuning	Tuning je hľadanie biasu, ktorý sedí tvojej úlohe
Benchmarky rozhodnú	Benchmarky sú len proxy pre tvoju realitu
Väčší model = lepší model	Väčší model má silnejší bias tam, kde bol trénovaný
Škálovanie prekoná NFL	Škálovanie posilní existujúci bias, neodstráni ho
Reasoning model je bez biasu	Reasoning model má bias smerom k overiteľným, štrukturovaným úlohám
Jeden model na všetko (AGI)	Aj AGI bude mať predpoklady — inak by nebol efektívny
RLHF odstráni bias	RLHF pridá ďalší bias (preferencie hodnotiteľov)
Open-source model je neutrálnejší	Závisí od trénovacích dát a postupu, nie od otvorenosti
Agentný systém s nástrojmi obíde NFL	Nástroje rozšíria schopnosti, ale výber nástrojov a ich použitie je ďalší bias

12. Prečo to nie je dôvod na rezignáciu

NFL sa často zneužíva ako výhovorka („veď aj tak nič nie je lepšie"). To je nesprávne čítanie. Reálne problémy nie sú náhodné — majú štruktúru (hladkosť, lokalitu, kompozičnosť, regularitu). Práve preto:

hlboké siete fungujú na obraze a jazyku,
gradientný zostup je užitočný (lebo stratové povrchy v praxi nie sú chaotické),
predtrénovanie pomáha (lebo domény zdieľajú štruktúru),
attention mechanizmus funguje na sekvencie (lebo jazyk má lokálne závislosti),
transformery generalizujú cez modality (lebo obraz, text aj zvuk zdieľajú hierarchickú štruktúru),
reasoning modely excelujú na matematike (lebo matematika má overiteľnú krokovitú štruktúru).

NFL teda nehovorí „vzdaj to", ale „urob svoje predpoklady explicitné a vyber model, ktorý s nimi ladí". Každé rozhodnutie o architektúre, dátach, metrike a regularizácii je hypotéza o štruktúre problému — a NFL ťa núti túto hypotézu vedome formulovať.

Silná formulácia: ak vieš, prečo tvoj model funguje, NFL ti pomáha. Ak nevieš, NFL ťa dostihne.

13. Bezpečnostný a praktický rozmer

Realistické očakávania: výsledok je vždy kombinácia dát, biasu, metrík a domény. Prezentovanie výsledkov bez uvedenia distribúcie testovacích dát je neúplná informácia.
Riziko cudzích receptov: „použi tento model + tento prompt" bez porozumenia doméne vedie k sklamaniu — recept je bias na niečo iné. Toto platí dvojnásobne pri nasadzovaní LLM v komerčných aplikáciách.
Dôveryhodnosť systémov: ak nevieš, v akých režimoch model zlyháva, môžeš mu dať úlohy, kde bude presne najhorší — a nevšimneš si to, kým nie je neskoro. Adversariálne príklady sú jedným z najčistejších prejavov NFL v bezpečnostnom kontexte: sú navrhnuté presne tak, aby zasiahli bias modelu.
Regulačné implikácie: európska AI regulácia (AI Act, účinný od 2025–2026) vyžaduje pre vysoko-rizikové systémy hodnotenie výkonu aj mimo štandardných distribúcií — čo je priama inštitucionalizácia NFL-logiky do práva.
Distribučný posun v čase: produkčné systémy čelia konceptuálnemu driftu — dáta sa menia, a model, ktorý bol najlepší pri nasadení, môže byť o rok najhorší. NFL predpovedá, kde sa drift prejaví: tam, kde sa reálna distribúcia vzďaľuje od trénovacej.
Monitorovanie nie je luxus: bez aktívneho monitorovania výkonu v produkcii nemáš empirický dôkaz, že tvoj model stále funguje. V kontexte NFL je monitoring jediný spôsob, ako zistiť, že sa distribúcia posunula mimo oblasť kompetentnosti modelu.
Agentné systémy a zodpovednosť: keď agent vykoná akciu v reálnom svete (odošle e-mail, spustí kód, zmení databázu), jeho bias má priame dôsledky. NFL-logika tu nie je len akademická — je operačným rizikom. Každý agentný systém by mal mať explicitne definované hranice domény a mechanizmy na detekciu, keď operuje mimo nich.

14. Ako s tým pracovať

Out-of-domain testy: neostaň pri jednej testovacej sade — skús dáta z iných zdrojov, období a štýlov. Ak model obstojí len na dátach z jedného zdroja, vieš, kde je jeho bias.
Ablácie a porovnania: zisti, čo naozaj pomáha (architektúra, dáta, regularizácia, prompting), nie „celý balík naraz". Ablácia je jediný spôsob, ako izolovať predpoklady.
Zarovnanie na cieľ: definuj úspech (presnosť, robustnosť, náklady, bezpečnosť, interpretovateľnosť) pred výberom modelu, nie po ňom.
Vedome voľ bias: vyber model, ktorého predpoklady sedia tvojej úlohe — a dokumentuj, aké predpoklady to sú. Toto platí aj pre výber promptovej stratégie a RAG architektúry.
Testuj distribučný posun: sleduj výkon v čase. Dáta sa menia (koncept drift), a model, ktorý bol najlepší vlani, nemusí byť najlepší dnes.
Nespoliehaj sa len na jeden benchmark: kombinácia viacerých evalov z rôznych distribúcií dáva omnoho realistickejší obraz. Ak tvoja eval sada pochádza z rovnakého zdroja ako trénovacie dáta, meriáš len to, ako dobre model pamätá — nie to, ako dobre generalizuje.
Komunikuj neistotu: pri prezentácii výsledkov uveď vždy, na akej distribúcii bol model testovaný. „Model dosiahol 95 % presnosť" bez kontextu je informačne prázdne tvrdenie.
Zvažuj alternatívy za správnych podmienok: niekedy je jednoduchší model s explicitným biasom lepšou voľbou ako čierna skriňa s nejasným biasom — najmä ak doménová znalosť existuje a dá sa zakódovať.
Pre agentné systémy navyše: definuj explicitné hranice domény (čo agent smie a nemá robiť), implementuj detekciu, keď agent operuje mimo nich, a nezabudni, že každý nástroj, ktorý agentovi dáš, je ďalší zdroj biasu — nástroj funguje dobre na úlohy, na ktoré bol navrhnutý, a horšie na ostatné.

Zhrnutie

No Free Lunch Theorem (Wolpert & Macready, 1997) hovorí, že bez predpokladov o probléme neexistuje univerzálne najlepší algoritmus.
Existuje vo verzii pre optimalizáciu aj učenie — matematický záver je rovnaký: výhody sa vyrušia, ak spriemuješ cez všetky problémy.
Úzko súvisí s bias-variance tradeoffom: každé zníženie chyby na jednom type problémov má cenu niekde inde.
Víťaz na benchmarku vyhráva najmä tam, kde benchmark pripomína tvoju realitu. Platí to pre klasické ML modely aj pre moderné LLM.
Škálovacie zákony nevyvracajú NFL — zlepšujú výkon v rámci trénovacej distribúcie, nie naprieč všetkými distribúciami.
Reasoning modely (o3, DeepSeek-R1, extended thinking) nie sú výnimkou — majú bias smerom k overiteľným, štrukturovaným úlohám. Kde reward signal chýba, dlhšie myslenie nepomáha.
Agentné systémy sú kumuláciou biasov — každý komponent (plánovač, executor, pamäť, nástroje) prispieva vlastným biasom, ktoré sa v reťazi môžu zosilňovať.
V ére veľkých jazykových modelov (2026): každý model nesie bias svojho tréningového korpusu, RLHF procesu a hodnotiacich dát. Väčší model ≠ model bez predpokladov.
Nie je to dôvod na rezignáciu, ale návod: urob inductive bias explicitným, testuj mimo domény, meraj to, na čom ti záleží — a nespoliehaj sa na cudzí recept bez porozumenia jeho predpokladom.