Konfabulácia

Konfabulácia je fenomén, kedy AI model vygeneruje informáciu, ktorá znie presvedčivo a gramaticky správne, ale je fakticky nesprávna alebo úplne vymyslená. Je to ako keď ti niekto s absolútnou istotou tvrdí, že Napoleon vyhral bitku pri Waterloo — znie to autenticky, ale je to nepravda. V roku 2026 ostáva konfabulácia jednou z najzávažnejších otvorených výziev nasadenia AI v produkčnom prostredí, aj napriek výraznému pokroku v oblasti reasoning modelov a retrieval-augmented generation.

1. Definícia a kontext

  • Technická definícia: Model generuje výstup, ktorý nie je podložený tréningovými dátami ani overiteľnými faktami, ale je štatisticky pravdepodobný v danom kontexte.

  • Prečo „konfabulácia" a nie „halucinácia": V psychológii konfabulácia označuje neúmyselné vytváranie falošných spomienok bez snahy klamať — presne to, čo robí AI. Halucinácia implikuje zmyslové vnemy, ktoré AI jednoducho nemá. Výskumníci z DeepMind a Stanford sa od roku 2024 systematicky prikláňajú k termínu konfabulácia ako presnejšiemu.

  • Aktuálny stav (2026): Podľa hodnotenia Stanford HAI (2025) sa priemerná miera konfabulácie u lídrových modelov znížila z 3–8 % (2023) na 1–4 % pri bežných otázkach vďaka reasoning tréningom a lepšiemu RLHF. Pri špecializovaných témach — právo, medicína, niche história — však zostávajú hodnoty na 10–18 %, čo je pre produkčné nasadenie stále nebezpečné číslo.

  • Dôležité rozlíšenie: Nie každá nepresnosť je konfabulácia. Model môže byť neaktuálny (knowledge cutoff), môže zle pochopiť otázku alebo môže zjednodušiť zložitý fakt. Konfabulácia je špecifická situácia, kde model vygeneruje detail, ktorý nikdy v tréningových dátach neexistoval — a prezentuje ho s istotou.

2. Ako to funguje a prečo k tomu dochádza

Mechanizmus vzniku:

  1. Model dostane otázku, na ktorú nemá dostatočnú faktickú oporu v tréningových dátach
  2. Namiesto „neviem" vyberie štatisticky najpravdepodobnejšie pokračovanie textu
  3. Generuje plynulý, koherentný výstup bez faktického základu
  4. Pridáva konkrétne detaily (mená, dátumy, čísla) pre vyššiu vierohodnosť — čím je výstup ironicky nebezpečnejší

Hlavné príčiny:

  • Štatistická predikcia: LLM nefungujú ako databázy faktov, ale ako prediktory nasledujúceho tokenu. Pravdepodobná veta ≠ pravdivá veta.
  • Tréning na nápomocnosť: Modely sú odmeňované za to, že odpovedajú — nie za to, že odmietnu odpovedať. RLHF teda implicitne trestá „neviem".
  • Medzery v tréningu: Ak model nevidel dostatok príkladov k téme, interpoluje z podobných kontextov — a detaily si „domyslí".
  • Rozmazané hranice istoty: Model nevie robustne rozlíšiť medzi „možno pravda" a „určite pravda". Confidence scores z logitov sú slabým signálom.
  • Memorization vs. generalization: Pri dlhých kontextoch model kombinuje fakty z rôznych zdrojov, pričom môže nesprávne priradiť atribúty — správne meno, nesprávny dátum, správna téma, nesprávna osoba.

3. Hlavné prejavy v praxi

Typ konfabulácie Príklad Rizikovosť
Vymyslené akademické zdroje Cituje neexistujúcu štúdiu „Smith et al., 2023, Nature Medicine" Kritická
Falošné URL Generuje funkčne vyzerajúce, ale neexistujúce linky Vysoká
Zmiešané biografie Spája fakty o dvoch rôznych osobách rovnakého mena Stredná
Nesprávne štatistiky Uvádza presné percentá alebo čísla, ktoré nikdy neboli publikované Vysoká
Právne precedensy Cituje vymyslené súdne prípady s reálne znejúcimi názvami Kritická
Vymyslené produkty/API Opisuje funkciu knižnice, ktorá neexistuje Stredná
Historické detaily Pridáva vymyslené dátumy k reálnym udalostiam Stredná

Reálne príklady:

  • 2023, New York: Právnik Mata citoval v súdnom podaní 6 prípadov vygenerovaných ChatGPT. Všetky boli vymyslené. Dostal pokutu $5 000 a vec sa stala precedensom — americká bar asociácia vydala v roku 2024 formálne usmernenia o zodpovednom používaní AI v práve.
  • 2024, medicínsky chatbot: Startup nasadil AI asistenta pre pacientov bez RAG vrstvy. Model citoval vymyslené vedľajšie účinky liekov. Produkt bol stiahnutý po dvoch týždňoch.
  • 2025, finančná správa: Analytický nástroj vygeneroval detailnú správu o akvizícii, ktorá nikdy neprebehlá. Investor na základe nej uskutočnil transakciu.

4. Prečo je to problém a riziká

  • Medicína: Nesprávne dávkovanie, vymyslené kontraindikácie alebo neexistujúce klinické štúdie môžu priamo ohroziť zdravie.
  • Právo: Falošné precedensy narušujú právnu argumentáciu a môžu viesť k sankciám voči advokátom.
  • Vzdelávanie: Študenti si osvoja nesprávne informácie, pričom dôverujú „autoritatívnemu" tónu AI.
  • Žurnalistika: Šírenie dezinformácií pod rúškom AI autority — obzvlášť nebezpečné, keď čitateľ nemá čas overovať.
  • Biznis a strategické rozhodnutia: Vymyslené trhové dáta, neexistujúci konkurenti alebo falošné regulačné požiadavky môžu viesť k zlým investičným rozhodnutiam.
  • Kybernetická bezpečnosť: Modely opisujúce neexistujúce CVE alebo vymyslené exploity môžu zavádzať bezpečnostných analytikov.

Najväčšie riziko: Konfabulácie sú často nerozpoznateľné bez aktívneho overovania. Model ich prezentuje s rovnakou plynulosťou a istotou ako overené fakty — bez akéhokoľvek vizuálneho signálu. To ich odlišuje od väčšiny iných typov chýb.

EU AI Act (2025–2026): Pod európskou reguláciou sú vysokorizikové AI systémy (medicína, právo, kritická infraštruktúra) povinné implementovať mechanizmy na detekciu a označenie neistých výstupov. Konfabulácia sa stáva nielen technickým, ale aj právnym problémom.

5. Reasoning modely a konfabulácia

Od roku 2024 nastúpila nová trieda modelov — tzv. reasoning modely (OpenAI o1/o3, Claude 3.7 Sonnet s rozšíreným myslením, Gemini 2.5 Pro) — ktoré pred finálnou odpoveďou prechádzajú dlhým interným „premýšľaním". Ako ovplyvňujú konfabuláciu?

Čo sa zlepšilo:

  • Reasoning modely majú signifikantne nižšiu mieru konfabulácie pri logicky odvoditeľných faktoch — ak z daného kontextu odpoveď plynie, model ju odvodí správne.
  • Vnútorné chain-of-thought umožňuje modelu zachytiť vlastné protirečenia skôr, než sa dostanú do výstupu.
  • Na benchmarkoch ako SimpleQA (OpenAI, 2024) a FrontierMath ukazujú reasoning modely o 30–50 % lepšiu faktickú presnosť oproti baseline.

Čo sa nezmenilo:

  • Pri faktoch závislých čisto od memorovania (konkrétne štatistiky, mená, dátumy) reasoning nepomáha — model „premýšľa" nad nesprávnym základom.
  • Dlhší reasoning chain paradoxne môže generovať viac vymyslených medzikrokov, ktoré potom zamorujú záver.
  • Reasoning modely sú pomalšie a drahšie, čo obmedzuje ich nasadenie v reálnom čase.

Záver: Reasoning modely sú krok vpred, ale nie riešenie. Pre fakticky kritické domény zostáva RAG nevyhnutný bez ohľadu na typ modelu.

6. Multimodálna konfabulácia

S príchodom multimodálnych modelov (GPT-4o, Gemini 2.0, Claude 3.5+) sa konfabulácia rozšírila za text.

Modalita Príklad konfabulácie
Popis obrázka Model „vidí" text na tabuli, ktorý tam v skutočnosti nie je
OCR výstup Číslica „8" prečítaná ako „6" v kontexte, kde „6" dáva väčší zmysel
Video analýza Model opisuje udalosť z videa, ktorá sa v skutočnosti nestala
Dokumenty (PDF) Model „dopĺňa" tabuľku číslami, ktoré v dokumente chýbajú
Grafy Model interpretuje trend, ktorý v dátach neexistuje

Multimodálna konfabulácia je obzvlášť zákerná, pretože používateľ má pred sebou zdrojový materiál a predpokladá, že model ho správne číta. Overenie je preto menej intuitívne ako pri textových tvrdeniach.

7. Ako konfabulácie detekovať a merať

Detekčné metódy:

  • Fact-checking: Overenie každého tvrdenia voči dôveryhodným zdrojom — zlatý štandard, ale ručne neškálovateľný
  • Citation verification: Kontrola existencie citovaných zdrojov (DOI lookup, CrossRef API)
  • Consistency sampling: Tá istá otázka položená viackrát s rôznym seedom — konfabulované fakty bývajú nekonzistentné
  • Grounding check: Porovnanie tvrdení modelu s pripojenými dokumentmi (RAG pipeline)
  • Self-reflection prompt: „Si si istý týmto tvrdením? Aké sú zdroje?" — slabý signál, ale rýchly filter

Kľúčové metriky:

  • Factual accuracy — percento správnych tvrdení (benchmark: TruthfulQA, SimpleQA)
  • Hallucination rate — počet konfabulácií na 100 výstupov
  • Source grounding rate — koľko tvrdení má overiteľný zdroj v priloženom kontexte
  • Attribution accuracy — správnosť priradenia tvrdenia ku konkrétnemu zdroju

Nástroje (stav 2026):

  • FActScore (Meta) — automatické hodnotenie faktickej presnosti na úrovni viet
  • HELM (Stanford) — komplexný benchmark vrátane truthfulness a robustnosti
  • SelfCheckGPT — model si sám overuje konzistenciu cez viacero samplov
  • Lynx (Patronus AI) — špecializovaný halucination-detection model pre RAG pipeline
  • Ragas — open-source framework na evaluáciu RAG systémov vrátane faithfulness skóre
  • Google Grounding API / Bing Grounding — natívne integrácie pre real-time faktickú verifikáciu

8. Ako konfabulácie zmierniť

Technika Ako funguje Odhadovaná účinnosť
RAG (Retrieval-Augmented Generation) Model čerpá z overenej databázy dokumentov, nie z parametrickej pamäte 60–80 % redukcia
Grounding API Real-time prepojenie s vyhľadávačom alebo databázou 55–75 % redukcia
Prompt engineering „Ak nevieš, napíš presne: Nemám podklad." 20–30 % redukcia
Temperature tuning Zníženie náhodnosti (temp 0.1–0.3) pre faktické úlohy 25–40 % redukcia
Constitutional AI / self-critique Model si sám overuje faktickosť pred výstupom 35–50 % redukcia
Chain-of-thought Núti model „ukázať prácu" — odhaľuje chybné kroky 25–35 % redukcia
Fine-tuning na overených dátach Dotrénovanie na kurátorovaných faktoch z domény 50–70 % redukcia
Citačná verifikácia v pipeline Automatická kontrola existencie každej citácie závisí od domény

Najlepšia prax (2026): Kombinácia RAG + grounding API + nízka teplota + explicitný systémový prompt dosahuje v produkčných systémoch až 85–90 % redukciu konfabulácií oproti golému modelu. 100 % eliminácia zostáva nedosiahnuteľným cieľom.

Architektonický tip: Pre vysokorizikové domény (právo, medicína) zvažuj dvojstupňovú pipeline — generátor + separátny verifikačný model, ktorý každé tvrdenie klasifikuje ako „supported / unsupported / conflicting" voči zdrojovým dokumentom.

9. Mitigácia v prompte (rýchla výhra)

Bez RAG infraštruktúry znížiš konfabuláciu už samotným promptom — explicitným povolením „neviem" a žiadosťou o zdroje:

Odpovedaj výhradne na základe poskytnutého kontextu.
Ak odpoveď nie je v kontexte, napíš presne: "Nemám podklad."
Ku každému faktickému tvrdeniu uveď zdroj z kontextu.
Nevymýšľaj citácie, URL ani štatistiky.
Ak si nie si istý, vyjadri to explicitne: "Podľa dostupného kontextu pravdepodobne..."

V kóde kombinuj nízku teplotu s verifikáciou citácií:

resp = model(prompt, temperature=0.2)   # menej "kreativity" = menej výmyslov

for citation in extract_citations(resp):
    if not source_exists(citation):     # over existenciu každého zdroja
        flag_response(resp, citation)   # označ a nezobrazuj neoverený výstup

# Pre kritické domény: dvojitá verifikácia
if domain == "medical" or domain == "legal":
    verified = verification_model(resp, source_docs)
    if verified.faithfulness_score < 0.85:
        return fallback_response("Nepodarilo sa overiť odpoveď.")

Pozor: Prompt engineering je prvá obranná línia, nie jediná. Pre produkčné systémy v kritických doménach ho nikdy nepoužívaj ako náhradu za RAG alebo verifikačnú vrstvu.

10. Súvislosti

  • LLM: Konfabulácia je priamym dôsledkom predikcie ďalšieho tokenu — model maximalizuje pravdepodobnosť, nie pravdivosť.
  • RAG: Najúčinnejšia architektonická obrana; model čerpá z overeného externého zdroja namiesto parametrickej pamäte.
  • Guardrails: Výstupná verifikácia citácií a faithfulness scoring sú typické guardrails proti konfabulácii.
  • Constitutional AI: Sebakontrola faktickosti ako súčasť tréningovej slučky znižuje mieru výmyslov.
  • Context Drift: Keď z kontextu vypadnú kľúčové fakty pri dlhých konverzáciách, model ich „dovyplní" — konfabulácia a context drift sa vzájomne zosilňujú.
  • Chain-of-Thought: Explicitné reasoning kroky zvyšujú transparentnosť a umožňujú zachytiť logické chyby pred finálnym výstupom.
  • Agentic AI: V agentických systémoch sa konfabulácia propaguje cez viacero krokov — chybný fakt v kroku 1 kontaminuje rozhodnutia v krokoch 2–5.

Zhrnutie

  • Konfabulácia je inherentná vlastnosť súčasných LLM — nie bug, ale dôsledok architektúry založenej na štatistickej predikcii tokenu po tokenu
  • Miera kleše, ale nepomizí: Reasoning modely a lepší RLHF znížili konfabuláciu na bežných otázkach, no pri niche témach a fakticky náročných doménach zostáva na nebezpečných 10–18 %
  • Multimodálna expanzia: Problém sa rozšíril za text — obraz, dokument a video sú rovnako zraniteľné
  • EU AI Act mení konfabuláciu z technického na právny problém pre vysokorizikové systémy
  • Najúčinnejšia mitigácia: RAG + grounding + nízka teplota + verifikačná vrstva; žiadna z techník sama osebe nestačí
  • Zlaté pravidlo: AI výstup je východiskový bod, nie finálna pravda — kritické informácie vždy over, bez ohľadu na to, ako presvedčivo znejú