Nie každé tvrdenie AI potrebuje citáciu — ale každé tvrdenie potrebuje základ

Prečo „žiadna citácia“ prestala byť dostatočne dobrým testom

Problém dôvery nie je abstraktný. Je merateľný a zhoršuje sa špecifickými, zdokumentovanými spôsobmi.

Štúdia z roku 2025 o referenciách generovaných umelou inteligenciou zistila, že 19,9 % bolo úplne vymyslených a ďalších 45,4 % obsahovalo závažné bibliografické chyby – čo znamená, že takmer dve tretiny citácií, ktoré AI v tejto štúdii vyprodukovala, boli buď vymyslené, alebo podstatným spôsobom chybné. Samostatne sledovanie vymyslených citácií v publikovanom výskume ukazuje približne 12-násobný nárast medzi rokmi 2023 a 2025, pričom viac ako 4 000 biomedicínskych článkov citovalo výskum, ktorý neexistuje.

Právny systém už absorbuje náklady na to. V roku do februára 2026 bolo sankcionovaných 66 amerických právnych prípadov špecificky za chyby generované AI a do júna 2026 sa toto číslo zvýšilo na 1 598 súdnych konaní po celom svete, ktoré zahŕňali obsah AI s vymyslenými citáciami – s pokutami za podanie AI vo výške viac ako 145 000 dolárov na amerických súdoch len v prvom štvrťroku 2026.

Nič z toho nie je dôvod na úplnú nedôveru voči AI. Je to dôvod prestať používať „má citáciu“ ako celý test, pretože tento test je príliš ľahké prejsť bez toho, aby bol skutočne pravdivý, a – rovnako dôležité – príliš ľahké ho neprejsť, pričom je skutočne správny.

Existuje aj skutočná komplikácia na druhej strane, ktorú stojí za to úprimne uviesť, namiesto toho, aby sme ju preskočili: štúdia Yale zistila, že ľudia, ktorí používali chatboti AI na overenie správ, zaznamenali po iba štyroch týždňoch 15-bodový pokles vo svojej vlastnej, neasistovanej schopnosti detekovať dezinformácie. Outsourcing overovania nie je zadarmo. Môže to zhoršiť vašu schopnosť robiť to sami. To je skutočný dôvod chcieť systém, ktorý ukazuje svoju prácu, a nie taký, ktorý vám len podá čisto vyzerajúcu odpoveď.

Na čom sa môže tvrdenie skutočne zakladať

Ak samotná citácia nie je správnym testom, užitočnejšou otázkou je: aký typ dôkazu viedol k tomuto tvrdeniu? V praxi existuje šesť skutočných, odlišných odpovedí.

1. Externý výskum

Tvrdenie založené na živom vyhľadávaní alebo dopytovaní sa proti skutočným, aktuálnym zdrojom – typ dôkazu, na ktorý by mala citácia odkazovať, a kde chýbajúca citácia je skutočným varovným signálom.

2. Informácie dodané používateľom

Tvrdenie vytvorené z niečoho, čo ste systému povedali priamo – vaše vlastné fakty o značke, vaše vlastné znalosti trhu, oprava, ktorú ste poskytli. Toto nepotrebuje externú citáciu. Citáciou ste vy.

3. Dôkaz prenesený z predchádzajúceho kroku

Vo viacfázovom výskume sa môže neskoršia fáza správne spoliehať na dôkazy, ktoré už predchádzajúca fáza stanovila a overila, namiesto toho, aby ich znovu skúmala od začiatku. Citácia žije vyššie v toku, nie na každej nasledujúcej vete, ktorá ju používa.

4. Analytický záver, jasne označený ako záver

Niekedy je úprimnou odpoveďou „na základe zhromaždených dôkazov je toto najrozumnejšia interpretácia“ – nie objavený fakt, ale úsudok. To je legitímne, za predpokladu, že je označené ako záver a nie je maskované ako citácia.

5. Deterministický výpočet

Niektoré tvrdenia sú len aritmetika. Ak sú vstupy správne, pevný, reprodukovateľný výpočet nepotrebuje citáciu o nič viac ako vzorec v tabuľke – „dôkazom“ je skutočnosť, že rovnaké vstupy vždy produkujú rovnaký výstup.

6. Ľudská korekcia, aplikovaná dodatočne

Toto je tá, ktorú väčšina pokrytia dôvery AI úplne vynecháva: keď osoba so skutočnými, prvými znalosťami opraví tvrdenie generované AI, táto korekcia je sama o sebe formou dôkazu – pravdepodobne najsilnejším dostupným druhom, pretože pochádza od niekoho, kto tam skutočne bol. Považujeme to za skutočnú, šiestu kategóriu samú o sebe, nie len ako krok kontroly kvality pripojený k ostatným piatim. Je to z našej strany skutočná syntéza, nie zaužívaný priemyselný termín – stojí za to to povedať jasne, namiesto toho, aby sme to maskovali ako viac, než to je.

Šesť skutočných odpovedí. Jeden test – „je tam citácia“ – by nikdy nepokryl všetkých šesť.

Rozdiel, ktorý takmer nikto nerobí: medzera verzus artefakt

Tu je uhol pohľadu, ktorý je skutočne nedostatočne preskúmaný, a je dôležitejší, než by sa mohlo zdať.

Keď systém AI označí niečo ako neisté, toto označenie môže znamenať jednu z dvoch veľmi odlišných vecí:

Skutočná dôkazná medzera – predmet sa skutočne nedal overiť. Nikto nezverejnil číslo. Informácie nie sú verejné. Neistota je skutočná a týka sa sveta.

Jazykový artefakt – základné zistenie je v poriadku, ale bolo označené ako negatívne alebo neisté výlučne kvôli tomu, ako bolo sformulované, nie kvôli tomu, čo skutočne hovorí. Neistota sa týka vety, nie predmetu.

Tieto vyzerajú na stránke identicky. Obe sa zobrazujú ako žltá vlajka vedľa tvrdenia. Vyžadujú si však úplne odlišné reakcie. Skutočná medzera potrebuje viac výskumu. Jazykový artefakt potrebuje lepšiu formuláciu – a zaobchádzanie s ním ako s výskumnou medzerou plytvá časom na hľadanie dôkazov pre niečo, čo nikdy nebolo spochybnené.

Tento rozdiel sa takmer neobjavuje v existujúcich správach o dôvere AI a halucináciách. Väčšina z nich sa zastaví pri „AI sa môže mýliť, overte dôležité tvrdenia“ – pravda, ale nie použiteľné. Vedieť, aký druh vlajky vidíte, je to, čo vám skutočne povie, čo robiť ďalej.

Prečo užšie otázky prekonávajú širšie

Existuje druhý vzor, ktorý stojí za to pomenovať, a beží v opačnom smere, ako si väčšina ľudí predstavuje, že by mal vyzerať „dôkladnejší“ výskum AI.

Inštinktom je položiť jednu veľkú, otvorenú otázku a očakávať komplexnú odpoveď. V praxi má tendenciu lepšie fungovať opak: rozdelenie širokej otázky na niekoľko úzkych, špecifických, ohraničených otázok – a ich oddelené položenie – vytvára dôkazy, ktoré sú ľahšie skontrolovateľné, ľahšie dôveryhodné a často priamejšie užitočné ako jedna rozsiahla odpoveď, ktorá sa snaží pokryť všetko naraz.

Čiastočne prečo: úzka otázka dáva systému menej priestoru na rozmazanie vecí, ktoré by mali zostať oddelené. Tiež vám, čitateľovi, dáva oveľa jednoduchšie tvrdenie na skutočné overenie – špecifická odpoveď na špecifickú otázku je niečo, čo môžete skontrolovať voči konkrétnemu zdroju. Jeden odsek, ktorý sa snaží odpovedať na päť vecí naraz, sa zvyčajne nedá skontrolovať proti ničomu konkrétnemu.

Menej, cielenejšie, má tendenciu prekonávať viac.

Ako to v skutočnosti vyzeralo v reálnom prieskume trhu

Nič z toho sme neprijali na vieru. Vykonali sme skutočný výskum, ako ľudia v súčasnosti opisujú svoju frustráciu z nástrojov AI, ktoré uvádzajú tvrdenia o dôkazoch a dôvere – opakujúci sa jazyk, po ktorom ľudia skutočne siahajú, nie hypotézu o ňom.

Tri frázy sa objavili dostatočne často, nezávisle, aby stáli za opakovanie, bez toho, aby sme ich spájali s konkrétnym produktom alebo spoločnosťou, pretože dôležitý je vzor, nie jeden konkrétny predajca:

• Pocit „5% miery nezmyslov“ – pocit, že aj väčšinou spoľahlivý nástroj AI má v sebe zabudovaný malý, ale skutočný podiel sebavedome nesprávneho výstupu, a že tento podiel sa zriedka zníži na nulu, bez ohľadu na to, aký dobrý je nástroj.
• „Ilúzia transparentnosti“ – keď nástroj viditeľne ukazuje svoje zdôvodnenie alebo zdroje, čo pôsobí dôveryhodne, bez toho, aby táto viditeľná vrstva bola skutočne skontrolovateľná alebo správna.
• „Bremeno validácie“ – tichá, skutočná cena, že práca asistovaná AI neodstráni potrebu veci kontrolovať, len presunie kontrolu na človeka, neskôr, často bez varovania, že je to stále potrebné.

Tento istý výskum tiež odhalil, čo ľudia v skutočnosti chcú namiesto toho, nezávisle a opakovane, bez toho, aby boli nútení k akejkoľvek konkrétnej odpovedi: konzistentnú, overiteľnú schopnosť citácií; viditeľné vysvetlenie, ako AI dospela k záveru, namiesto samotného záveru; a syntetizovaný, použiteľný verdikt namiesto nefiltrovaného výpisu všetkého, čo systém našiel.

Nenárokujeme si zásluhy za identifikáciu tohto dopytu – výskum to zistil sám. Na čo by sme poukázali, je, že sa to úzko zhoduje s tým, ako sme vybudovali náš vlastný produkt: vrstva úprimnosti, ktorá ukazuje predpoklady, medzery a rozpory namiesto ich skrývania; spôsob, ako opraviť a znova spustiť analýzu so skutočným kontextom, namiesto začiatku odznova; a jeden syntetizovaný verdikt vopred, s kompletnou stopou dôkazov k dispozícii pod ním pre každého, kto si chce skontrolovať našu prácu.

Kontrolný zoznam pre ďalšie tvrdenie AI, ktoré vám bude odovzdané

Nabudúce, keď vám systém AI – náš alebo akýkoľvek iný – odovzdá tvrdenie, na ktoré sa chystáte konať, päť otázok vás dostane ďalej ako „je tam citácia“:

1. Akého typu je toto? Externý výskum, váš vlastný vstup, prenesené dôkazy, označený záver, výpočet alebo ľudská korekcia – vyžadujú si rôzne úrovne dôvery.
2. Ak je to citácia, hovorí zdroj skutočne toto? Existencia citácie a podpora konkrétneho tvrdenia citáciou nie sú rovnaké kontroly.
3. Ak je označené ako neisté, je to medzera alebo artefakt? Spýtajte sa, čo konkrétne nie je overené – predmet, alebo len veta.
4. Získala by vám užšia verzia tejto otázky lepšie overiteľnú odpoveď? Ak je tvrdenie široké, zvážte, či by jeho rozdelenie pomohlo.
5. Pozrel sa na to niekto s priamymi znalosťami? Ľudská korekcia, ak je k dispozícii, je často najsilnejším typom dôkazu na zozname – použite ju.

Nič z toho nevyžaduje úplnú nedôveru voči AI. Vyžaduje to zaobchádzanie s „citované“ a „pravdivé“ ako s dvoma rôznymi otázkami, pretože sú.