Ne každé tvrzení AI potřebuje citaci – ale každé tvrzení potřebuje základ

Proč „žádná citace“ přestala být dostatečně dobrým testem. Problém důvěry není abstraktní. Je měřitelný a zhoršuje se specifickými, dokumentovanými způsoby. Studie z roku 2025 o referencích generovaných umělou inteligencí zjistila, že 19,9 % bylo zcela vymyšlených a dalších 45,4 % mělo závažné bibliografické chyby – což znamená, že téměř dvě třetiny citací, které umělá inteligence v této studii vyprodukovala, byly buď vymyšlené, nebo nějakým podstatným způsobem poškozené. Samostatně sledování vymyšlených citací v publikovaném výzkumu ukazuje zhruba 12násobný nárůst mezi lety 2023 a 2025, přičemž bylo zjištěno, že více než 4 000 biomedicínských prací cituje výzkum, který neexistuje. Právní systém již nese náklady na toto. V roce do února 2026 bylo sankcionováno 66 amerických právních případů specificky za chyby generované umělou inteligencí a do června 2026 se toto číslo rozrostlo na 1 598 soudních řízení po celém světě zahrnujících obsah umělé inteligence s vymyšlenými citacemi – s více než 145 000 dolary na pokutách za podání AI u amerických soudů jen v prvním čtvrtletí roku 2026. Nic z toho není důvodem k úplné nedůvěře k AI. Je to důvod přestat používat „má to citaci“ jako jediný test, protože tento test je příliš snadné projít, aniž by to byla pravda, a – stejně důležité – příliš snadné selhat, i když je to skutečně správné. Na druhé straně je také skutečná komplikace, kterou stojí za to upřímně uvést, spíše než ji přeskočit: studie z Yale zjistila, že lidé, kteří používali chatboty AI k ověřování zpráv, zaznamenali 15bodový pokles ve své vlastní neasistované schopnosti detekovat dezinformace již po čtyřech týdnech. Outsourcing ověřování není zdarma. Může vás to zhoršit v tom, abyste to dělali sami. To je skutečný důvod chtít systém, který ukazuje svou práci, spíše než takový, který vám jen podá čistě vypadající odpověď. --- Na čem se tvrzení může skutečně opírat. Pokud samotná citace není správným testem, užitečnější otázkou je: jaký typ důkazů toto tvrzení vytvořil? V praxi existuje šest skutečných, odlišných odpovědí. 1. Externí výzkum. Tvrzení založené na živém vyhledávání nebo dotazu proti skutečným, aktuálním zdrojům – druh důkazu, na který by citace měla odkazovat, a kde chybějící citace je skutečným varovným signálem. 2. Informace dodané uživatelem. Tvrzení postavené na něčem, co jste systému sdělili přímo – vaše vlastní fakta o značce, vaše vlastní znalosti trhu, oprava, kterou jste dodali. To nepotřebuje externí citaci. Citací jste vy. 3. Důkazy přenesené z dřívějšího kroku. Vícestupňovém výzkumu se pozdější fáze může správně spolehnout na důkazy, které předchozí fáze již stanovila a ověřila, namísto toho, aby je znovu zkoumala od začátku. Citace žije na vyšší úrovni, nikoli v každé následné větě, která ji používá. 4. Analytická inference, jasně označená jako inference. Někdy je upřímná odpověď „na základě shromážděných důkazů je to nejpřiměřenější interpretace“ – nikoli objevený fakt, ale úsudek. To je legitimní, pokud je to označeno jako inference a není to převlečeno za citaci. 5. Deterministický výpočet. Některá tvrzení jsou jen aritmetická. Pokud jsou vstupy správné, fixní, reprodukovatelný výpočet nepotřebuje citaci o nic víc než vzorec v tabulce – „důkazem“ je skutečnost, že stejné vstupy vždy produkují stejný výstup. 6. Lidská korekce, aplikovaná po skutečnosti. Toto je ta, kterou většina zpravodajství o důvěře v AI zcela pomíjí: když osoba se skutečnými, přímými znalostmi opraví tvrzení generované AI, tato korekce je sama o sobě formou důkazu – pravděpodobně nejsilnější dostupný druh, protože pochází od někoho, kdo tam skutečně byl. Považujeme to za skutečnou, šestou kategorii sama o sobě, nikoli jen za krok kontroly kvality přišroubovaný k ostatním pěti. To je skutečná syntéza z naší strany, nikoli zavedený průmyslový termín – stojí za to to říci jasně, spíše než to maskovat jako něco více, než to je. Šest skutečných odpovědí. Jeden test – „existuje citace“ – nikdy nemohl pokrýt všech šest. --- Rozdíl, který téměř nikdo nečiní: mezera versus artefakt. Zde je úhel, který je skutečně nedostatečně prozkoumán, a záleží na něm více, než by se mohlo zdát. Když systém AI něco označí jako nejisté, tento příznak může znamenat jednu ze dvou velmi odlišných věcí: Skutečná důkazní mezera – předmět se ve skutečnosti nedal ověřit. Nikdo číslo nezveřejnil. Informace nejsou veřejné. Nejistota je skutečná a týká se světa. Jazykový artefakt – základní zjištění je v pořádku, ale bylo označeno jako negativní nebo nejisté čistě kvůli tomu, jak bylo formulováno, nikoli kvůli tomu, co skutečně říká. Nejistota se týká věty, nikoli předmětu. Tyto vypadají na stránce identicky. Obě se zobrazují jako žlutý příznak vedle tvrzení. Ale vyžadují zcela odlišné reakce. Skutečná mezera potřebuje další výzkum. Jazykový artefakt potřebuje lepší formulaci – a zacházet s ním jako s výzkumnou mezerou plýtvá časem honěním důkazů pro něco, co nikdy nebylo ve skutečnosti pochybné. Tento rozdíl se sotva objevuje v existujícím pokrytí důvěry v AI a halucinací. Většina z toho se zastaví u „AI se může mýlit, ověřte důležitá tvrzení“ – pravda, ale ne akční. Vědět, jaký druh příznaku sledujete, je to, co vám skutečně řekne, co dělat dál. --- Proč užší otázky porážejí širší. Existuje druhý vzorec, který stojí za to pojmenovat, a jde opačným směrem, než jak si většina lidí představuje, že by měl vypadat „důkladnější“ výzkum AI. Instinktem je položit jednu velkou, otevřenou otázku a očekávat komplexní odpověď. V praxi se naopak lépe osvědčuje: rozdělení široké otázky na několik úzkých, specifických, omezených otázek – a jejich pokládání samostatně – produkuje důkazy, které jsou snáze ověřitelné, důvěryhodnější a často přímočařejší než jedna rozsáhlá odpověď, která se snaží pokrýt vše najednou. Částečně proto: úzká otázka dává systému méně prostoru pro zamlžování věcí, které by měly zůstat oddělené. Také vám, čtenáři, dává mnohem snazší tvrzení k ověření – konkrétní odpověď na konkrétní otázku je něco, co můžete zkontrolovat proti konkrétnímu zdroji. Jediný odstavec, který se snaží odpovědět na pět věcí najednou, obvykle nelze zkontrolovat proti ničemu konkrétnímu. Méně, cíleněji zaměřené, má tendenci porazit více. --- Jak to skutečně vypadalo ve skutečném průzkumu trhu. Nic z toho jsme nevzali na víru. Provedli jsme skutečný výzkum toho, jak lidé v současné době popisují svou frustraci s nástroji AI, které dělají tvrzení o důkazech a důvěře – opakující se jazyk, po kterém lidé skutečně sáhnou, nikoli hypotézu o něm. Tři fráze se objevily dostatečně často, nezávisle, aby stálo za to je zde zopakovat, aniž bychom je připojovali k jakémukoli konkrétnímu produktu nebo společnosti, protože důležitý je vzorec, nikoli jeden dodavatel: – Pocit „5% míry blbostí“ – pocit, že i většinou spolehlivý nástroj AI má malý, ale skutečný podíl sebevědomě chybného výstupu, a že tento podíl se zřídka zmenšuje na nulu, bez ohledu na to, jak dobrý nástroj je. – „Iluze transparentnosti“ – kde nástroj viditelně ukazuje své zdůvodnění nebo zdroje, což působí důvěryhodně, aniž by tato viditelná vrstva byla skutečně ověřitelná nebo správná. – „Břímě validace“ – tiché, skutečné náklady, že práce asistovaná AI neodstraňuje potřebu věci kontrolovat, jen přesouvá kontrolu na člověka, později, často bez varování, že je stále vyžadována. Stejný výzkum také odhalil, co lidé místo toho skutečně chtějí, nezávisle a opakovaně, aniž by byli naváděni k nějaké konkrétní odpovědi: konzistentní, ověřitelná schopnost citace; viditelné vysvětlení, jak AI dospěla k závěru, spíše než jen samotný závěr; a syntetizovaný, akční verdikt namísto nefiltrovaného výpisu všeho, co systém našel. Nenárokujeme si zásluhy za identifikaci této poptávky – výzkum ji zjistil sám. Na co bychom poukázali, je, že se to úzce shoduje s tím, jak jsme vybudovali náš vlastní produkt: vrstva poctivosti, která ukazuje předpoklady, mezery a rozpory, namísto jejich skrývání; způsob, jak opravit a znovu spustit analýzu s reálným kontextem, namísto začínání od znova; a jeden syntetizovaný verdikt předem, s kompletní stopou důkazů dostupnou pod ním pro každého, kdo chce zkontrolovat naši práci. --- Kontrolní seznam pro další tvrzení AI, které vám bude předáno. Příště, když vám systém AI – náš nebo kohokoli jiného – předá tvrzení, na které se chystáte jednat, pět otázek vás posune dál než „existuje citace“: 1. Jakého je to typu? Externí výzkum, váš vlastní vstup, přenesené důkazy, označená inference, výpočet nebo lidská korekce – vyžadují různé úrovně důvěry. 2. Pokud je to citace, říká to zdroj skutečně? Existence citace a citace podporující konkrétní tvrzení nejsou stejná kontrola. 3. Pokud je označeno jako nejisté, je to mezera nebo artefakt? Zeptejte se, co konkrétně je neověřené – předmět, nebo jen věta. 4. Získali byste užší verzí této otázky ověřitelnější odpověď? Pokud je tvrzení široké, zvažte, zda by jeho rozdělení pomohlo. 5. Podíval se na to někdo s přímými znalostmi? Lidská korekce, pokud je k dispozici, je často nejsilnějším typem důkazu na seznamu – použijte ji. Nic z toho nevyžaduje úplnou nedůvěru k AI. Vyžaduje to považovat „citováno“ a „pravdivé“ za dvě odlišné otázky, protože takové jsou.