Ne treba svaka tvrdnja AI-ja citat, ali svaka tvrdnja treba temelj

Zašto „bez citata“ više nije bio dovoljno dobar test

Problem povjerenja nije apstraktan. On je mjerljiv i pogoršava se na specifične, dokumentirane načine.

Studija iz 2025. godine o referencama generiranim umjetnom inteligencijom otkrila je da je 19.9% bilo potpuno izmišljeno, a daljnjih 45.4% imalo je ozbiljne bibliografske pogreške – što znači da je gotovo dvije trećine citata koje je AI proizveo u toj studiji bilo izmišljeno ili na neki bitan način pogrešno. Zasebno, praćenje izmišljenih citata u objavljenim istraživanjima pokazuje otprilike 12 puta povećanje između 2023. i 2025. godine, s više od 4.000 biomedicinskih radova koji citiraju istraživanja koja ne postoje.

Pravni sustav već snosi troškove ovoga. U godini do veljače 2026. godine, 66 američkih pravnih slučajeva sankcionirano je isključivo zbog pogrešaka generiranih umjetnom inteligencijom, a do lipnja 2026. taj je broj narastao na 1.598 sudskih postupaka diljem svijeta koji uključuju AI sadržaj s izmišljenim citatima – s preko 145.000 dolara kazni za AI podneske na američkim sudovima samo u prvom kvartalu 2026. godine.

Ništa od toga nije razlog da se potpuno ne vjeruje umjetnoj inteligenciji. To je razlog da se prestane koristiti „ima li citat“ kao cijeli test, jer taj test je previše lako proći, a da zapravo nije istinit, i – jednako važno – previše lako pasti, a da je zapravo točan.

Postoji i stvarna komplikacija na drugoj strani ovoga, koju vrijedi iskreno navesti umjesto da je preskočimo: studija sa Yalea otkrila je da su ljudi koji su koristili AI chatbote za pomoć u provjeri vijesti zabilježili pad od 15 bodova u vlastitoj sposobnosti otkrivanja dezinformacija bez pomoći nakon samo četiri tjedna. Outsourcing provjere nije besplatan. Može vas učiniti lošijima u samostalnom obavljanju toga. To je stvarni razlog zašto želimo sustav koji pokazuje svoj rad, a ne onaj koji vam samo pruži čist odgovor.

Na čemu se tvrdnja zapravo može temeljiti

Ako samo citat nije pravi test, korisnije pitanje je: kakav je tip dokaza proizveo ovu tvrdnju? U praksi, postoji šest stvarnih, različitih odgovora.

1. Vanjsko istraživanje

Tvrdnja utemeljena na pretraživanju uživo ili provjeri prema stvarnim, trenutačnim izvorima — vrsta dokaza na koju biste očekivali da citat upućuje, i gdje je nedostajući stvarna crvena zastava.

2. Informacije koje je dostavio korisnik

Tvrdnja izgrađena iz nečega što ste izravno rekli sustavu – vaše vlastite činjenice o marki, vaše vlastito tržišno znanje, ispravak koji ste dostavili. Ovo ne treba vanjski citat. Citat ste vi.

3. Dokazi preneseni iz ranijeg koraka

U višefaznom istraživanju, kasnija faza se može ispravno osloniti na dokaze koje je prethodna faza već uspostavila i verificirala, umjesto da ih ponovno istražuje od nule. Citat živi uzvodno, a ne u svakoj nizvodnoj rečenici koja ga koristi.

4. Analitički zaključak, jasno označen kao zaključak

Ponekad je iskren odgovor „na temelju prikupljenih dokaza, ovo je najrazumnija interpretacija“ – ne otkrivena činjenica, već procjena. To je legitimno, pod uvjetom da je označeno kao zaključak i da nije prikazano kao citat.

5. Deterministički izračun

Neke su tvrdnje samo aritmetika. Ako su ulazni podaci točni, fiksni, ponovljivi izračun ne treba citat ništa više nego što ga treba formula u proračunskoj tablici – „dokaz“ je činjenica da isti ulazni podaci uvijek proizvode isti izlaz.

6. Ljudska korekcija, primijenjena naknadno

Ovo je ono što većina izvještavanja o povjerenju u umjetnu inteligenciju potpuno preskače: kada osoba s pravim, izravnim znanjem ispravi tvrdnju generiranu umjetnom inteligencijom, ta je korekcija sama po sebi oblik dokaza – vjerojatno najjača vrsta dostupna, jer dolazi od nekoga tko je zapravo bio tamo. Mi ovo smatramo stvarnom, šestom kategorijom za sebe, a ne samo korakom kontrole kvalitete pričvršćenim na ostalih pet. To je naša iskrena sinteza, a ne ustaljeni industrijski termin – vrijedi to reći jasno, umjesto da se to uljepšava.

Šest stvarnih odgovora. Jedan test – „postoji li citat“ – nikada nije mogao pokriti svih šest.

Razlika koju gotovo nitko ne povlači: praznina naspram artefakta

Evo kuta koji je istinski nedovoljno istražen, a važniji je nego što zvuči.

Kada AI sustav nešto označi kao nesigurno, ta oznaka može značiti jednu od dvije vrlo različite stvari:

Stvarna praznina u dokazima — subjekt se zapravo nije mogao provjeriti. Nitko nije objavio broj. Informacije nisu javne. Nesigurnost je stvarna i odnosi se na svijet.

Jezični artefakt — temeljni nalaz je u redu, ali je označen kao negativan ili nesiguran isključivo zbog načina na koji je formuliran, a ne zbog onoga što zapravo kaže. Nesigurnost se odnosi na rečenicu, a ne na subjekt.

Ove stvari izgledaju identično na stranici. Obje se prikazuju kao žuta zastavica pored tvrdnje. Ali one zahtijevaju potpuno različite odgovore. Stvarna praznina zahtijeva više istraživanja. Jezični artefakt zahtijeva bolju formulaciju – a tretiranje toga kao istraživačke praznine troši vrijeme na traženje dokaza za nešto što nikada nije bilo dovedeno u pitanje.

Ova razlika se gotovo ne pojavljuje u postojećim izvještajima o povjerenju u umjetnu inteligenciju i halucinacijama. Većina se zaustavlja na „AI može biti pogrešan, provjerite važne tvrdnje“ – istinito, ali neprovedivo. Znajući koju vrstu oznake gledate, zapravo vam govori što trebate učiniti sljedeće.

Zašto uža pitanja pobjeđuju šira

Postoji drugi obrazac koji vrijedi imenovati, a on ide u suprotnom smjeru od onoga kako većina ljudi pretpostavlja da bi „temeljitije“ AI istraživanje trebalo izgledati.

Instinkt je postaviti jedno veliko, otvoreno pitanje i očekivati sveobuhvatan odgovor. U praksi, suprotno obično djeluje bolje: razbijanje širokog pitanja na nekoliko uskih, specifičnih, ograničenih – i njihovo zasebno postavljanje – proizvodi dokaze koji su lakši za provjeru, lakši za povjerenje i često izravnije korisniji od jednog opsežnog odgovora koji pokušava pokriti sve odjednom.

Dio razloga: usko pitanje sustavu daje manje prostora da spoji stvari koje bi trebale ostati odvojene. Također vama, čitatelju, daje mnogo lakšu tvrdnju za stvarnu provjeru – specifičan odgovor na specifično pitanje je nešto što možete provjeriti prema specifičnom izvoru. Jedan odlomak koji pokušava odgovoriti na pet stvari odjednom obično se ne može provjeriti prema nečemu konkretnom.

Manje, preciznije usmjereno, obično pobjeđuje više.

Kako je to zapravo izgledalo u stvarnom istraživanju tržišta

Ništa od toga nismo prihvatili na vjeru. Proveli smo stvarno istraživanje o tome kako ljudi trenutačno opisuju svoju frustraciju s AI alatima koji iznose tvrdnje o dokazima i povjerenju – ponavljajući jezik koji ljudi zapravo koriste, a ne hipotezu o tome.

Tri su se fraze pojavile dovoljno često, neovisno, da ih vrijedi ponoviti ovdje, bez vezivanja za bilo koji specifičan proizvod ili tvrtku, jer je obrazac bit, a ne bilo koji pojedini dobavljač:

• Osjećaj „stope sranja od 5%“ — osjećaj da čak i uglavnom pouzdan AI alat ima mali, ali stvarni udio samouvjereno pogrešnog izlaza ugrađenog u sebe, i da se taj udio rijetko smanjuje na nulu, bez obzira koliko dobar alat postane.
• „Iluzija transparentnosti“ — gdje alat vidljivo prikazuje svoje obrazloženje ili izvore, što se tumači kao pouzdano, a da taj vidljivi sloj zapravo nije provjerljiv ili ispravan.
• „Teret validacije“ — tihi, stvarni trošak da rad uz pomoć umjetne inteligencije ne uklanja potrebu za provjerom stvari, već samo prebacuje provjeru na čovjeka, kasnije, često bez upozorenja da je još uvijek potrebna.

Isto istraživanje također je otkrilo što ljudi zapravo žele umjesto toga, neovisno i opetovano, bez da su bili potaknuti na bilo koji određeni odgovor: dosljednu, provjerljivu sposobnost citiranja; vidljivo objašnjenje kako je AI došao do svog zaključka, a ne samo zaključak; i sintetiziranu, djelotvornu presudu umjesto nefiltriranog izbacivanja svega što je sustav pronašao.

Ne prisvajamo zasluge za identificiranje te potražnje – istraživanje ju je samo otkrilo. Ono što bismo istaknuli je da se to usko podudara s načinom na koji smo izgradili vlastiti proizvod: sloj iskrenosti koji prikazuje pretpostavke, praznine i proturječnosti umjesto da ih skriva; način ispravljanja i ponovnog pokretanja analize s pravim kontekstom umjesto ponovnog početka; i jednu sintetiziranu presudu unaprijed, s potpunim tragom dokaza dostupnim ispod nje za svakoga tko želi provjeriti naš rad.

Kontrolna lista za sljedeću AI tvrdnju koju dobijete

Sljedeći put kada vam AI sustav – naš ili bilo čiji drugi – preda tvrdnju na koju ćete djelovati, pet pitanja će vas odvesti dalje od „postoji li citat“:

1. Koja je ovo vrsta? Vanjsko istraživanje, vaš vlastiti unos, preneseni dokazi, označeni zaključak, izračun ili ljudska ispravka – oni zahtijevaju različite razine povjerenja.
2. Ako je citat, kaže li to izvor stvarno? Postojanje citata i citat koji podržava specifičnu tvrdnju nisu ista provjera.
3. Ako je označeno kao nesigurno, je li to praznina ili artefakt? Pitajte što je konkretno nepotvrđeno – subjekt ili samo rečenica.
4. Bi li uža verzija ovog pitanja dovela do provjerljivijeg odgovora? Ako je tvrdnja široka, razmislite bi li je podjela pomogla.
5. Je li netko s izravnim znanjem zapravo pogledao ovo? Ljudska ispravka, gdje je dostupna, često je najjača vrsta dokaza na popisu – koristite je.

Ništa od toga ne zahtijeva potpuno nepovjerenje u umjetnu inteligenciju. Zahtijeva tretiranje „citiranog“ i „istinitog“ kao dva različita pitanja, jer to i jesu.