Ne potrebuje vsaka trditev UI navedbe – vendar vsaka trditev potrebuje podlago.

Zakaj »brez navedbe« ni več dovolj dober test. Problem zaupanja ni abstrakten. Je merljiv in se poslabšuje na specifične, dokumentirane načine. Študija iz leta 2025 o referencah, generiranih z umetno inteligenco, je pokazala, da je bilo 19,9 % popolnoma izmišljenih, nadaljnjih 45,4 % pa je imelo resne bibliografske napake — kar pomeni, da je bilo skoraj dve tretjini navedb, ki jih je AI ustvarila v tej študiji, bodisi izumljenih bodisi bistveno napačnih. Ločeno, spremljanje izmišljenih navedb v objavljenih raziskavah kaže približno 12-kratno povečanje med letoma 2023 in 2025, pri čemer je bilo ugotovljeno, da več kot 4.000 biomedicinskih člankov navaja raziskave, ki ne obstajajo. Pravni sistem že absorbira stroške tega. V letu do februarja 2026 je bilo sankcioniranih 66 ameriških pravnih primerov posebej zaradi napak, generiranih z AI, in do junija 2026 se je ta številka povzpela na 1.598 sodnih postopkov po vsem svetu, ki vključujejo vsebino AI z izmišljenimi navedbami — z več kot 145.000 $ kazni za vloge AI na ameriških sodiščih samo v prvem četrtletju 2026. Nič od tega ni razlog za popolno nezaupanje v AI. Je razlog, da prenehamo uporabljati “ali ima navedbo” kot celoten test, ker je ta test prelahek za uspešno opravljanje, ne da bi bil dejansko resničen, in – kar je enako pomembno – prelahek za neuspešno opravljanje, čeprav je dejansko pravilen. Obstaja tudi resnična zapletenost na drugi strani tega, ki jo je vredno iskreno navesti, namesto da bi jo preskočili: študija univerze Yale je pokazala, da so ljudje, ki so uporabljali klepetalne robote z AI za pomoč pri preverjanju novic, po samo štirih tednih zabeležili 15-odstotni upad lastne samostojne sposobnosti odkrivanja dezinformacij. Zunanje izvajanje preverjanja ni brezplačno. Lahko vas poslabša pri samostojnem delu. To je resničen razlog, da si želimo sistem, ki pokaže svoje delo, namesto tistega, ki vam preprosto poda čist odgovor. --- ## Na čem lahko dejansko temelji trditev. Če sama navedba ni pravi test, je bolj uporabno vprašanje: kakšna vrsta dokaza je ustvarila to trditev? V praksi obstaja šest resničnih, različnih odgovorov. ### 1. Zunanja raziskava. Trditev, utemeljena v spletnem iskanju ali pregledu proti resničnim, trenutnim virom — vrsta dokazov, na katere bi pričakovali, da bo navedba kazala, in kjer je manjkajoča navedba resnična rdeča zastava. ### 2. Podatki, ki jih je posredoval uporabnik. Trditev, zgrajena iz nečesa, kar ste sistemu povedali neposredno — vaša dejstva o blagovni znamki, vaše lastno tržno znanje, popravek, ki ste ga posredovali. To ne potrebuje zunanje navedbe. Navedba ste vi. ### 3. Dokazi, preneseni iz prejšnjega koraka. V večstopenjski raziskavi se lahko kasnejša faza pravilno opira na dokaze, ki jih je predhodna faza že vzpostavila in preverila, namesto da bi jih ponovno raziskovala od začetka. Navedba živi navzgor, ne na vsakem nadaljnjem stavku, ki jo uporablja. ### 4. Analitično sklepanje, jasno označeno kot sklepanje. Včasih je iskren odgovor »na podlagi zbranih dokazov je to najrazumnejša interpretacija« — ne odkrito dejstvo, temveč presoja. To je legitimno, če je označeno kot sklepanje in ne kot navedba. ### 5. Determiniračen izračun. Nekatere trditve so zgolj aritmetične. Če so vnosi pravilni, fiksni, ponovljivi izračun ne potrebuje navedbe nič bolj kot formula v preglednici — »dokaz« je dejstvo, da enaki vnosi vedno proizvedejo enak izhod. ### 6. Človeški popravek, uporabljen po dejstvu. To je tisto, kar večina prispevkov o zaupanju v AI v celoti preskoči: ko oseba z resničnim, iz prve roke znanjem popravi trditev, ki jo je ustvarila AI, je ta popravek sam po sebi oblika dokaza — verjetno najmočnejša vrsta, ki je na voljo, saj prihaja od nekoga, ki je bil dejansko prisoten. To razumemo kot resnično, šesto kategorijo samo po sebi, ne le kot korak nadzora kakovosti, dodan k ostalim petim. To je resnična sinteza z naše strani, ne uveljavljen industrijski izraz — vredno je povedati odkrito, namesto da bi to predstavljali kot nekaj več, kot je. Šest resničnih odgovorov. En test — “ali obstaja navedba” — nikoli ne bi mogel pokriti vseh šestih. --- ## Razlika, ki je skoraj nihče ne potegne: vrzel proti artefaktu. To je resnično neraziskan vidik, in je pomembnejši, kot se zdi. Ko sistem umetne inteligence nekaj označi kot negotovo, lahko ta oznaka pomeni eno od dveh zelo različnih stvari: Resnična dokazna vrzel — tema dejansko ni bila preverljiva. Nihče ni objavil številke. Informacije niso javne. Negotovost je resnična in se nanaša na svet. Jezikovni artefakt — osnovna ugotovitev je v redu, vendar je bila označena kot negativna ali negotova zgolj zaradi načina, kako je bila izražena, ne zaradi dejanske vsebine. Negotovost se nanaša na stavek, ne na predmet. Te so na strani videti enake. Obe se prikažeta kot rumena zastavica poleg trditve. Toda zahtevata popolnoma različne odzive. Resnična vrzel potrebuje več raziskav. Jezikovni artefakt potrebuje boljšo formulacijo — in obravnavanje le-tega kot raziskovalne vrzeli zapravlja čas z iskanjem dokazov za nekaj, kar nikoli ni bilo dejansko vprašljivo. Ta razlika se skorajda ne pojavlja v obstoječih prispevkih o zaupanju v AI in halucinacijah. Večina se ustavi pri “AI se lahko moti, preverite pomembne trditve” — kar je resnično, vendar ni ukrepno. Vedeti, za kakšno vrsto zastavice gre, vam dejansko pove, kaj storiti naslednje. --- ## Zakaj ožja vprašanja premagajo širša. Obstaja še en vzorec, ki ga je vredno omeniti, in teče v nasprotni smeri od tistega, kar večina ljudi predpostavlja, da bi morale biti »temeljitejše« raziskave AI. Instinkt je, da postavimo eno veliko, odprto vprašanje in pričakujemo izčrpen odgovor. V praksi se izkaže, da je nasprotno bolj učinkovito: razdelitev širokega vprašanja na več ozkih, specifičnih, omejenih vprašanj – in njihovo ločeno postavljanje – ustvarja dokaze, ki so lažje preverljivi, lažje zaupanja vredni in pogosto bolj neposredno uporabni kot en sam razvlečen odgovor, ki poskuša pokriti vse naenkrat. Delno zato: ozko vprašanje daje sistemu manj prostora za zamegljevanje stvari, ki bi morale ostati ločene. Prav tako vam, bralcu, omogoča veliko lažjo trditev za dejansko preverjanje — specifičen odgovor na specifično vprašanje je nekaj, kar lahko preverite proti specifičnemu viru. En sam odstavek, ki poskuša odgovoriti na pet stvari hkrati, običajno ni mogoče preveriti proti ničemur posebej. Manj, bolj natančno usmerjeno, ponavadi premaga več. --- ## Kako je to dejansko izgledalo v resnični tržni raziskavi. Nič od tega nismo vzeli za resnico. Izvedli smo resnično raziskavo o tem, kako ljudje trenutno opisujejo svoje frustracije z orodji AI, ki trdijo o dokazih in zaupanju — ponavljajoči se jezik, po katerem ljudje dejansko posegajo, in ne hipoteza o tem. Tri fraze so se pojavile dovolj pogosto, neodvisno, da jih je vredno ponoviti tukaj, ne da bi jih pripisovali kateremukoli specifičnemu izdelku ali podjetju, ker je vzorec bistven, ne pa posamezen prodajalec: Zaznana "5-odstotna stopnja neumnosti" — občutek, da ima celo večinoma zanesljivo orodje AI majhen, a resničen delež samozavestno napačnega izhoda, in da se ta delež redko zmanjša na nič, ne glede na to, kako dobro je orodje. "Iluzija preglednosti" — kjer orodje vidno pokaže svoje sklepanje ali vire, kar se zdi zaupanja vredno, ne da bi bila ta vidna plast dejansko preverljiva ali pravilna. "Breme validacije" — tihi, resnični stroški, da delo, podprto z AI, ne odpravlja potrebe po preverjanju stvari, temveč le premakne preverjanje na človeka, kasneje, pogosto brez opozorila, da je še vedno potrebno. Ista raziskava je tudi pokazala, kaj si ljudje dejansko želijo namesto tega, neodvisno in večkrat, ne da bi bili napeljani k določenemu odgovoru: dosledno, preverljivo zmožnost navajanja; vidno razlago, kako je AI prišla do svojega zaključka in ne le samega zaključka; ter sintetizirano, uporabno sodbo namesto nefiltriranega izpisa vsega, kar je sistem našel. Ne pripisujemo si zaslug za ugotavljanje tega povpraševanja – raziskava ga je odkrila sama. Kar bi poudarili, je, da se tesno ujema s tem, kako smo zgradili lasten izdelek: plast poštenosti, ki prikazuje predpostavke, vrzeli in protislovja, namesto da bi jih skrivala; način za popravljanje in ponovno izvajanje analize z resničnim kontekstom, namesto da bi začeli znova; in enoten sintetiziran sklep vnaprej, s celotno sledjo dokazov, ki je na voljo spodaj za vsakogar, ki želi preveriti naše delo. --- ## Kontrolni seznam za naslednjo trditev AI, ki jo prejmete. Naslednjič, ko vam sistem AI — naš ali kateri koli drug — poda trditev, na podlagi katere boste ukrepali, vas pet vprašanj pripelje dlje kot “ali obstaja navedba”: 1. Kakšne vrste je to? Zunanja raziskava, vaš lastni vnos, preneseni dokazi, označeno sklepanje, izračun ali človeški popravek — vsi zahtevajo različne stopnje zaupanja. 2. Če gre za navedbo, ali vir to dejansko navaja? Obstoj navedbe in navedba, ki podpira specifično trditev, nista enaka preverjanja. 3. Če je označeno kot negotovo, ali gre za vrzel ali artefakt? Vprašajte, kaj je specifično nepreverjeno — predmet ali zgolj stavek. 4. Ali bi ožja različica tega vprašanja prinesla bolj preverljiv odgovor? Če je trditev široka, razmislite, ali bi jo delitev pomagala. 5. Ali je to dejansko pogledal kdo z izkušnjami iz prve roke? Človeški popravek, če je na voljo, je pogosto najmočnejša vrsta dokaza na seznamu — uporabite ga. Nič od tega ne zahteva popolnega nezaupanja v AI. Zahteva obravnavanje “navedenega” in “resničnega” kot dveh različnih vprašanj, ker to tudi sta.