Iga tehisintellekti väide ei vaja viitamist — kuid iga väide vajab alust

Miks "tsiteering puudub" ei olnud enam piisavalt hea test

Usaldusprobleem ei ole abstraktne. See on mõõdetav ja see halveneb konkreetsetel, dokumenteeritud viisidel.

2025. aasta uuring tehisintellekti genereeritud viidete kohta leidis, et 19,9% neist olid täielikult välja mõeldud ja veel 45,4%-l oli tõsiseid bibliograafilisi vigu – mis tähendab, et peaaegu kaks kolmandikku selles uuringus tehisintellekti toodetud viidetest olid kas välja mõeldud või mingil olulisel viisil valed. Eraldi näitab avaldatud uuringutes väljamõeldud viidete jälgimine ligikaudu 12-kordset kasvu aastatel 2023–2025, kusjuures üle 4000 biomeditsiinilise töö leiti viitavat mitteeksisteerivale uuringule.

Õigussüsteem kannab selle kulu juba praegu. 2026. aasta veebruarini sanktsioneeriti 66 USA kohtuasja konkreetselt tehisintellekti genereeritud vigade eest ning 2026. aasta juuniks oli see näitaja kasvanud 1598 kohtumenetluseni kogu maailmas, mis hõlmavad tehisintellekti sisu väljamõeldud viidetega – ainuüksi 2026. aasta esimeses kvartalis oli USA kohtutes tehisintellekti esitamise eest karistusi üle 145 000 dollari.

See kõik ei ole põhjus tehisintellekti täielikuks umbusaldamiseks. See on põhjus, miks tuleks lõpetada "kas sellel on viide" kasutamine ainsa testina, sest see test on liiga lihtne läbida ilma tegelikult tõene olemata ja – mis sama oluline – liiga lihtne läbi kukkuda, olles samal ajal tegelikult õige.

Sellel on ka tõeline komplikatsioon, mida tasub ausalt öelda, selle asemel et sellest mööda hiilida: Yale'i uuring leidis, et inimesed, kes kasutasid tehisintellekti juturoboteid uudiste kontrollimiseks, nägid oma abita desinformatsiooni avastamise võimes vaid nelja nädala pärast 15-punktilist langust. Kontrolli allhange ei ole tasuta. See võib sind iseenda tegemises halvemaks muuta. See on tõeline põhjus, miks soovida süsteemi, mis näitab oma tööd, mitte seda, mis annab sulle lihtsalt puhta välimusega vastuse.

Millel väide tegelikult põhineda saab

Kui ainuüksi viide ei ole õige test, siis kasulikum küsimus on: millist tüüpi tõendid selle väite esile kutsusid? Praktikas on kuus tõelist ja erinevat vastust.

1. Väline uurimine

Väide, mis põhineb reaalajas otsingul või päringul tegelike, praeguste allikate vastu – sellised tõendid, millele viide peaks osutama ja kus selle puudumine on tõeline ohumärk.

2. Kasutaja pakutud teave

Väide, mis on loodud millegi põhjal, mida te süsteemile otse ütlesite – teie enda brändifaktid, teie enda turuteadmised, teie antud parandus. See ei vaja välist viidet. Viide olete teie.

3. Varasemast etapist edasi kantud tõendid

Mitmeetapilises uuringus võib hilisem etapp õigesti tugineda tõenditele, mille varasem etapp on juba kindlaks teinud ja kinnitanud, selle asemel et neid uuesti otsast peale uurida. Viide asub ülemvoolus, mitte igas seda kasutavas lauses allavoolu.

4. Analüütiline järeldus, selgelt märgistatud järeldusena

Mõnikord on aus vastus "kogutud tõendite põhjal on see kõige mõistlikum tõlgendus" – mitte avastatud fakt, vaid otsustus. See on legitiimne, tingimusel et see on märgistatud järeldusena ja seda ei esitata viitena.

5. Deterministlik arvutus

Mõned väited on lihtsalt aritmeetika. Kui sisendid on õiged, ei vaja fikseeritud, korratav arvutus viidet rohkem kui tabeli valem – "tõendiks" on asjaolu, et samad sisendid annavad alati sama väljundi.

6. Inimese parandus, rakendatud tagasiulatuvalt

See on see, mida enamik tehisintellekti usaldusväärsuse kajastusi täielikult eirab: kui tegeliku, esmakordse teadmisega inimene parandab tehisintellekti genereeritud väidet, on see parandus iseenesest tõendite vorm – vaieldamatult kõige tugevam saadaolev liik, sest see pärineb kelleltki, kes oli tegelikult kohal. Peame seda iseseisvaks, kuuendaks kategooriaks, mitte lihtsalt teistele viiele külge kruvitud kvaliteedikontrolli sammuks. See on meiepoolne tõeline süntees, mitte väljakujunenud tööstustermin – tasub öelda otse, selle asemel et seda esitada rohkemana kui see on.

Kuus tõelist vastust. Üks test – "kas on viide" – ei oleks kunagi katnud kõiki kuut.

Eristus, mida peaaegu keegi ei tee: lünk versus artefakt

Siin on nurk, mis on tõeliselt alauuritud ja mis on olulisem, kui see kõlab.

Kui tehisintellekti süsteem märgib midagi ebakindlaks, võib see märk tähendada ühte kahest väga erinevast asjast:

Tõeline tõendusmaterjali lünk – teemat tegelikult ei õnnestunud kontrollida. Keegi ei ole numbrit avaldanud. Teave ei ole avalik. Ebakindlus on reaalne ja puudutab maailma.

Keeleline artefakt – aluseks olev leid on korras, kuid see märgistati negatiivseks või ebakindlaks puhtalt selle sõnastuse tõttu, mitte selle tõttu, mida see tegelikult ütleb. Ebakindlus puudutab lauset, mitte teemat.

Need näevad lehel identsed välja. Mõlemad kuvatakse väite kõrval kollase lipukesena. Kuid need nõuavad täiesti erinevaid vastuseid. Tõeline lünk vajab rohkem uurimist. Keeleline artefakt vajab paremat sõnastust – ja selle käsitlemine uurimislüngana raiskab aega tõendite tagaajamisele millegi puhul, mis ei olnud tegelikult kunagi kahtluse all.

See eristus vaevu ilmub tehisintellekti usalduse ja hallutsinatsiooni olemasolevas kajastuses. Enamik sellest peatub väitel "AI võib eksida, kontrollige olulisi väiteid" – tõsi, kuid mitte teostatav. Teades, millist tüüpi märki te vaatate, saate teada, mida edasi teha.

Miks kitsamad küsimused võidavad laiemad

On veel üks muster, mida tasub nimetada, ja see kulgeb vastupidises suunas, kui enamik inimesi eeldab, et "põhjalikum" tehisintellekti uuring peaks välja nägema.

Instinkt on esitada üks suur, avatud küsimus ja oodata tagasi põhjalikku vastust. Praktikas kipub vastupidine paremini toimima: laia küsimuse jagamine mitmeks kitsaks, spetsiifiliseks, piiritletud küsimuseks – ja nende eraldi esitamine – annab tõendeid, mida on lihtsam kontrollida, lihtsam usaldada ja sageli otsesemalt kasulikum kui üks lai vastus, mis püüab kõike korraga katta.

Osa põhjusest: kitsas küsimus annab süsteemile vähem ruumi asjade kokkusulatamiseks, mis peaksid jääma eraldi. See annab ka teile, lugejale, palju lihtsama väite tegelikuks kontrollimiseks – spetsiifiline vastus spetsiifilisele küsimusele on midagi, mida saate kontrollida konkreetse allika vastu. Üksainus lõik, mis püüab vastata viiele asjale korraga, ei ole tavaliselt kontrollitav millegi konkreetse vastu.

Vähem, täpsemalt suunatud, kipub rohkemast võitma.

Mida see tegelikus turu-uuringus tegelikult välja nägi

Me ei võtnud midagi sellest uskudes. Viisime läbi reaalse uuringu selle kohta, kuidas inimesed praegu kirjeldavad oma frustratsiooni tehisintellekti tööriistadega, mis esitavad tõendeid ja usalduse väiteid – korduv keel, mida inimesed tegelikult kasutavad, mitte hüpotees selle kohta.

Kolm fraasi ilmusid piisavalt sageli, iseseisvalt, et neid tasuks siin korrata, ilma et neid seostaks ühegi konkreetse toote või ettevõttega, sest muster on oluline, mitte ükski müüja:

• Tuntav "5% jama määr" – tunne, et isegi enamasti usaldusväärsel tehisintellekti tööriistal on väike, kuid reaalne osa enesekindlalt vale väljundit, ja et see osakaal harva kahaneb nullini, ükskõik kui hea tööriist ka poleks.
• "Läbipaistvuse illusioon" – kus tööriist nähtavalt näitab oma põhjendust või allikaid, mis tundub usaldusväärne, ilma et see nähtav kiht oleks tegelikult kontrollitav või õige.
• "Valideerimise koorem" – vaikne, tegelik kulu, et tehisintellektiga abistatav töö ei kõrvalda vajadust asju kontrollida, see lihtsalt liigutab kontrollimise hiljem inimese peale, sageli ilma hoiatamata, et seda on ikka vaja.

Sama uuring tõi esile ka selle, mida inimesed tegelikult tahavad selle asemel, iseseisvalt ja korduvalt, ilma et neid suunataks konkreetsele vastusele: järjepidev, kontrollitav viitamisvõime; nähtav selgitus selle kohta, kuidas tehisintellekt oma järelduseni jõudis, mitte lihtsalt järeldus ise; ja sünteesitud, teostatav otsus, mitte filtreerimata väljavõte kõigest, mida süsteem leidis.

Me ei väida endale selle nõudluse tuvastamise eest tunnustust – uuring leidis selle iseseisvalt. Mida me tahaksime rõhutada, on see, et see sobib tihedalt sellega, kuidas oleme oma toote üles ehitanud: aususe kihiga, mis näitab eeldusi, lünki ja vastuolusid, selle asemel et neid varjata; viisiga analüüsi parandada ja uuesti käivitada reaalse kontekstiga, selle asemel et uuesti alustada; ja ühe sünteesitud otsusega kohe alguses, koos täieliku tõendite rajaga, mis on kättesaadav kõigile, kes soovivad meie tööd kontrollida.

Kontrollnimekiri järgmise tehisintellekti väite jaoks, mis teile antakse

Järgmine kord, kui tehisintellekti süsteem – meie või kellegi teise oma – annab teile väite, mille järgi te tegutseda kavatsete, viis küsimust viivad teid kaugemale kui "kas on viide":

1. Mis tüüpi see on? Väline uuring, teie enda sisend, edasi kantud tõendid, märgistatud järeldus, arvutus või inimese parandus – need nõuavad erinevat usalduse taset.
2. Kui see on viide, kas allikas seda tegelikult ütleb? Viite olemasolu ja viite konkreetse väite toetamine ei ole sama kontroll.
3. Kui see on märgistatud ebakindlaks, kas see on lünk või artefakt? Küsige, mis konkreetselt on kontrollimata – teema või lihtsalt lause.
4. Kas selle küsimuse kitsam versioon annaks teile paremini kontrollitava vastuse? Kui väide on lai, kaaluge, kas selle jaotamine aitaks.
5. Kas keegi esmase teadmisega on seda tegelikult vaadanud? Inimese parandus, kus see on saadaval, on sageli kõige tugevam tõendite tüüp loendis – kasutage seda.

Midagi sellest ei nõua tehisintellekti täielikku umbusaldamist. See nõuab "tsiteeritud" ja "tõese" käsitlemist kahe erineva küsimusena, sest need seda on.