Ne katram AI apgalvojumam nepieciešama atsauce — bet katram apgalvojumam nepieciešams pamats

Kāpēc “nav citātu” vairs nav pietiekami labs testsUzticības problēma nav abstrakta. Tā ir izmērāma, un tā pasliktinās īpašos, dokumentētos veidos.2025. gada pētījumā par AI ģenerētām atsaucēm tika konstatēts, ka 19,9% bija pilnībā izdomātas, un vēl 45,4% bija nopietnas bibliogrāfiskas kļūdas — tas nozīmē, ka gandrīz divas trešdaļas AI radīto citātu šajā pētījumā bija vai nu izgudrotas, vai kādā būtiskā veidā bojātas.Atsevišķi, izdomātu citātu izsekošana publicētajos pētījumos liecina par aptuveni 12 reizes pieaugumu laikā no 2023. līdz 2025. gadam, un tika atklāti vairāk nekā 4000 biomedicīnas darbi, kas citē neeksistējošus pētījumus.Tiesību sistēma jau tagad absorbē šīs izmaksas. Līdz 2026. gada februārim 66 ASV tiesas lietās tika piemērotas sankcijas tieši par AI ģenerētām kļūdām, un līdz 2026. gada jūnijam šis skaitlis pieauga līdz 1598 tiesas procesiem visā pasaulē, kas saistīti ar AI saturu ar izdomātām atsaucēm — ar vairāk nekā 145 000 ASV dolāru soda naudām par AI iesniegumiem ASV tiesās tikai 2026. gada pirmajā ceturksnī.Nekas no tā nav iemesls pilnībā neuzticēties AI. Tas ir iemesls pārtraukt izmantot “vai tam ir citāts” kā vienīgo testu, jo šis tests ir pārāk viegli izpildāms, patiesībā nebūdams patiess, un — tikpat svarīgi — pārāk viegli neizpildāms, patiesībā esot pareizs.Šai monētai ir arī otra puse, kas ir vērts godīgi teikt, nevis apiet: Jeila universitātes pētījums atklāja, ka cilvēki, kuri izmantoja AI tērzēšanas robotus ziņu pārbaudei, pēc tikai četrām nedēļām novēroja 15 punktu kritumu savā patstāvīgajā spējā atklāt dezinformāciju. Pārbaudes nodošana ārpakalpojumiem nav bez maksas. Tā var likt jums sliktāk veikt to pašiem. Tas ir patiess iemesls vēlēties sistēmu, kas parāda savu darbu, nevis tādu, kas vienkārši sniedz jums tīri izskatīgu atbildi.---## Uz kā patiesībā var balstīties apgalvojumsJa tikai citāts nav pareizais tests, noderīgāks jautājums ir: kāda veida pierādījumi radīja šo apgalvojumu? Praksē ir sešas reālas, atšķirīgas atbildes.### 1. Ārējais pētījumsApgalvojums, kas balstīts uz tiešu meklēšanu vai uzmeklēšanu pret reāliem, pašreizējiem avotiem — tādi pierādījumi, uz kuriem jūs sagaidītu, ka norādīs citāts, un kur trūkstošs ir īsts sarkanais karogs.### 2. Lietotāja sniegtā informācijaApgalvojums, kas veidots no tā, ko jūs tieši teicāt sistēmai — jūsu zīmola fakti, jūsu tirgus zināšanas, jūsu sniegtā korekcija. Tam nav nepieciešams ārējs citāts. Citāts esam jūs.### 3. Pierādījumi, kas pārsūtīti no iepriekšējā soļaDaudzpakāpju pētījumā vēlāks posms var pareizi balstīties uz pierādījumiem, ko iepriekšējais posms jau ir apstiprinājis un pārbaudījis, nevis tos pētīt no jauna. Citāts atrodas augšpusē, nevis katrā pakārtotā teikumā, kas to izmanto.### 4. Analītiska secināšana, skaidri marķēta kā secināšanaReizēm godīgā atbilde ir “pamatojoties uz apkopotajiem pierādījumiem, šī ir visprātīgākā interpretācija” — nevis atklāts fakts, bet spriedums. Tas ir likumīgi, ja vien tas ir marķēts kā secināšana un nav maskēts par citātu.### 5. Deterministisks aprēķinsDaži apgalvojumi ir tikai aritmētika. Ja ievaddati ir pareizi, fiksētam, reproducējamam aprēķinam nav nepieciešams citāts vairāk nekā izklājlapas formulai — “pierādījums” ir fakts, ka tie paši ievaddati vienmēr rada to pašu izvadi.### 6. Cilvēka korekcija, piemērota pēc faktaŠo visbiežāk AI uzticības pārklājums pilnībā izlaiž: kad persona ar reālām, tiešām zināšanām labo AI ģenerētu apgalvojumu, šī korekcija pati par sevi ir pierādījumu veids — iespējams, spēcīgākais pieejamais veids, jo tā nāk no kāda, kurš patiešām bija tur. Mēs to uzskatām par reālu, sesto kategoriju savā veidā, nevis tikai kvalitātes kontroles soli, kas pievienots pārējiem pieciem. Tā ir patiesa mūsu pašu sintēze, nevis atzīts nozares termins — vērts teikt tieši, nevis to maskēt par kaut ko vairāk, nekā tas ir.Sešas reālas atbildes. Viens tests — “vai ir citāts” — nekad nebūtu aptvēris visas sešas.---## Atšķirība, ko gandrīz neviens nesaskata: trūkums pret artefaktuŠis ir leņķis, kas patiesi nav pietiekami izpētīts, un tam ir lielāka nozīme, nekā šķiet.Kad AI sistēma kaut ko atzīmē kā neskaidru, šis karogs var nozīmēt vienu no divām ļoti atšķirīgām lietām:Patiesa pierādījumu plaisa — priekšmets faktiski nevarēja tikt pārbaudīts. Neviens nav publicējis numuru. Informācija nav publiska. Neskaidrība ir reāla un saistīta ar pasauli.Valodas artefakts — pamatā esošais atklājums ir kārtībā, taču tas tika atzīmēts kā negatīvs vai neskaidrs tikai tāpēc, kā tas tika formulēts, nevis tāpēc, ko tas patiesībā saka. Neskaidrība attiecas uz teikumu, nevis uz priekšmetu.Tie izskatās identiski lapā. Abi tiek parādīti kā dzeltens karogs blakus apgalvojumam.Bet tie prasa pilnīgi atšķirīgas atbildes. Reālam trūkumam nepieciešami vairāk pētījumu. Valodas artefaktam nepieciešama labāka formulēšana — un, to uztverot kā pētījuma trūkumu, tiek tērēts laiks, meklējot pierādījumus tam, kas nekad nebija apšaubāms.Šī atšķirība gandrīz neparādās esošajā AI uzticamības un halucināciju atspoguļojumā. Lielākā daļa apstājas pie “AI var kļūdīties, pārbaudiet svarīgus apgalvojumus” — patiess, bet ne darboties spējīgs. Zinot, kāda veida karogu jūs skatāties, ir tas, kas patiesībā jums pasaka, ko darīt tālāk.---## Kāpēc šaurāki jautājumi pārspēj plašākusIr vērts nosaukt otru modeli, un tas darbojas pretējā virzienā no tā, kā, pēc vairuma cilvēku domām, vajadzētu izskatīties “rūpīgākiem” AI pētījumiem.Instinkts ir uzdot vienu lielu, atvērtu jautājumu un sagaidīt visaptverošu atbildi. Praksē pretējais mēdz darboties labāk: plaša jautājuma sadalīšana vairākos šauros, specifiskos, ierobežotos jautājumos — un to uzdošana atsevišķi — rada pierādījumus, kurus ir vieglāk pārbaudīt, vieglāk uzticēties un bieži vien tie ir tieši noderīgāki nekā viena plaša atbilde, kas mēģina aptvert visu uzreiz.Daļa no iemesla: šaurs jautājums dod sistēmai mazāk vietas, lai sajauktu lietas, kam jāpaliek atsevišķi. Tas arī dod jums, lasītājam, daudz vieglāku apgalvojumu, ko patiesi pārbaudīt — specifiska atbilde uz specifisku jautājumu ir kaut kas, ko varat pārbaudīt pret specifisku avotu. Viens punkts, kas mēģina atbildēt uz piecām lietām vienlaikus, parasti nevar tikt pārbaudīts pret kaut ko konkrētu.Mazāk, precīzāk mērķēts, parasti pārspēj vairāk.---## Kā tas patiesībā izskatījās reālos tirgus pētījumosMēs neko no tā nepieņēmām ticībā. Mēs veicām reālus pētījumus par to, kā cilvēki pašlaik apraksta savu neapmierinātību ar AI rīkiem, kas izsaka pierādījumus un uzticības apgalvojumus — atkārtoto valodu, ko cilvēki patiesībā izmanto, nevis hipotēzi par to.Trīs frāzes parādījās pietiekami bieži, neatkarīgi, lai tās būtu vērts šeit atkārtot, nepiesietot tās nevienam konkrētam produktam vai uzņēmumam, jo modelis ir būtība, nevis kāds konkrēts piegādātājs:- Sajūta par “5% muļķību līmeni” — sajūta, ka pat pārsvarā uzticamam AI rīkam ir neliela, bet reāla pārliecinoši nepareizas izvades proporcija, un ka šī proporcija reti samazinās līdz nullei, neatkarīgi no tā, cik labs rīks kļūst.- “Caurspīdīguma ilūzija” — kur rīks redzami parāda savu pamatojumu vai avotus, kas šķiet uzticams, bet šis redzamais slānis patiesībā nav pārbaudāms vai pareizs.- “Validācijas slogs” — klusas, reālas izmaksas, ko AI palīdzēts darbs nenoņem nepieciešamību pārbaudīt lietas, tas tikai pārvieto pārbaudi uz cilvēku, vēlāk, bieži bez brīdinājuma, ka tā joprojām ir nepieciešama.Tie paši pētījumi arī atklāja, ko cilvēki patiesībā vēlas tā vietā, neatkarīgi un atkārtoti, bez mudinājuma uz konkrētu atbildi: konsekventu, pārbaudāmu citātu spēju; redzamu skaidrojumu, kā AI nonāca pie sava secinājuma, nevis tikai pašu secinājumu; un sintezētu, rīcības spējīgu spriedumu, nevis nefiltrētu visu, ko sistēma atrada, izmetumu.Mēs nepretendējam uz atzinību par šī pieprasījuma identificēšanu — pētījums to atklāja pats. Mēs vēlamies norādīt, ka tas cieši atbilst tam, kā esam veidojuši savu produktu: godīguma slāni, kas parāda pieņēmumus, trūkumus un pretrunas, nevis tās slēpj; veidu, kā labot un atkārtoti veikt analīzi ar reālu kontekstu, nevis sākt no jauna; un vienu sintezētu spriedumu sākumā, ar pilnu pierādījumu ceļu, kas pieejams zem tā ikvienam, kurš vēlas pārbaudīt mūsu darbu.---## Kontrolsaraksts nākamajam AI apgalvojumam, ko saņemsietNākamreiz, kad AI sistēma — mūsu vai jebkura cita — sniedz jums apgalvojumu, uz kuru jūs grasāties rīkoties, pieci jautājumi jūs aizvedīs tālāk nekā “vai ir citāts”:1. Kāds ir šis tips? Ārējais pētījums, jūsu ievaddati, pārsūtītie pierādījumi, marķēta secināšana, aprēķins vai cilvēka korekcija — tie prasa dažādus uzticības līmeņus.2. Ja tas ir citāts, vai avots patiešām to saka? Citāta pastāvēšana un citāta, kas atbalsta konkrētu apgalvojumu, nav viena un tā pati pārbaude.3. Ja tas ir atzīmēts kā neskaidrs, vai tas ir trūkums vai artefakts? Pajautājiet, kas tieši nav pārbaudīts — priekšmets vai tikai teikums.4. Vai šī jautājuma šaurāka versija sniegtu jums vieglāk pārbaudāmu atbildi? Ja apgalvojums ir plašs, apsveriet, vai tā sadalīšana palīdzētu.5. Vai kāds ar tiešām zināšanām patiešām ir to apskatījis? Cilvēka korekcija, ja tā ir pieejama, bieži vien ir spēcīgākais pierādījumu veids sarakstā — izmantojiet to.Nekas no tā neprasa pilnībā neuzticēties AI. Tas prasa uztvert “citēts” un “patiess” kā divus atšķirīgus jautājumus, jo tie tādi ir.