Ne kiekvienam DI teiginiui reikia nuorodos — bet kiekvienam teiginiui reikia pagrindo

Kodėl „be nuorodos“ nustojo būti pakankamai geru patikrinimu Pasitikėjimo problema nėra abstrakti. Ji yra išmatuojama ir konkrečiais, dokumentuotais būdais vis blogėja. 2025 m. atliktas dirbtinio intelekto sugeneruotų nuorodų tyrimas parodė, kad 19,9 % jų buvo visiškai suklastotos, o dar 45,4 % turėjo rimtų bibliografinių klaidų – tai reiškia, kad beveik du trečdaliai citatų, kurias dirbtinis intelektas pateikė tame tyrime, buvo išgalvotos arba kažkokiu esminiu būdu pažeistos. Atskiras suklastotų citatų stebėjimas publikuotuose tyrimuose rodo, kad nuo 2023 iki 2025 m. jų padaugėjo maždaug 12 kartų, o daugiau nei 4 000 biomedicinos darbų buvo nurodoma cituojant neegzistuojančius tyrimus. Teisės sistema jau dabar patiria šios problemos išlaidas. Per 2026 m. vasario mėnesį 66 JAV teismo bylos buvo sankcionuotos būtent dėl dirbtinio intelekto sugeneruotų klaidų, o iki 2026 m. birželio šis skaičius išaugo iki 1 598 teismo procesų visame pasaulyje, susijusių su dirbtinio intelekto turiniu, kuriame buvo suklastotų citatų – vien JAV teismuose per pirmąjį 2026 m. ketvirtį buvo skirta daugiau nei 145 000 USD baudų už dirbtinio intelekto pateiktus dokumentus. Nė vienas iš šių dalykų nėra priežastis visiškai nepasitikėti dirbtiniu intelektu. Tai yra priežastis nustoti naudoti klausimą „ar jis turi citatą“ kaip visą patikrinimą, nes šį patikrinimą per lengva įvykdyti, nors tai nėra tiesa, ir – kas yra lygiai taip pat svarbu – per lengva nepavykti, nors iš tikrųjų yra teisinga. Yra ir kita, tikra komplikacija, kurią verta sąžiningai paminėti, užuot praleidus: Jeilio tyrimas parodė, kad žmonės, kurie naudojo dirbtinio intelekto pokalbių robotus naujienoms patikrinti, po keturių savaičių patyrė 15 balų sumažėjimą savo pačių gebėjimo be pagalbos aptikti dezinformaciją. Patikrinimo perdavimas nėra nemokamas. Jis gali pabloginti jūsų pačių gebėjimą tai daryti. Tai yra tikra priežastis norėti sistemos, kuri rodo savo darbą, o ne tokios, kuri tiesiog pateikia tvarkingai atrodantį atsakymą.

Kuo iš tikrųjų gali remtis teiginys Jei vien citata nėra tinkamas patikrinimas, naudingesnis klausimas yra: koks įrodymų tipas sukūrė šį teiginį? Praktikoje yra šeši realūs, skirtingi atsakymai.

1. Išorinis tyrimas Teiginys, pagrįstas tiesiogine paieška arba patikrinimu pagal realius, dabartinius šaltinius – tokie įrodymai, į kuriuos tikitės, kad citata nurodys, ir kurio trūkumas yra tikras raudonas pavojaus signalas.
2. Vartotojo pateikta informacija Teiginys, sukurtas iš to, ką tiesiogiai pasakėte sistemai – jūsų prekės ženklo faktai, jūsų rinkos žinios, jūsų pateiktas pataisymas. Tam nereikia išorinės citatos. Cituojantis šaltinis esate jūs.
3. Iš ankstesnio žingsnio perkelti įrodymai Daugiapakopiame tyrime vėlesnis etapas gali teisingai remtis įrodymais, kuriuos ankstesnis etapas jau nustatė ir patvirtino, užuot juos iš naujo tyrinėjus nuo nulio. Citata gyvena aukščiau, o ne kiekviename tolesniame sakinyje, kuris ją naudoja.
4. Analitinė išvada, aiškiai pažymėta kaip išvada Kartais sąžiningas atsakymas yra „remiantis surinktais įrodymais, tai yra pats pagrįsčiausias aiškinimas“ – ne atrastas faktas, o sprendimo reikalaujantis klausimas. Tai yra teisėta, su sąlyga, kad tai pažymėta kaip išvada ir nepateikiama kaip citata.
5. Deterministinis skaičiavimas Kai kurie teiginiai yra tik aritmetika. Jei įvesties duomenys yra teisingi, fiksuotam, atkartojamam skaičiavimui nereikia citatos lygiai taip pat, kaip ir skaičiuoklės formulei – „įrodymai“ yra tai, kad tie patys įvesties duomenys visada duoda tą patį rezultatą.
6. Žmogaus pataisymas, taikomas po fakto Šis punktas dažniausiai praleidžiamas kalbant apie dirbtinio intelekto patikimumą: kai asmuo, turintis tikrų, tiesioginių žinių, pataiso dirbtinio intelekto sugeneruotą teiginį, tas pataisymas pats savaime yra įrodymo forma – turbūt stipriausia prieinama, nes jis ateina iš to, kas iš tikrųjų ten buvo. Mes laikome tai tikra, šešta kategorija savaime, o ne tik kokybės kontrolės žingsniu, pridėtu prie kitų penkių. Tai yra tikra mūsų sintezė, o ne nusistovėjęs pramonės terminas – verta pasakyti atvirai, o ne pateikti tai kaip daugiau, nei yra. Šeši realūs atsakymai. Vienas patikrinimas – „ar yra citata“ – niekada negalėjo apimti visų šešių.

Skirtumas, kurio beveik niekas nepastebi: spraga ir artefaktas Štai požiūris, kuris iš tikrųjų yra per mažai ištirtas, ir jis yra svarbesnis, nei gali atrodyti. Kai dirbtinio intelekto sistema pažymi kažką kaip neaišku, tas ženklas gali reikšti vieną iš dviejų labai skirtingų dalykų: Tikra įrodymų spraga – tema iš tikrųjų negalėjo būti patikrinta. Niekas nepaskelbė skaičiaus. Informacija nėra vieša. Neaiškumas yra tikras ir susijęs su pasauliu. Kalbos artefaktas – pagrindinė išvada yra gera, tačiau ji buvo pažymėta kaip neigiama ar neaiški vien dėl to, kaip ji buvo suformuluota, o ne dėl to, ką ji iš tikrųjų sako. Neaiškumas yra apie sakinį, o ne apie temą. Jie atrodo identiškai puslapyje. Abu rodomi kaip geltonas ženklas šalia teiginio. Tačiau jie reikalauja visiškai skirtingų atsakymų. Tikra spraga reikalauja daugiau tyrimų. Kalbos artefaktui reikia geresnės formuluotės – o traktuojant jį kaip tyrimo spragą, švaistomas laikas ieškant įrodymų dėl to, kas niekada nebuvo abejojama. Šis skirtumas beveik nepasitaiko esamuose pranešimuose apie dirbtinio intelekto patikimumą ir haliucinacijas. Dauguma jų apsistoja ties „AI gali klysti, patikrinkite svarbius teiginius“ – tiesa, bet neįvykdoma. Žinojimas, kokio tipo vėliavą matote, iš tikrųjų pasako, ką daryti toliau.

Kodėl siauresni klausimai pranašesni už platesnius Yra antras modelis, kurį verta paminėti, ir jis veikia priešinga kryptimi nei tai, kaip dauguma žmonių įsivaizduoja, kaip turėtų atrodyti „išsamesnis“ dirbtinio intelekto tyrimas. Instinktas yra užduoti vieną didelį, atvirą klausimą ir tikėtis išsamaus atsakymo. Praktikoje priešingybė veikia geriau: suskirstant platų klausimą į kelis siaurus, konkrečius, apibrėžtus klausimus – ir užduodant juos atskirai – gaunami įrodymai, kuriuos lengviau patikrinti, lengviau pasitikėti ir dažnai jie yra tiesiogiai naudingesni nei vienas plačiai apimantis atsakymas, bandantis apimti viską iš karto. Iš dalies dėl to: siauras klausimas suteikia sistemai mažiau galimybių sujungti dalykus, kurie turėtų likti atskiri. Jis taip pat suteikia jums, skaitytojui, daug lengvesnį teiginį patikrinti – konkretus atsakymas į konkretų klausimą yra tai, ką galite patikrinti pagal konkretų šaltinį. Vienas paragrafas, bandantis atsakyti į penkis dalykus vienu metu, paprastai negali būti patikrintas pagal nieką konkretaus. Mažiau, tiksliau nukreipta, paprastai nugalėja daugiau.

Kaip tai iš tikrųjų atrodė realiame rinkos tyrime Mes niekuo iš to nepasitikėjome aklai. Atlikome tikrus tyrimus, kaip žmonės šiuo metu apibūdina savo nusivylimą dirbtinio intelekto įrankiais, kurie teigia įrodymus ir pasitikėjimą – pasikartojančia kalba, kurią žmonės iš tikrųjų vartoja, o ne hipoteze apie tai. Trys frazės pasikartojo pakankamai dažnai, nepriklausomai, kad jas verta čia pakartoti, nepriskiriant jų konkrečiam produktui ar įmonei, nes esmė yra modelis, o ne koks nors pardavėjas:

• Jaučiamas „5 % nesąmonių lygis“ – jausmas, kad net ir daugiausia patikimas dirbtinio intelekto įrankis turi nedidelę, bet realią dalį užtikrintai klaidingos išvesties, ir kad ši dalis retai sumažėja iki nulio, kad ir koks geras būtų įrankis.
• „Skaidrumo iliuzija“ – kai įrankis matomai rodo savo samprotavimus ar šaltinius, kurie atrodo patikimi, tačiau tas matomas sluoksnis iš tikrųjų nėra patikrinamas ar teisingas.
• „Patvirtinimo našta“ – tylios, realios išlaidos, kurias sukelia dirbtinio intelekto pagalba atliekamas darbas, kuris nepanaikina poreikio tikrinti dalykus, o tiesiog perkelia patikrinimą ant žmogaus, vėliau, dažnai neįspėjant, kad to vis dar reikia. Tas pats tyrimas taip pat atskleidė, ko žmonės iš tikrųjų nori vietoj to, nepriklausomai ir pakartotinai, be konkretaus atsakymo nurodymo: nuosekli, patikrinama citavimo galimybė; matomas paaiškinimas, kaip dirbtinis intelektas pasiekė savo išvadą, o ne tik pati išvada; ir sintezuotas, veiksmingas verdiktas, užuot nefiltruotu visos sistemos rastos informacijos išpylimu. Mes nepretenduojame į nuopelnus už šios paklausos nustatymą – tyrimas ją atrado pats. Norėtume atkreipti dėmesį, kad tai glaudžiai atitinka tai, kaip mes sukūrėme savo produktą: sąžiningumo sluoksnis, kuris rodo prielaidas, spragas ir prieštaravimus, užuot juos slėpęs; būdas pataisyti ir iš naujo atlikti analizę su realiu kontekstu, užuot pradėjus iš naujo; ir vienas sintezuotas verdiktas iš anksto, su visa įrodymų seka, prieinama po juo visiems, norintiems patikrinti mūsų darbą.

Kitas AI teiginys, kurį jums pateiks: patikrinimo sąrašas Kitą kartą, kai dirbtinio intelekto sistema – mūsų ar bet kurios kitos – pateiks jums teiginį, kurį ketinate įgyvendinti, penki klausimai nuves jus toliau nei „ar yra citata“:

1. Koks tai tipas? Išorinis tyrimas, jūsų įvestis, perkelti įrodymai, pažymėta išvada, skaičiavimas ar žmogaus pataisymas – jiems reikia skirtingų pasitikėjimo lygių.
2. Jei tai citata, ar šaltinis iš tikrųjų tai sako? Egzistuojanti citata ir citata, patvirtinanti konkretų teiginį, nėra tas pats patikrinimas.
3. Jei pažymėta kaip neaišku, ar tai spraga, ar artefaktas? Paklauskite, kas konkrečiai yra nepatvirtinta – tema ar tik sakinys.
4. Ar siauresnė šio klausimo versija padėtų jums gauti labiau patikrinamą atsakymą? Jei teiginys yra platus, apsvarstykite, ar jo suskaidymas padėtų.
5. Ar kas nors, turintis tiesioginių žinių, iš tikrųjų tai peržiūrėjo? Žmogaus pataisymas, jei toks yra, dažnai yra stipriausias įrodymų tipas sąraše – naudokite jį. Nė vienas iš šių dalykų nereikalauja visiškai nepasitikėti dirbtiniu intelektu. Tam reikia traktuoti „cituota“ ir „tiesa“ kaip du skirtingus klausimus, nes jie tokie ir yra.