Inte varje AI-påstående behöver en källhänvisning – men varje påstående behöver en grund

Varför ”ingen referens” slutade vara ett tillräckligt bra test

Förtroendeproblemet är inte abstrakt. Det är mätbart, och det blir värre på specifika, dokumenterade sätt.

En studie från 2025 av AI-genererade referenser fann att 19,9 % var helt fabricerade, och ytterligare 45,4 % hade allvarliga bibliografiska fel – vilket betyder att nästan två tredjedelar av de referenser en AI producerade i den studien antingen var uppfunna eller felaktiga på något materiellt sätt. Separat visar spårning av fabricerade referenser i publicerad forskning en ungefärlig 12-faldig ökning mellan 2023 och 2025, med över 4 000 biomedicinska artiklar som fann citerande forskning som inte existerar.

Rättssystemet absorberar redan kostnaden för detta. Under året fram till februari 2026 sanktionerades 66 amerikanska rättsfall specifikt för AI-genererade fel, och i juni 2026 hade den siffran vuxit till 1 598 rättegångar världen över som involverade AI-innehåll med fabricerade referenser – med över 145 000 dollar i böter för AI-inlämningar i amerikanska domstolar bara under första kvartalet 2026.

Inget av detta är en anledning att helt misstro AI. Det är en anledning att sluta använda ”finns det en referens” som hela testet, eftersom det testet är för lätt att klara utan att faktiskt vara sant, och – lika viktigt – för lätt att misslyckas med att faktiskt vara korrekt.

Det finns också en verklig komplikation på andra sidan av detta, värd att ärligt konstatera snarare än att hoppa över: en Yale-studie fann att personer som använde AI-chatbottar för att verifiera nyheter såg en 15-procentig minskning i sin egen oassisterade förmåga att upptäcka felinformation efter bara fyra veckor. Att lägga ut verifiering är inte gratis. Det kan göra dig sämre på att göra det själv. Det är en genuin anledning att vilja ha ett system som visar sitt arbete snarare än ett som bara ger dig ett snyggt svar.

Vad ett påstående faktiskt kan bygga på

Om en referens ensam inte är det rätta testet, är den mer användbara frågan: vilken typ av bevis producerade detta påstående? I praktiken finns det sex verkliga, distinkta svar.

1. Extern forskning

Ett påstående grundat i en live-sökning eller uppslagning mot verkliga, aktuella källor – den typ av bevis du skulle förvänta dig att en referens pekar på, och där en saknad är en genuin röd flagga.

2. Användar-tillhandahållen information

Ett påstående byggt från något du direkt berättade för systemet – dina egna varumärkesfakta, din egen marknadskunskap, en korrigering du lämnat. Detta behöver ingen extern referens. Referensen är du.

3. Bevis som förts fram från ett tidigare steg

I ett flerfasforskningsarbete kan ett senare steg korrekt förlita sig på bevis som ett tidigare steg redan etablerat och verifierat, snarare än att forska om det från grunden. Referensen lever uppströms, inte på varje nedströms mening som använder den.

4. Analytisk inferens, tydligt märkt som inferens

Ibland är det ärliga svaret ”baserat på de insamlade bevisen är detta den mest rimliga tolkningen” – inte ett upptäckt fakta, en bedömning. Det är legitimt, förutsatt att det är märkt som inferens och inte förklätt som en referens.

5. Deterministisk beräkning

Vissa påståenden är bara aritmetik. Om indata är korrekta behöver en fast, reproducerbar beräkning inte en referens mer än en kalkylbladsformel gör – ”beviset” är det faktum att samma indata alltid producerar samma utdata.

6. Mänsklig korrigering, tillämpad i efterhand

Detta är den som de flesta AI-förtroendebeskrivningar helt hoppar över: när en person med verklig, förstahandskunskap korrigerar ett AI-genererat påstående, är den korrigeringen i sig en form av bevis – förmodligen den starkaste tillgängliga typen, eftersom den kommer från någon som faktiskt var där. Vi ser detta som en verklig, sjätte kategori i sig själv, inte bara ett kvalitetskontrollsteg som skruvats fast på de andra fem. Det är en genuin syntes från vår sida, inte en etablerad branschterm – värt att säga rakt ut snarare än att försköna det mer än det är.

Sex verkliga svar. Ett test – ”finns det en referens” – skulle aldrig täcka alla sex.

Distinktionen nästan ingen drar: en lucka kontra en artefakt

Här är den vinkel som är genuint underutforskad, och den spelar större roll än det låter som den borde.

När ett AI-system flaggar något som osäkert, kan den flaggan betyda en av två mycket olika saker:

En genuin bevislucka — ämnet kunde faktiskt inte verifieras. Ingen har publicerat siffran. Informationen är inte offentlig. Osäkerheten är verklig och handlar om världen.

En språklig artefakt — det underliggande fyndet är bra, men det flaggades som negativt eller osäkert enbart på grund av hur det formulerades, inte på grund av vad det faktiskt säger. Osäkerheten handlar om meningen, inte ämnet.

Dessa ser identiska ut på sidan. Båda visas som en gul flagga bredvid ett påstående. Men de kräver helt olika svar. En verklig lucka behöver mer forskning. En språklig artefakt behöver bättre formulering – och att behandla den som en forskningslucka slösar tid på att jaga bevis för något som aldrig faktiskt var i tvivel.

Denna distinktion förekommer knappt i befintlig täckning av AI-förtroende och hallucination. Det mesta stannar vid ”AI kan ha fel, verifiera viktiga påståenden” – sant, men inte handlingsbart. Att veta vilken typ av flagga du tittar på är vad som faktiskt talar om för dig vad du ska göra härnäst.

Varför snävare frågor slår bredare

Det finns ett andra mönster värt att nämna, och det går i motsatt riktning mot vad de flesta antar att ”grundligare” AI-forskning bör se ut som.

Instinkten är att ställa en stor, öppen fråga och förvänta sig ett omfattande svar tillbaka. I praktiken tenderar motsatsen att fungera bättre: att bryta ner en bred fråga i flera snäva, specifika, avgränsade frågor – och att ställa dem separat – producerar bevis som är lättare att kontrollera, lättare att lita på, och ofta mer direkt användbart än ett spretigt svar som försöker täcka allt på en gång.

Delvis för att: en snäv fråga ger ett system mindre utrymme att sudda ihop saker som borde förbli separata. Det ger dig, läsaren, ett mycket lättare påstående att faktiskt verifiera – ett specifikt svar på en specifik fråga är något du kan kontrollera mot en specifik källa. Ett enda stycke som försöker svara på fem saker samtidigt kan vanligtvis inte kontrolleras mot något särskilt.

Mindre, mer precist riktat, tenderar att slå mer.

Hur detta faktiskt såg ut i verklig marknadsforskning

Vi tog inget av detta på tro. Vi genomförde verklig forskning om hur människor för närvarande beskriver sin frustration med AI-verktyg som gör påståenden om bevis och förtroende – det återkommande språk som människor faktiskt använder, inte en hypotes om det.

Tre fraser kom upp tillräckligt ofta, oberoende, för att vara värda att upprepas här, utan att koppla dem till någon specifik produkt eller företag, eftersom mönstret är poängen, inte någon enskild leverantör:

• En känd ”5 % bullerfrekvens” — känslan att även ett mestadels tillförlitligt AI-verktyg har en liten men verklig andel självsäkert felaktig utdata inbyggd, och att denna andel sällan krymper till noll oavsett hur bra verktyget blir.
• ”Illusionen av transparens” — där ett verktyg synligt visar sitt resonemang eller sina källor, vilket uppfattas som trovärdigt, utan att det synliga lagret faktiskt är kontrollerbart eller korrekt.
• ”Valideringsbördan” — den tysta, verkliga kostnad som AI-assisterat arbete inte tar bort behovet av att kontrollera saker, det flyttar bara kontrollen till människan, senare, ofta utan varning om att det fortfarande krävs.

Samma forskning avslöjade också vad människor faktiskt vill ha istället, oberoende och upprepade gånger, utan att bli uppmanade till något specifikt svar: konsekvent, verifierbar citatkapacitet; en synlig förklaring av hur AI nådde sin slutsats snarare än bara slutsatsen i sig; och en syntetiserad, handlingsbar dom istället för en ofiltrerad dump av allt systemet hittade.

Vi gör inte anspråk på att ha identifierat den efterfrågan – forskningen fann det på egen hand. Vad vi skulle peka på är att det mappar nära till hur vi har byggt vår egen produkt: ett ärlighetslager som visar antaganden, luckor och motsägelser istället för att dölja dem; ett sätt att korrigera och köra om en analys med verklig kontext istället för att börja om; och en enda syntetiserad dom i förväg, med hela beviskedjan tillgänglig under den för vem som helst som vill kontrollera vårt arbete.

En checklista för nästa AI-påstående du får

Nästa gång ett AI-system – vårt eller någon annans – ger dig ett påstående du är på väg att agera på, tar fem frågor dig längre än ”finns det en referens”:

1. Vilken typ är detta? Extern forskning, din egen input, framförda bevis, märkt inferens, en beräkning eller en mänsklig korrigering – de kräver olika nivåer av förtroende.
2. Om det är en referens, säger källan faktiskt detta? Att en referens existerar och att en referens stöder det specifika påståendet är inte samma kontroll.
3. Om det flaggas som osäkert, är det en lucka eller en artefakt? Fråga vad som specifikt är overifierat – ämnet, eller bara meningen.
4. Skulle en snävare version av denna fråga ge dig ett mer kontrollerbart svar? Om påståendet är brett, överväg om att dela upp det skulle hjälpa.
5. Har någon med förstahandskunskap faktiskt tittat på detta? En mänsklig korrigering, där en sådan finns tillgänglig, är ofta den starkaste bevisstypen på listan – använd den.

Inget av detta kräver att man helt misstror AI. Det kräver att man behandlar ”citerad” och ”sann” som två olika frågor, för det är de.