Nicht jede KI-Behauptung benötigt Zitation – jede Behauptung benötigt eine Basis

Warum „keine Zitation“ kein ausreichend guter Test mehr ist

Das Vertrauensproblem ist nicht abstrakt. Es ist messbar und verschlechtert sich auf spezifische, dokumentierte Weise.

Eine Studie aus dem Jahr 2025 über KI-generierte Referenzen ergab, dass 19,9 % vollständig erfunden waren und weitere 45,4 % schwerwiegende bibliografische Fehler aufwiesen – was bedeutet, dass fast zwei Drittel der von einer KI in dieser Studie produzierten Zitationen entweder erfunden oder in irgendeiner materiellen Weise fehlerhaft waren. Getrennt davon zeigt die Nachverfolgung erfundener Zitationen in veröffentlichten Forschungsarbeiten einen etwa zwölffachen Anstieg zwischen 2023 und 2025, wobei mehr als 4.000 biomedizinische Artikel gefunden wurden, die Forschung zitieren, die nicht existiert.

Das Rechtssystem trägt bereits die Kosten dafür. Im Jahr bis Februar 2026 wurden 66 US-Gerichtsfälle speziell wegen KI-generierter Fehler sanktioniert, und bis Juni 2026 war diese Zahl auf 1.598 Gerichtsverfahren weltweit angewachsen, die KI-Inhalte mit erfundenen Zitationen betrafen – mit über 145.000 US-Dollar an KI-Einreichungsstrafen vor US-Gerichten allein im ersten Quartal 2026.

Nichts davon ist ein Grund, der KI gänzlich zu misstrauen. Es ist ein Grund, „hat es eine Zitation“ nicht mehr als alleinigen Test zu verwenden, da dieser Test zu einfach zu bestehen ist, ohne tatsächlich wahr zu sein, und – ebenso wichtig – zu einfach zu scheitern, obwohl er eigentlich korrekt ist.

Es gibt auch eine echte Komplikation auf der anderen Seite, die es wert ist, ehrlich erwähnt zu werden, anstatt sie zu überspringen: Eine Yale-Studie ergab, dass Menschen, die KI-Chatbots zur Überprüfung von Nachrichten nutzten, nach nur vier Wochen einen 15-Punkte-Rückgang ihrer eigenen, unassistierten Fähigkeit zur Erkennung von Fehlinformationen feststellten. Die Auslagerung der Überprüfung ist nicht kostenlos. Sie kann dazu führen, dass Sie selbst schlechter darin werden. Das ist ein echter Grund, ein System zu wollen, das seine Arbeit zeigt, anstatt eines, das Ihnen einfach eine sauber aussehende Antwort liefert.

Worauf eine Behauptung tatsächlich basieren kann

Wenn eine Zitation allein nicht der richtige Test ist, lautet die nützlichere Frage: Welche Art von Beweismitteln hat diese Behauptung hervorgebracht? In der Praxis gibt es sechs echte, unterschiedliche Antworten.

1. Externe Forschung

Eine Behauptung, die auf einer Live-Suche oder einem Nachschlagen gegen reale, aktuelle Quellen basiert – die Art von Beweisen, auf die eine Zitation verweisen sollte und bei der ein Fehlen ein echtes Warnsignal ist.

2. Vom Benutzer bereitgestellte Informationen

Eine Behauptung, die auf etwas basiert, das Sie dem System direkt mitgeteilt haben – Ihre eigenen Markenfakten, Ihr eigenes Marktwissen, eine von Ihnen vorgenommene Korrektur. Dies benötigt keine externe Zitation. Die Zitation sind Sie.

3. Aus einem früheren Schritt übertragene Beweismittel

In einem mehrstufigen Forschungsprozess kann eine spätere Phase korrekt auf Beweismittel vertrauen, die eine frühere Phase bereits etabliert und verifiziert hat, anstatt diese von Grund auf neu zu recherchieren. Die Zitation befindet sich vorgelagert, nicht in jedem nachgelagerten Satz, der sie verwendet.

4. Analytische Schlussfolgerung, klar als Schlussfolgerung gekennzeichnet

Manchmal ist die ehrliche Antwort: „Basierend auf den gesammelten Beweisen ist dies die vernünftigste Interpretation“ – keine entdeckte Tatsache, sondern eine Einschätzung. Das ist legitim, vorausgesetzt, es ist als Schlussfolgerung gekennzeichnet und nicht als Zitation verkleidet.

5. Deterministische Berechnung

Manche Behauptungen sind reine Arithmetik. Wenn die Eingaben korrekt sind, benötigt eine feste, reproduzierbare Berechnung keine Zitation mehr als eine Tabellenkalkulationsformel – der „Beweis“ ist die Tatsache, dass dieselben Eingaben immer dieselbe Ausgabe erzeugen.

6. Menschliche Korrektur, nachträglich angewendet

Dies ist der Punkt, den die meisten Berichte über KI-Vertrauen vollständig übersehen: Wenn eine Person mit echtem, erstem Wissen eine KI-generierte Behauptung korrigiert, ist diese Korrektur selbst eine Form von Beweis – wohl die stärkste verfügbare Art, da sie von jemandem stammt, der tatsächlich dabei war. Wir betrachten dies als eine eigenständige, echte sechste Kategorie, nicht nur als einen Qualitätskontrollschritt, der an die anderen fünf angehängt ist. Das ist eine echte Synthese unsererseits, kein etablierter Branchenbegriff – es lohnt sich, dies klar auszudrücken, anstatt es als mehr darzustellen, als es ist.

Sechs echte Antworten. Ein einziger Test – „gibt es eine Zitation“ – konnte nie alle sechs abdecken.

Die Unterscheidung, die fast niemand trifft: eine Lücke versus ein Artefakt

Hier ist der Aspekt, der wirklich unerforscht ist, und er ist wichtiger, als es den Anschein hat.

Wenn ein KI-System etwas als unsicher kennzeichnet, kann dieses Kennzeichen zwei sehr unterschiedliche Dinge bedeuten:

Eine echte Beweislücke — das Thema konnte tatsächlich nicht verifiziert werden. Niemand hat die Zahl veröffentlicht. Die Information ist nicht öffentlich. Die Unsicherheit ist real und betrifft die Welt.

Ein Sprachartefakt — der zugrundeliegende Befund ist in Ordnung, aber er wurde als negativ oder unsicher gekennzeichnet, rein wegen seiner Formulierung, nicht wegen seines tatsächlichen Inhalts. Die Unsicherheit betrifft den Satz, nicht das Thema.

Diese sehen auf der Seite identisch aus. Beide erscheinen als gelbe Flagge neben einer Behauptung. Aber sie erfordern völlig unterschiedliche Reaktionen. Eine echte Lücke erfordert mehr Forschung. Ein Sprachartefakt benötigt eine bessere Formulierung – und es wie eine Forschungslücke zu behandeln, verschwendet Zeit, um Beweise für etwas zu suchen, das nie tatsächlich in Frage stand.

Diese Unterscheidung taucht in der bestehenden Berichterstattung über KI-Vertrauen und Halluzinationen kaum auf. Das meiste davon endet bei „KI kann falsch sein, wichtige Behauptungen überprüfen“ – wahr, aber nicht umsetzbar. Zu wissen, welche Art von Kennzeichnung Sie sehen, sagt Ihnen tatsächlich, was als Nächstes zu tun ist.

Warum engere Fragen umfassendere übertreffen

Es gibt ein zweites Muster, das es wert ist, benannt zu werden, und es läuft in die entgegengesetzte Richtung dessen, was die meisten Menschen unter „gründlicherer“ KI-Forschung verstehen würden.

Der Instinkt ist, eine große, offene Frage zu stellen und eine umfassende Antwort zu erwarten. In der Praxis funktioniert das Gegenteil tendenziell besser: Eine breite Frage in mehrere enge, spezifische, begrenzte Fragen aufzuteilen – und diese separat zu stellen – liefert Beweise, die einfacher zu überprüfen, leichter zu vertrauen und oft direkter nützlich sind als eine ausufernde Antwort, die versucht, alles auf einmal abzudecken.

Teilweise deshalb: Eine enge Frage gibt einem System weniger Raum, Dinge zu verschmelzen, die getrennt bleiben sollten. Es gibt Ihnen, dem Leser, auch eine viel einfacher zu verifizierende Behauptung – eine spezifische Antwort auf eine spezifische Frage ist etwas, das Sie gegen eine spezifische Quelle überprüfen können. Ein einziger Absatz, der versucht, fünf Dinge gleichzeitig zu beantworten, kann normalerweise nicht gegen etwas Bestimmtes überprüft werden.

Weniger, präziser ausgerichtet, schlägt tendenziell mehr.

Wie das in der realen Marktforschung tatsächlich aussah

Wir haben nichts davon blind geglaubt. Wir haben echte Forschung darüber betrieben, wie Menschen derzeit ihre Frustration über KI-Tools beschreiben, die Beweis- und Vertrauensbehauptungen aufstellen – die wiederkehrende Sprache, die Menschen tatsächlich verwenden, nicht eine Hypothese darüber.

Drei Formulierungen tauchten oft genug und unabhängig voneinander auf, um sie hier zu wiederholen, ohne sie an ein bestimmtes Produkt oder Unternehmen zu binden, denn das Muster ist der Punkt, nicht ein einzelner Anbieter:

• Eine gefühlte „5% Bullshit-Rate“ — das Gefühl, dass selbst ein größtenteils zuverlässiges KI-Tool einen kleinen, aber echten Anteil an selbstbewusst falscher Ausgabe enthält und dass dieser Anteil selten auf Null schrumpft, egal wie gut das Tool wird.
• Die „Illusion der Transparenz“ — wobei ein Tool seine Argumentation oder Quellen sichtbar zeigt, was als vertrauenswürdig gelesen wird, ohne dass diese sichtbare Ebene tatsächlich überprüfbar oder korrekt ist.
• Die „Validierungslast“ — die leisen, realen Kosten, dass KI-unterstützte Arbeit die Notwendigkeit der Überprüfung nicht beseitigt, sondern die Überprüfung nur später auf den Menschen verlagert, oft ohne Warnung, dass sie immer noch erforderlich ist.

Dieselbe Forschung zeigte auch, was die Menschen stattdessen tatsächlich wollen, unabhängig und wiederholt, ohne auf eine bestimmte Antwort hingewiesen zu werden: konsistente, überprüfbare Zitationsmöglichkeiten; eine sichtbare Erklärung, wie die KI zu ihrer Schlussfolgerung gelangte, anstatt nur die Schlussfolgerung selbst; und ein synthetisiertes, umsetzbares Urteil anstelle einer ungefilterten Aufzählung alles, was das System gefunden hat.

Wir beanspruchen nicht die Ehre, diese Nachfrage identifiziert zu haben – die Forschung fand sie von selbst. Worauf wir hinweisen möchten, ist, dass sie eng damit übereinstimmt, wie wir unser eigenes Produkt aufgebaut haben: eine Transparenzschicht, die Annahmen, Lücken und Widersprüche zeigt, anstatt sie zu verbergen; eine Möglichkeit, eine Analyse mit realem Kontext zu korrigieren und erneut auszuführen, anstatt von vorne zu beginnen; und ein einziges, synthetisiertes Urteil im Voraus, mit dem vollständigen Beweispfad darunter für jeden, der unsere Arbeitsweise überprüfen möchte.

Eine Checkliste für die nächste KI-Behauptung, die Ihnen vorgelegt wird

Wenn Ihnen das nächste Mal ein KI-System – unseres oder ein anderes – eine Behauptung vorlegt, auf die Sie reagieren möchten, bringen Sie fünf Fragen weiter als „gibt es eine Zitation“:

1. Welchen Typ hat diese? Externe Forschung, Ihre eigene Eingabe, übertragene Beweismittel, gekennzeichnete Schlussfolgerung, eine Berechnung oder eine menschliche Korrektur – sie erfordern unterschiedliche Vertrauensniveaus.
2. Wenn es eine Zitation ist, sagt die Quelle das tatsächlich aus? Eine existierende Zitation und eine Zitation, die die spezifische Behauptung stützt, sind nicht derselbe Prüfpunkt.
3. Wenn es als unsicher gekennzeichnet ist, ist das eine Lücke oder ein Artefakt? Fragen Sie, was genau unbestätigt ist – das Thema oder nur der Satz.
4. Würde eine engere Version dieser Frage Ihnen eine besser überprüfbare Antwort liefern? Wenn die Behauptung breit ist, überlegen Sie, ob eine Aufteilung helfen würde.
5. Hat jemand mit erstem Wissen dies tatsächlich überprüft? Eine menschliche Korrektur, sofern verfügbar, ist oft die stärkste Art von Beweis auf der Liste – nutzen Sie diese.

Nichts davon erfordert ein gänzliches Misstrauen gegenüber der KI. Es erfordert, „zitiert“ und „wahr“ als zwei verschiedene Fragen zu behandeln, denn das sind sie.