すべてのAI主張に引用は不要 — しかしすべての主張には根拠が必要

なぜ「引用なし」では十分なテストではなくなったのか信頼の問題は抽象的ではありません。それは測定可能であり、特定の、文書化された方法で悪化しています。2025年のAI生成参考文献に関する研究では、19.9%が完全に捏造されており、さらに45.4%が重大な書誌学的エラーを抱えていることが判明しました。これは、その研究でAIが生成した引用の約3分の2が、何らかの重要な方法で捏造されたか破損していたことを意味します。別に、公開された研究における捏造された引用の追跡調査では、2023年から2025年の間に約12倍の増加が見られ、存在しない研究を引用している4,000以上の生物医学論文が発見されています。法制度はすでにこのコストを吸収しています。2026年2月までの1年間で、AI生成エラーに特化した66件の米国訴訟が制裁を受け、2026年6月までには、捏造された引用を含むAIコンテンツに関連する訴訟は世界中で1,598件に増加しました。2026年第1四半期だけで、米国裁判所におけるAI関連の申立罰金は14万5,000ドルを超えています。これらのいずれも、AIを完全に不信視する理由ではありません。「引用があるか」を唯一のテストとすることをやめる理由です。なぜなら、そのテストは、実際には真実でなくても合格しやすく、そして同じくらい重要なことに、実際には正しくても不合格になりやすすぎるからです。この問題のもう一方にも、正直に述べるべき、見過ごせない実際の複雑さがあります。イェール大学の研究では、AIチャットボットを使用してニュースの検証を支援した人々は、わずか4週間で、自力での誤情報検出能力が15ポイント低下したことが判明しました。検証を外部委託することは無料ではありません。それは、自分で検証する能力を低下させる可能性があります。それは、単にきれいに見える答えを渡すシステムではなく、その作業を示すシステムを望む正当な理由です。---## 主張が実際に何に基づいているか引用だけが正しいテストではない場合、より有用な質問は「この主張はどのような種類の証拠に基づいて生成されたのか？」です。実際には、6つの現実的で明確な答えがあります。### 1. 外部リサーチ実際の、現在の情報源に対するライブ検索やルックアップに根拠付けられた主張—引用が指し示すと期待される種類の証拠であり、それが欠けている場合は真の危険信号です。### 2. ユーザー提供情報あなたがシステムに直接伝えたもの（あなたのブランドの事実、あなたの市場知識、あなたが提供した修正）から構築された主張。これは外部引用を必要としません。引用はあなた自身です。### 3. 以前のステップから引き継がれた証拠多段階のリサーチにおいて、後続の段階は、先行する段階がすでに確立し検証した証拠に正しく依拠することができ、ゼロから再リサーチする必要はありません。引用は上流に存在し、それを使用するすべての下流の文に存在するわけではありません。### 4. 分析的推論（推論として明確に表示）時には正直な答えは、「収集された証拠に基づくと、これが最も合理的な解釈である」というものです。発見された事実ではなく、判断です。それは、推論としてラベル付けされ、引用として装飾されていない限り、正当です。### 5. 決定論的計算いくつかの主張は単なる算術です。入力が正しければ、固定され、再現可能な計算は、スプレッドシートの式がそうであるように引用を必要としません—「証拠」とは、同じ入力が常に同じ出力を生成するという事実です。### 6. 事後に適用された人間の修正これはAIの信頼性に関するほとんどの報道が完全に省略している点です。実際の、直接的な知識を持つ人物がAI生成の主張を修正する場合、その修正自体が一種の証拠です—おそらく利用可能な最も強力な種類であり、なぜならそれは実際にそこにいた人物からのものだからです。私たちはこれを、他の5つに追加された品質管理ステップとしてではなく、それ自体が現実の第6のカテゴリであると考えています。それは私たち自身の真の統合であり、確立された業界用語ではありません—それ以上のものではないことをはっきりと述べる価値があります。6つの実際の答え。「引用があるか」という1つのテストでは、この6つすべてを網羅することは決してできませんでした。---## ほとんど誰も区別しない点：ギャップとアーティファクトここに、真にあまり探求されていない側面があり、それが聞こえる以上に重要です。AIシステムが何かを不確実としてフラグを立てる場合、そのフラグは2つの非常に異なる意味のうちの1つを意味する可能性があります。真の証拠ギャップ — その主題は実際には検証できなかった。誰もその数字を公開していない。情報が公開されていない。不確実性は現実のものであり、世界に関するものです。言語アーティファクト — 根底にある発見は問題ないが、それが実際に何を言っているかではなく、単にどのように表現されたかによって否定的または不確実としてフラグが立てられた。不確実性は主題ではなく文に関するものです。これらはページ上では同じに見えます。どちらも主張の隣に黄色のフラグとして表示されます。しかし、それらは全く異なる対応を必要とします。真のギャップにはさらなるリサーチが必要です。言語アーティファクトにはより良い表現が必要であり、それをリサーチギャップとして扱うことは、実際には一度も疑いの余地がなかったことの証拠を追い求める時間の無駄です。この区別は、AIの信頼性とハルシネーションに関する既存の報道ではほとんど言及されていません。そのほとんどは「AIは間違えうる、重要な主張は検証せよ」で止まっており、それは真実ですが、実行可能ではありません。どのような種類のフラグを見ているかを知ることが、次に行うべきことを実際に教えてくれます。---## なぜ狭い質問が広い質問に勝るのかもう一つ、名前を挙げる価値のあるパターンがあり、それはほとんどの人が「より徹底的な」AIリサーチがどうあるべきだと想定しているのとは逆方向です。本能的には、1つの大きな開かれた質問をし、包括的な回答を期待します。しかし実際には、その逆の方がうまくいく傾向があります。広い質問をいくつかの狭く、具体的で、範囲を限定した質問に分解し、それらを個別に尋ねることで、すべてを一度に網羅しようとする1つの広範な回答よりも、チェックしやすく、信頼しやすく、そしてしばしばより直接的に有用な証拠が生まれます。その理由の一部として、狭い質問は、システムが分離しておくべきものを曖昧に混ぜ合わせる余地を減らします。また、読者であるあなたにとって、実際に検証すべき主張がはるかに簡単になります。特定の質問に対する特定の回答は、特定の情報源と照合して確認できます。一度に5つのことに答えようとする1つの段落は、通常、特定の何かと照合することはできません。より少なく、より正確に狙いを定めた方が、より多くを打ち負かす傾向があります。---## 実際のリサーチでこれがどのように見えたか私たちはこれを何一つ鵜呑みにしませんでした。人々が現在、証拠と信頼の主張をするAIツールに対する不満をどのように表現しているか—それについての仮説ではなく、人々が実際に使用する反復的な言葉—について、実際のリサーチを実施しました。特定の製品や会社に結びつけることなく、ここで繰り返す価値のある3つのフレーズが、独立して十分な頻度で現れました。なぜなら、重要なのはパターンであり、特定のベンダーではないからです。- 実感される**「5%の誤情報率」** — ほとんど信頼できるAIツールでさえ、自信を持って間違った出力がわずかながらも実際に含まれており、ツールの性能がどれほど向上しても、この割合がゼロに近づくことはめったにないという感覚。- 「透明性の幻想」 — ツールがその推論や情報源を視覚的に示すことで信頼できるように見えるが、その視覚的なレイヤーが実際には検証可能でなく、正確でもない場合。- 「検証の負担」 — AIアシスト作業が物事のチェックの必要性を取り除くのではなく、単にそのチェックを後で人間に移し、しばしばそれが依然として必要であるという警告なしに行われる、静かで本当のコスト。同じリサーチでは、人々が代わりに実際に何を望んでいるかについても、特定の答えに促されることなく、独立して繰り返し明らかになりました。それは、一貫性があり、検証可能な引用機能、結論そのものではなく、AIがその結論に達した方法の目に見える説明、そしてシステムが見つけたすべてをフィルタリングせずにダンプするのではなく、統合された実行可能な評決です。私たちはその需要を特定した功績を主張しているわけではありません—リサーチがそれを独自に見つけ出しました。私たちが指摘したいのは、それが私たちの製品の構築方法と密接に一致しているということです。仮定、ギャップ、矛盾を隠すのではなく示す正直なレイヤー、最初からやり直すのではなく実際のコンテキストで分析を修正して再実行する方法、そして事前に単一の統合された評決を提供し、作業を確認したい人のために完全な証拠トレイルをその下で利用可能にすることです。---## 次に手渡されるAIの主張のためのチェックリスト次回、AIシステム（当社のものであれ他社のものであれ）があなたが行動しようとしている主張を提示したとき、「引用があるか」という質問よりも5つの質問の方があなたを先に進めます。1. これはどのタイプですか？ 外部リサーチ、あなたの入力、引き継がれた証拠、ラベル付けされた推論、計算、または人間の修正 — これらは異なる信頼レベルを要求します。2. もし引用がある場合、その情報源は実際にこれを述べていますか？ 引用が存在することと、引用が特定の主張を裏付けていることは、同じチェックではありません。3. 不確実とフラグが立てられている場合、それはギャップですか、それともアーティファクトですか？ 具体的に何が未検証なのかを尋ねてください—主題ですか、それとも単なる文ですか。4. この質問のより狭いバージョンであれば、よりチェック可能な回答が得られますか？ 主張が広範である場合、それを分割することが役立つかどうかを検討してください。5. 直接的な知識を持つ人がこれを実際に見ていますか？ 人間による修正は、利用可能であれば、リストの中で最も強力な証拠タイプであることが多いため—それを使用してください。これらのいずれも、AIを完全に不信視する必要はありません。「引用されている」と「真実である」を異なる2つの質問として扱うことが必要です。なぜなら、それらは異なるからです。