Не кожне твердження ШІ потребує цитування — але кожне твердження потребує обґрунтування

Чому «відсутність посилання» перестала бути достатньою перевіркою

Проблема довіри не є абстрактною. Вона вимірна, і вона погіршується певними, задокументованими способами.

Дослідження 2025 року щодо згенерованих ШІ посилань виявило, що 19.9% були повністю сфабриковані, а ще 45.4% мали серйозні бібліографічні помилки — тобто близько двох третин посилань, згенерованих ШІ у цьому дослідженні, були або вигадані, або значним чином пошкоджені. Окремо, відстеження сфабрикованих посилань в опублікованих дослідженнях показує приблизне 12-кратне зростання між 2023 і 2025 роками, при цьому понад 4 000 біомедичних статей цитували неіснуючі дослідження.

Правова система вже поглинає витрати на це. Протягом року до лютого 2026 року 66 судових справ у США були санкціоновані спеціально за помилки, згенеровані ШІ, а до червня 2026 року ця цифра зросла до 1 598 судових процесів по всьому світу, що стосувалися контенту ШІ з сфабрикованими посиланнями — з понад $145 000 штрафів за подання документів ШІ в судах США лише в першому кварталі 2026 року.

Ніщо з цього не є причиною повністю не довіряти ШІ. Це причина перестати використовувати «чи є посилання» як єдиний критерій, оскільки цей тест занадто легко пройти, не будучи насправді правдивим, і — що не менш важливо — занадто легко провалити, будучи насправді правильним.

Є справжнє ускладнення і з іншого боку, яке варто чесно зазначити, а не оминати: дослідження Єльського університету виявило, що люди, які використовували чат-боти ШІ для перевірки новин, побачили зниження на 15 пунктів своєї власної непідтримуваної здатності виявляти дезінформацію лише через чотири тижні. Аутсорсинг перевірки не безкоштовний. Він може зробити вас гіршими у виконанні цього самостійно. Це справжня причина бажати системи, яка показує свою роботу, а не тієї, що просто надає вам гарну відповідь.

На чому насправді може ґрунтуватися твердження

Якщо саме лише посилання не є правильним критерієм, то більш корисне питання: який тип доказів призвів до цього твердження? На практиці існує шість реальних, окремих відповідей.

1. Зовнішнє дослідження

Твердження, що ґрунтується на поточному пошуку або зверненні до реальних, актуальних джерел — тип доказів, на який ви очікували б посилання, і де його відсутність є справжнім червоним прапором.

2. Інформація, надана користувачем

Твердження, побудоване на основі того, що ви безпосередньо повідомили системі — ваші власні факти про бренд, ваші власні знання ринку, виправлення, яке ви надали. Це не потребує зовнішнього посилання. Посиланням є ви.

3. Докази, перенесені з попереднього кроку

У багатоетапному дослідженні пізніший етап може правильно покладатися на докази, які попередній етап вже встановив і перевірив, замість того, щоб досліджувати їх з нуля. Посилання знаходиться вище за течією, а не в кожному подальшому реченні, що його використовує.

4. Аналітичний висновок, чітко позначений як висновок

Іноді чесна відповідь полягає в тому, що «на основі зібраних доказів це найбільш розумна інтерпретація» — не відкритий факт, а судження. Це законно, за умови, що воно позначено як висновок, а не маскується під посилання.

5. Детерміністичний розрахунок

Деякі твердження є просто арифметикою. Якщо вхідні дані правильні, фіксований, відтворюваний розрахунок не потребує посилання більше, ніж формула електронної таблиці — «доказом» є той факт, що одні й ті ж вхідні дані завжди дають один і той же результат.

6. Людська корекція, застосована після факту

Це те, що більшість матеріалів про довіру до ШІ повністю оминають: коли людина з реальними, безпосередніми знаннями виправляє твердження, згенероване ШІ, це виправлення саме по собі є формою доказу — можливо, найсильнішим видом з доступних, оскільки воно походить від того, хто насправді був присутній. Ми розглядаємо це як справжню, шосту категорію саму по собі, а не просто крок контролю якості, доданий до інших п'яти. Це справжній синтез з нашого боку, а не встановлений галузевий термін — варто сказати прямо, а не прикрашати це більше, ніж воно є.

Шість реальних відповідей. Один тест — «чи є посилання» — ніколи не охоплював би всі шість.

Відмінність, яку майже ніхто не проводить: прогалина проти артефакту

Ось аспект, який справді недостатньо досліджений, і він має більше значення, ніж здається.

Коли система ШІ позначає щось як невизначене, цей прапорець може означати одну з двох дуже різних речей:

Справжня доказова прогалина — предмет насправді не міг бути перевірений. Ніхто не опублікував число. Інформація не є публічною. Невизначеність є реальною і стосується світу.

Мовний артефакт — базовий висновок є правильним, але його позначили як негативний або невизначений виключно через те, як він був сформульований, а не через те, що він насправді говорить. Невизначеність стосується речення, а не предмета.

На сторінці вони виглядають ідентично. Обидва відображаються як жовтий прапорець поруч із твердженням. Але вони вимагають абсолютно різних відповідей. Справжня прогалина потребує додаткового дослідження. Мовний артефакт потребує кращого формулювання — і розгляд його як дослідницької прогалини марнує час на пошук доказів для чогось, що ніколи не було під сумнівом.

Ця відмінність ледь з'являється в існуючих матеріалах про довіру до ШІ та галюцинації. Більшість з них зупиняється на «ШІ може помилятися, перевіряйте важливі твердження» — правда, але не дієво. Знання того, якого роду прапорець ви бачите, насправді вказує вам, що робити далі.

Чому вужчі запитання кращі за ширші

Є друга закономірність, яку варто назвати, і вона рухається у протилежному напрямку від того, як більшість людей припускають, що має виглядати «більш ретельне» дослідження ШІ.

Інстинкт полягає в тому, щоб поставити одне велике, відкрите запитання і очікувати на всебічну відповідь. На практиці протилежне, як правило, працює краще: розбиття широкого запитання на кілька вузьких, конкретних, обмежених — і постановка їх окремо — дає докази, які легше перевірити, легше довіряти, і часто безпосередньо корисніші, ніж одна розлога відповідь, яка намагається охопити все одразу.

Частково це тому, що вузьке запитання дає системі менше простору для змішування речей, які мають залишатися окремими. Це також надає вам, читачеві, набагато простішу претензію для фактичної перевірки — конкретна відповідь на конкретне запитання є чимось, що ви можете перевірити за певним джерелом. Один абзац, що намагається відповісти на п'ять речей одночасно, зазвичай не може бути перевірений за чимось конкретним.

Менше, але точніше спрямоване, як правило, перевершує більше.

Як це виглядало в реальному маркетинговому дослідженні

Ми не сприймали нічого з цього на віру. Ми провели реальне дослідження того, як люди зараз описують своє розчарування інструментами ШІ, які роблять твердження про докази та довіру — повторювана мова, яку люди фактично використовують, а не гіпотеза про неї.

Три фрази зустрічалися досить часто, незалежно одна від одної, щоб їх варто було повторити тут, не прив'язуючи їх до конкретного продукту чи компанії, оскільки суть у закономірності, а не в якомусь одному постачальнику:

• Відчутна «5% частка нісенітниць» — відчуття, що навіть переважно надійний інструмент ШІ містить невелику, але реальну частку впевнено хибних результатів, і що ця частка рідко зменшується до нуля, незалежно від того, наскільки хороший інструмент.
• «Ілюзія прозорості» — коли інструмент видимо показує свої обґрунтування або джерела, що сприймається як надійне, без того, щоб цей видимий шар насправді був перевіряємим або правильним.
• «Тягар перевірки» — тиха, реальна вартість того, що робота за допомогою ШІ не усуває необхідності перевіряти речі, вона просто перекладає перевірку на людину, пізніше, часто без попередження, що це все ще необхідно.

Те ж дослідження також виявило, чого люди насправді хочуть замість цього, незалежно та неодноразово, без підказки до будь-якої конкретної відповіді: послідовна, перевіряєма можливість цитування; видиме пояснення того, як ШІ дійшов до свого висновку, а не лише сам висновок; та синтезований, дієвий вердикт замість невідфільтрованого звалища всього, що знайшла система.

Ми не претендуємо на заслугу у виявленні цього попиту — дослідження виявило його самостійно. На що ми хотіли б вказати, так це на те, що це тісно відповідає тому, як ми побудували наш власний продукт: шар чесності, який показує припущення, прогалини та суперечності, а не приховує їх; спосіб виправити та перезапустити аналіз з реальним контекстом, а не починати знову; та єдиний синтезований вердикт наперед, з повним слідом доказів, доступним під ним для кожного, хто захоче перевірити нашу роботу.

Контрольний список для наступного твердження ШІ, яке вам нададуть

Наступного разу, коли система ШІ — наша чи будь-яка інша — надасть вам твердження, щодо якого ви збираєтеся діяти, п'ять запитань допоможуть вам більше, ніж «чи є посилання»:

1. Якого типу це? Зовнішнє дослідження, ваш власний внесок, перенесені докази, позначений висновок, розрахунок або людська корекція — вони вимагають різних рівнів довіри.
2. Якщо це посилання, чи справді джерело говорить це? Існування посилання та підтримка посиланням конкретного твердження — це не одна й та сама перевірка.
3. Якщо воно позначено як невизначене, це прогалина чи артефакт? Запитайте, що саме не перевірено — предмет, чи просто речення.
4. Чи отримали б ви більш перевіряєму відповідь, якщо б запитання було вужчим? Якщо твердження широке, подумайте, чи допомогло б його розбиття.
5. Чи дивився це хтось, хто має безпосередні знання? Людська корекція, якщо вона доступна, часто є найсильнішим типом доказів у списку — використовуйте її.

Ніщо з цього не вимагає цілковитої недовіри до ШІ. Це вимагає розглядати «цитоване» та «істинне» як два різні питання, оскільки вони такими є.