Не каждое заявление ИИ требует ссылки — но каждое заявление требует обоснования

Почему «нет цитаты» перестало быть достаточной проверкой

Проблема доверия не абстрактна. Она измерима, и она ухудшается конкретными, задокументированными способами.

Исследование 2025 года, посвященное сгенерированным ИИ ссылкам, показало, что 19,9% из них были полностью сфабрикованы, а еще 45,4% имели серьезные библиографические ошибки — это означает, что почти две трети цитат, произведенных ИИ в этом исследовании, были либо выдуманы, либо значительно ошибочны. Отдельно отслеживание сфабрикованных цитат в опубликованных исследованиях показывает примерно 12-кратное увеличение в период с 2023 по 2025 год, при этом более 4000 биомедицинских работ ссылались на несуществующие исследования.

Правовая система уже несет на себе издержки этого. За год по февраль 2026 года 66 судебных дел в США были подвергнуты санкциям специально за ошибки, сгенерированные ИИ, а к июню 2026 года эта цифра выросла до 1598 судебных разбирательств по всему миру, связанных с контентом ИИ, содержащим сфабрикованные цитаты — при этом только в первом квартале 2026 года штрафы за подачу ИИ-документов в судах США составили более 145 000 долларов.

Ничто из этого не является причиной полностью не доверять ИИ. Это причина перестать использовать «есть ли цитата» в качестве полной проверки, потому что этот тест слишком легко пройти, не будучи на самом деле истинным, и — что не менее важно — слишком легко провалить, будучи на самом деле правильным.

Есть и реальное осложнение на другой стороне этого, о котором стоит честно заявить, а не обходить стороной: исследование Йельского университета показало, что у людей, которые использовали чат-боты ИИ для проверки новостей, наблюдалось 15-процентное снижение их собственной способности обнаруживать дезинформацию без посторонней помощи всего за четыре недели. Аутсорсинг проверки не бесплатен. Он может ухудшить вашу способность делать это самостоятельно. Это настоящая причина хотеть систему, которая показывает свою работу, а не ту, которая просто выдает вам чисто выглядящий ответ.

На чем может фактически основываться утверждение

Если одной цитаты недостаточно для проверки, более полезный вопрос: какой тип доказательств привел к этому утверждению? На практике существует шесть реальных, отдельных ответов.

1. Внешнее исследование

Утверждение, основанное на живом поиске или запросе к реальным, актуальным источникам — такой тип доказательств, на который, как вы ожидаете, будет указывать цитата, и где ее отсутствие является подлинным тревожным сигналом.

2. Информация, предоставленная пользователем

Утверждение, построенное на чем-то, что вы непосредственно сообщили системе — ваши собственные факты о бренде, ваши собственные знания рынка, внесенная вами поправка. Для этого не требуется внешняя цитата. Цитата — это вы.

3. Доказательства, перенесенные с предыдущего шага

В многоэтапном исследовании последующий этап может корректно опираться на доказательства, уже установленные и проверенные предыдущим этапом, вместо того чтобы переисследовать их с нуля. Цитата находится выше по потоку, а не в каждом последующем предложении, которое ее использует.

4. Аналитический вывод, четко обозначенный как вывод

Иногда честный ответ звучит так: «исходя из собранных доказательств, это наиболее разумная интерпретация» — это не обнаруженный факт, а оценочное суждение. Это законно, при условии, что это обозначено как вывод и не замаскировано под цитату.

5. Детерминированный расчет

Некоторые утверждения — это просто арифметика. Если входные данные верны, фиксированный, воспроизводимый расчет не требует цитаты больше, чем формула в электронной таблице — «доказательством» является тот факт, что одни и те же входные данные всегда производят один и тот же результат.

6. Человеческая коррекция, примененная постфактум

Это то, что большинство обзоров доверия к ИИ полностью упускают: когда человек с реальными, непосредственными знаниями корректирует сгенерированное ИИ утверждение, эта коррекция сама по себе является формой доказательства — возможно, самой сильной из доступных, потому что она исходит от того, кто действительно был там. Мы рассматриваем это как реальную, шестую категорию саму по себе, а не просто шаг контроля качества, привязанный к остальным пяти. Это подлинный синтез с нашей стороны, а не устоявшийся отраслевой термин — стоит сказать это прямо, а не приукрашивать.

Шесть реальных ответов. Одна проверка — «есть ли цитата» — никогда не могла охватить все шесть.

Различие, которое почти никто не проводит: пробел против артефакта

Вот угол, который действительно недоисследован, и он важнее, чем кажется.

Когда система ИИ помечает что-то как неопределенное, этот флаг может означать одно из двух очень разных вещей:

Истинный пробел в доказательствах — предмет на самом деле не мог быть проверен. Никто не опубликовал число. Информация не является общедоступной. Неопределенность реальна и касается мира.

Языковой артефакт — базовый вывод в порядке, но он был помечен как отрицательный или неопределенный исключительно из-за формулировки, а не из-за того, что он на самом деле говорит. Неопределенность касается предложения, а не предмета.

На странице они выглядят идентично. Оба отображаются как желтый флажок рядом с утверждением. Но они требуют совершенно разных реакций. Реальный пробел требует дальнейших исследований. Языковой артефакт требует лучшей формулировки — и рассматривать его как исследовательский пробел означает тратить время на поиск доказательств для чего-то, что на самом деле никогда не вызывало сомнений.

Это различие почти не встречается в существующих обзорах доверия к ИИ и галлюцинаций. Большая часть из них останавливается на «ИИ может ошибаться, проверяйте важные утверждения» — верно, но не действенно. Знание какой флаг вы видите, на самом деле говорит вам, что делать дальше.

Почему более узкие вопросы лучше широких

Есть еще одна закономерность, которую стоит назвать, и она идет в противоположном направлении от того, как большинство людей представляют себе «более тщательное» исследование ИИ.

Инстинкт заключается в том, чтобы задать один большой, открытый вопрос и ожидать всеобъемлющего ответа. На практике противоположное обычно работает лучше: разбиение широкого вопроса на несколько узких, конкретных, ограниченных вопросов — и их отдельное задание — дает доказательства, которые легче проверить, легче доверять, и часто более непосредственно полезны, чем один обширный ответ, пытающийся охватить все сразу.

Отчасти потому: узкий вопрос дает системе меньше места для смешивания того, что должно оставаться раздельным. Он также дает вам, читателю, гораздо более легкое утверждение для фактической проверки — конкретный ответ на конкретный вопрос вы можете проверить по конкретному источнику. Один абзац, пытающийся ответить на пять вещей сразу, обычно не может быть проверен по чему-либо конкретному.

Меньше, но более точно нацеленное, как правило, лучше, чем больше.

Как это выглядело в реальном маркетинговом исследовании

Мы не принимали ничего из этого на веру. Мы провели реальное исследование того, как люди в настоящее время описывают свое разочарование инструментами ИИ, которые делают заявления о доказательствах и доверии — повторяющийся язык, к которому люди на самом деле обращаются, а не гипотеза о нем.

Три фразы всплывали достаточно часто, независимо друг от друга, чтобы их стоило повторить здесь, не привязывая их к какому-либо конкретному продукту или компании, потому что суть в закономерности, а не в одном поставщике:

• Ощущаемый «уровень чуши 5%» — ощущение, что даже в основном надежный инструмент ИИ имеет небольшую, но реальную долю уверенно неправильных результатов, и что эта доля редко уменьшается до нуля, насколько бы хорош ни был инструмент.
• «Иллюзия прозрачности» — когда инструмент наглядно показывает свою логику или источники, что воспринимается как заслуживающее доверия, без фактической возможности проверить или правильности этого видимого слоя.
• «Бремя проверки» — тихая, реальная стоимость того, что работа с помощью ИИ не устраняет необходимости проверять что-либо, она просто перекладывает проверку на человека, позже, часто без предупреждения о том, что это все еще требуется.

То же исследование также выявило, чего люди на самом деле хотят взамен, независимо и неоднократно, без каких-либо подсказок к конкретному ответу: последовательную, проверяемую возможность цитирования; видимое объяснение того, как ИИ пришел к своему выводу, а не просто сам вывод; и синтезированный, действенный вердикт вместо нефильтрованного сброса всего, что система нашла.

Мы не претендуем на заслугу в выявлении этого спроса — исследование обнаружило его само по себе. На что мы хотим указать, так это на то, что он тесно связан с тем, как мы построили наш собственный продукт: уровень честности, который показывает допущения, пробелы и противоречия, а не скрывает их; способ корректировать и пересчитывать анализ с реальным контекстом, а не начинать все заново; и единый синтезированный вердикт заранее, с полным следом доказательств, доступным под ним для всех, кто хочет проверить нашу работу.

Контрольный список для следующего заявления ИИ, которое вам дадут

В следующий раз, когда система ИИ — наша или чья-либо еще — передаст вам утверждение, на основе которого вы собираетесь действовать, пять вопросов продвинут вас дальше, чем «есть ли цитата»:

1. Каков его тип? Внешнее исследование, ваши собственные входные данные, переданные доказательства, помеченный вывод, расчет или человеческая коррекция — они требуют разных уровней доверия.
2. Если это цитата, действительно ли источник это говорит? Существование цитаты и поддержка цитатой конкретного утверждения — это не одна и та же проверка.
3. Если оно помечено как неопределенное, это пробел или артефакт? Спросите, что именно не проверено — предмет или просто предложение.
4. Получили бы вы более проверяемый ответ, если бы вопрос был более узким? Если утверждение широкое, подумайте, поможет ли его разделение.
5. Смотрел ли на это кто-нибудь с непосредственными знаниями? Человеческая коррекция, если она доступна, часто является самым сильным типом доказательств в списке — используйте ее.

Ничто из этого не требует полного недоверия к ИИ. Это требует отношения к «цитируемому» и «истинному» как к двум разным вопросам, потому что они таковыми и являются.