Как проверить, не соврала ли нейросеть

01 · Ловушка

Правда и выдумка написаны одинаково

Начну с неприятного. Нейросеть врёт. Регулярно, уверенно и с тем же спокойным тоном, каким сообщает правду.

Точнее, она достраивает: выдаёт правдоподобное продолжение текста, а не проверенный факт. Если данных не хватает, подставляет наиболее вероятный вариант. Получается гладко, связно и иногда полностью выдумано.

Ответ, где всё точно, и ответ, где половина придумана, выглядят как близнецы. Отличать их на глаз бесполезно.

02 · Зоны риска

Где проверка обязательна

• Цифры: суммы, проценты, даты и расчёты.
• Имена и названия: авторы, книги, исследования и компании.
• Законы: статьи, пункты и редакции.
• Цитаты и ссылки.
• Свежие события и узкие темы.

Риск ниже, когда нужно объяснить сложное простыми словами, привести текст в порядок, составить план или придумать варианты.

Проверяйте то, что можно проверить. Формулировки — не надо, факты — обязательно.

03 · Способ 1

Спросить вторую нейросеть

Откройте другую модель, задайте тот же вопрос и сравните. Разошлись — нужен первоисточник. Совпали — это полезный сигнал, но ещё не доказательство: две модели могут повторить одну и ту же распространённую ошибку.

Копируйте ровно тот же запрос. Иначе будете сравнивать ответы на разные вопросы. Если начинали с GigaChat — вторым пусть будет Алиса, и наоборот. В важной теме сверяйте с первоисточником даже совпавшие ответы. Подробные схемы сравнения собраны в гайде про две нейросети в паре.

04 · Способ 2

Показать слабые места

Не спрашивайте «ты точно уверен?» — нейросеть может отступить даже от правильного ответа. Лучше:

Это не проверка фактов, а карта для проверки. Модель может уверенно назвать выдумку достоверной — окончательный ответ даёт только внешний источник.

05 · Способ 3

Найти первоисточник

Возьмите самое конкретное — название, номер статьи, цифру или фамилию — и вставьте в поиск целиком. Затем дойдите до документа, исследования или официальной страницы, откуда взят факт.

• Первоисточник подтверждает — хорошо.
• Ничего не находится — плохой знак.
• Источник говорит другое — разбираемся дальше.

Сначала проверяйте цифры, влияющие на решение; законы; названия книг и исследований; важные даты. Ссылку из ответа не просто открывайте: проверьте, что на странице действительно написано именно это.

06 · Способ 4

Подсунуть неправду

Придумайте несуществующую деталь и спросите о ней как о реальной.

Если модель говорит, что такого нет, — хороший знак. Если увлечённо рассказывает — она в режиме сочинения, прежние ответы по теме требуют проверки. Но успешный контрольный вопрос не подтверждает остальные факты: их всё равно сверяют отдельно.

07 · Способ 5

Сверить с оригиналом

Если нейросеть разбирала письмо, договор, квитанцию или инструкцию, проверьте четыре вещи:

1. Суммы — все до одной.
2. Даты и сроки.
3. Кто кому что должен.
4. Отрицания: «вправе» или «не вправе», «обязан» или «не обязан».

Если документ был на фотографии, риск выше: часть текста могла не распознаться.

08 · Светофор

Что проверять, а что нет

Зелёный — можно не проверять

Переписать ваш текст, придумать название, составить вопросы, привести ваши заметки в порядок.

Жёлтый — проверить ключевые факты

Объяснение незнакомой темы, справка о бытовой технике, черновой план поездки. Для маршрута на месте используйте гайд «ИИ в поездке», но расписания, часы работы и правила сверяйте отдельно.

Красный — проверять обязательно и не одним способом

Деньги, здоровье, документы, сроки и всё, что вы отправите от своего имени. Нужны оригинал, поиск и при необходимости специалист.

Никогда не пересылайте дальше то, что не проверили. За пересланное отвечаете вы, а не нейросеть.

09 · Красные флаги

Пять признаков ненадёжного ответа

1. Очень много конкретики в ответ на общий вопрос.
2. Ссылки не открываются или не подтверждают написанное.
3. Идеально удобный ответ — ровно то, что хотелось услышать.
4. Ни одной оговорки в сложной теме.
5. Тема свежая и могла недавно измениться.

10 · Границы

Чего проверка не заменит

Эти способы отсеивают явные выдумки. Они не делают из нейросети юриста, врача или бухгалтера.

Если на кону крупные деньги, здоровье, суд или подпись под договором, нейросеть остаётся черновиком и переводчиком, а решение принимает человек. Она помогает понять суть и подготовить вопросы специалисту.

Отличие полезного пользователя от восторженного ровно одно: первый знает границы инструмента.

11 · Чек-лист

Проверка за тридцать секунд

• Есть ли цифры, даты, названия или законы?
• Проверил самое конкретное утверждение поиском?
• Спросил вторую нейросеть?
• Попросил показать неуверенность?
• Сверил суммы, сроки и «не» с оригиналом?
• Собираюсь переслать? Если да — проверил дважды?

12 · Источники и продолжение

Почему нейросеть может ошибаться

NIST называет такие ошибки конфабуляциями: генеративная система уверенно выдаёт ложные сведения как достоверные. Исследование OpenAI также показывает, что языковые модели могут угадывать вместо признания неопределённости. Подробнее — в профиле рисков генеративного ИИ NIST и исследовании OpenAI о галлюцинациях.

Продолжить по порядку

• Когда включать быстрый ответ, рассуждение, поиск или исследование.
• Как проверить тарифы, кредиты и коммунальные начисления.
• Как распознать дипфейк и поддельный голос родственника.
• Как разговаривать с ИИ, чтобы он не нёс ерунду.
• Как объяснить непонятное письмо с помощью ИИ.
• Какую нейросеть выбрать в 2026 году.
• Практикум №01 «Нейросети после 45».

13 · Практика

Попробуйте на своей задаче

Возьмите последний ответ нейросети, которому вы поверили. Найдите в нём самую конкретную цифру или название и вставьте в поиск. Две минуты — и вы узнаете, стоит ли доверять инструменту в вашей теме. Обычно стоит, но не во всём.