- Галлюцинация нейросети — уверенный, правдоподобный, но неверный или выдуманный ответ.
- Причина не в намерении обмануть: модель подбирает вероятное продолжение текста, а обучение и оценка поощряют угадывание.
- Чаще всего выдумываются ссылки, цитаты, цифры, даты и редкие факты.
- Полностью убрать галлюцинации нельзя, поэтому важное проверяйте по первоисточнику.
Содержание8 разделов ▾
Галлюцинация нейросети — это уверенный, правдоподобный, но неверный или выдуманный ответ. Звучит он гладко, а факт в нём может оказаться несуществующим: статья, цитата, дата или цифра, которых нет. Статья для тех, кто уже пробовал чат-бота и хочет понять, почему так бывает и чему в ответе верить.
Определения и причины взяты из первоисточников: исследования OpenAI и двух научных обзоров на arXiv; российские сервисы описаны по их официальным страницам. Данные на октябрь 2026 года. Как модель устроена в целом, рассказано в статье Что такое нейросеть и как она работает, здесь только про ошибки.
Что такое галлюцинации
OpenAI в разборе собственного исследования называет галлюцинациями случаи, когда модель уверенно выдаёт неверный ответ, — правдоподобные, но ложные утверждения. Авторы приводят пример: у популярного чат-бота спросили название диссертации одного из авторов статьи, и он трижды уверенно назвал разные темы, ни одна не была верной. На вопрос о дне рождения он трижды назвал разные даты, и все были неверны.
Слово «врёт» не совсем точно. Ложь предполагает намерение, а у модели его нет: она продолжает текст по вероятностям, а не сверяется с реальностью.
Какие бывают ошибки
Галлюцинации бывают разные. Таблицей удобнее увидеть, где их ждать.
| Тип ошибки | Пример | Почему возникает |
|---|---|---|
| Выдуманный факт | неверная дата события или имя | модель не знает точного значения и подбирает похожее |
| Выдуманный источник | статья с авторами и адресом, которой нет | форма ссылки известна, содержание конкретной страницы — нет |
| Выдуманная цитата | «слова» известного человека, которых он не говорил | цитата звучит в его духе, а проверить её модели нечем |
| Ошибка в расчёте | неверный результат в арифметике или логической задаче | модель продолжает текст, а не вычисляет по правилам |
| Устаревшие знания | ответ о событии после даты обучения | знания модели ограничены данными, на которых её обучали |
| Согласие с «ложной» посылкой | подробный ответ на вопрос о несуществующем событии | запрос задаёт рамку, и модель продолжает её, а не оспаривает |
Для начинающих важно одно: гладкий и уверенный тон ответа ничего не говорит о его верности.
Почему это случается
Первая причина — устройство самой модели. Большая языковая модель обучена продолжать текст так, чтобы он выглядел вероятным. Если в запросе спрашивают редкий факт, который в обучающих данных встречался один раз или не встречался, модель всё равно выдаст связный ответ: «промолчать» для неё не естественный ход.
Вторая причина — то, как модели обучают и оценивают. Авторы статьи «Why Language Models Hallucinate» пишут, что обучение и оценка поощряют угадывание, а не признание неопределённости. OpenAI объясняет это сравнением с тестом: если на экзамене оставить вопрос пустым, получишь ноль, а наугад можно и угадать. Когда модели сравнивают только по доле точных ответов, угадывающая модель выглядит лучше осторожной, которая признаёт «не знаю».
Третья причина — данные. Научные обзоры (Ji и др., Huang и др.) описывают галлюцинации как давнюю проблему генерации текста: источники ошибок — в обучающих данных, в самом обучении и в способе получения ответа. Подробности этих обзоров рассчитаны на специалистов; нам хватит вывода, что ошибки не случайный сбой одной программы.
Пример: запрос, который провоцирует выдумку
Хороший способ увидеть явление самому — попросить то, что модель не может знать наверняка. Например: «Назови три научные статьи о том, как нейросети учатся, с авторами, годом и адресом страницы». Правдоподобное название и фамилии модель сочинит легко, а вот адрес страницы чаще всего окажется неверным.
Как разбирать такой ответ, когда он есть: для каждой из трёх статей найдите название в поиске и откройте указанный адрес. Существует ли статья, совпадают ли авторы и год, ведёт ли ссылка именно на неё. Так вы увидите, какая часть ответа — правда, а какая — только форма правды.
Что с этим делают разработчики
Полностью галлюцинации пока не убирает никто. OpenAI пишет, что в новых моделях их заметно меньше, но они случаются, и это фундаментальная проблема больших языковых моделей. Основные приёмы такие.
- Признание неопределённости. Предлагается оценивать модели так, чтобы осторожный ответ «не знаю» не проигрывал уверенной ошибке.
- Поиск по источникам. Метод RAG, описанный Lewis и др., соединяет модель с внешней базой: перед ответом она находит нужные фрагменты и опирается на них.
- Показ источников. Яндекс в пресс-релизе от 1 июля 2025 года сообщил, что при включённом поиске в Алисе AI пользователь сможет узнать, на основе каких источников составлен ответ.
- Предупреждения. В справке ГигаЧата написано: «ГигаЧат может ошибаться — проверяйте его ответы».
Как проверять ответы шаг за шагом — в паре к этой статье: Как проверять ответы нейросети.
Условия и ограничения
- Версия
- Данные на октябрь 2026 — модели и сервисы обновляются, сегодняшние выводы о частоте ошибок завтра могут устареть.
- Модель
- Зависит от модели и задачи — частота ошибок различается у разных моделей и тем; обещаний «ноль галлюцинаций» нет ни у кого.
- Данные
- Знания ограничены датой обучения — о свежих событиях модель без поиска не знает и может ответить по старым сведениям.
- Доступ
- Источники — не везде — показ источников работает только в сервисах и режимах, где поиск включён; проверьте это в самом сервисе.
- Тип
- Не намеренная ложь — галлюцинация — следствие устройства модели; у программы нет умысла, но ответственность за использование ответа остаётся на читателе.
В вопросах здоровья, права и денег ответ нейросети не заменяет специалиста: такие утверждения проверяйте у врача, юриста или в официальных документах.
Частые ошибки
- Считать уверенный тон признаком верности.
- Просить у модели ссылки и цитаты и не открывать их.
- Принимать расчёты и цифры без пересчёта и сверки с источником.
- Задавать вопрос о свежих событиях модели без поиска и верить ответу.
- Верить фразе «я проверил» от самой нейросети: проверка за вас не происходит.
- Решать, что «такая модель никогда не ошибается», по паре удачных ответов.
Короткий вывод
Нейросеть ошибается не из вредности: она подбирает вероятное продолжение текста, а обучение и оценка нередко поощряют догадку. Пользоваться ей можно, если проверять всё, что важно: ссылки, цитаты, цифры, даты. Практика проверки — в статье Как проверять ответы нейросети.
ПрактикаКак проверять ответы нейросети: пошаговая проверка фактовПопробовать на практике →
