Нейросети выдумывают факты, ссылки, законы и несуществующие функции в коде, потому что их базовая задача – генерировать правдоподобный текст, а не искать истину. Полностью отключить галлюцинации в языковых моделях (LLM) пока невозможно. Однако их можно свести к минимуму за счет жестких рамок в промптах, изменения системных настроек и использования правильной архитектуры подачи данных.
| Что разберем | Что это даст |
| Как писать промпты без свободы для фантазии | ИИ перестанет выдумывать факты, цифры и несуществующие законы |
| Техники пошагового вывода и ограничения базы знаний | Сможете использовать ИИ для точной аналитики и работы с документами |
| Системные настройки (температура, RAG) | Снизите процент ошибок при интеграции ИИ в рабочие процессы или боты |
| Частые ошибки при постановке задачи | Поймете, какие слова и конструкции в запросе провоцируют модель на ложь |
Базовые правила: как отрезать ИИ пути для фантазии на уровне текста
Если вы общаетесь с нейросетью через веб-интерфейс, единственный способ управления – это правильный текст запроса. Чтобы модель не галлюцинировала, ей нужно запретить угадывать.
Дайте прямое разрешение “не знать”
По умолчанию ИИ пытается ответить на любой вопрос, даже если в его базе нет данных. Он “сшивает” ответ из обрывков похожих тем. Чтобы этого избежать, внедрите в промпт жесткий скрипт отказа.
- Как писать: “Если ты не знаешь точного ответа или в предоставленном тексте нет нужной информации, напиши ровно одну фразу: ‘Информации недостаточно’. Не пытайся угадывать или додумывать.”
Ограничьте контекст предоставленными данными
Не просите ИИ искать факты в его внутренней памяти. Дайте ему текст и запретите выходить за его пределы. Это критически важно при анализе договоров, отчетов или инструкций.
- Как писать: “Опирайся СТРОГО на текст, предоставленный ниже. Не используй внешние знания. Если ответ нельзя сформулировать из этого текста, скажи ‘В тексте нет ответа’.”
Требуйте прямые цитаты
Если модель анализирует большой документ (например, судебное решение или техническое задание), заставьте ее подтверждать каждый вывод конкретной строкой из вашего текста.
- Как писать: “После каждого утверждения приводи в скобках точную цитату из исходного текста, которая его подтверждает.”
Продвинутые техники промпт-инжиниринга
Для сложных аналитических или логических задач простых запретов недостаточно. Нейросети нужно задать правильный алгоритм мышления.
Метод “Цепочка рассуждений” (Chain of Thought)
Галлюцинации часто возникают, когда модель пытается выдать финальный ответ сразу. Если заставить ее расписать процесс по шагам, точность ответа многократно возрастает.
- Слабый промпт: “Кто виноват в ДТП по предоставленному описанию?”
- Рабочий промпт: “Проанализируй описание ДТП. Шаг 1: выпиши действия каждого участника. Шаг 2: сопоставь их с ПДД РФ. Шаг 3: сделай вывод о виновности. Опиши каждый шаг подробно, прежде чем давать ответ.”
Метод примеров (Few-Shot Prompting)
Покажите ИИ шаблоны правильного и неправильного поведения до того, как он начнет генерировать ответ. Это сужает вариативность его ответов.
- Пример внедрения в промпт:
Вопрос: Сколько стоит доставка? / Ответ: В тексте не указано.
Вопрос: Какие сроки возврата? / Ответ: 14 дней согласно абзацу 3.
Теперь ответь на мой вопрос в таком же формате…
Системные решения (для разработчиков и интеграторов)
Если вы используете API моделей (YandexGPT, GigaChat, OpenAI) для создания своих сервисов, ботов или скриптов, галлюцинации “лечатся” на архитектурном уровне.
Снижение параметра Temperature (Температура)
Температура отвечает за “креативность” модели. Значение по умолчанию (обычно около 0.7) заставляет модель подбирать более разнообразные слова, что ведет к выдумкам в точных задачах.
- Для копирайтинга и брейншторма: 0.7 – 0.8.
- Для извлечения фактов, работы с кодом и парсинга данных: 0.0 – 0.1. Модель будет отвечать сухо, однообразно, но максимально предсказуемо и точно.
Использование технологии RAG (Retrieval-Augmented Generation)
Это стандарт для корпоративного применения. Вместо того чтобы надеяться на память модели, система сначала ищет нужный кусок текста в вашей защищенной базе данных, а затем отправляет этот кусок в нейросеть с командой: “Прочитай этот абзац и ответь на вопрос пользователя”.
Без внедрения RAG создавать корпоративных ботов поддержки или юридических ассистентов нельзя – они неизбежно начнут выдумывать регламенты и тарифы.
Главные ошибки, провоцирующие галлюцинации
Часто пользователи сами заставляют ИИ врать, неправильно формулируя запрос.
Ошибка 1: Наводящие вопросы
Нейросеть стремится угодить пользователю. Если в вопросе содержится ложная предпосылка, модель подстроится под нее и обоснует ложь.
- Ошибка: “Почему в России запретили использовать Excel в бухгалтерии?” (ИИ придумает причину, закон и дату запрета).
- Как исправить: “Есть ли в России законодательные запреты на использование Excel в бухгалтерии? Если да, назови номер закона.”
Ошибка 2: Запрос ссылок на источники
LLM не имеют прямого доступа к интернету в момент генерации (если не включен специальный плагин поиска). Они генерируют URL-адреса побуквенно, угадывая, как должна выглядеть ссылка. В 95% случаев такие ссылки ведут на ошибку 404.
- Как избежать: Никогда не просите ИИ дать кликабельные ссылки на законы, статьи или исследования. Просите названия документов, авторов и даты, чтобы потом найти их в поисковике самостоятельно.
Ошибка 3: Перегруженный системный промпт
Если вы дали модели инструкцию на три страницы, к концу генерации она “забудет” правило из первого абзаца (эффект потерянной середины). Ограничение “не выдумывай” должно стоять в самом конце промпта, непосредственно перед вопросом пользователя.
Ограничения и граничные случаи
Существуют сценарии, в которых никакие настройки не защитят от галлюцинаций. В этих случаях доверять нейросети нельзя.
- Работа с российским правом без RAG. Базовые модели плохо знают нюансы судебной практики РФ. Они путают Гражданский кодекс с Трудовым и выдумывают статьи. Для юридических задач ИИ можно использовать только в связке с загрузкой конкретного документа (например, Пленума ВС РФ) прямо в чат.
- Точные математические расчеты. Языковые модели не “считают” цифры, а предсказывают следующие символы. Для подсчета налогов, смет или зарплат используйте ИИ только для написания формулы для Excel или кода на Python, но не просите его выдать итоговую сумму.
- Малоизвестные факты. Если информация упоминается в интернете редко, шанс галлюцинации возрастает до максимума. Модель заменит пробел в знаниях наиболее вероятными (но ложными) словами.
