Нейросети по своей природе стремятся угодить пользователю и дать ответ любой ценой. Если у языковой модели нет точной информации, она с высокой вероятностью "сгаллюцинирует" – придумает правдоподобно звучащие факты, чтобы не оставлять запрос без ответа. Заставить ИИ честно признать нехватку данных невозможно уговорами, но это решается через жесткие ограничения в инструкциях и правильное выстраивание контекста.
| Что разберем | Что это даст |
| Как прописать запрет на выдумки в промпте | ИИ начнет отвечать "не знаю" вместо генерации фейков |
| Как настроить ограничения для баз знаний (RAG) | Нейросеть будет опираться только на ваши документы и инструкции |
| Как предотвратить заполнение таблиц выдуманными данными | Сможете безопасно использовать ИИ для парсинга и аналитики |
Главный принцип: правило "легального выхода"
Чтобы модель не фантазировала, ей нужно не просто запретить врать, а дать конкретную фразу, которую она обязана использовать при отсутствии информации. ИИ проще сгенерировать заданный вами шаблон отказа, чем пытаться оценить собственную неуверенность.
Базовый шаблон ограничения:
Вместо абстрактного "будь точным" используйте жесткую конструкцию:
"Отвечай только на основе предоставленного текста. Если в тексте нет прямого ответа на вопрос пользователя, не пытайся его угадать, не используй свои базовые знания. В этом случае напиши ровно одну фразу: «В предоставленных данных нет этой информации»".
Сценарии настройки
Сценарий 1. Разовая проверка фактов или работа с документом в чате
Если вы загружаете договор, статью или отчет в ChatGPT, Claude или YandexGPT и хотите задавать по ним вопросы.
Что делать:
Ограничьте рабочую область модели только загруженным текстом. Разделите в промпте роль, правила и сам текст.
Рабочий промпт:
"Действуй как строгий аудитор. Твоя задача – отвечать на вопросы только опираясь на текст ниже.
Правило 1: Если ответ есть в тексте – процитируй его.
Правило 2: Если ответа в тексте нет – запрещено додумывать. Напиши: «Данных недостаточно».
[Текст документа]"
Сценарий 2. Настройка корпоративной базы знаний (RAG)
Если вы собираете бота для поддержки клиентов или внутренней базы компании, модель будет искать ответы в векторной базе данных. Главный риск здесь – бот берет часть информации из ваших инструкций, а недостающую часть достраивает из того, на чем был обучен изначально.
Что делать:
В системном промпте (System Message) необходимо установить приоритет контекста над весами модели и задать штрафные условия.
Рабочий системный промпт:
"Ты – оператор поддержки компании [Название]. Отвечай на вопросы пользователя ИСКЛЮЧИТЕЛЬНО используя переданный контекст [Context].
ЖЕСТКОЕ ОГРАНИЧЕНИЕ: Если в [Context] нет информации для ответа, ты обязан ответить: «К сожалению, у меня нет точной информации по этому вопросу. Пожалуйста, обратитесь к живому специалисту». Запрещено давать советы, предполагать или ссылаться на внешние источники".
Сценарий 3. Извлечение данных в таблицы или JSON
Когда ИИ вытаскивает сущности из текста (например, ФИО, суммы сделок, ИНН). Если ИНН в тексте нет, модель может сгенерировать случайный набор из 10-12 цифр, чтобы структура JSON была валидной.
Что делать:
В описании структуры вывода прямо укажите значения по умолчанию для пустых полей.
Рабочий промпт:
"Извлеки данные из текста в формате JSON. Если какого-то поля (например, ИНН или номера телефона) в тексте нет, обязательно верни значение null. Не подставляй примеры и не форматируй другие цифры под этот формат".
Частые ошибки и точки провала
- Использование мягких формулировок. Фразы "постарайся быть точным", "насколько я знаю", "если возможно" воспринимаются ИИ как рекомендация, а не правило. Используйте слова "обязан", "исключительно", "запрещено".
- Отсутствие якоря для отказа. Если вы пишете "не придумывай ответ, если не знаешь", модель не понимает, что делать дальше. У нее возникает конфликт инструкций (нужно ответить пользователю, но нельзя придумывать). Якорь – это точная фраза-спасательный круг ("напиши: я не знаю").
- Слишком большой объем данных за один раз. Если загрузить в модель регламент на 200 страниц, включается эффект "потери в середине" (Lost in the middle). ИИ может ответить "информации нет" просто потому, что не смог найти ее в огромном массиве токенов, хотя она там есть. Разделяйте тексты на логические блоки или используйте поиск перед генерацией ответа.
- Противоречие в ролях. Если вы задали роль "ты креативный маркетолог, который всегда найдет выход", а потом требуете жесткого фактчекинга, ИИ выберет креативность и начнет галлюцинировать. Для задач на точность роль должна быть сухой: аналитик, аудитор, парсер.
Ограничения и граничные случаи
Общие знания проверить сложнее, чем конкретный текст.
Если вы не даете ИИ конкретный текст, а просто спрашиваете его о фактах из реального мира ("В каком году произошло это малоизвестное событие?"), заставить его признать нехватку данных намного сложнее. Модель не имеет внутренней базы данных с пометками "это я знаю точно, а это не помню". Она генерирует вероятности слов. В таких случаях помогает добавление в промпт конструкции: "Прежде чем ответить, оцени свою уверенность в фактах. Если уверенность ниже 90%, опиши сомнения или откажись от ответа". Это снижает процент выдумок, но не убирает их полностью.
Резюмирование (Summary) провоцирует выдумки.
Когда вы просите ИИ сделать краткую выжимку текста или стенограммы звонка, модель склонна дописывать логичные, но не прозвучавшие выводы (например, "участники договорились встретиться на следующей неделе", хотя они просто попрощались). Для таких задач добавляйте правило: "Формируй выводы только на основе прямо озвученных тезисов. Запрещено достраивать логические цепочки за участников".
Проверка собственным умом (Chain of Thought).
Для сложных задач, где ИИ часто ошибается, заставьте его рассуждать вслух перед финальным ответом. Добавьте в промпт: "Сначала найди в тексте цитату, которая отвечает на вопрос. Выведи ее. Если цитаты нет, остановись и напиши «Данных нет». Если цитата есть, сформулируй на ее основе финальный ответ". Это заставляет модель «увидеть» наличие или отсутствие данных до того, как она начнет генерировать итоговую фразу.
