Сотрудники активно используют нейросети для написания кода, анализа отчетов, перевода документов и составления писем. Если вставить кусок проприетарного кода, финансовую сводку или клиентскую базу в публичный чат, эти данные осядут на серверах разработчика ИИ и могут быть использованы для обучения будущих моделей. Разберем, как выстроить работу с промптами, чтобы не слить коммерческую тайну компании и персональные данные клиентов, сохранив при этом пользу от нейросетей.
| Что разберем | Что это даст |
| Как очищать промпты от чувствительной информации | Снизите риск случайной утечки коммерческой тайны и данных клиентов |
| Как безопасно формулировать запросы для разных задач | Сможете использовать ИИ для работы с кодом и документами без нарушения NDA |
| Какие системные решения защитят компанию | Поймете, как дать сотрудникам рабочий инструмент, который не обучается на ваших данных |
Главное правило безопасного промптинга
Любая информация, отправленная в публичные веб-версии нейросетей (ChatGPT, Claude, YandexGPT, GigaChat), должна восприниматься как опубликованная на открытом форуме.
Чтобы минимизировать риск, применяйте правило нулевого доверия к контексту: перед отправкой промпта удаляйте или заменяйте любые идентификаторы, которые позволяют связать данные с вашей компанией, сотрудниками или клиентами.
Быстрый алгоритм обезличивания промпта:
- Замените реальные названия компаний на “Компания А” и “Компания Б”.
- Удалите ФИО, адреса, телефоны и ИНН.
- Замените точные финансовые показатели на проценты или абстрактные пропорции.
- Удалите ключи доступа, пароли и ссылки на внутренние серверы.
Как готовить промпты для разных сценариев
Подход к фильтрации данных зависит от того, с каким типом информации вы работаете.
Анализ договоров и юридических документов
При проверке контрактов, NDA или составлении претензий главная угроза – утечка реквизитов и сумм сделок.
Как делать нельзя: “Проверь этот договор на риски: [полный текст договора с реквизитами ООО “Ромашка”, ИНН и суммой контракта в 50 млн рублей]”.
Как нужно: “Выступи в роли юриста. Проверь шаблон договора поставки на риски для Покупателя. Укажи на слабые места в формулировках об ответственности: [текст договора, где названия заменены на Заказчик/Исполнитель, а суммы и реквизиты удалены]”.
Работа с кодом и архитектурой
Разработчики часто копируют в промпт куски кода вместе с бизнес-логикой и доступами, чтобы найти ошибку.
Как делать нельзя: Вставлять код, содержащий API-ключи, токены, URL-адреса корпоративных баз данных или уникальные алгоритмы, составляющие суть продукта.
Как нужно:
- Изолируйте проблему. Копируйте только ту функцию, которая выдает ошибку, а не весь класс или модуль.
- Переименуйте специфические переменные и функции (например, calculateSecretDiscountAlgorithm замените на calculateDiscount).
- Замените реальные эндпоинты на https://example.com/api/v1/data.
Анализ финансовых и маркетинговых отчетов
При загрузке таблиц для создания саммари или поиска закономерностей есть риск раскрыть маржинальность, рекламные бюджеты или стратегические планы.
Как делать нельзя: Загружать сырую выгрузку из 1С, CRM или Яндекс Метрики с реальными названиями товаров и выручкой.
Как нужно: Переведите абсолютные значения в относительные. Если нужно проанализировать падение продаж, напишите: “Продажи продукта Х упали на 15% в третьем квартале при росте рекламного бюджета на 5%. Какие могут быть причины?”, не указывая реальные суммы в рублях и названия брендов.
Системные решения для компаний
Полагаться только на внимательность сотрудников опасно. Если ИИ нужен для работы регулярно, проблему нужно закрывать на уровне инфраструктуры и процессов.
Использование API вместо веб-интерфейсов
Большинство крупных вендоров (OpenAI, Anthropic, Яндекс) прямо заявляют в лицензионных соглашениях: данные, отправленные через API, не используются для обучения моделей по умолчанию.
Решение: Разверните внутри компании собственный корпоративный интерфейс (например, на базе open-source решений вроде LibreChat), который будет общаться с нейросетями по API. Сотрудники получат удобный чат, а данные не уйдут в обучающие датасеты.
Локальные модели (On-Premise)
Если компания работает с гостайной, медицинской тайной или критической инфраструктурой, использование облачных API недопустимо.
Решение: Развертывание открытых моделей (Llama 3, Qwen, Saiga) на собственных серверах компании. В этом случае данные физически не покидают закрытый контур. Это требует затрат на железо (GPU), но дает 100% гарантию от утечек через вендора.
DLP-системы и блокировки
Службы безопасности могут настроить DLP-системы (Data Loss Prevention) на перехват буфера обмена или блокировку отправки текстов, содержащих номера карт, ИНН или маркеры коммерческой тайны, в веб-интерфейсы популярных нейросетей.
Типичные ошибки и точки провала
Ошибка: Считать, что VPN или режим “Инкогнито” защищают данные.
Эти инструменты скрывают ваш IP-адрес от провайдера и не сохраняют историю в локальном браузере. Но сам текст промпта все равно уходит на сервер нейросети в открытом виде и привязывается к вашей сессии.
Ошибка: Писать в промпте “удали эти данные после прочтения”.
Нейросеть – это алгоритм генерации текста, а не администратор базы данных. Она может ответить “Да, я все удалила”, но физически ваш промпт останется в логах на сервере компании-разработчика.
Ошибка: Отключить историю чатов, но оставить веб-версию для рабочих задач.
В некоторых сервисах (например, ChatGPT) можно отключить сохранение истории, чтобы данные не шли на обучение. Однако вендор все равно хранит эти диалоги на своих серверах до 30 дней для мониторинга нарушений (abuse monitoring). Если серверы вендора взломают, ваши данные утекут.
Ограничения и исключения
Персональные данные (152-ФЗ)
Никакое ручное обезличивание не дает гарантии, если речь идет о клиентских базах. Совокупность косвенных признаков (возраст, город, профессия, история покупок) может позволить деанонимизировать человека. Загрузка даже частично обезличенных баз данных российских граждан в зарубежные сервисы является прямым нарушением законодательства о локализации персональных данных. Для таких задач подходят только локальные модели.
Уязвимость аккаунтов
Даже если вы используете корпоративный API или отключили обучение моделей, остается риск компрометации самого аккаунта. Если сотрудник использует слабый пароль от рабочего интерфейса ИИ, злоумышленник получит доступ ко всей истории промптов. Внедряйте двухфакторную аутентификацию (2FA) для всех корпоративных ИИ-инструментов.
Коротко о главном
- Никогда не вставляйте в промпты то, что нельзя опубликовать в открытом доступе.
- Обезличивайте данные: меняйте названия, удаляйте реквизиты, переводите рубли и штуки в проценты.
- При отладке кода изолируйте функции и вырезайте ключи доступа.
- Для безопасной корпоративной работы используйте подключение по API, а не публичные веб-чаты.
- При работе с критичными данными и базами клиентов используйте только локальные модели, развернутые на серверах компании.
