Как безопасно использовать ИИ в компании?

От NP_Article

ИИ-технолог

Обучение управлению ИИ с 0 до мастерского уровня

250+ уроков Начато наполнение Без инфоцыган и воды

Внедрение нейросетей в рабочие процессы компании несет два главных риска: утечку конфиденциальных данных и получение непредсказуемого результата, который уйдет в продакшен или клиенту. Оставить все на самотек – значит рисковать коммерческой тайной, так как сотрудники все равно будут использовать ИИ. Полностью запретить – значит замедлить работу и проиграть конкурентам. Задача сводится к тому, чтобы выстроить безопасную среду, где ИИ работает как легальный инструмент, а бизнес контролирует риски.

Что разберем Что это даст
Как разделить данные для ИИ Сотрудники перестанут сливать коммерческую тайну в публичные чаты
Какую архитектуру ИИ выбрать Сможете подобрать решение под бюджет и требования безопасности
Что написать во внутреннем регламенте Снимете с компании юридические риски за ошибки нейросетей

Базовый алгоритм безопасного внедрения ИИ

Чтобы нейросети начали работать без ущерба для бизнеса, необходимо выстроить процесс из четырех шагов. Если пропустить хотя бы один, система безопасности будет уязвима.

  • Провести аудит данных: определить, что можно отдавать внешним нейросетям, а что категорически нельзя.
  • Выбрать формат доступа: публичные сервисы, корпоративные API или локальные развернутые модели.
  • Создать регламент: написать и дать на подпись сотрудникам понятную инструкцию, что и как им разрешено делать.
  • Обучить команду: показать, как проверять факты за ИИ, как анонимизировать данные и как писать безопасные промпты.

Выбор формата использования ИИ под задачи бизнеса

Формат зависит от того, с какими данными работает компания. Здесь есть три пути, от самого дешевого к самому безопасному.

Сценарий 1: Использование публичных сервисов через веб-интерфейс

Подходит для маркетинга, PR, написания типовых текстов, перевода открытых статей, брейнштормов.

  • Инструменты: YandexGPT, GigaChat, ChatGPT, Claude (в виде обычных чатов в браузере).
  • Риски: Все, что сотрудник пишет в бесплатный или стандартный платный чат, может стать данными для обучения базовой модели. Если он вставит туда кусок кода с ключами доступа или невыпущенный финансовый отчет, эти данные могут всплыть в ответах другим пользователям.
  • Решение: Жестко запретить ввод в веб-интерфейсы любых данных, подпадающих под NDA, персональных данных клиентов и финансовых показателей.

Сценарий 2: Подключение через корпоративное API

Подходит для интеграции в CRM (например, Битрикс24 или AmoCRM), автоматизации первой линии техподдержки, работы с клиентскими базами, написания кода.

  • Инструменты: Yandex Cloud (YandexGPT API), Сбер (GigaChat API), OpenAI API.
  • Риски: Ошибка в алгоритме передачи данных, из-за которой по API уходят лишние параметры (например, реальные номера телефонов вместе с историей заказов).
  • Решение: Использовать только коммерческие API-тарифы. Провайдеры (и российские, и зарубежные) в коммерческих лицензиях гарантируют, что запросы по API не используются для обучения их моделей. Данные должны проходить через промежуточный скрипт-анонимайзер на стороне ваших серверов перед отправкой провайдеру ИИ.

Сценарий 3: Развертывание локальной модели (On-Premise)

Подходит для банков, медицины, госсектора и IT-компаний, работающих с проприетарным кодом.

  • Инструменты: Открытые модели Llama, Mistral, Qwen, Илья-М, развернутые на собственных серверах компании без доступа в интернет.
  • Риски: Высокая стоимость оборудования (GPU-серверы), необходимость в штатных ML-инженерах для настройки и поддержки, более низкое качество ответов по сравнению с топовыми облачными решениями.
  • Решение: Выделять бюджет на локальную модель только в том случае, если утечка данных грозит уголовной ответственностью, нарушением 152-ФЗ в крупных размерах или многомиллионными штрафами по контрактам. Для обычного бизнеса это неоправданно дорого.

Как классифицировать данные для работы с ИИ

Чтобы сотрудники понимали, что можно отправлять нейросети, введите систему «светофора» для информации. Эту классификацию нужно закрепить во внутреннем регламенте.

  • Зеленая зона (можно использовать в любых чатах): Общедоступная информация. Опубликованные статьи, пресс-релизы, законы РФ, техническая документация открытых библиотек.
  • Желтая зона (только через корпоративное API или локальные модели): Внутренняя аналитика без имен, черновики несданных проектов, шаблонный код без ключей и паролей, внутренние регламенты компании.
  • Красная зона (строгий запрет для любого облачного ИИ, включая API): Персональные данные клиентов (ФИО, паспорта, телефоны), пароли, токены доступа, коммерческая тайна, финансовая отчетность до официальной публикации, медицинские карты.

Частые ошибки компаний при внедрении ИИ

Использование личных аккаунтов сотрудников

В чем ошибка: Сотрудники регистрируют рабочие почты в зарубежных ИИ-сервисах или используют личные аккаунты для генерации рабочего кода и текстов.
К чему приводит: При увольнении сотрудника компания теряет доступ к истории промптов и наработкам. Если личный аккаунт сотрудника взломают, рабочие данные утекут.
Как избежать: Закупать корпоративные лицензии и выдавать доступы централизованно через IT-отдел. Если сервис недоступен для корпоративной покупки из РФ, разверните внутреннего Telegram-бота или веб-интерфейс, который «ходит» к ИИ через единый API-ключ компании.

Доверие к фактам и коду без проверки (галлюцинации)

В чем ошибка: Сотрудник берет сгенерированный нейросетью ответ и без вычитки отправляет клиенту, публикует в блоге или вставляет в рабочий репозиторий.
К чему приводит: ИИ может выдумать несуществующую статью Гражданского кодекса, пообещать клиенту невозможную скидку от лица компании или написать код с критической уязвимостью.
Как избежать: Ввести правило нулевого доверия. ИИ – это стажер, а не эксперт. За любой результат, выданный нейросетью, полную ответственность несет сотрудник, который нажал «Отправить» или «Сохранить».

Слепой запрет ИИ

В чем ошибка: Руководство выпускает приказ «Запретить использование нейросетей на рабочем месте» из страха утечек.
К чему приводит: Возникает теневое использование (Shadow AI). Сотрудники продолжают использовать нейросети с личных телефонов или через VPN, тайком копируя туда рабочие данные, но теперь служба безопасности компании вообще это не видит и не контролирует.
Как избежать: Дать легальную, защищенную альтернативу внутри периметра компании.

Что должно быть в корпоративном регламенте по ИИ

Политика использования ИИ должна быть закреплена документально. Добавьте в нее следующие пункты:

  • Разделение ответственности: Прямо укажите, что генерация ИИ не является готовым продуктом. Сотрудник обязан верифицировать данные.
  • Список разрешенных сервисов: Перечислите конкретные инструменты. Например: «Разрешено использовать корпоративный YandexGPT. Использование сторонних Telegram-ботов для работы с текстами запрещено».
  • Правила анонимизации: Дайте инструкцию, как очищать данные перед отправкой в «желтой зоне». Например, заменять «ООО Ромашка» на «Компания Х», реальные суммы контрактов – на условные пропорции, а имена – на «Клиент 1».
  • Авторское право: Укажите, что материалы, полностью сгенерированные ИИ, не защищаются авторским правом, поэтому их нельзя выдавать за уникальную интеллектуальную собственность компании в договорах с заказчиками (особенно актуально для дизайн-студий и копирайтинговых агентств).

Ограничения, исключения и юридические нюансы

  • Закон о персональных данных (152-ФЗ): Передача ФИО, email или телефона клиента в зарубежную нейросеть (даже по API) трактуется как трансграничная передача данных. Это требует отдельного согласия клиента и уведомления Роскомнадзора. Исключение: полная деперсонализация (обезличивание) данных на вашей стороне до отправки.
  • Гостайна и КИИ (критическая информационная инфраструктура): Если ваша компания работает с гособоронзаказом или относится к субъектам КИИ, использование любых облачных ИИ-сервисов для рабочих задач прямо запрещено законом. Допускается только полностью изолированный, сертифицированный ФСТЭК контур с локальными моделями.
  • Регистрация товарных знаков: В России судебная практика по авторским правам на ИИ-контент только формируется. Не используйте сгенерированные изображения в качестве логотипов для регистрации товарных знаков – Роспатент может отказать в регистрации или аннулировать ее позже, если установит машинное происхождение картинки (так как у нее нет автора-человека).

Коротко о главном

  • Запрещать ИИ бесполезно – сотрудники уйдут в тень. Нужно дать им легальный корпоративный инструмент.
  • В бесплатные публичные чаты нейросетей можно писать только то, что вы готовы опубликовать в открытом доступе.
  • Для работы с реальными бизнес-данными используйте только платные API (они не обучаются на ваших запросах) или локальные модели на своих серверах.
  • Ответственность за фактическую ошибку, галлюцинацию или нерабочий код от нейросети всегда несет человек, который применил этот результат.
Бесплатно с ИИ Claude · ChatGPT
Баланс запросов: —