ИИ-сервисы уже встроились в повседневную работу компаний быстрее, чем бизнес успел описать правила их использования.
Сотрудники просят чат-ботов сократить текст, пересобрать письмо, проанализировать документ, подготовить коммерческое предложение, объяснить код или помочь с отчетом. На уровне пользователя это выглядит как обычный рабочий инструмент. На уровне ИБ — как внешний сервис, куда могут уходить данные компании.
По данным исследования, в 42% российских компаний сотрудники хотя бы раз передавали в ИИ-сервисы конфиденциальные или чувствительные данные. Это показывает главный разрыв: нейросети уже стали частью рабочих процессов, но контроль за ними во многих организациях еще не появился или остается фрагментарным.
Запретить ИИ уже сложно
Большинство специалистов по информационной безопасности оценивают риск утечки через ИИ как высокий или средний. При этом полностью запрещают использование нейросетей только 8% компаний. Еще 36% организаций не контролируют такие сервисы, а 28% ИБ-специалистов говорят, что им не хватает инструментов для контроля передачи данных в нейросети.
Это означает, что прямой запрет для рынка уже не выглядит рабочей стратегией. Сотрудники все равно будут искать способы ускорить рутину: через публичные чат-боты, личные аккаунты, браузерные расширения или мобильные приложения. Если компания не дает понятных правил и разрешенных инструментов, использование ИИ уходит в тень.
«Главный риск сейчас не в том, что сотрудники используют ИИ, а в том, что компании часто не понимают, какие данные уходят в такие сервисы. Для пользователя чат-бот выглядит как удобный рабочий инструмент, но для ИБ-службы это внешний контур, куда могут попасть договоры, персональные данные, коммерческая информация или технические сведения», — отметил Владислав Ганжа, руководитель лаборатории информационной безопасности UDV Group.
Что именно уходит в чат-боты
Проблема не ограничивается очевидными персональными данными. В ИИ-сервисы могут попадать фрагменты договоров, клиентские базы, внутренние регламенты, коммерческие предложения, технические описания, исходный код, переписка с партнерами, сведения о внутренних процессах и финансовые данные.
Часто сотрудник не воспринимает это как нарушение. Он не отправляет документ конкуренту и не публикует файл в открытом доступе. Он просто пытается быстрее сделать задачу: переформулировать пункт договора, подготовить письмо клиенту, найти ошибку в коде, выделить главное из большого текста. Но для компании такой сценарий все равно означает передачу информации во внешний контур.
Особенно опасны фрагментарные утечки. Один сотрудник загрузил кусок договора, другой — таблицу с клиентами, третий — техническое описание системы, четвертый — переписку по проекту. По отдельности это может выглядеть не критично. Вместе такие данные дают представление о клиентах, процессах, условиях сделок, архитектуре систем и внутренних правилах компании.
ИИ нужно учитывать как внешний сервис
С точки зрения информационной безопасности ИИ-чат-бот мало отличается от другого внешнего облачного инструмента. Компания должна понимать, кто им пользуется, какие данные туда передает, с какого устройства, через какой аккаунт и для какой задачи. Без этого ИБ-служба видит не управляемый процесс, а слепую зону.
При этом стандартных мер контроля часто недостаточно. DLP может не видеть часть браузерных сценариев, личных аккаунтов и мобильных приложений. Прокси и шлюзы фиксируют факт обращения к сервису, но не всегда понимают смысл передаваемых данных. А если сотрудники используют не корпоративные, а личные инструменты, контур контроля становится еще слабее.
Поэтому политика работы с ИИ должна включать не только запреты, но и допустимые сценарии. Например, можно разрешить обработку публичных материалов, черновиков без чувствительных данных и обезличенных текстов, но запретить загрузку персональных данных, клиентских баз, коммерческих условий, исходного кода, внутренних регламентов и непубличной переписки.
«Запретить ИИ полностью в большинстве компаний уже сложно, поэтому задача бизнеса — не бороться с самим инструментом, а ввести понятные правила: какие данные нельзя передавать, какие сервисы разрешены, как контролируется доступ и как фиксируются подозрительные действия», — отметил Владислав Ганжа, руководитель лаборатории информационной безопасности UDV Group.
Корпоративная политика по ИИ станет частью защиты данных
Следующий этап для бизнеса — включить ИИ-сервисы в общую систему управления данными. Если нейросеть используется для обработки документов, кода, клиентской информации или внутренней аналитики, это должно быть описано так же, как подключение любого другого внешнего сервиса: с правилами доступа, классификацией данных, журналированием действий и контролем передачи информации.
Одного обучения сотрудников будет мало, но без него технический контроль тоже не сработает. Люди должны понимать, что нельзя отправлять в публичный чат-бот договор с клиентом, таблицу с персональными данными или кусок внутреннего кода, даже если цель кажется безобидной. Нужны короткие инструкции, примеры запрещенных сценариев и понятная альтернатива: какие ИИ-инструменты можно использовать безопасно.
Для компаний это становится вопросом не только ИБ, но и управляемости. Если сотрудники массово применяют ИИ, а бизнес не знает где и как, возникает новый теневой ИТ-контур. Он может повышать личную продуктивность, но одновременно создает риск утечки, нарушения договорных обязательств, раскрытия коммерческой тайны и появления данных компании в неконтролируемой обработке.
ИИ-чат-боты уже нельзя воспринимать как эксперимент отдельных энтузиастов. Они становятся рабочим инструментом, а значит, должны попасть в правила, мониторинг и процессы защиты информации. Иначе рост использования нейросетей будет опережать способность бизнеса понимать, какие данные уже вышли за его периметр.