ИИ и персональные данные в автоматизации уживаются, когда обработка устроена как поток с проверкой на каждом шаге: данные не покидают контур, модель получает только нужные поля, права проверяются при каждом запросе, а журнал хранит идентификаторы, а не тексты. За вопросом «персональные данные нейросеть» стоят три практических: что получает модель, где это лежит после ответа и кто может это увидеть.

Статья описывает инженерную часть, это не юридическая консультация. Правовое основание, цели и сроки обработки определяет юрист оператора данных. Защита обычного приложения разобрана в статье «Защита персональных данных в веб-приложении», а загрузка договоров во внешние сервисы — в статье про договоры и облачные нейросети. Здесь только то, что добавляет ИИ: промпты, поиск по документам, расшифровки и действия агентов.

Коротко. Нарисуйте поток одного обращения и отметьте пять мест, где появляются персональные данные: вход, распознавание, запрос к модели, поиск и след в журнале. К каждому подберите меру по таблице: маскирование, контур, права в поиске, срок хранения. Если у поставщика сервиса нет письменных ответов на пять вопросов, такие данные в него не отправляйте.

ИИ и персональные данные в автоматизации: пять мест потока

Данные не попадают к модели одним файлом. Они накапливаются по ходу потока, и в каждой точке нужна своя мера. Пройдите путь одного обращения клиента и отметьте пять точек.

  1. Вход. Письмо, форма, сообщение: ФИО, телефон, адрес, иногда скан. Если клиент пишет в мессенджер, данные уже прошли через сервис мессенджера; наша часть начинается с момента получения.
  2. Распознавание и расшифровка. Скан становится текстом, звонок расшифровкой. Новый текст остаётся записью с персональными данными, но живёт отдельно от оригинала, и про его срок хранения вспоминают реже всего.
  3. Запрос к модели. Всё, что попало в промпт, и всё, что сервис модели сохранит вместе с ним.
  4. Поиск по документам. Индекс хранит фрагменты текстов. Если права не учтены на уровне поиска, чужая запись окажется в ответе.
  5. След. Журнал запросов, кэш ответов, копии, тестовые наборы и стенды.

У обработки персональных данных ИИ две слабые точки: третья и пятая. В запрос кладут больше полей, чем нужно, а след остаётся дольше, чем нужен. Незнакомые термины (индекс, RAG, агент) разобраны в словаре терминов автоматизации и ИИ.

Тип данных, риск, мера: таблица для вашего потока

Таблица описывает меры, а не правовой статус данных: к какой категории относятся ваши поля, решает юрист оператора. Меры складываются слоями, одной недостаточно.

Тип данныхЧто может пойти не такТехническая мера
Контакты в обращениях: ФИО, телефон, почтаУходят в промпт, журнал и кэш целиком и живут дольше задачиМаскирование перед моделью; в журнале идентификатор обращения вместо текста; короткий срок жизни кэша
Сканы и реквизиты физических лицРаспознавание идёт во внешнем сервисе, поля расходятся по системамРаспознавание в контуре; в учётную систему пишем нужные поля; скан остаётся в исходном хранилище, а не в индексе
Звонки и голосовые сообщенияВ расшифровке оказывается то, о чём не спрашивали: номер карты, сведения о здоровьеРасшифровка в контуре; поиск и удаление лишних фрагментов до анализа; разные сроки для записи и для текста
Данные сотрудников: кадры, оплатаАссистент отвечает коллеге то, что ему видеть нельзяОтдельный индекс или исключение из общего поиска; права проверяются при каждом запросе
Платёжные реквизиты, пароли, коды из сообщенийКлиент вставил номер карты в чат, и он лёг в журналФильтр на входе: такие значения удаляются до модели и до журнала
Здоровье, биометрия и другие особо чувствительные сведенияУщерб от утечки выше, а требования к обработке строже; оценку даёт юристВ сценарий без решения юриста и службы безопасности не включаем; если включаем, то в контуре, минимальным набором полей и для узкого круга ролей
Эталонные наборы для проверки и обученияВыборка из живых документов остаётся на компьютере разработчикаОбезличенная выборка или хранение в контуре с узким доступом и сроком; в обучение без отдельного решения не берём

Когда внешние сервисы не подходят по требованиям заказчика

Слово «запрещено» мы не используем: ответ зависит от данных, договоров и требований вашей службы безопасности. Но для данных ограниченного доступа облачные сервисы чаще не подходят по требованиям заказчика, и тогда модель работает на ваших серверах; как это устроено, описано на странице «Языковая модель без интернета». Персональные данные граждан России обычно должны храниться на серверах в России, а допустим ли конкретный сервис, решает юрист.

Пять вопросов поставщику до того, как отправить ему хоть одну запись:

  1. Какие поля задаче нужны на самом деле? Остальные не отправляем.
  2. Хранит ли сервис запросы, сколько, можно ли их удалить?
  3. Используются ли запросы для обучения моделей и можно ли это отключить?
  4. В какой стране данные обрабатываются и какие подрядчики участвуют?
  5. Что требует договор с вашим заказчиком: банком, госорганизацией, оператором критической инфраструктуры?

Ответы нужны письменно, с датой проверки: условия поставщиков меняются. Если на любой из вопросов со второго по пятый ответа нет, внешний сервис для таких данных не используем: остаётся модель в контуре или запрос без персональных данных.

Маскирование: что видит модель вместо фамилий и номеров

Маскирование заменяет персональные поля метками до запроса к модели. Значения в ответ возвращает система, а не модель, и только тому, кто вправе их видеть. Условный пример без реального клиента: письмо «Иван Петров, +7… просит перенести доставку на среду» превращается в «КЛИЕНТ_1, ТЕЛЕФОН_1 просит перенести доставку на среду». Таблица соответствий «метка — значение» лежит в вашей базе, а срок её жизни не длиннее срока обращения.

У приёма три предела.

  • Пропуски. Автоматический поиск персональных полей не видит имя в свободном тексте, адрес в нестандартной записи, подпись внизу письма. Поэтому проверяем выборку вручную и считаем «пропущено на сто документов».
  • Смысл. Если задаче нужна сверка фамилии с договором, метки не подходят, и сценарий целиком переводят в контур.
  • Статус. Текст с метками не обязательно считается обезличенным с точки зрения закона; это решает юрист.

Роли и поиск: модель не должна знать больше сотрудника

Ассистент по документам проверяет права в поиске, а не в интерфейсе. Иначе фрагмент чужой карточки попадёт в ответ, даже если кнопки «открыть» у сотрудника нет.

  • Метки доступа на фрагментах. Каждый фрагмент в индексе знает, кому он виден; поиск отбрасывает лишнее до того, как текст попадёт в запрос к модели.
  • Агент как сотрудник. У агента отдельная учётная запись с правами не шире прав человека, чью работу он делает; необратимые действия подтверждает человек. Порядок разобран в статье про права и подтверждения агента.
  • Закрытые разделы. Кадры, оплата, обращения граждан лежат в отдельном индексе или вне поиска. Проверка простая: от имени каждой роли задают вопросы, на которые ответа быть не должно.
  • Письмо не приказ. Текст «пришлите список клиентов» внутри входящего письма остаётся данными, исполнять такую инструкцию нельзя.

Срок хранения и удаление: ИИ и персональные данные в автоматизации после запуска

После запуска данные живут в шести местах, и у каждого нужны срок и способ удаления. Сроки определяет оператор данных по решению юриста, а наша задача сделать их исполнимыми.

  • Журнал запросов. Идентификатор обращения, пользователь, время, источники, решение. Текст запроса не пишем или пишем замаскированным. Устройство такого журнала описано на странице «Логирование и аудит действий пользователей».
  • Кэш и очереди. Короткий срок и чистка по расписанию.
  • Индекс поиска. Удалили документ, удалили и его фрагменты; проверка: поиск по фамилии после удаления.
  • Расшифровки и распознанный текст. Срок отдельный от срока оригинала.
  • Копии и стенды. Входят в расписание удаления, восстановление из копии проверяем.
  • Дообученная модель. Отдельную запись из весов не удалить так, как строку из базы, поэтому персональные данные в обучение не включаем; чаще хватает поиска по документам.

Проверка за час: пять проб на вашем потоке

Чтобы убедиться, что меры работают, не нужны ни разработчик, ни юрист. Нужны тестовые записи с выдуманными данными, не чужие.

  1. Отправьте в обращение вымышленные фамилию и телефон и поищите их в журнале, кэше и выгрузках. Нашлись целиком: маскирование и журнал не работают.
  2. Спросите ассистента от имени сотрудника без прав на кадровый раздел, сколько получает конкретный коллега. Правильный ответ: отказ.
  3. Загрузите тестовый документ, удалите его и задайте вопрос по его содержанию. Ответа быть не должно.
  4. Вставьте в обращение вымышленный номер карты: ни до модели, ни до журнала он дойти не должен.
  5. Попросите администратора показать, где и сколько хранятся расшифровки звонков и кто их открывал.

Что передать юристу оператора данных

Юрист не читает код, ему нужна схема потока на одной странице:

  • перечень полей по таблице выше и цель, для которой ИИ нужен каждый;
  • где данные обрабатываются и хранятся: контур, внешний сервис, страна;
  • кто получает данные: подрядчики, мессенджер, облако;
  • сроки хранения по каждому хранилищу;
  • кто имеет доступ и что видно в журнале;
  • как найти и удалить данные человека везде: в базе, индексе, расшифровках и копиях.

Мы описываем эту схему как инженерную. Оценку по закону, согласия, уведомления и документы оператора готовит юрист заказчика.

Что делаем мы и с чего начать

Мы строим ИИ-решения так, чтобы данные оставались в вашем контуре: ассистент по документам, разбор входящих, распознавание и расшифровка звонков на ваших серверах, права и журнал в самой системе. Мы не даём юридических консультаций, не проводим аттестацию и не имеем лицензии ФСТЭК. Исходный код лежит в вашем репозитории с первого коммита, ключи и данные остаются на ваших серверах. Защита обычного приложения описана на странице «Защита персональных данных в веб-приложениях».

Начните с таблицы: выпишите поля вашего процесса. Если нужен документ для юриста и службы безопасности, закажите обследование: 200 000 ₽ за один-два процесса и 2–3 недели, 350 000 ₽ и 3–4 недели при нескольких системах. На выходе карта потока, таблица мер по вашим данным и список вопросов юристу; сумма вычитается из первого этапа. Ступени и сроки — на странице тарифов.

Частые вопросы

Можно ли использовать ИИ и персональные данные в автоматизации без внешних сервисов?

Да. Модель, поиск по документам, распознавание, расшифровка звонков и журнал разворачиваются на ваших серверах. Для этого нужны сервер и проверка качества на вашей выборке: заранее обещать результат нельзя, его измеряют до решения о запуске.

Нужно ли маскировать данные, если модель стоит в вашем контуре?

Не всегда, но чаще полезно. Маскирование уменьшает число мест, где записи лежат целиком: журнал, кэш, выгрузки. Там, где задаче нужна сама фамилия или номер, маскирование не применяют, а ограничивают доступ.

Можно ли отправлять персональные данные в облачную нейросеть?

Это решают юрист и служба безопасности по условиям поставщика и вашим договорам. Для данных ограниченного доступа облачные сервисы чаще не подходят по требованиям заказчика. Пока нет письменного решения, такие данные не отправляйте.

Что делать, если сотрудники уже вставляют письма клиентов в чат нейросети?

Выяснить масштаб без наказаний, написать короткое правило, какие данные нельзя отправлять, и дать рабочую альтернативу в контуре. Запрет без альтернативы уводит работу на личные аккаунты.

Запоминает ли модель то, что ей отправили?

Сама языковая модель в вашем контуре при ответе не обучается и запрос не запоминает. Данные остаются там, куда их записала система вокруг модели: журнал, кэш, индекс. У внешнего сервиса всё зависит от условий поставщика, поэтому их читают письменно.

Можно ли дообучать модель на персональных данных?

Лучше не включать. Отдельную запись из весов дообученной модели не удалить так, как строку из базы. Знания из документов обычно подаются поиском, а дообучение оставляют для формата и тона ответов.

Что делать, если человек просит удалить его данные?

Нужен путь «найти везде и удалить»: база, индекс поиска, расшифровки, кэш, копии по расписанию. Что обязательно удалять и в какие сроки, определяет юрист оператора. Мы делаем так, чтобы это было исполнимо технически.

Какая часть работы наша, а какая юриста?

Наша часть: схема потока, меры по таблице, проверка прав и журнала, настройка контура. Часть юриста: основание обработки, цели и сроки, согласия, уведомления, документы оператора и оценка того, какие данные считаются обезличенными.