Чек-лист безопасности LLM-системы перед запуском
Перечень проверок для самопроверки вашей командой и критерии провала.
- Права и журнал
- Секреты
- Критерии провала
Внедрение ИИ: что нужно ИТ-директору до старта, чтобы проект не стал теневой системой. Где живут данные, под какой учётной записью система ходит в 1С и в каталог, что пишется в журнал, в чьём репозитории исходники и кто сопровождает её после запуска, — всё это решается до первой строки кода. Ниже требования к проекту и подрядчику, таблица проверок с красными флагами, условный пример подключения и границы: лицензии ФСТЭК и аттестации у нас нет.
Обследование — от 200 000 ₽, 2–3 неделиИсходники в вашем репозитории с первого коммитаЛицензий ФСТЭК и аттестации нет
Формулировки общие, пороги и сроки записываются в приёмку.
Служба безопасности проверяет не саму модель, а то, что вокруг неё. На любой ответ или действие системы должны находиться три ответа: кто спросил, на каких правах система ходила в источник, что именно она увидела и сказала. Если не хватает одного, инцидент разбирать нечем.
Как это реализовано в готовой системе, независимо проверяет аудит безопасности ИИ-системы на вашем стенде.
Размещение модели определяет требования ко всему остальному, поэтому его решают первым. Основной вариант для данных ограниченного доступа: модель, индекс и журнал на ваших серверах без выхода в интернет. Расчёт железа и порядок обновлений без интернета описаны на странице «Развернуть LLM на своём сервере». Внешний интерфейс облачной модели допустим для открытых данных, а для остальных облачные сервисы чаще не подходят по требованиям заказчика.
С 1С система общается через интерфейсы платформы: HTTP-сервисы, OData или файлы, по описанию разработчика; условия проверяем на старте проекта. Вашему администратору 1С остаются три решения: какие объекты публиковать, под какой ролью читать и в какие часы допустима нагрузка. Решение для вашей конфигурации описано на странице интеграции ИИ с 1С, способы подключения от безопасного к рискованному разобраны в статье «Как подключить ИИ к 1С».
Условный пример без реального клиента. Сроки зависят от ваших систем.
Разделение записывается в договоре и приёмке, чтобы спорные места были видны до старта.
Если сопровождать будем мы, это описано на странице сопровождения и технической поддержки систем. Если ваша команда или другой подрядчик, папка должна позволять сделать это без нас.
Суммы совпадают со страницей тарифов. Точную цену фиксируем после обследования; служба безопасности участвует в нём с первой недели.
Схема размещения, роли и каталог, подключение к 1С, требования ИБ, критерии приёмки, расчёт железа. Вычитается из первого этапа.
Несколько баз 1С, каталоги, сегменты сети: схема обменов и матрица источников данных.
Тестовый контур, подключение на чтение, проверка на вашей выборке, протокол испытаний.
Запись только через утверждённые методы, подтверждения, журнал, нагрузочная проверка вместе с вашим администратором.
Опытная эксплуатация, мониторинг, обучение вашей команды, паспорт системы, передача исходников.
Мониторинг, разбор обращений, обновления с проверкой на выборке. Сверх пакета 5 000 ₽ в час.
Вы даёте схему сети, описание каталога, тестовую копию 1С на чтение и контакт ИБ. Мы записываем требования и критерии приёмки.
ИБ и ИТ утверждают размещение, соединения и роли. Без подписи на схеме разработка не начинается.
Вы выделяете тестовую среду и администратора, который отвечает на вопросы по системам. Мы подключаем их на чтение и прогоняем проверки.
Опытная эксплуатация, мониторинг подключён к вашему, ваша команда повторяет развёртывание по инструкции.
Папка сопровождения принимается по списку; дальше работает ваша команда или мы по пакету часов.
Перечень проверок для самопроверки вашей командой и критерии провала.
Способы по возрастанию риска, роли и нагрузка на базу, проверка на копии.
Приёмка, исходники, данные и доступы, остановка и сопровождение.
Четыре решения: где работает система, какие данные в неё попадут, кто владеет ею после запуска, кто в ИБ принимает схему. И пять материалов: схема сети, описание каталога, тестовая копия 1С, ваши стандарты, требования ИБ.
Обследование 200 000 ₽ за одну-две системы или 350 000 ₽ за несколько, сумма вычитается из первого этапа. На выходе схема размещения, требования, критерии приёмки и вилка бюджета. Дальше лёгкий пилот 150 000–400 000 ₽ или тяжёлый 400 000–1 200 000 ₽.
Нет, лицензии ФСТЭК у нас нет и аттестацию мы не проводим. Мы даём технические меры и документацию, которые можно показать проверяющему; соответствие оценивают ваша служба безопасности и юрист, это не юридическая консультация.
Зависит от размера модели, числа одновременных пользователей и длины документов. Конфигурацию и вариант без видеокарт считаем на обследовании, до закупки; оборудование до расчёта покупать не советуем.
Исходящие соединения серверов перечислены и согласованы, на стенде внешний канал отключают, и система продолжает работать. Трафик ваша служба безопасности может смотреть своими средствами.
Исходный код лежит в вашем репозитории с первого коммита, сборка с нуля описана инструкцией. Паспорт системы позволяет сопровождать её вашей командой или другим подрядчиком.
Начать с инвентаризации: где работает, какие данные ушли, какие записи и ключи созданы. Затем решить, переносить систему в контур или останавливать.
Мы в Ростове-на-Дону, работаем с заказчиками по всей России: удалённо и в вашем контуре. Доступ к системам и обследование согласуем на старте с вашей службой безопасности.