Первый вопрос внедрения — не про модель
При работе с внешней нейросетью компания платит дважды: деньгами и собственными данными. Поэтому первый вопрос, который мы разбираем с клиентом, — не «какую модель взять», а что именно уйдёт наружу. Ответ на него можно не принимать на слово: на нашей демо-странице есть инструмент обезличивания, куда вставляется реальная переписка с именами, телефонами и суммами — и видно ровно тот текст, который ушёл бы в модель.
Механизм не демонстрационный: он же работает у нас в проде. Рабочий архив переписки на 137 000 сообщений разобран в базу, и наружу из него уходил только обезличенный текст. Имена, телефоны, адреса, номера карт и реквизиты вырезаются до обращения к модели, а не после.
Три уровня контроля
| Уровень | Что это | Что уходит наружу | Статус у нас |
|---|---|---|---|
| 1. Внешняя модель + обезличивание | стандартный контур: персональные данные и реквизиты вырезаются до отправки и восстанавливаются локально | обезличенный текст задачи | работает сегодня, показываем на демо |
| 2. Гибрид | чувствительные шаги остаются в вашем периметре — расшифровка речи, хранение, поиск по базе; во внешнюю модель уходит только обезличенный фрагмент | минимум: часть задачи, без данных-носителей | делаем в проекте, состав определяется на расчёте окупаемости |
| 3. Локальные веса | открытая модель разворачивается на ваших мощностях | ничего | у нас этого контура нет — отдельный проект: своё железо, свои сроки, отдельная смета |
Почему мы пишем «у нас этого нет» вместо «сделаем». Обещанный, но не построенный локальный контур — это обязательство, которое нечем закрыть, и обнаруживается оно на этапе, когда клиент уже принял решение. Проще потерять сделку на входе, чем провалить её в середине.
Про третий уровень стоит сказать и вторую честную вещь — про деньги. Открытые модели, которые можно официально ставить в собственный контур, существуют. Но экономии они обычно не дают: в нашем расчёте по одному из проектов своё железо начинало окупаться примерно с 68 млн токенов в месяц при реальном профиле около 1,2 млн. Локальный контур берут ради требования «данные не покидают периметр», а не ради снижения счёта.
Утечка с той стороны, о которой не думают
Обычно обсуждают данные клиента, которые уходят в модель. Но есть встречный поток: материалы, которые подрядчик собирает для клиента, и которые тоже полны чужих персональных данных.
Наш анализ конкурентов устроен так, что к каждому утверждению прикладывается фрагмент чужой страницы — иначе утверждение непроверяемо. Вместе с фрагментами в отчёт тянутся подвалы сайтов. На одном прогоне по 20 сайтам это 6 телефонов, 3 налоговых номера, 2 регистрационных и ФИО директоров. Ни одно из этих значений для задачи не нужно: для проверки признака важно, что реквизиты на странице есть, а не какие они именно.
Красная зона: что не отправляют вообще
Технические контуры не отменяют правил для людей. Список запрещённого к отправке во внешнюю модель мы разбираем по ролям, потому что у бухгалтера он жёстче, чем у маркетолога.
- Персональные данные клиентов и сотрудников: ФИО, телефоны, адреса, документы. Заменяются устойчивыми плейсхолдерами — один человек остаётся одним псевдонимом во всех файлах, поэтому аналитика по обезличенному тексту работает как раньше.
- Реквизиты и финансы: налоговые номера, счета, суммы договоров, данные контрагентов.
- Коммерческая тайна: закупочные цены, условия конкретных сделок, внутренние регламенты с чувствительными деталями.
Практический приём, который снимает большую часть риска без всякой техники: сначала обезличить, потом думать над задачей. Не «напишу, а потом почищу» — почистить забывают ровно тогда, когда торопятся.
Что спросить у подрядчика до подписания
- Покажите, что именно уходит в модель — на живом примере с нашими данными, а не на схеме в презентации.
- Где обезличивание срабатывает по времени — до записи в файл и до отправки, или «перед отдачей нам»? Между этими вариантами лежит необработанная копия.
- Что происходит с исходным аудио и файлами после обработки и через какое время они удаляются.
- Какой уровень контроля вы предлагаете и что из него уже построено, а что будет строиться в проекте. Ответ «сделаем как надо» — не ответ.
- Что попадёт в отчёты и материалы для нас — не унесут ли они чужие персональные данные, за которые отвечать придётся нам.