Искусственный интеллект и ПД

Цена ошибки

высокая

низкая

• низкая
• Необходимость вовлечения человека
• высокая

ИИ готовит, решает человек

Решает только человек

ИИ справится сам

ИИ пишет, человек правит

1

2

3

4

5

6

7

ТЕКУЩИЙ РУБЕЖ

МЫ ЗДЕСЬ

• ChatGPT
• Claude

• Gemini
• Midjourney

• Компьютер
• ИИ-система

• Процессор
• Языковая модель (LLM) и ее веса

• Оперативная память
• Контекстное окно

• Жесткий диск
• Векторная база и долговременная память

• Драйверы устройств
• Интеграции с инструментами

• Операционная система
• Обвязка системы (harness)

• Приложение
• Агент (эмерджентное поведение)

• 1
• Полномочия и результат

• Фильтры и журналы
• 2
• Права агента не шире прав пользователя. Отправка вовне и необратимые действия только после подтверждения человеком

• Единый шлюз запросов к моделям, DLP, защита от инъекций. Журналы вызовов тоже хранят ПД
• 3
• Новые получатели данных

• Что уходит в запрос
• 4
• Почта, CRM, поиск, другой агент. Каждое подключение проверяется как привлечение подрядчика

• Инструкция, файлы, фрагменты базы знаний. Очистка от ПД и сведений под тайной до отправки
• 5
• Память и права субъекта

• Где исполняется и чему учится
• 6
• Сроки, доступы, уточнение и удаление по запросу субъекта, в том числе в памяти агента

Локализация и ТПД по месту первой записи, дообучение поставщика, с 01.03.2027 ЦОД в России для суверенных моделей

Модель и веса

Векторная база

Контекстное окно

Инструменты

Обвязка (harness)

Агент

Оранжевые слои обрабатывают запрос, темные хранят знания и модель. Карту потоков данных собирают по всем шести слоям

сейчас

нормы

суды

ориентиры

КОГО КАСАЕТСЯ

А также банковская, налоговая, страховая тайна и коммерческая тайна самого клиента

ДВА ФИЛЬТРА ПЕРЕД ЗАГРУЗКОЙ

• Документ
• Фильтр ПД
• Фильтр тайны
• Сервис ИИ

Передача сервису уже разглашение

Поставщик сервиса третье лицо, наступления утечки для нарушения не нужно

Согласие субъекта ПД не заменяет согласия клиента

Раскрыть тайну позволяет только волеизъявление клиента, и его форма бывает строже

Право на ИИ закрепляется в договоре

Заранее, в соглашении с клиентом. Материалы все равно проходят оба фильтра

ТРИ ЗОНЫ ПО МЕСТУ ИСПОЛНЕНИЯ ЗАПРОСА

Своя модель в контуре

Данные не покидают периметр, систему можно настроить под задачи

Внешняя модель по API

Допустимо после локального акта, договора и технического фильтра

Публичный сервис, личный аккаунт

Оправданий нет, эта зона закрывается первой

БАБУШКИНСКИЙ РАЙОННЫЙ СУД Г. МОСКВЫ

РЕШЕНИЕ ОТ 26.05.2026, ДЕЛО № 02-1545/2026

Загрузка отчетов в DeepSeek признана разглашением коммерческой тайны

Отчеты о сделках и финансах ушли в DeepSeek, тендерные документы на личную почту. Увольнение признано законным, а дошли ли сведения до третьих лиц, значения не имеет

Доказательства режима в деле: перечень сведений, обязательство под подпись, контроль рабочих мест и акт расследования

ТРОЙКА МЕР ВМЕСТО ЗАПРЕТА

Режим тайны

Перечень сведений, порядок обращения, обязательство работника под подпись

Удобная внутренняя площадка

Без нее работники уходят в личные аккаунты и обходные каналы

Контроль исходящего трафика

DLP и единый шлюз для обращений к внешним моделям

Личные аккаунты в рабочих задачах запрещаются прямо, допустимые сервисы перечисляются в локальном акте

ОПРЕДЕЛЕНИЕ АС ЗСО ОТ 14.05.2026

ДЕЛО № А27-7831/2025

50 000 ₽

судебный штраф за несуществующую и чужую практику в кассационной жалобе

ТРИ ЛИНИИ ЗАЩИТЫ

Договор с поставщиком ответственности не перераспределяет, спрос будет с компании, которая применила ИИ

• 01
• Процедура

Финальные действия без проверки человеком запрещены в регламентах, скриптах и инструкциях. Проверка выборочная, с критериями эскалации

• 02
• Договор

Предупреждение клиента о применении ИИ, согласие на передачу данных, лимиты ответственности

• 03
• Доказательства

Следы проверки и уведомления клиента. Кто проверил, когда и что исправил

Перед подачей наружу каждая ссылка проверяется по трем признакам: акт существует, его предмет совпадает с тезисом, цитата в нем действительно есть

ЧТО ВХОДИТ В КОНТУР ОБРАБОТКИ

Агент

Системная инструкция

Вложения и ссылки

Фрагменты базы знаний

Память между сессиями

Журналы вызовов

Телеметрия качества

Резервные копии

Внешние инструменты

Каждый элемент хранит ПД со своими сроками и доступами. Темным отмечено то, что чаще всего забывают

ТРИ СЦЕНАРИЯ ОТКАЗА

Избыточный сбор

объем данных выходит за пределы цели

Передача вовне

сведения уходят третьему лицу без основания

Утрата данных

стерты записи, которые полагалось хранить

ЧЕТЫРЕ БАРЬЕРА

• Закрытый перечень действий агента
• Права агента не шире прав пользователя

• Подтверждение человеком любой отправки вовне
• Запрет необратимых операций

Отдельный риск инъекции. Скрытая команда в файле или на странице исполняется наравне с указанием пользователя

ШКАЛА ИДЕНТИФИЦИРУЕМОСТИ

Исходные ПД

ФИО, телефоны, номера договоров

Маскирование и псевдонимы

Имена заменены, связи и детали на месте

Обезличивание по приказу РКН № 140

По позиции РКН все еще ПД

Агрегаты без выделения лица

Группы, где нельзя выделить человека

• действует 152-ФЗ
• вне режима ПД

ЧТО ВАЖНО ЗНАТЬ

ЧТО ДЕЛАТЬ

Обезличенные данные все равно персональные. Маскирование от требований 152-ФЗ не освобождает

Что поставщик делает с полученными данными?

Только выполняет ваш запрос

Поручение обработки

Договор с перечнем действий, целями, конфиденциальностью и требованиями к защите. Перед субъектом отвечаете вы

Учится на них или использует в своих целях

Самостоятельный оператор

Нужно свое основание передачи, обычно согласие. Дообучение по умолчанию разрушает конструкцию поручения

ЧЕТЫРЕ СКРЫТЫХ КАНАЛА

Дообучение

Включено по умолчанию, на части тарифов не отключается

Кнопка оценки

Возвращает данные поставщику даже при выключенном обучении

Лицензия на диалог

Запросы и файлы нередко уходят под безотзывную лицензию

Экспортный контроль

Блокировка аккаунта вместе с материалами, копии держите вне сервиса

Данные пришли от контрагента? Сначала проверьте в договоре с ним, разрешены ли субобработчики. А корпоративная подписка сама по себе передача ПД работников

Скрытая зарубежная модель

Внутри российского продукта незаметно для пользователя может работать иностранная модель - отечественная вывеска не гарантирует, что данные остаются в РФ.

Первичное сохранение за рубежом

Расшифровка встреч или чат-бот на иностранной платформе: первая запись происходит на серверах за границей, и требование локализации не выполняется.

Сначала в РФ, потом за рубеж

Суверенная модель с 01.03.2027

Когда ПД сначала записываются в базу в РФ и лишь затем передаются зарубежному получателю по правилам ТПД, локализация соблюдена.

Ответы и хранение в ЦОД российского юрлица. Для локализации собственник ЦОД значения не имеет, для 243-ФЗ имеет

ШТРАФЫ ЗА ЛОКАЛИЗАЦИЮ

6 млн ₽

максимум за первое нарушение

18 млн ₽

максимум за повторное нарушение

Разберите маршруты данных в продукте с оглядкой на то, как им реально пользуются сотрудники.

чч.8, 9 ст.13.11 КоАП, для юрлиц

Порядок до начала передачи

• 1
• Подать в Роскомнадзор уведомление о трансграничной передаче.

• 2
• Запросить у зарубежного получателя сведения о применяемой защите данных.

• 3
• Рассчитывать на документы провайдера не стоит - оценку придется собирать по открытым источникам.

ПЕРЕЧЕНЬ СТРАН: ПРИКАЗ РКН № 128, С 30.10.2026 № 253

Страна в перечне

Передавать можно сразу после уведомления

• КИТАЙ
• ЕС

Страны нет в перечне

Старт передачи - через 10 рабочих дней, и за РКН остается право запрета.

США - УСЛОЖНЕННЫЙ ПОРЯДОК

• По позиции РКН (14.08.2026) ТПД возникает между операторами. Человек, сам вводящий свои данные в зарубежную нейросеть, ее не совершает
• Корпоративная подписка - провайдер получает ПД сотрудников, на что обычно требуется их письменное согласие в строгой форме.

ПОПАДАЕТ ЛИ МОДЕЛЬ ПОД ЗАКОН

• от 1 млрд параметров
• много разных задач

основа для другого ПО

БФМ

Все три признака сразу дают большую фундаментальную модель (БФМ). Скоринг, антифрод и компьютерное зрение живут по общим правилам 152-ФЗ

С 01.03.2027

ЦОД российских юрлиц

Суверенные и национальные модели готовят ответы и хранят данные в России. Это не то же самое, что локализация

Обязательные случаи

Правительство вправе определить, где допустимы только такие модели, в финсекторе по согласованию с Банком России

Изъятие для обучения

Снимает вопрос авторских прав, но не ПД. Для сведений о людях нужно свое основание

Переход до 01.09.2032

Для систем, работающих на 01.03.2027, если данные обрабатываются и хранятся в России

Что сделать сейчас: составить перечень моделей и их статус, зафиксировать дату ввода и место обработки, предусмотреть в договоре с поставщиком замену модели

1

Владелец

У каждого ИИ-сервиса есть ответственное лицо

• 2
• Реестр ИИ-решений

Сценарий, модель, поставщик, данные, инструменты, уровень автономности

• 3
• Правила использования

Что можно загружать и делать, где обязателен человек

• 4
• Оценка рисков до запуска

Запуск, дополнительные меры, ограничение сценария или отказ

• Точка контроля
• 5

Без пройденных проверок сервис не выпускается

• Управление изменениями
• 6

Смена модели, поставщика, инструкции или базы знаний возвращает к оценке

• Мониторинг и инциденты
• 7

Метрики качества, жалобы, ошибки и корректирующие меры

См: ст.18.1 152-ФЗ и ГОСТ Р ИСО/МЭК 42001-2024 о системе менеджмента ИИ

1 страница

16 ПУНКТОВ В ЧЕТЫРЕХ БЛОКАХ

I

II

III

IV

ИТОГ ПО ОБЯЗАТЕЛЬНЫМ ПУНКТАМ

ОТКРЫТЬ ЧЕК-ЛИСТ

Скачать с Яндекс Диска

Актуальная версия для скачивания и заполнения

Признаки отдельной цели, экспертный подход

• 1
• результат обучения применяют за пределами процесса, где собраны данные

• 2
• модель передают или предоставляют третьим лицам

• 3
• обучение идет в интересах разработчика, а не субъекта или заказчика

Цели не возникает

обучение внутри того же процесса и цели, как антифрод платежного сервиса. Спорно, совместимо ли оно с целью сбора, если модель не выходит за сервис

• Основание
• Коридор для обучения

• Согласие, п.1
• держит плохо: массив не собрать, вклад отозвавшего из модели не извлечь, будущие задачи не конкретны

• Исследования, п.9
• с обязательным обезличиванием и без решений о лицах, Роскомнадзор устно (01.03.2023) включал оценку поведения в маркетинге, практики нет

• Обезличенные ПД, п.9.1
• только госуправление, экспериментальные режимы и государственные составы данных

• Законный интерес, п.7
• собственный процесс оператора без специальных категорий и с тестом соразмерности

• Договор, п.5
• если модель и есть содержание заказанной услуги

Документы: цель обучения объявляют отдельно в политике, уведомлении, основании и оценке вреда, а формула о развитии технологий требованию конкретности не отвечает

1

Ветвь А. Обезличить

с проверкой на реидентификацию, результат Роскомнадзор устно считает ПД (28.01.2022, 27.08.2025, 14.08.2026)

2

Ветвь Б. Найти основание

на исходных данных: исследования, законный интерес или договор

3

Ветвь В. Собрать заново

под объявленную цель обучения со своим сроком хранения выборки

• Ситуация
• Что учесть

• Обезличивание
• само обработка с основанием и целью (Роскомнадзор 25.11.2022, 24.08.2023). Согласие вне пп.9, 9.1 спорно: Минцифры (21.10.2022) за, Роскомнадзор устно (28.01.2022) таких случаев не видит

• Разметка вовне
• поручение по ч.3 ст.6, зарубежная площадка добавляет локализацию и ТПД

• Открытые источники
• до сбора два заключения, об основании обработки ПД и о правах изготовителя базы (ст.1334 ГК)

• Открытые веса
• по экспертному подходу корпус из весов не восстановить, но запомненное доступнее, и тесты на запоминание идут до релиза

Эксперимент: в экспериментальных режимах по 123-ФЗ и 258-ФЗ требования приказа Роскомнадзора № 140 к обезличиванию не применяются, а п.9.1 ч.1 ст.6 доступен только участникам в пределах программы

• Скоринг
• Что затрагивает
• Маршрут

• Кредитный
• отчет по 218-ФЗ требует согласия, но покупки, запросы и устройство в модели выводят в общий режим 152-ФЗ
• основание по каждому источнику признаков и отдельно по ч.2 ст.16

• Страховой
• коэффициент задает цену договора и затрагивает права, разница цен по месту жительства или полу, по экспертному подходу, риск дискриминации
• проверка основания и признаков, КТ в ОСАГО прямо задан Указанием № 6007-У

• Кадровый
• отбраковка и ранжирование резюме, ТК соискателей не регулирует (Роскомнадзор устно 31.01.2024, 14.08.2026), п.6 ст.86 лишь по аналогии
• итог за представителем работодателя и доступ ко всем резюме

• Антифрод
• блокировка, приостановка и допроверка затрагивают права, а согласие невозможно
• закон с мерами защиты или решение за человеком

Открытая площадка

признаки из соцсетей и объявлений требуют своего основания и строки в уведомлении (А40-5250/2017, решения 2017-2018 годов). Опубликованное по закону идет по п.11 ч.1 ст.6, развилка спорна

Пробел практики

споры по кредитным историям идут об изъятии записи о просрочке (33-44119/2021, 88-8554/2022) и о согласии на отчет (А56-47954/2021), а об исключительно автоматизированном решении суды не спрашивают

Состава нет

Риск идет смежными маршрутами

общий запрет дискриминации ст.3 и 64 ТК, запрет дискриминационных вакансий, ст.16 ЗоЗПП и равенство по ст.19 Конституции. Достаточность этих маршрутов спорна

Механика смещения, экспертный подход

почтовый индекс заменяет этническую принадлежность, а профессия и тип образования заменяют пол

выборка повторяет прошлые решения, а малочисленные группы модель принижает

Рекомендуемая проверка до запуска и при переобучении

• 1
• Убрать прямые признаки

защищаемые характеристики исключают из модели

• 2
• Найти прокси

восстанавливается ли признак по остальным атрибутам

• 3
• Проверить выборку

смещение состава и малая представленность групп

• 4
• Сравнить группы

доли положительных и отрицательных выводов

• 5
• Отсечь спецкатегории

вывод о здоровье или убеждениях требует основания

• 6
• Записать протокол

дата, состав и результаты как доказательство

Ориентир: Стратегия развития ИИ (Указ № 490 от 10.10.2019) называет защиту ПД при обучении моделей среди вызовов, обязанностей не создает, но служит ориентиром добросовестности

Признаки участия, экспертный подход

• 1
• решающий видит первичные данные и отбракованный системой массив

• 2
• может решить вопреки подсказке без последствий для себя

• 3
• доля расхождений с подсказкой не нулевая и пишется в журнал

Почему контур вырождается

по экспертному подходу, мешают доверие к системе, нехватка времени на проверку и потеря навыка. Помогают выборка, четыре глаза и эскалация

• Обязанность
• Содержание

Разъяснить порядок, ч.3

порядок решения и возможные юридические последствия без раскрытия алгоритма, категории данных и источники по экспертному прочтению, глубина спорна

• Принять возражение, ч.3
• процедуру оператор устанавливает сам и разъясняет порядок защиты прав

• Ответить за 30 дней, ч.4
• со дня получения, а не в рабочих днях ст.14 и ст.20

• Итог возражения
• отмена, пересмотр человеком или пересчет, закон молчит, вопрос спорен

Практика: у ст.16 почти нет собственной практики: Оренбургский облсуд в деле 33-7486/2015 проверил только подпись под общими условиями. Механику решения раскрывают надзорная проверка и смежный спор

Обезличивание не снимает ограничений: замаскированные данные остаются персональными и живут по правилам 152-ФЗ.

Профессиональная и коммерческая тайна требуют второго фильтра: очистка от ПД режима тайны не снимает.

Спрос за результат ИИ с пользователя, а не с провайдера, поэтому финальные шаги без проверки человеком под запретом.

Иностранный сервис ставит вопросы локализации и трансграницы, с 01.03.2027 добавится 243-ФЗ. Защиту готовят заранее.

t.me/prv_adv