Дипфейки

в разы

рост мошенничества с дипфейками

по оценкам рынка, в 2025 году атаки с синтезированными лицом и голосом кратно выросли

десятки млн $

обман госсистем в Китае

по сообщениям СМИ, атака на биометрическую проверку через перепрошитые смартфоны, подменявшие изображение для камеры

Смещение парадигмы

Визуальный контроль мертв

подделку теперь распознает только машина: ИИ против ИИ

регуляторы признают, что качество дипфейков уже выше возможностей человеческого восприятия

предъявление записи перестает надежно подтверждать присутствие человека

Для оператора: оператор, применяющий распознавание лица или голоса, закладывает синтезированное предъявление в модель угроз отдельной угрозой и проверяет устойчивость к нему при оценке эффективности мер

1

Физический носитель

реальный человек с узнаваемыми обликом и голосом

2

Биометрия лица и голос

исходные образцы берут из открытых фото, видео и записей речи

3

Отделение сущностей

модель отделяет облик и голос от носителя и учится их воспроизводить

4

Синтетический двойник

цифровая копия, которую выдают за человека. Цена создания $5-38

Проблема атрибутивности

Связь двойника с человеком трудно доказать

чем точнее копия, тем сложнее подтвердить, кто изображен и кто создал материал

• ?
• Двойник - это ПД?

да, если узнаваемы облик или голос: определяемость лица не зависит от того, происходило ли событие на записи

• ?
• Создание копии - обработка биометрии?

нет, цель не установить личность, а выдать изображение за человека, поэтому письменное согласие по ст.11 не требуется, но режим ПД и охрана изображения действуют

vs

Новый состав

Наказание за сам факт обработки

инициатива в Госдуме: наказание за сам факт обработки с правкой ст.272.1 УК

загромождение статьи и дублирование норм

признак "автоматизированная обработка" допускает расширительное толкование и задевает технологии ИИ и ML

процессуальная эквилибристика: каждое дело требует описания конкретного технического кейса

совет по кодификации не поддержал инициативу об изображении и голосе: термины не имеют четкого содержания

Общие нормы

Усиление наказания по любому составу

14.07.2026 внесен проект о дипфейке как отягчающем обстоятельстве по ст.63 УК

вопрос доказывания синтетического происхождения материала остается открытым

изготовление ИИ-ботом изображения обнаженной натуры с лицом знакомой квалифицировано по п."б" ч.3 ст.242 УК, приговор устоял в апелляции (22-7749, 21.11.2025)

сама технология синтеза не преступна

Сейчас: специального состава нет, и риск закрывают общие нормы: о ПД, об охране изображения, о клевете, мошенничестве и порнографии

14.11.2025

внесен пакет

Двойная маркировка

видимая надпись на весь показ и неудаляемая машиночитаемая метка в метаданных: применение ИИ, дата, владелец ресурса

04.2026

комитет Думы

Рекомендовал отклонить

неясны обязанное лицо и стадия маркировки, сплошная проверка контента неисполнима

10.06.2026

Госдума

Пакет отклонен

вместе с ним отпал и состав КоАП о штрафах за отсутствие маркировки

01.09.2026

243-ФЗ

Закон об ИИ в силе

регулирует большие фундаментальные модели, обязанности маркировать не вводит

01.03.2027

ст.9 243-ФЗ

Пометка добровольна

площадки с аудиторией свыше 500 тыс. в сутки лишь дают пользователю возможность ее разместить

Для оператора ПД

Пометка ничего не доказывает

немаркированный материал не доказывает подлинности, а пометка не меняет оценки чужого облика или голоса по правилам о ПД и об изображении. Подлинность проверяют по источнику и обстоятельствам получения

Спорно

Хватит ли добровольной модели

для материалов, воспроизводящих облик или голос конкретного человека, обсуждается обособленный обязательный режим

10-50 тыс. ₽

граждане

по проекту № 1069331-8

100-200 тыс. ₽

должностные лица

по проекту № 1069331-8

200-500 тыс. ₽

юридические лица

по проекту № 1069331-8

Проекты № 1069302-8 и 1069331-8

Штраф шел в паре с маркировкой

первый проект вводил видимую надпись и машиночитаемую метку для синтетического видео, второй штрафовал за их отсутствие

vs

Злонамеренные

обман, вымогательство, клевета, порнография с чужим лицом

Легитимные

кино, реклама, образование: разделение защищает невиновных от преследования

Итог: проект КоАП отклонен 10.06.2026, ст.11 закона 243-ФЗ санкций не устанавливает. Норм о синтетике в рекламе нет, претензию предъявят по общим правилам о введении в заблуждение

• Страна
• Модель
• Суть подхода

• Италия
• комплексный закон об ИИ
• уголовная ответственность за вред от дипфейков, защита авторских прав, согласие родителей для детей до 14 лет

• ЕС
• прозрачность
• ст.50 AI Act с 02.08.2026: раскрытие дипфейков и машиночитаемая маркировка синтетического контента

• Великобритания
• давление на платформы
• угроза многомиллиардных штрафов за генерацию противоправного контента

• Казахстан
• этико-религиозный
• фетва Духовного управления: злонамеренные дипфейки признаны харамом

• Сингапур
• рекомендательный
• оценка киберрисков для финсектора, гайдлайны по борьбе с обходом биометрии

• Индонезия
• жесткая блокировка
• запрет чат-ботов из-за угрозы эротических дипфейков

• Россия
• рамочный закон
• закон об ИИ 243-ФЗ: добровольная пометка с 01.03.2027, остальное по общим нормам о ПД, изображении и ответственности

04.06.2026

Таганский суд

Иск Роскомнадзора удовлетворен

ответчик - иностранный регистратор домена NameSilo, установлен по whois, рассмотрено в его отсутствие

13.08.2026

мотивировка

Изображение - это ПД

распространение ИИ-материалов по фото и видео гражданина требует ч.1 ст.6 и ч.1 ст.10.1 152-ФЗ

после вступления

ст.15.5 149-ФЗ

Реестр нарушителей

решение - основание для включения страницы в реестр нарушителей прав субъектов ПД

Тот же суд и тот же ответчик

по делу 02-0901/2026 признаны незаконными сбор и распространение ПД граждан на сайте того же регистратора: данные документов, СНИЛС, ИНН, фото

Вывод: синтетический контент на основе изображения реального человека требует согласия на распространение или иного основания, иначе страницу блокируют через реестр нарушителей

Медиа

Трансформация медиа

баланс между автоматизацией производства и доверием аудитории: позиция Газпром-медиа

Модели

Ограничения под капотом

платный доступ к генерации как инструмент контроля: реакция Илона Маска и xAI

Рынок

Собственные детекторы

бизнес внедряет распознавание подделок, крупные маркетплейсы заявляют о высокой точности детекторов

Практика

Дипфейк-ролик охраняется как произведение

суды по делу А40-200471/2023 признали подмену лица инструментом монтажа, а не способом создания, и защитили права на ролик. Суд по интеллектуальным правам 19.08.2024 оставил решения в силе

формула суда описывает операцию с исходной съемкой и не переносится на синтез голоса и материал без исходника

проверку прав на исходник и обстоятельств получения материала ведет тот, кто его использует

Баланс

Точка равновесия

чрезмерное регулирование грозит преследованием добросовестных разработчиков и пользователей, технологическая вседозволенность - массовым мошенничеством. Точку равновесия ищут по индексу атрибутивности данных: насколько материал связан с конкретным человеком

Технологический нейтралитет

сама технология синтеза не преступна, наказывать следует за незаконную выгоду и реальный вред

Синергия мер

адекватные правовые рамки без загромождения УК и непрерывный технологический аудит

Взгляд в будущее

метрики атрибутивности для автоматической оценки легитимности синтетических данных в гибридных средах

Режим ПД уже работает

материал с узнаваемым обликом или голосом остается ПД, пометка подлинности не доказывает, риск несет тот, кто материал использует

Для DPO: проект с синтезом проверяют по четырем слоям: ПД, изображение гражданина, авторские и смежные права, осведомленность адресата, и собирают разрешения по каждому