Privacy-Preserving AI for GDPR Compliance

Реализация Privacy-Preserving AI для соответствия GDPR/152-ФЗ

Privacy-Preserving AI — набор технологий, позволяющих обучать и эксплуатировать ML-модели без нарушения требований конфиденциальности. Это не только юридическое требование, но и конкурентное преимущество.

Ключевые требования GDPR для ML

Статья 5 — принципы обработки персональных данных

• Минимизация данных: ML-модель должна использовать минимально необходимые данные
• Ограничение цели: данные, собранные для одной цели, нельзя использовать для обучения других моделей без отдельного согласия
• Точность: возможность исправления ошибочных данных должна влиять на модель

Статья 22 — автоматизированные решения Если ML-решение влечёт значимые правовые последствия для человека (отказ в кредите, увольнение), субъект имеет право на объяснение и человеческий пересмотр. Это требует explainability от модели.

Статья 17 — право на забвение Пользователь может потребовать удаления своих данных. Для ML — это machine unlearning: возможность "убрать" влияние конкретного пользователя из уже обученной модели.

Техники и соответствие требованиям

Federated Learning → минимизация данных Обучение без централизации raw данных. Данные остаются на устройствах/серверах владельцев, в центр передаются только градиенты. Соответствует принципу минимизации.

Differential Privacy → формальные гарантии Математически доказуемая защита отдельных записей в обучающих данных. Позволяет документировать privacy budget как технический контроль при compliance-аудитах.

Data Anonymization для обучающих выборок

• Pseudonymization: замена прямых идентификаторов (ФИО, email) на псевдонимы
• k-anonymity: каждая запись неотличима от минимум k-1 других по квазиидентификаторам
• l-diversity и t-closeness: усиленные гарантии для sensitive attributes

Synthetic Data Generation Генерация синтетических данных, сохраняющих статистические свойства реальных, но не содержащих реальных записей. CTGAN, TVAE, CopulaGAN — для табличных данных; диффузионные модели — для изображений.

Machine Unlearning

Требование "права на забвение" в контексте ML — нетривиальная задача. Полное переобучение без данных пользователя — слишком дорого. Подходы:

• SISA Training (Sharded, Isolated, Sliced, and Aggregated): разделение обучающих данных на shards; при запросе на удаление переобучается только затронутый shard
• Gradient-based unlearning: добавление "градиента забывания" — модификация весов для минимизации влияния конкретных примеров
• Data influence estimation: оценка влияния конкретных записей через influence functions

Для production: SISA даёт наилучший компромисс время/качество. Переобучение одного shard — секунды/минуты вместо часов.

Data Governance Framework

Технические меры недостаточны без организационных:

Privacy Impact Assessment для ML-проектов

PIA/DPIA обязателен при high-risk обработке (ст. 35 GDPR). Для ML-систем это включает:

1. Описание обработки: входные данные, цель модели, решения на основе модели
2. Оценка необходимости и пропорциональности
3. Анализ рисков: membership inference, model inversion, data reconstruction
4. Меры контроля: конкретные технические и организационные меры
5. Мнение DPO (Data Protection Officer)

Документирование технических privacy-мер (DP, FL, анонимизация) существенно упрощает прохождение DPIA.

152-ФЗ специфика

Дополнительно к GDPR:

• Обязательная локализация персональных данных граждан РФ на серверах в РФ
• Уровни защищённости ИСПДн (УЗ-1 — УЗ-4) определяют технические меры
• Обязательная аттестация ИСПДн для ряда категорий

ML-системы, обрабатывающие биометрию, здоровье, судимости — УЗ-3/УЗ-2, требуют усиленных криптографических мер (сертифицированные СКЗИ).

Срок подготовки к compliance-аудиту с нуля: 3–6 месяцев на внедрение технических мер, документирование и организационные процедуры.