Uber оштрафован нидерландским регулятором на €825 млн за деактивацию водителей из-за алгоритмов

Нидерландский регулятор по защите данных (Autoriteit Persoonsgegevens, AP) оштрафовал Uber на 825 миллионов евро за использование автоматизированного алгоритма для деактивации аккаунтов водителей без надлежащего контроля со стороны человека, что является прямым нарушением Общего регламента по защите данных ЕС (GDPR). Штраф, объявленный 21 августа 2026 года, является одним из крупнейших наказаний за нарушение GDPR на сегодняшний день и сигнализирует об усилении регулирования непрозрачных процессов принятия решений с использованием ИИ.

Что произошло

По данным регулятора, система Uber автоматически прекращала действие аккаунтов водителей на основе алгоритмических оценок поведения водителей, включая обнаружение мошенничества или показатели эффективности. AP установила, что Uber не обеспечил достаточную прозрачность в отношении того, как принимались эти решения, и не предоставил водителям эффективный канал для оспаривания деактиваций. Это нарушает статью 22 GDPR, которая предоставляет лицам право не подвергаться решениям, основанным исключительно на автоматизированной обработке, которые влекут юридические последствия (такие как расторжение контракта) без вмешательства человека.

Ключевые детали

• Сумма штрафа: 825 миллионов евро (примерно 960 миллионов долларов по текущему обменному курсу).
• Регулятор: Autoriteit Persoonsgegevens (Нидерландский орган по защите данных).
• Нарушение: Автоматическая деактивация аккаунтов без содержательного пересмотра со стороны человека или гарантий для водителей.
• Влияние GDPR: Вероятно, статья 22, ограничивающая полностью автоматизированные решения с юридическими последствиями.

Последствия для ИИ-агентов

Это решение является тревожным сигналом для любой команды, развертывающей ИИ-агентов, которые принимают важные решения о людях. Если ваш агент используется для одобрения кредитов, ранжирования кандидатов или, как в случае с Uber, прекращения действия аккаунтов, вам необходимо обеспечить:

1. Встроенный контроль со стороны человека для неблагоприятных решений.
2. Четкие объяснения логики ИИ для затронутых лиц.
3. Простой процесс апелляции.
4. Проверку соответствия статье 22 GDPR и аналогичным нормативным актам.

Для разработчиков это означает проектирование систем, которые регистрируют входные данные решений, обеспечивают объяснимость и имеют механизмы ручного переопределения. Эпоха работы алгоритма как черного ящика закончилась: регуляторы следят за этим.