Коалиция правозащитных групп сегодня возбудила судебный иск против французского правительства в связи с использованием им алгоритмов для обнаружения неправильно рассчитанных социальных выплат, утверждая, что они дискриминируют людей с ограниченными возможностями и матерей-одиночек.
Алгоритм, используемый с 2010-х годов, нарушает как европейские правила конфиденциальности, так и французские антидискриминационные законы, утверждают 15 групп, участвующих в деле, в том числе группа по защите цифровых прав La Quadrature du Net, Amnesty International и французская группа Collectif Changer de Cap. которая выступает против неравенства.
«Это первый случай, когда общедоступный алгоритм стал предметом судебного разбирательства во Франции», — говорит Валери Прас из Collectif Changer de Cap, добавляя, что она хочет, чтобы подобные алгоритмы были запрещены. «Другие общественные организации во Франции используют алгоритмы оценки, чтобы ориентироваться на бедных. Если нам удастся получить [this] алгоритм запрещен, то же самое будет применяться и к остальным».
Французское агентство социального обеспечения CNAF анализирует личные данные более 30 миллионов человек — тех, кто претендует на государственную поддержку, а также людей, с которыми они живут, и членов их семей, согласно иску, поданному в высший административный суд Франции 15 октября. .
Используя их личную информацию, алгоритм присваивает каждому человеку оценку от 0 до 1 в зависимости от того, насколько вероятно, что он получит платежи, на которые он не имеет права — либо в результате мошенничества, либо по ошибке.
Франция — одна из многих стран, использующих алгоритмы для поиска ошибок или мошенничества в своей системе социального обеспечения. В прошлом году трехчастное расследование WIRED и Lighthouse Reports об алгоритмах обнаружения мошенничества в европейских системах социального обеспечения было сосредоточено на их использовании в Нидерландах, Дании и Сербии.
Люди с более высоким уровнем риска могут подвергнуться тому, что получатели социальных пособий по всему блоку называют стрессовыми и навязчивыми расследованиями, которые также могут повлечь за собой приостановку их социальных выплат.
«Обработка, осуществляемая CNAF, представляет собой массовую слежку и непропорциональную атаку на право на неприкосновенность частной жизни», — говорится в юридических документах французского алгоритма. «Эффекты этой алгоритмической обработки особенно затрагивают наиболее уязвимых людей».
CNAF не опубликовал публично исходный код модели, которую он в настоящее время использует для обнаружения ошибочных выплат по социальному обеспечению. Но на основе анализа старых версий алгоритма, которые, предположительно, будут использоваться до 2020 года, La Quadrature du Net утверждает, что модель дискриминирует маргинализированные группы, например, оценивая людей с ограниченными возможностями как людей с более высоким риском, чем другие.