Предупреждение о рисках ИИ
Генеральный секретарь Интерпола Юрген Сток недавно предупредил, что искусственный интеллект (ИИ) способствует преступности в «промышленных масштабах», используя дипфейки, имитацию голоса и поддельные документы.
Использование ИИ в правоохранительных органах
Полиция по всему миру также обращается к ИИ инструментам, таким как:
- распознавание лиц
- автоматизированные считыватели номерных знаков
- системы обнаружения выстрелов
- анализ социальных медиа
- полицейские роботы
Использование ИИ юристами также «стремительно растет», так как судьи принимают новые руководства по использованию ИИ. Несмотря на многообещающие перспективы, ИИ также несет риски, связанные с конфиденциальностью, подотчетностью и правами человека.
Проблемы с предвзятостью ИИ
Существуют опасения о предвзятости ИИ и дискриминации, что может подорвать принципы правды и справедливости, на которых основана наша система правосудия.
Влияние ИИ на уголовное правосудие
В недавнем отчете Школы права Британской Колумбии «Искусственный интеллект и уголовное правосудие: Введение» были рассмотрены многочисленные способы, которыми ИИ уже влияет на людей в системе уголовного правосудия. Вот несколько примеров:
Обещания и опасности использования ИИ полицией
В 2020 году расследование The New York Times раскрыло широкую распространенность Clearview AI, американской компании, создавшей базу данных распознавания лиц, использовавшей более трех миллиардов изображений, собранных с интернета, включая социальные сети, без согласия пользователей.
Мировые правоохранительные органы, использовавшие эту программу, столкнулись с общественным давлением. Регуляторы в нескольких странах выявили нарушения законодательства о конфиденциальности, и компании было предложено прекратить свою деятельность в Канаде.
Дипфейки в суде
ИИ также создает проблемы с «глубокой подделкой» (deepfake), включая документы, аудио, фото и видео, сгенерированные ИИ. Это уже приводит к случаям, когда одна из сторон утверждает, что доказательства другой стороны — это дипфейк, вызывая сомнения, даже если они законны.
Высокопрофильный пример с дипфейками появился в деле Джошуа Дулина, которого обвинили в участии в восстании 6 января 2021 года. Адвокат Дулина утверждал, что прокуроры должны подтвердить подлинность видео, взятого с YouTube, что приводит к опасениям о возможном использовании дипфейков.
Алгоритмы оценки риска
Представьте себе алгоритм ИИ, который считает вас риском побега или высокой вероятности рецидива, и эта информация используется судьей для отказа в освобождении. Это не фикция, а реальность во многих странах.
Автоматизированное алгоритмическое принятие решений используется в различных странах для:
- доступа к социальным пособиям
- оценки риска домашнего насилия
- определения миграционного статуса
- приговора и освобождения на условно-досрочное освобождение
Люди, на которых влияют эти алгоритмы, обычно не имеют доступа к их исходному программному обеспечению, и многие из них являются «черными ящиками», которые невозможно проанализировать.
Нужны законы для ИИ
Необходимы новые законы и регуляции, специально созданные для решения этих проблем. Европейский Союз уже принял законопроект, запрещающий использование ИИ для:
- нецелеустремленного сбора изображений с интернета
- удаленного биометрического распознавания в общественных местах
- оценки рецидивизма на основе только профилирования или личных признак
Законы Канады не успевают за прогрессом. Например, законопроект C-27, который включает закон о данных и ИИ, застрял в комитете более года.
Заключение
Потенциальное влияние ИИ на людей в уголовном правосудии огромно. Без тщательного надзора это может подорвать доверие общественности к правосудию и усугубить имеющиеся проблемы. Однако Канада еще не охватила широкое применение ИИ в уголовном правосудии и имеет возможность прогрессировать в этом направлении.