Иллюстрация, созданная с помощью искусственного интеллекта
Искусственный интеллект стал источником создания дипфейков, что нарушило права на приватность канадцев.
Сексуализированные дипфейки, созданные с использованием чат-бота Grok Илона Маска и распространявшиеся в X, нарушили канадские законы о защите данных. С этим заявлением выступил комиссар по вопросам конфиденциальности Канады Филипп Дюфрен в четверг.
Он отметил, что Grok был запущен без надлежащих предохранительных мер и полного анализа рисков для конфиденциальности. Из-за отсутствия таких мер, по словам Дюфрена, пользователи смогли массово создавать и публиковать сексуализированные дипфейки, в основном касающиеся женщин и детей. Исследования показывали, что в определенное время Grok генерировал более 6,000 таких изображений в час.
Расследование начали в январе, сосредоточившись на соблюдении компаниями, связанными с продуктом, норм по приватности и получении «действительного согласия» на сбор, использование и публикацию персональных данных для создания дипфейков, в том числе откровенного характера.
Проверка показала, что как xAI (разработчик Grok), так и X Corp. (владелец соцсети X) нарушили федеральный закон Канады о защите персональных данных. Дюфрен подчеркнул, что обе компании принадлежат SpaceX Илона Маска.
Одной из ключевых рекомендаций офиса комиссара стало приостановление работы инструмента до внедрения необходимых мер безопасности. «Логика простая: «нажать на паузу», устранить проблему и подстегнуть компании к быстрому исправлению», — отметил Дюфрен. Однако, как утверждает комиссар, ни одна из компаний не согласилась, а его ведомство не имеет полномочий заставить их.
Как сообщает CityNews Ottawa, несмотря на сотрудничество с расследованием и некоторые предпринятые шаги в ответ на замечания, компания остается в состоянии несоответствия требованиям закона.
Дюфрен добавил, что эта ситуация показывает, что канадское законодательство о приватности нуждается в обновлении, чтобы его офис мог накладывать штрафы и выдавать обязательные предписания.
Министр по вопросам искусственного интеллекта Эван Соломон ранее заявил о намерении представить обновленный закон о защите персональных данных. Вопрос о том, успеют ли они сделать это до летних каникул Палаты общин, пока остается открытым.
Либеральное правительство уже дважды пыталось изменить закон о приватности для частного сектора, но оба законопроекта так и не стали законом.
Канада стала одной из юрисдикций, проводящих проверки по теме сексуализированных дипфейков наряду с Великобританией, Евросоюзом и Калифорнией. Дюфрен отметил, что искусственный интеллект и другие новые технологии «питаются» массовым сбором и использованием данных, включая персональную информацию.