Аудио азбука Морзе, зашифрованная информация метаданных или метки в сценах, созданных в виртуальной реальности. Это некоторые из вещей, которые китайское правительство хочет, чтобы компании, занимающиеся искусственным интеллектом, и платформы социальных сетей использовали для правильной маркировки контента, созданного искусственным интеллектом, и борьбы с дезинформацией.
14 сентября Администрация киберпространства Китая разработала новое постановление, цель которого – информировать людей о том, реально ли что-то или это искусственный интеллект. По мере того, как инструменты генеративного ИИ становятся все более совершенными, трудность определить, создан ли контент с помощью ИИ, вызывает самые разные серьезные проблемы: от порнографии без согласия до политической дезинформации.
Китайский режим — не первый режим, решающий эту проблему: Закон Европейского Союза об искусственном интеллекте, принятый в марте этого года, также требует подобных ярлыков; В этом месяце Калифорния приняла аналогичный законопроект. В предыдущих правилах Китая в области ИИ также кратко упоминалась необходимость маркировки генов ИИ.
Однако в этой новой политике более подробно описывается, как водяные знаки ИИ должны быть реализованы на платформах. Впервые оно также пообещало наказать платформы социальных сетей, где контент, созданный искусственным интеллектом, публикуется и распространяется далеко без надлежащей классификации. В результате у компаний, занимающихся искусственным интеллектом, и социальных платформ возникает гораздо больше финансовых и юридических проблем, если они испытывают искушение пойти по короткому пути и не внедрить надлежащие функции маркировки.
Благодаря скорости и инициативности своего законодательства в области ИИ Китай надеется стать доминирующим режимом, определяющим глобальное регулирование ИИ. «Китай определенно опережает как ЕС, так и Соединенные Штаты в модерации контента искусственного интеллекта, отчасти это обусловлено требованием правительства обеспечить политическую согласованность в услугах чат-ботов», — говорит Анджела Чжан, профессор права в Университете Южной Калифорнии, изучающая китайские технологии. правила. И теперь у нее есть еще один шанс сформировать глобальные отраслевые стандарты, потому что «маркировка — это многообещающая область для глобального консенсуса по определенному техническому стандарту», — говорит она.
Контролировать ИИ сложнее, чем кажется
В первой части новый проект постановления требует от поставщиков услуг ИИ добавлять явные ярлыки к контенту ИИ. Это означает водяные знаки на изображениях, «заметные метки уведомлений» при запуске сгенерированного ИИ видео или сцены виртуальной реальности или звуки азбуки Морзе «AI» (· – · ·) до или после аудиоклипа, сгенерированного ИИ.
В той или иной степени эти практики уже применяются в отрасли. Но закон превратит их из добровольных мер в юридическую ответственность и заставит инструменты ИИ со свободными механизмами маркировки догнать их или столкнуться с государственными штрафами.
Но проблема с явными метками заключается в том, что их обычно легко изменить, например, обрезать водяной знак или отредактировать концовку видео. Таким образом, законодательство также требует от компаний добавлять неявные метки в метаданные файлов контента, сгенерированных ИИ, которые должны включать конкретное упоминание об инициализме «AIGC», а также зашифрованную информацию о компаниях, которые создали и распространили этот файл. Он также рекомендует этим компаниям добавлять в контент невидимые водяные знаки, чтобы пользователи не заметили их присутствия.
В действительности внедрение неявных меток в метаданные потребует от гораздо большего числа компаний совместной работы и соблюдения общих правил.