Zoom хочет превратить вас в фотореалистичный аватар, анимированный с помощью искусственного интеллекта, но не раньше следующего года.
Предстоящая функция, анонсированная сегодня на ежегодной конференции разработчиков Zoom, позволит перевести видеоклип, который пользователи записывают о себе, в цифровой клон — с головой, плечами и плечами. Пользователи смогут ввести сценарий того, что, по их мнению, должен сказать цифровой двойник, а Zoom будет генерировать звук, который синхронизируется с движениями губ аватара.
Смита Хашим, директор по продуктам Zoom, рассказала TechCrunch, что пользовательские аватары были разработаны, чтобы помочь людям «асинхронно» общаться с коллегами «быстрее и продуктивнее».
«Аватары экономят пользователям драгоценное время и усилия при записи клипов и позволяют им масштабировать создание видео», — сказал Хашим.
Однако они также могут представлять собой риск дипфейка.
Ряд компаний разработали технологию искусственного интеллекта для цифрового «клонирования» лица человека и создания пар, которые клонируют с достаточно естественно звучащей синтетической речью. Tavus, например, помогает брендам создавать виртуальных персонажей для персонализированной видеорекламы, а Microsoft в прошлом году запустила сервис, который может создавать убедительные цифровые дублеры для человека.
Но многие из этих инструментов реализуют конкретные и строгие меры защиты от неправильного использования. Tavus требует устного заявления о согласии, а Microsoft требует, чтобы ее клиенты получали письменное разрешение и согласие от любого представленного аватара.
Zoom дал более расплывчатые сведения о мерах безопасности.
Указывая на политику использования Zoom, запрещающую неправомерное использование, Хашим сказал, что компания встраивает «многочисленные меры безопасности» в свою функцию пользовательского аватара, включая «расширенную аутентификацию» и водяные знаки.
«Мы продолжим пересматривать и добавлять меры безопасности по мере необходимости в будущем», — сказал Хашим. «Мы используем (…) технологию, чтобы было видно, когда клип создается с аватаром, и (…) чтобы обеспечить целостность контента, созданного аватаром».
Цифровые подобия Zoom соответствуют более широкому видению генерального директора Эрика Юаня по созданию ИИ, который однажды сможет говорить за вас на собраниях Zoom, отвечать на электронные письма и принимать телефонные звонки.
Но эти сходства появляются в то время, когда дипфейки распространяются со скоростью лесного пожара в социальных сетях, из-за чего становится сложнее отличить правду от дезинформации.
В этом году дипфейки с участием президента Джо Байдена, Тейлор Свифт и вице-президента Камалы Харрис собрали миллионы просмотров и репостов. Совсем недавно фальшивые изображения разрушений и человеческих страданий, созданные генеративным искусственным интеллектом, заполонили сеть после урагана «Хелен».
Дипфейки также использовались для нападения на отдельных лиц — например, выдавая себя за близких. По данным Федеральной торговой комиссии, в прошлом году убытки, связанные с мошенничеством с выдачей себя за другое лицо, превысили 1 миллиард долларов.
Как именно Zoom не позволит мошенникам использовать свой инструмент для создания видеороликов, на которых люди говорят то, чего они не говорили, в злонамеренных целях? Это еще не ясно. На макете, предоставленном компанией, виден видимый водяной знак в правом верхнем углу видеоролика с персонализированным аватаром. Но подобные водяные знаки можно легко удалить с помощью инструментов записи экрана.
Мы надеемся узнать больше ближе к первой половине 2025 года, когда Zoom планирует выпустить собственные аватары для Zoom Clips, своего асинхронного видеоинструмента, в рамках премиум-дополнения в размере 12 долларов США на пользователя в месяц.
Какие бы шаги Zoom ни предпринял (или не предпринял) в конечном итоге, регуляторные органы постоянно предпринимают усилия, чтобы попытаться отразить поток дипфейков.
В отсутствие закона, криминализирующего дипфейки на федеральном уровне в США, более 10 штатов приняли законы, запрещающие выдачу себя за другое лицо с помощью ИИ. Закон Калифорнии, который в настоящее время находится в тупике, станет первым, который наделит судей полномочиями приказывать удалять плакаты с дипфейками или потенциально грозить денежными штрафами.