Midjourney планирует выпустить обновленный веб-инструмент, который позволит пользователям редактировать любые загруженные изображения из Интернета с помощью генеративного искусственного интеллекта Midjourney.
Обновленный инструмент, который, по словам генерального директора Midjourney Дэвида Хольца, будет выпущен «в начале следующей недели», также позволит пользователям повторно текстурировать объекты на изображениях, чтобы «перекрашивать» их цвета и детали в соответствии с подписями.
Редактирование существующих изображений с помощью ИИ в последнее время стало горячей темой. Такие платформы, как Meta, боролись с тем, как маркировать изображения, отредактированные с помощью инструментов искусственного интеллекта, а не созданные с нуля с помощью модели искусственного интеллекта, в то время как такие компании, как Google, выпустили мощные функции искусственного интеллекта, которые не дают визуальных указаний на то, что изображения были модифицированы с помощью искусственного интеллекта.
В прошлом году Midjourney взяла на себя обязательство использовать свойство IPTC Digital Source Type — технический стандарт, который встраивает метаданные в изображения, обозначающие, что они были созданы искусственным интеллектом. Однако компания является одной из немногих крупных платформ искусственного интеллекта, которая не использует C2PA — технологию метаданных, которая отслеживает полное происхождение изображения, включая оборудование и программное обеспечение, использованное для его создания.
В сообщении на официальном сервере Midjourney в Discord Хольц заявил, что обновленный инструмент для работы с изображениями будет ограничен «подмножеством текущего сообщества», с усилением человеческой модерации, а также «новыми, более продвинутыми модераторами с искусственным интеллектом», чтобы попытаться предотвратить злоупотреблять.
«Честно говоря, мы не уверены, как точно ограничить развертывание этой функции», — сказал он. Midjourney собирает отзывы сообщества посредством опроса, который будет использоваться, чтобы определить, какие пользователи получат доступ первыми.
Выпуск подобных инструментов редактирования без надлежащих мер безопасности сопряжен с риском. Они могут способствовать массовому нарушению авторских прав или способствовать распространению вводящих в заблуждение дипфейков.
Дипфейки распространяются в социальных сетях со скоростью лесного пожара, из-за чего становится сложнее отличить правду от дезинформации. Совсем недавно фальшивые изображения разрушений и человеческих страданий, созданные генеративным искусственным интеллектом, заполонили сеть после урагана «Хелен».
По данным компании Clarity, занимающейся обнаружением дипфейков, в этом году было создано и опубликовано на 900% больше дипфейков по сравнению с аналогичным периодом прошлого года. Понятно, что это вызывает тревогу. Недавний опрос YouGov показал, что 85% американцев обеспокоены распространением в Интернете вводящих в заблуждение дипфейков.
В отсутствие закона, криминализирующего дипфейки на федеральном уровне в США, более 10 штатов приняли законы, запрещающие выдачу себя за другое лицо с помощью ИИ. Закон Калифорнии, который в настоящее время находится в тупике, станет первым, который наделит судей полномочиями приказывать удалять плакаты с дипфейками или потенциально грозить денежными штрафами.
Midjourney не совсем яркий пример ответственного внедрения ИИ. (Например, на нее подали в суд за предполагаемое использование контента, защищенного авторским правом, для обучения своих генеративных моделей искусственного интеллекта.) Но в последние месяцы платформа предприняла шаги по ограничению распространения дипфейков, включая фильтры для политических деятелей, приведших к президентству США. выборы.