Ключевые выводы из новостей OpenAI
- OpenAI теперь использует метаданные C2PA и водяные знаки SynthID.
- Скрытые пиксельные сигналы помогут идентифицировать изображения, созданные ИИ.
- Скоро появится публичный инструмент верификации OpenAI.
Сегодня OpenAI объявила о внедрении сигналов подлинности контента в свою экосистему изображений. Это означает, что изображения, созданные ИИ, теперь будут помечаться как таковые. Этот процесс не новый, ведь OpenAI и другие инструменты ИИ внедряют метаданные в изображения с 2024 года. Однако новые технологии значительно улучшили безопасность идентификации изображений.
Что такое стеганография?
Стеганография — это практика встраивания криптографической информации «на виду». По сути, это методы скрытия сообщений так, чтобы их намерение не было очевидно. Например, в V веке до нашей эры Геродот описывал, как вождь Хистиай передал сообщение с помощью татуировки на голове своего слуги, которую можно было увидеть только после отращивания волос. Эта техника использовалась даже во время Второй мировой войны.
Стеганография применялась в цифровых изображениях для встраивания текстовой информации в пиксели, что позволяет создателям встраивать информацию о владельце изображения.
Метаданные в изображениях
С 2024 года OpenAI внедряет метаданные в изображения, созданные DALL-E 3, ImageGen и Sora. Инструменты, такие как Content Credentials, могут просматривать эти данные. Вот примеры изображений, созданных ChatGPT и Nano Banana, где метаданные доступны.
При скриншотах метаданные могут быть потеряны, что является проблемой, которую OpenAI и Google стараются решить. OpenAI заявляет, что они работают над этим уже некоторое время и используют визуальные водяные знаки и аудио водяные знаки.
Стандартизированные метаданные
OpenAI стала соответствовать стандартам C2PA, предоставляет платформам надежный способ чтения и передачи информации о происхождении контента. C2PA является коалицией, которая обеспечивает соответствие спецификации метаданных.
Скрытые цифровые водяные знаки
SynthID — это мультиформатный механизм цифрового водяного знака, который встраивает невидимые водяные знаки в текст, изображения, видео и аудио. Этот технологический подход позволяет встраивать сигнал в изображения, который остается даже после изменения размера или обрезки.
Так, даже если Nano Banana использует свои маленькие водяные знаки, SynthID создает более комплексный сигнал, который невозможно заметить невооруженным глазом, но который можно распознать с помощью детекторов.
Новый публичный инструмент верификации
Вместе с объявлением о соответствии C2PA и возможностях SynthID, OpenAI также представила публичный инструмент верификации, который позволяет проверять, были ли изображения созданы средствами OpenAI. Инструмент доступен по адресу openai.com.
OpenAI надеется, что сочетание стандартов, водяных знаков и публичной верификации создаст более совместимую экосистему подлинности контента.
Заключение
Как вы думаете, стоит ли проверять происхождение изображений, если инструмент это упростит? Напишите ваше мнение в комментариях ниже!