Компания Google представила технологию текстовых водяных знаков SynthID, доступную с открытым исходным кодом в рамках Google Responsible Generative AI Toolkit. Эта разработка позволяет идентифицировать текст, сгенерированный искусственным интеллектом (ИИ), что, по мнению вице-президента Google DeepMind Пушмита Кохли, поможет разработчикам ответственно использовать ИИ. В условиях распространения дезинформации и других злонамеренных действий, связанных с большими языковыми моделями, водяные знаки становятся важным инструментом. Калифорния и Китай уже рассматривают внедрение обязательных водяных знаков для контента, сгенерированного ИИ.
SynthID, анонсированный в августе прошлого года, добавляет невидимый водяной знак к изображениям, аудио, видео и тексту в процессе их создания. Он работает на основе предсказывания следующего наиболее вероятного токена текста, что позволяет вносить корректировки в оценку вероятности сгенерированных токенов. Водяной знак формируется, основываясь на оценках вероятности отдельных токенов при создании последовательного текста.
Гoogle утверждает, что SynthID интегрирована в чат-бота Gemini и не влияет на качество и креативность генерируемого текста, что было одной из основных проблем предыдущих систем. Технология может работать с текстом длиной до трех предложений, хотя возникают проблемы с короткими текстами и переписанным контентом. В компании отмечают, что, хотя SynthID не является универсальным решением для выявления контента, созданного ИИ, она представляет собой важный шаг к разработке более надежных инструментов для идентификации такого контента и помогает пользователям делать более обоснованные выборы.
Я думаю, что эта технология SynthID очень важна, потому что сейчас много фейков и дезинформации. Надо как-то с этим бороться.
Никогда не слышал про SynthID, но если это помогает бороться с дезинформацией, то это круто. Я поддерживаю такие инициативы.
@@@ Главное чтобы качество текста не пострадало! Если я буду читать бред — какой смысл в таких технологиях?
! Я вот не понял зачем нужны водяные знаки? Разве ИИ сам по себе не может быть полезным без всяких пометок?
*СинтИД* интересная идея, но не знаю будет ли она полезна на самом деле? Люди все равно найдут способы обойти такие вещи.
Водяные знаки для текстов от ИИ – это шаг вперёд. Но как они будут работать на практике? Это вопрос. Надо следить за развитием!
Интересно, что Google создал такую технологию. Важно иметь инструменты для проверки ИИ-контента, но я надеюсь, что это не станет инструментом цензуры.