Ключевые выводы ZDNET
Новые водяные знаки на контенте Claude вызывают недовольство у многих пользователей. Реакция общества показывает приоритеты компании и излишнюю зависимость людей от инструментов ИИ.
- Чтобы избежать водяных знаков, пишите сами.
Начало проблемы с водяными знаками
На прошлой неделе компания Anthropic объявила о введении водяных знаков на текстовые ответы ряда своих ИИ через Claude, чтобы соответствовать статье 50 Закона ЕС о ИИ, которая требует от компаний прозрачности в отношении генерируемого ИИ контента. Общественное возмущение по поводу водяных знаков возросло так же быстро, как и количество инструментов для их удаления на GitHub.
Как работают водяные знаки
Anthropic опубликовала разъяснения о том, как будут работать водяные знаки. Водяные знаки будут привязываться к тексту на основе выбора определенных слов. ИИ выбирает слово одно за другим, опираясь на вероятностный подход.
- Пример: синонимы, такие как «облачный» и «серый» в предложении о погоде, имеют похожее значение.
- Эти «незначительные» выборы слов создают шаблон в сгенерированном тексте.
Расследование возмущения
Некоторые технологии, такие как Джон Грубер, выражают недовольство этой методикой. Грубер утверждает, что выбор слов не является «незначительным» и, что водяные знаки могут «искажать семантику» вывода Claude.
- Он подчеркивает, что каждое слово имеет значение.
- Вопрос: может ли Claude быть арбитром «лучших» слов?
Необходимость прозрачности в ИИ
Цель политики не всегда заключается в улучшении качества продуктов, а также в учете того, что компания, стоящая за этим продуктом, не делает или делает недостаточно. Статья 5 Закона ЕС о ИИ именно об этом.
- «Неприемлемо, чтобы инструмент жертвовал ясностью и качеством ради скрытых подсказок о происхождении текста», — пишет Грубер.
Почему стоит писать самостоятельно
Некоторые справедливые доводы о водяных знаках Anthropic также существуют. Например, Сара Симон, основатель NoCodeLab.ai, отмечает, что «лабы использовали наш контент для накопления богатства без согласия». Это вызывает вопросы о технике водяных знаков.
Запутанность и недовольство
- Исследуя AI, стремясь автоматизировать работу, мы сталкиваемся с тем, что инструменты ставят на работы следы, что создает ощущение предательства.
Заключение
Мы не можем позволить себе думать, что Claude или любой другой ИИ-продукт является вашим личным помощником. Ожидать от них постоянства или приоритета — не рационально. Лучше инвестировать в собственное написание и контроль за качеством контента.