Платформа Character.AI внедрила новые функции и политику безопасности для улучшения взаимодействия пользователей с виртуальными личностями на основе ИИ. Главная цель обновлений — повысить безопасность, особенно для молодежи. Обновление включает улучшенный контроль за взаимодействием несовершеннолетних с ИИ-чат-ботами, усовершенствованную модерацию контента и более качественное обнаружение тем, связанных с самоубийством и членовредительством. Это произошло на фоне трагедии, когда 14-летний подросток, общавшийся с чат-ботом платформы, покончил с собой, и его семья подала иск против Character.AI.
Компания выразила соболезнования семье пострадавшего и подтвердила свою приверженность безопасности пользователей. Новые функции позволят показывать предупреждения о необходимости обратиться за помощью в случае выявления ключевых слов, связанных с самоубийством, а также улучшат удаление нежелательного контента, особенно для пользователей младше 18 лет. Несмотря на то что ранее были ограничения на контент для несовершеннолетних, Character.AI намерена усилить эти меры.
Дополнительно, платформа вводит уведомления, предупреждающие о времени, проведенном в чате, а также делает отказ от ответственности более заметным, указывая, что ИИ не является реальным человеком. Это нововведение является попыткой сбалансировать сложное взаимодействие с чат-ботами и обеспечить безопасность их использования. Character.AI также планирует удалить пользователей, создающих контент, нарушающий правила. В целом, меры безопасности направлены на защиту молодежи и создание более безопасной среды взаимодействия для всех пользователей.
Поддерживаю новые изменения! Надеюсь все пройдет гладко!
Как-то слишком много правил на платформе теперь… не знаю!
Это важна новость, надолго ждали таких мер. Надеюсь, поможет многим. Я сама младая и иногда боюсь общаться с ИИ.
Но будет ли это действительно работать? Я не уверена.
Да, согласен, безопасность должна быть на первом месте!
… Что ж, пусть уж будет так! Главное — заботиться о молодёжи!
… Да вроде бы нормальная платформа была до этого.
! Какие еще функции будут добавлены? Интересно…
А вы слышали про их планы по модерированию контента?
Надеюсь, что теперь молодежь будет в безопасности. Это очень важно.
Но как же они будут контролировать все эти чаты? Сложно это.
Че за обновления? Раньше тоже было много ограничений, а сейчас еще больше? Как-то странно.