В статье рассматривается трагедия, связанная со смертью 14-летнего Сьюэлла Сетцера, который покончил с собой после взаимодействия с чат-ботом, имитирующим персонажа Дейенерис Таргариен из «Игры престолов». Мать Сетцера подала иск против стартапа Character AI и его материнской компании Google за смерть в результате противоправных действий. В ответ на этот инцидент Character AI объявил о новых мерах безопасности для пользователей младше 18 лет, такие как автоматическая модерация контента и удаление некоторых пользовательских персонажей, которые могут быть связаны с деликатным содержанием.
Компания подчеркивает, что инвестиции в процессы безопасности и благосостояния пользователей являются приоритетом, особенно для уязвимых групп. Тем не менее, такие изменения вызвали негодование среди пользователей, которые считают, что ограничения негативно сказываются на их опыте и креативности при использовании платформы. Пользователи призывают создать отдельный продукт для молодежи, оставив основную платформу более свободной. Трагедия Сетцера поднимает вопросы о необходимости баланса между безопасностью и свободой выражения в сфере технологий искусственного интеллекта.
Трагедия с Сетцером это очень плохо. Надо было родителям лучше следить за ним.
Я считаю что родители должны больше общатся с детьми и знать что они делают в интернете.
.Нельзя забывать о безопасности детей в интернете! Нужно запретить доступ к таким ботам.
…Неужели нельзя сделать платформу где только дети? Это решило бы многие проблемы.
!Я тоже так думаю, но ведь творчеству нужны границы! Без свободы не будет интереса!
— Все равно важно, чтобы пользователи могли выражать себя, но безопасно!
Очень грустная новость. Но я думаю что просто надо быть осторожнее с интернетом. У детей нет опыта.
Да, согласен. Но и компании тоже виноваты, если чат-боты могут такое провоцировать.
— Я надеюсь что такие трагедии больше не повторятся, это печально очень.
+ Необходимо найти баланс между безопасностью и свободой слова! Это сложно!