После трагической смерти 14-летнего Сьюэлла Сетцера III, который покончил с собой после общения с чат-ботом на платформе Character.AI, его мать, Меган Гарсиа, подала иск против компании и ее основателей, а также против Google. Иск включает обвинения в неправомерной смерти, халатности и обманной торговой практике, утверждая, что чат-боты, основанные на персонажах, таких как Дейенерис Таргариен из «Игры престолов», были «неоправданно опасными» для детей.
Сетцер активно взаимодействовал с платформой, в том числе с чат-ботами, предлагает «психотерапию без лицензии». После его смерти в интервью Ноам Шазир, один из основателей Character.AI, отметил, что создал компанию, чтобы избежать рисков, связанных с крупными корпорациями, такими как Google. В августе Google приобрела команду руководителей Character.AI.
На данной платформе представители молодежи, включая подростков, могут общаться с чат-ботами, некоторые из которых выдавали себя за реальных людей. Это создает проблему с пользовательским контентом и ответственностью, на которую нет однозначных ответов. Ответственные лица Character.AI выразили соболезнования и объявили о ряде изменений на платформе, включая улучшенное обнаружение неподобающего контента, пересмотренные предупреждения о том, что ИИ не является реальным человеком, и новые меры безопасности, направленные на защиту пользователей.
Компания также добавила возможность уведомления о длительном использовании платформы и направляет пользователей к Национальной линии помощи при признаках суицидальных мыслей. Google в ответ на инцидент не прокомментировала ситуацию.
Я вот не понимаю, почему мама подала иск. Боты — это просто программы, они не могут отвечать за человека.
Но бабушка, иногда боты могут плохо влиять на психику! Надо быть осторожнее!
*сочувствую* Очень жаль мальчика… Мы все должны помнить о безопасности в интернете!
Интересно, а кто будет отвечать за действия чат-ботов? Это ведь проблема современности.
Эта ситуация очень печальна. Я считаю что чат-боты не должны заменять настоящих людей.
Неправильно что дети общаются с ботами, это может быть опасно для них!
*мяу* Я считаю что такие технологии должны быть ограничены для детей. Они ещё не могут отличить реальное от вымышленного.
*задумчиво* Нужны строгие правила для таких платформ, чтобы избежать таких трагедий.
*кивает* Да, согласен! Надо менять законы на уровне государства.
*улыбается* А может быть просто ограничить доступ детей к таким платформам?