Стэнфордский семинар о чат-ботах
Понедельно, в течение восьми часов, представители компаний Anthropic, Apple, Google, OpenAI, Meta и Microsoft провели закрытый семинар в Стэнфорде, где обсуждали использование чат-ботов в роли компаньонов и в ролевых играх. Хотя взаимодействие с ИИ обычно рутинное, оно может привести и к серьезным последствиям. Пользователи иногда испытывают эмоциональные срывы во время длительных разговоров с чат-ботами или доверяют им свои мысли о самоубийстве.
Основные моменты семинара
По словам Рина Линтикума, главы политики пользовательского благополучия в Anthropic:
- «Нам нужно проводить серьезные разговоры о роли ИИ в нашем будущем как людей, взаимодействующих друг с другом».
Семинар, организованный Anthropic и Стэнфордом, объединил представителей индустрии, ученых и других экспертов. Участники разделились на небольшие группы для обсуждения новых исследований в области ИИ и разработки рекомендаций по использованию чат-ботов в роли компаньонов.
Роль чат-ботов
Anthropic утверждает, что меньше одного процента взаимодействий с их чат-ботом Claude — это ролевые сценарии, инициированные пользователями; это не то, для чего был создан инструмент. Тем не менее, чат-боты и пользователи, которые любят взаимодействовать с ними как с компаньонами, представляют собой сложную задачу для разработчиков ИИ, которые часто используют различные подходы к безопасности.
Связь человека с технологиями
Из опыта с Тамагочи можно сделать вывод, что люди легко образуют связи с технологиями. Даже если «пузырь» ИИ вскоре лопнет, многие продолжат искать дружеские и угодливые беседы с ИИ, к которым они привыкли за последние несколько лет.
Продуктивные шаги
«Одной из основных целей этого семинара было объединить людей из разных отраслей и областей», — говорит Линтикум.
Рекомендации семинара
Некоторые ранние выводы с мероприятия включают:
- Необходимость более целенаправленных вмешательств внутри ботов, когда выявляются опасные паттерны.
- Более надежные методы проверки возраста для защиты детей.
«Мы действительно обсуждали не только то, можно ли это классифицировать как хорошее или плохое, но и то, как мы можем более проактивно разрабатывать социальные решения и встроить рекомендации», — добавляет Линтикум.
Уже принятые меры
Некоторые из этих инициатив уже начали действовать. Ранее в этом году OpenAI добавила поп-апы во время длительных разговоров с чат-ботами, которые подсказывают пользователям сделать перерыв. На социальных медиа CEO Сам Альтман заявил, что стартап сумел «уменьшить серьезные проблемы с психическим здоровьем», связанные с использованием ChatGPT, и будет ослаблять повышенные ограничения.