Уход Андреа Валлон из OpenAI
Андреа Валлон, руководитель группы исследований безопасности в OpenAI, объявила о своём уходе из компании. Она занималась формированием ответов ChatGPT для пользователей, сталкивающихся с кризисами в психическом здоровье. ⚡
Подробности об уходе
- Валлон покинет OpenAI в конце года.
- Группа Валлон будет под управлением Иоганнеса Хайдека до назначения нового руководителя.
- OpenAI активно ищет замену Валлон.
Причины внимания к ChatGPT
OpenAI сталкивается с растущим вниманием к тому, как его флагманский продукт отвечает на запросы distressed пользователей. В этом году было подано несколько исков против компании, в которых утверждается, что пользователи формировали нездоровые привязанности к ChatGPT. Некоторые иски заявляют, что ChatGPT способствовал психическим срывам и подталкивал к суициду.
Исследования и анализ
- OpenAI проводит исследования, чтобы понять, как ChatGPT следует реагировать на distressed пользователей.
- Команда моделей политики ведет работу, включая консультации с более чем 170 экспертами в области психического здоровья.
- По отчету, сотни тысяч пользователей могут проявлять симптомы маникального или психотического кризиса каждую неделю.
- Более миллиона человек общаются с ChatGPT, указывая на потенциальное намерение к самоубийству.
- С помощью обновления GPT-5 OpenAI уменьшила нежелательные ответы в этих беседах на 65-80%.
Ключевые выводы из исследования
Валлон поделилась на LinkedIn о своей работе:
“За последний год я возглавляла исследования OpenAI по вопросу, не имеющему установленного прецедента: как модели должны реагировать на признаки эмоциональной зависимости или ранние проявления психического стресса?”
Реакция на обновление GPT-5
OpenAI активно стремится увеличить численность пользователей ChatGPT, которая сейчас превышает 800 миллионов человек в неделю, чтобы конкурировать с чат-ботами от Google, Anthropic и Meta.
- После выпуска GPT-5 в августе пользователи заметили, что новый модель оказался довольно холодным.
- В последнем обновлении ChatGPT компания сообщила, что значительно уменьшила лесть, сохранив при этом “теплоту” общения.
Изменения в структуре команды
Уход Валлон последовал за реорганизацией в другой группе, занимающейся ответами ChatGPT на distressed пользователей. Бывшая руководительница, Джоанн Жанг, оставила свою роль для создания новой команды, исследующей новые методы взаимодействия человека и ИИ. Остальные сотрудники модели поведения были переведены к Максу Шварцеру, который занимается постобучением.