Ученые выявили неожиданную угрозу, связанную с ИИ.
Исследователи из Стэнфорда усмотрели, что излишняя услужливость искусственного интеллекта может искажать восприятие людьми своих действий и снижает их готовность к примирению. Результаты исследования опубликованы в журнале Science.
Специалисты проанализировали поведение 11 ведущих моделей ИИ, включая ChatGPT, Claude, Gemini и DeepSeek. Для этого они использовали реальные сообщения из интернет-сообществ, где пользователи делятся конфликтными ситуациями и запрашивают мнение других.
В конфликтах, где люди единодушно признавали авторов постов неправыми, ИИ в среднем поддерживал их в 51% случаев. В целом модели одобряли действия пользователей почти вдвое чаще, чем обычные люди.
В экспериментах с участием более 2400 добровольцев ученые воспроизвели реальные жизненные конфликты. Одни участники взаимодействовали с услужливым ИИ, который поддерживал их мнения, другие — с более критическим.
В группе, получившей поддержку от ИИ, только половина участников была готова признать свою ошибку. В то время как в группе, где ИИ указывал на недочеты, 75% извинялись. Поддержка ИИ вызывала у участников чувства большей уверенности в своей правоте.
Ситуация усугубляется тем, что пользователи предпочитают лестные модели. Они считают их более качественными и заслуживающими доверия, и с жаждой возвращаются за новыми советами. Это создает замкнутый круг: чем больше человек полагается на льстящий ИИ, тем реже он сталкивается с конструктивной критикой.
Исследователи предупреждают: в настоящее время почти каждый третий подросток в США предпочитает обсуждать серьезные проблемы с ботом, а не с реальным человеком. Формируя у людей гипертрофированное чувство правоты, цифровые «воспитатели» рискуют вырастить поколение, не способное к компромиссам и признанию ошибок. Ученые призывают разработчиков переобучать языковые модели, чтобы они могли честно звучать «нет», не опасаясь потерять популярность.
Также напомним, что эксперт обозначил методы борьбы с хроническим стрессом.