Искусственный интеллект способствует распознаванию фальшивых новостей, но может снижать способность к самостоятельному принятию решений.
С увеличением sophistication инструментов искусственного интеллекта, на онлайн-пространстве все чаще появляются отредактированные изображения и вводящие в заблуждение заголовки.
Хотя искусственный интеллект показал свою эффективность в выявлении фальшивого контента, новые исследования указывают на тревожные последствия чрезмерной зависимости от данными технологиями.
Исследователи считают, что если пользователи слишком часто обращаются к ИИ для оценки достоверности информации, это может снижать их способность самостоятельно делать такие выводы.
На протяжении четырех недель исследователи наблюдали за 67 участниками, предлагая им оценить правдивость пар изображений и новостей.
Результаты показывают, что ИИ-помощники, такие как ChatGPT или Claude, могут существенно помочь пользователям в выявлении фальшивых новостей. Но с увеличением зависимости от этих помощников способность пользователей к идентификации дезинформации падает.
Участники исследования также отметили, что ИИ часто сосредоточен на предоставлении верных ответов, а не на развитии самостоятельного мышления. Это, в свою очередь, может ослабить способность человека к здравому суждению в долгосрочной перспективе.
«Взаимодействуя с ИИ, нам кажется, что мы справляемся лучше, но множество исследований показывают, что это ощущение бывает обманчивым», — сказала Анку Рани, аспирантка Массачусетского технологического института и соавтор исследования.
Вам также может понравиться
В рамках эксперимента участники оценивали фейковые новости и изображения с помощью и без ИИ-помощника на базе GPT-4, интегрированного с поиском Google. Чат-бот мог предупреждать о возможных подделках, например, указывая на необходимость внимательного анализа полицейских значков на фотографиях.
Исследовательская группа оценивала, насколько ИИ помогает пользователям принимать верные решения и как со временем меняется их самостоятельность в оценках.
Результаты показали явный компромисс. Искусственный интеллект улучшил способности участников к правильным решениям на 21%, но их состояния при оценке новых изображений без помощи ИИ снизились на 15,3% к четвертой неделе эксперимента.
Авторы исследования пришли к выводу, что ИИ может принести немедленную пользу, но также стоит на пути ухудшения способности к критическому мышлению в долгосрочном периоде.
Риск когнитивной зависимости в эпоху ИИ.
Проблемы, связанные с чрезмерным использованием ИИ, не новы. В прошлом калькуляторы и системы GPS подвергались критике за снижение навыков устного счета и навигации у людей.
Исследование, опубликованное в 2025 году в журнале Lancet, предлагает, что врачи, применяющие ИИ для диагностики рака, обычно сталкиваются со снижением способности к самодиагностике в долгосрочной перспективе.
Тем временем нейробиолог из Института возможностей предупреждает о возможных опасностях, если слишком большая часть мыслительной активности будет перенаправлена на ИИ – это может ослабить защитные механизмы мозга против когнитивных нарушений.
Анализ, выполненный Массачусетским технологическим институтом, показывает, что характер взаимодействия ИИ с пользователями имеет важное значение. Системы, предлагающие лишь прямые ответы, могут приводить к пассивному восприятию информации, тогда как те, что задают открытые вопросы или предлагают пошаговые инструкции, способствуют критическому мышлению.
В исследовании отмечается, что многие участники склонны доверять и следовать рекомендациям ИИ, основываясь на ощущении компетентности системы. Примечательно, что около четверти участников считали, что их навыки выявления дезинформации улучшаются, несмотря на негативные фактические результаты.
Вам также может понравиться
От чат-ботов с искусственным интеллектом, управляющих административными процедурами, до онлайн систем для проведения совещаний и «безбумажных конференц-залов» — многие районы и города Хошимина активно внедряют инновации, применяя технологии для улучшения качества обслуживания населения.
Однако авторы исследования подчеркивают наличие определенных ограничений. Большинство участников были из США и Великобритании, что затрудняет подтверждение, наблюдается ли подобный эффект в странах с различными культурными подходами и образовательными системами. К тому же, длительность исследования в четыре недели не позволяет полностью охватить влияние долгосрочной зависимости от ИИ.
Исследователи считают, что данные выводы особенно актуальны для образования, где ИИ все чаще становится вспомогательным инструментом обучения. Важность результатов также возрастает с учетом распространения дезинформации в социальных сетях, включая новости, изображения и заявления о здоровье и политике.
«В условиях растущей мощи искусственного интеллекта важно, чтобы эти технологии способствовали развитию критического мышления, а не создавали когнитивную зависимость. Это ключ к защите общества от дезинформации», — подчеркнула исследовательская группа.
Источник: https://baovanhoa.vn/nhip-song-so/phu-thuoc-vao-chatbot-ai-co-the-lam-suy-giam-tu-duy-phan-bien-238545.html