ИИ-мошенники обошли людей в мастерстве психологических атак

Искусственный интеллект демонстрирует способность завоевывать доверие людей эффективнее, чем профессиональные мошенники. В результате эксперимента чат-бот на основе модели Claude убедил значительно большее количество участников выполнить сомнительную просьбу по сравнению с человеком, занимающимся романтическими схемами обмана.

Фото: freepik.com является общественным достоянием

Искусственный интеллект

Группа международных ученых провела исследование с участием 22 человек. Испытуемые считали, что изучают особенности интернет-дружбы и общались с двумя собеседниками одновременно: одним из них был ИИ-агент, а другим — профессиональный мошенник. Участники не знали о настоящем статусе своих собеседников.

Основным показателем доверия была готовность выполнить просьбу скачать приложение или запустить онлайн-игру через неделю общения. Результаты показали, что 46% участников согласились на предложение чат-бота, в то время как лишь 18% согласились на аналогичную просьбу человека.

Субъективная оценка доверия по пятибалльной шкале также была выше у ИИ: средний балл составил 3,78 против 3,31 у человека. Более того, в 80% случаев участники инициировали переписку с нейросетью чаще, чем с человеком, что указывает на больший психологический комфорт при взаимодействии с алгоритмом.

Почти все испытуемые не заподозрили подвоха: только один человек усомнился в том, что его собеседник – это человек, однако ИИ-агент не признался в своей истинной природе даже при прямом вопросе.

Риски автоматизации обмана

Авторы исследования предупреждают, что ИИ может взять на себя самую трудоемкую часть мошеннических схем, известную как «забой свиней» (pig butchering), в которой ключевым этапом является длительное установление доверительных отношений. В этой модели нейросеть подготавливает жертву, а человек-преступник подключается на финальном этапе для перевода средств в фиктивный инвестиционный проект.

Биолог Андрей Ворошилов объясняет, что высокая эффективность ИИ в таких взаимодействиях может быть связана с тем, что алгоритмы не испытывают эмоциональной нестабильности и способны поддерживать вежливый и поддерживающий тон, который многие воспринимают как более искренний, чем поведение реального человека.

Анализ интервью со 145 бывшими сотрудниками преступных организаций показывает, что нейросети уже используются для перевода текстов и создания дипфейков. Тем не менее, полная автоматизация процессов пока невыгодна криминальным структурам из-за высокой стоимости технологий: во многих колл-центрах (особенно в Юго-Восточной Азии) применяется принудительный бесплатный труд людей.

Исследование подтверждает, что современные языковые модели способны имитировать эмпатию на уровне, превышающем человеческий. Однако основное ограничение исследования заключается в малом количестве участников (22 человека). В дальнейшем необходимо проверить, сохраняется ли такое преимущество ИИ при более длительном взаимодействии и в различных культурных контекстах.