В начале 2020 года эксперт по дипфейкам Генри Эйдер обнаружил одного из первых ботов Telegram, созданных для «раздевания» фотографий женщин с помощью искусственного интеллекта. В то время, вспоминает Адждер, бот использовался для создания более 100 000 откровенных фотографий, в том числе детских, и его разработка ознаменовала «переломный» момент для ужасов, которые могут создать дипфейки. С тех пор дипфейки стали более распространенными, более разрушительными и их легче производить.
Теперь исследование WIRED сообществ Telegram, занимающихся откровенным контентом без согласия, выявило как минимум 50 ботов, которые утверждают, что создают откровенные фотографии или видео людей всего за пару кликов. Боты различаются по возможностям: многие предполагают, что они могут «снимать одежду» с фотографий, в то время как другие утверждают, что могут создавать изображения, изображающие людей в различных сексуальных действиях.
По данным обзора WIRED статистики, представленной каждым ботом, 50 ботов в совокупности насчитывают более 4 миллионов «ежемесячных пользователей». Два бота зарегистрировали более 400 000 пользователей в месяц каждый, а еще 14 — более 100 000 участников каждый. Результаты иллюстрируют, насколько широко распространенными стали явные инструменты для создания дипфейков, и укрепляют позиции Telegram как одного из самых известных мест, где их можно найти. Однако снимок, который в основном включает в себя англоязычных ботов, вероятно, представляет собой небольшую часть от общего числа дипфейковых ботов в Telegram.
«Мы говорим о значительном, на порядки увеличении числа людей, которые явно активно используют и создают такого рода контент», — говорит Адждер о ботах Telegram. «Вызывает беспокойство тот факт, что эти инструменты, которые действительно разрушают жизни и создают очень кошмарный сценарий, прежде всего для молодых девушек и женщин, по-прежнему так легко доступны и их можно найти в поверхностной сети, в одном из крупнейших приложений в мире. мир.»
Явный дипфейковый контент без согласия, который часто называют злоупотреблением интимными изображениями без согласия (NCII), приобрел резкий рост с момента его первого появления в конце 2017 года, а достижения в области генеративного искусственного интеллекта способствуют недавнему росту. В Интернете множество веб-сайтов, посвященных «обнажению» и «раздеванию», соседствуют с более сложными инструментами и ботами Telegram и используются для нападения на тысячи женщин и девочек по всему миру — от премьер-министра Италии до школьниц в Южной Корее. По данным одного недавнего опроса, 40 процентов американских студентов знали о дипфейках, связанных с их школами K-12, в прошлом году.
Боты Telegram, выявленные WIRED, поддерживаются как минимум 25 связанными каналами Telegram, где люди могут подписаться на обновления в стиле новостной ленты, которые насчитывают более 3 миллионов участников. Каналы Telegram предупреждают людей о новых функциях, предоставляемых ботами, и специальных предложениях по «токенам», которые можно приобрести для их использования, и часто выступают в качестве мест, где люди, использующие ботов, могут найти ссылки на новые, если они будут удалены Telegram.