Кристофер Рен делает солидное впечатление от Илона Маска.
Рен — менеджер по продукту в Reality Defender, компании, которая производит инструменты для борьбы с дезинформацией ИИ. Во время видеозвонка на прошлой неделе я видел, как он использовал вирусный код GitHub и одну фотографию, чтобы создать упрощенную дипфейк Илона Маска, который отображается на его собственном лице. Это цифровое олицетворение должно было продемонстрировать, как может работать новый инструмент обнаружения искусственного интеллекта стартапа. Когда Рен маскировался под Маска в нашем видеочате, кадры разговора активно отправлялись в пользовательскую модель Reality Defender для анализа, а виджет компании на экране предупредил меня о том, что я, вероятно, смотрю на дипфейк, созданный искусственным интеллектом. а не настоящий Илон.
Конечно, я никогда не думал, что мы разговариваем по видеосвязи с Маском, и демонстрация была построена специально для того, чтобы технология ранней стадии Reality Defender выглядела впечатляюще, но проблема вполне реальна. Дипфейки видео в реальном времени представляют собой растущую угрозу для правительств, бизнеса и частных лиц. Недавно председатель комитета Сената США по международным отношениям по ошибке снял видеозвонок с кем-то, выдававшим себя за украинского чиновника. Международная инжиниринговая компания потеряла миллионы долларов в начале 2024 года, когда одного сотрудника обманули с помощью фейкового видеозвонка. Кроме того, аналогичные методы используются в любовных аферах, нацеленных на обычных людей.