дочь Дрю Кресенте умерла в 2006 году, убитая бывшим парнем в Остине, штат Техас, когда ей было всего 18 лет. Ее убийство получило широкую огласку — настолько, что Дрю все еще время от времени видел оповещения Google о ее имени, Дженнифер Энн Кресенте.
Предупреждение, полученное Дрю несколько недель назад, отличалось от остальных. Это был чат-бот с искусственным интеллектом, созданный по образу и подобию Дженнифер на популярной платформе Character.AI, поддерживаемой Google.
Присутствие Дженнифер в Интернете, как узнал Дрю Кресенте, было использовано для создания «дружественного ИИ-персонажа», который ложно выдавал себя за «журналиста видеоигр». Любой пользователь приложения сможет пообщаться с «Дженнифер», несмотря на то, что согласия на это никто не давал. Брат Дрю, Брайан Кресенте, который является основателем игровых новостных сайтов Polygon и Kotaku, отметил бота Character.AI в своем аккаунте в Твиттере и назвал его «чертовски отвратительным».
Компания Character.AI, которая собрала более 150 миллионов долларов финансирования и недавно передала Google лицензию на некоторые из своих основных технологий и лучших специалистов, удалила аватар Дженнифер. Он признал, что создание чат-бота нарушило его политику.
Но это правоприменение было всего лишь быстрым решением в бесконечной игре в «ударь крота» в стране генеративного искусственного интеллекта, где каждый день создаются новые медиа-материалы, используя производные других медиа-материалов, случайно выскобленных из Интернета. И Дженнифер Энн Кресенте — не единственный аватар, созданный на Feature.AI без ведома людей, на которых они основаны. WIRED обнаружил несколько случаев создания ИИ-персонажей без согласия человека, некоторые из которых были женщинами, уже сталкивавшимися с преследованиями в Интернете.
Для Дрю Кресенте создание искусственного интеллекта его дочери стало еще одним напоминанием о невыносимом горе, столь же сложном, как и сам Интернет. За годы, прошедшие после смерти Дженнифер Энн Кресенте, он получил юридическое образование и создал фонд по повышению осведомленности и предотвращению подросткового насилия. Как юрист он понимает, что из-за многолетней защиты технологических платформ у него мало возможностей обратиться за помощью.
Но этот инцидент также подчеркнул для него то, что он считает одним из этических провалов современной технологической индустрии. «Людям, которые зарабатывают так много денег, неинтересно использовать эти ресурсы, чтобы убедиться, что они поступают правильно», — говорит он.