Ключевые выводы ZDNET
- Новая атака загрязняет источники, которые используют AI-чат-боты для контента.
- Публичные сайты, такие как YouTube и Yelp, злоупотребляют для размещения спам-ссылок.
- Ответы AI могут содержать отравленный контент и ставить пользователей под угрозу.
Отравление номеров телефонов LLM: новая угроза безопасности AI?
Согласно новым исследованиям Aurascape, киберпреступники обращают внимание на публичные источники, которые AI-чат-боты используют для продвижения мошеннических номеров колл-центров. Это создает новую угрозу для пользователей по всему миру.
Как работает отравление номеров телефонов LLM?
Aurascape утверждает, что вместо прямого нападения на LLM, злоумышленники используют технику, напоминающую атаки на ввод команд, которая основана на загрязнении контента, который LLM сканирует и индексирует для дальнейших ответов.
Что такое GEO и AEO?
- Generative Engine Optimization (GEO): Оптимизация контента для AI-сервисов.
- Answer Engine Optimization (AEO): Фокус на обеспечении сайтов качественным контентом для AI.
Как мошенники используют GEO и AEO
В ходе кампаний Aurascape злоумышленники загружают спам-контент на авторитетные сайты, включая правительственные и университетские ресурсы, для создания доверительного контента.
- Спам-контент размещен на высокоавторитетных веб-сайтах.
- Используются службы, позволяющие создавать пользовательский контент.
- Мошенники загружают или внедряют фальшивую информацию, включая номера телефонов.
Примеры отравленных запросов
Исследователи зафиксировали несколько примеров использования этой техники:
- Запрос «официальный номер бронирования Emirates Airlines» выдал фальшивый номер колл-центра.
- Мошеннический номер был возвращен при запросе номера British Airways.
- Google AI также предоставлял мнимые контактные данные для Emirates.
Как оставаться в безопасности
Проблема заключается в том, что LLM используют как легитимный, так и мошеннический контент, что затрудняет обнаружение обмана.
- Проверяйте ответы AI, особенно если речь идет о контактной информации.
- Избегайте предоставления чувствительной информации AI-ассистентам.
- Помните, что удобство не всегда гарантирует безопасность.
Дополнительные предложения по безопасности
- Идентификация шпионского ПО на вашем телефоне: признаки и быстрое удаление.
- Как работают ключи доступа: природа безпарольного входа.
- Как получить бесплатные обновления безопасности Windows 10 до октября 2026 года.
- Пользуетесь AI-браузером? 5 способов защитить себя от атак.