/13269045/original.jpg)
Источник: rawpixel.com (CC0)
Согласно оценкам различных ведомств, ущерб от инцидентов в области информационной безопасности в 2025 году может достигнуть почти 200 миллиардов рублей. По данным МВД, за первые пять месяцев текущего года количество преступлений, совершенных с использованием информационно-телекоммуникационных технологий, сократилось более чем на 31%. Однако специалисты по информационной безопасности подчеркивают, что развитие технологий ИИ предоставляет киберпреступникам новые возможности, позволяя им эволюционировать методы нападения на всех стадиях — от разведки до реализации атаки.
Например, с помощью дипфейков мошенники создают поддельные голоса и образы. Сегодня также автоматизированы сами механизмы атаки. В терроризме используются автономные ИИ-боты, которые проникают в корпоративные сети без человеческого участия, находят уязвимости на устройствах и могут одновременно атаковать тысячи сотрудников. ИИ-боты уже способны анализировать социальные профили для персонализации сообщений и применяют многоступенчатые схемы обмана для повышения доверия, начиная с электронных писем, продолжая СМС и даже имитируя телефонные звонки. По данным внутренних исследований Sitronics Group, 68% людей не могут отличить общение с ИИ-ботом, а 52% готовы предоставить ему конфиденциальные данные.
Аналитики отмечают, что в 2023 году специалисты по информационной безопасности столкнутся с новым вызовом – AI Worm. Исследователи ряда международных организаций предупредили о «адаптивном черве», который самостоятельно проникает в сеть, находя уникальные уязвимости на каждом устройстве без участия человека, с целью полного контроля над инфраструктурой с минимальными затратами. Опасность этого червя в его «умности» и способности изменять стратегию за считанные миллисекунды. Ожидается, что реальные инциденты с AI Worm могут быть зафиксированы уже в этом году.
В Sitronics Group подчеркивают важность внедрения решений для анализа поведенческих аномалий в сети, вместо простого использования сигнатур вирусов, поскольку ИИ-черви не имеют фиксированного кода. Также необходимо четко разграничивать доступ ИИ к базам данных, если в компании используются корпоративные ИИ-ассистенты, и внедрять фильтры для проверки промптов на наличие вредоносного кода или скрытых инструкций.