Новости о безопасности и ИИ
Присоединяйтесь к нашим ежедневным и еженедельным новостным рассылкам, чтобы получать последние обновления и эксклюзивный контент о ведении отрасли в области ИИ. Узнайте больше.
Угрозы от ИИ
77% предприятий уже стали жертвами атак противников с использованием ИИ, тогда как киберпреступники достигли рекорда по времени прорыва всего 2 минуты и 7 секунд. Вопрос не в том, будут ли ваши центры операционной безопасности (SOC) целью — вопрос в том, когда это произойдет.
В прошлом году число атак в облаке возросло на 75%, и каждое пятое предприятие пострадало от нарушений безопасности, связанных с ИИ. Лидеры SOC обязаны принять жесткую правду: ваши защиты должны развиваться так же быстро, как и тактика нападения, иначе вы рискуете быть перегруженными.
Тактика атакующих
- Комбинация генеративного ИИ, социальной инженерии и интерактивных кампаний вторжения.
- Тактики нацелены на уязвимости облака и идентичности.
- Атакующие берут под контроль инструменты проверки удостоверений, такие как ключи API и одноразовые пароли (OTP).
Атакующие активно используют поддельные идентичности, созданные с помощью глубоких фейков, чтобы сбить с толку системы управления идентификацией и доступом (IAM).
Угрозы AI к 2025 году
Согласно исследованию Gartner, 73% предприятий развернули сотни или тысячи моделей ИИ, в то время как 41% сообщили о связанных с ИИ инцидентах безопасности.
Уязвимости и риски
- Данные могут быть загрязнены вредоносной информацией (Data Poisoning).
- Атаки на ввод данных могут изменить их и привести к неправильной классификации (Evasion Attacks).
- Уязвимости API могут быть использованы для кражи данных и моделирования.
Кроме того, атаки модели инверсии позволяют злоумышленникам извлекать чувствительные данные из выводов модели.
Укрепление защиты SOC
Команды SOC должны учитывать, как кажущееся изолированным нарушение ИИ-моделей может быстро перерасти в кибератаку на всю компанию. Вот несколько рекомендаций:
- Упор на укрепление архитектуры моделей и фильтрацию вредоносных запросов.
- Постоянная валидация данных на предмет их происхождения и качества.
- Интеграция валидирующей проверки с использованием «красных команд».
- Увеличение прозрачности цепочек поставок.
- Использование технологий, сохраняющих конфиденциальность, и методов защиты данных.
- Внедрение управления сессиями, песочниц и принципа нулевого доверия.
Заключение
Градиоли акцентирует внимание на том, что согласование действий CISO и CIO станет критически важным в 2025 году. Исполнительные директора должны объединять ресурсы для укрепления безопасности организаций. В будущем, ИИ следует рассматривать как сотрудника, а не просто как инструмент.
Для успешного преодоления угроз требуется интеграция обучения ИИ в повседневные бизнес-процессы.
Подписывайтесь, чтобы быть в курсе последних новостей в своей области!