Искусственный интеллект трансформирует как атаку, так и защиту.
Ранее для создания поддельных видео или мошеннических сценариев требовались значительные усилия и ресурсы со стороны злоумышленников. Искусственный интеллект значительно облегчает эту задачу.
«ИИ значительно упрощает создание фишинговых инструментов и расширяет возможности атак», — отметил Нгуен Гиа Хунг, менеджер по архитектуре решений Amazon Web Services (AWS) во Вьетнаме.
Таким образом, цифровое мошенничество становится доступным не только для некомпетентных пользователей. ИИ способен генерировать все более реалистичный поддельный контент, используя изображения, голоса и открытые данные, нацеленные на как частных лиц, так и организации.
В то же время, ИИ также укрепляет защитные средства.
Роберт Лейба, вице-президент вьетнамского отделения ISC2, заявил: «Нападающий может работать быстрее, но защитник тоже может стать более быстрым, сильным и выносливым».
Когда обе стороны ускоряют темпы, традиционный метод ожидания инцидентов перед принятием мер становится недостаточным. Кибербезопасность должна перейти к проактивному обнаружению и предотвращению угроз.
С расширением полномочий искусственного интеллекта возникают новые риски.
Риски могут приходить не только от внешних хакеров, но и от переуполномоченного ИИ внутри системы. По словам доктора Нгуен Фуонг Ань, профессора-исследователя Университета Квебека (Канада) и директора по ИИ в инновационном центре Суинберна, высокая точность модели не всегда достаточна для практического применения.
«Одной лишь точности недостаточно. Нужно также понимать, насколько надежна система ИИ для работы в реальных условиях», — добавила доктор Нгуен Фуонг Ань.
Также вам может быть интересно
В настоящее время большинство систем ИИ продолжают лишь анализировать, предсказывать и давать рекомендации, а окончательные решения принимаются людьми. Однако с развитием агентного ИИ система может самостоятельно планировать, применять различные инструменты и выполнять комплексные задачи. Это поднимает вопрос не о том, что может делать ИИ, а насколько он может быть автономным.
Генеральный директор XBrain, г-н Нго Мань Ха, подчеркивает, что для эффективной работы ИИ необходимы механизмы контроля и одобрения со стороны человека.
В свою очередь, Фан Фу Тхуан, специалист по кибербезопасности из FPT Smart Cloud, предупредил: «Возможности ИИ развиваются очень быстро, тогда как наши управленческие способности не успевают за этой динамикой. Именно в этом разрыве скрываются многочисленные риски».
Кибербезопасность – это не только защита данных.
С увеличением степени интеграции ИИ в операционные процессы, расширяются и сферы обеспечения безопасности.
Если система имеет возможность принимать решения самостоятельно, риск заключается не только в краже данных, но и в том, что такие решения могут быть предвзятыми, подделанными или непроверяемыми. «Защита данных уже недостаточна. Поскольку ИИ все чаще принимает решения независимо, мы должны обеспечивать безопасность этих решений», — отметил доктор Фам Ван Дай, руководитель отдела интеллектуальных ИТ-технологий в рамках программы Столичного университета.
Это требует четкого определения ситуаций, когда необходима человеческая интервенция. Чем более автономными становятся технологии, тем четче должна быть человеческая ответственность.
Обучение инженеров решению сложных задач.
Также вам может быть интересно
Эти изменения также требуют новых навыков от специалистов в области технологий.
Студентам недостаточно просто овладеть популярными инструментами; им нужно понимать, как эти системы работают на практике, где могут возникнуть риски, и как работать с технологиями, которые появились после их поступления в университет.
«Студенты должны не только изучить основные принципы безопасности, но и применять эти знания в реальных бизнес-средах, чтобы быть готовыми к будущим технологиям», — подчеркнул доктор Фам Ван Дай.
Swinburne Vietnam активно работает над подготовкой специалистов по кибербезопасности, искусственному интеллекту, разработке программного обеспечения, анализу данных и IoT. Благодаря международным программам, реальным проектам и таким форумам, как SWIN-CRIDS, студенты могут непосредственно сталкиваться с проблемами, актуальными для бизнеса.
В мире, где технологии быстро меняются, будущим инженерам нужно осознавать не только как создавать системы, но и как устанавливать ограничения, управлять рисками и нести ответственность за результаты технологий.
Источник: https://dantri.com.vn/giao-duc/ai-day-nhanh-cach-doanh-nghiep-van-hanh-and-bai-toan-nhan-luc-cong-nghe-20260815142003938.htm