Как программы LLM с открытым исходным кодом позволяют командам безопасности опережать развивающиеся угрозы

Модели больших языков с открытым исходным кодом (LLM) продолжают революционизировать ландшафт кибербезопасности, выступая в качестве мощного катализатора для роста инноваций и позволяя как стартапам, так и признанным поставщикам ускорять выход на рынок.

От новых приложений генеративного искусственного интеллекта до передовых инструментов безопасности — эти модели закладывают основу будущего кибербезопасности на основе искусственного интеллекта. Модели с открытым исходным кодом, набирающие популярность в области кибербезопасности, включают LLaMA 2 и LLaMA 3.2 от Meta, Falcon от Technology Innovation Institute, StableLM от Stability AI, а также модели, размещенные на Hugging Face, включая BLOOM от BigScience. Все эти модели получают все большее распространение и использование, во многом благодаря их большей экономической эффективности, гибкости и прозрачности.

Поставщики программного обеспечения для кибербезопасности сталкиваются с растущим набором проблем, связанных с управлением и лицензированием, одновременно позволяя своим платформам масштабироваться в ответ на быстро меняющийся характер разработки LLM с открытым исходным кодом. Разработка архитектуры, которая могла бы быстро адаптироваться и использовать новейшие функции, предоставляемые новейшими программами LLM с открытым исходным кодом, является сложной задачей.

Итамар Шер, генеральный директор и соучредитель Seal Security, недавно встретился с VentureBeat (виртуально), чтобы обсудить основополагающую, но развивающуюся роль программ LLM с открытым исходным кодом в их деятельности. «LLM с открытым исходным кодом позволяют нам масштабировать исправления безопасности для компонентов с открытым исходным кодом способами, которые не могут сделать закрытые модели», — сказал он.

Возможность быстрого масштабирования моделей имеет решающее значение для таких компаний, как Seal, которые используют компоненты с открытым исходным кодом для обеспечения быстрого развертывания исправлений в различных средах. Он добавил, что «LLM с открытым исходным кодом дают нам доступ к сообществу, которое постоянно совершенствует модели, предлагая уровень интеллекта и скорости, который был бы невозможен с помощью проприетарных систем».

Растущее значение LLM с открытым исходным кодом в кибербезопасности

Поставщики кибербезопасности уже давно делают ставку на то, чтобы сделать свои приложения, инструменты и платформы проприетарными, чтобы привязать клиентов к конкретному решению, особенно в области обнаружения и устранения угроз. Однако VentureBeat слышит, что эта стратегия вызывает острую реакцию, что еще больше увеличивает популярность LLM с открытым исходным кодом.

Цикл ажиотажа Gartner в отношении программного обеспечения с открытым исходным кодом в 2024 году отражает растущую популярность программ LLM с открытым исходным кодом, что ставит их на пик завышенных ожиданий. Это размещение отражает то, что VentureBeat слышит о всплеске интереса и внедрения среди поставщиков кибербезопасности и внутри предприятий.

Фото: Gartner, Inc. (8 августа 2024 г.). Цикл ажиотажа в отношении программного обеспечения с открытым исходным кодом, 2024 г. (ID: G00811366). Гартнер, Инк.

Цикл ажиотажа показывает, что зрелость программ LLM с открытым исходным кодом все еще находится на стадии формирования, а проникновение на рынок составляет от 5% до 20%. Ожидается, что плато для этой технологии будет достигнуто в течение следующих двух-пяти лет, что подчеркивает ее быстрый рост и растущее доминирование в сфере кибербезопасности.

VentureBeat отмечает, что все больше стартапов в области кибербезопасности извлекают выгоду из гибкости настройки и масштабирования LLM с открытым исходным кодом в своих платформах, приложениях и стратегиях инструментов. Широко распространенный вариант использования — точная настройка моделей для удовлетворения потребностей конкретной предметной области: от улучшения обнаружения угроз в реальном времени до улучшения управления уязвимостями.

Шер сказал: «Интегрируя LLM с открытым исходным кодом, мы можем настраивать модели для конкретных угроз и вариантов использования, что позволяет нам оставаться гибкими и оперативно реагировать на развивающиеся проблемы кибербезопасности».

Сравнение преимуществ и проблем LLM с открытым исходным кодом

LLM с открытым исходным кодом привносит ряд преимуществ в разработку и эксплуатацию систем кибербезопасности, в том числе следующие:

Кастомизация, масштаб и гибкость: Одним из основных факторов внедрения LLM с открытым исходным кодом, который пользуется популярностью среди компаний, занимающихся кибербезопасностью, стандартизирующих их, является возможность быстро модифицировать модели для конкретных случаев использования. Интеграция LLM компании Seal Security в свои платформы безопасности, приложения, инструменты и услуги показывает, как компании могут использовать эти модели для оптимизации процессов управления исправлениями в компонентах с открытым исходным кодом. Джон Морелло, технический директор и соучредитель Gutsy, рассказал VentureBeat в недавнем интервью, что открытый исходный код языковой модели Google BERT позволяет Gutsy настраивать и обучать свою модель для конкретных случаев использования безопасности, сохраняя при этом конфиденциальность и эффективность.

Сотрудничество сообщества: LLM с открытым исходным кодом извлекают выгоду из быстрорастущей базы сообществ разработчиков, которые ежедневно расширяют свои границы и масштабируются для решения сложных задач кибербезопасности. Эти сообщества задают быстрый темп, когда дело доходит до непрерывных инноваций, позволяя компаниям, разработчикам и университетам проводить исследования, чтобы извлечь выгоду из общих идей и улучшений. Например, Seal Security объединилась с Управлением нумерации CVE (CNA) MITRE, чтобы улучшить сотрудничество в области уязвимостей с открытым исходным кодом.

Уменьшение привязки к поставщику: Модели с открытым исходным кодом предлагают предприятиям возможность избежать привязки к поставщику, давая им больший контроль над расходами и снижая зависимость от проприетарных систем. VentureBeat считает, что эта проблема становится ключевой и имеет решающее значение для будущего кибербезопасности, а целью является гибкость. Быстрое реагирование на угрозы и последовательный подход к развертыванию исправлений жизненно важны для будущего кибербезопасности.

Однако эти преимущества не лишены проблем. Gartner отмечает в своем исследовании, что LLM с открытым исходным кодом часто требует значительных инвестиций в инфраструктуру, что может создать долгосрочные операционные проблемы для компаний, которым не хватает хорошо финансируемых и укомплектованных собственных ИТ-команд и служб безопасности.

Сложности лицензирования, связанные с моделями с открытым исходным кодом, также могут представлять собой юридические риски и риски, связанные с соблюдением требований. Шер объяснил, что «модели с открытым исходным кодом дают нам прозрачность, но управление их жизненными циклами и обеспечение соответствия по-прежнему остается серьезной проблемой».

Вклад LLM с открытым исходным кодом в кибербезопасность растет

VentureBeat видит, как поставщики кибербезопасности принимают LLM с открытым исходным кодом в качестве основы для своих платформ, получая конкурентное преимущество за счет улучшений в обнаружении угроз и реагировании на них. Seal Security смогла использовать модели с открытым исходным кодом для обнаружения и управления уязвимостями в реальном времени, интегрировав их в свои системы исправлений безопасности. По словам Шера, «наша инфраструктура спроектирована так, чтобы быстро переключаться между различными LLM, в зависимости от ландшафта угроз, что позволяет нам опережать возникающие уязвимости».

Gartner прогнозирует, что небольшие языковые модели или периферийные LLM получат более широкое распространение в специализированных приложениях, благодаря кибербезопасности. Edge LLM по определению децентрализованы ближе к данным, которые им необходимо анализировать, что позволяет ускорить обработку и обнаружение угроз в режиме реального времени.

Edge LLM разработаны так, чтобы требовать меньше вычислительной мощности, что делает их более управляемыми и менее затратными в обучении, что идеально подходит для случаев использования кибербезопасности, требующих скорости и точности в реальном времени. Имея возможность работать на периферии, эти LLM могут быстро обнаруживать угрозы в средах, где задержка имеет решающее значение, например, в устройствах Интернета вещей или удаленных системах.

Защита от атак в цепочке поставок программного обеспечения

Несмотря на растущее число вкладов, которые вносят LLM с открытым исходным кодом, они также сопряжены с рисками. Серьезную озабоченность вызывает рост числа атак на цепочки поставок программного обеспечения. В отчете Gartner «Цикл хайпа по программному обеспечению с открытым исходным кодом 2024» отмечается, что компоненты с открытым исходным кодом все чаще становятся объектами атак, спонсируемых государством. Средний возраст уязвимостей в кодовых базах с открытым исходным кодом составляет примерно 2,8 года, поэтому для компаний крайне важно внедрять и поддерживать в актуальном состоянии свои системы управления исправлениями и управления.

Недавнее назначение Seal Security в качестве органа нумерации CVE (CNA) необходимо для того, чтобы провайдер мог играть более важную роль в снижении рисков атак в цепочке поставок. Теперь компания может выявлять, документировать и назначать уязвимости с помощью программы CVE, способствуя повышению безопасности кода с открытым исходным кодом во всей отрасли. Их партнерство с MITRE еще больше расширяет эту возможность, позволяя Силу делиться результатами с более широким сообществом кибербезопасности.

Как подчеркнул Шер, это сотрудничество помогает повысить безопасность для всех, кто использует программное обеспечение с открытым исходным кодом, укрепляя приверженность компании защите глобальной экосистемы программного обеспечения.

Заглядывая в будущее

LLM с открытым исходным кодом меняют представление о кибербезопасности в лучшую сторону за счет уменьшения зависимости от устаревших технологий и платформ. VentureBeat наблюдает, насколько быстро эти модели развиваются с точки зрения доступности, качества и скорости, что делает их жизнеспособной альтернативой проприетарным системам.

Для таких компаний, как Seal Security, будущее заключается в постоянном развитии своих возможностей LLM с открытым исходным кодом, чтобы оставаться впереди постоянно меняющегося ландшафта угроз. «Мы постоянно оцениваем новые модели и инфраструктуры, чтобы гарантировать, что мы можем предоставить лучшие решения безопасности для наших клиентов», — заключил Шер.