Компании и угрозы кибербезопасности в эпоху ИИ
Компании все больше беспокоятся о том, что стремление использовать искусственный интеллект (ИИ) делает их более уязвимыми для киберугроз. Согласно недавнему опросу более 350 лидеров в сфере IT, более половины опрошенных руководителей считают, что сложность приложений ИИ ослабляет кибербезопасность их организаций. Более двух пятых руководителей полагают, что у их команд по безопасности нет необходимых навыков для защиты ИИ приложений и рабочих нагрузок.
Новые стартапы в сфере безопасности ИИ
Спрос на решения для защиты ИИ приложений привел к появлению целого ряда стартапов. Например, HiddenLayer и Protect AI сосредоточены на защите ИИ систем от атак противника, в то время как Cranium предоставляет видимость систем ИИ на уровне приложений.
Появление нового стартапа: Noma Security
Недавно представившийся стартап Noma Security предлагает комплексное решение для кибербезопасности ИИ. Сооснователь и генеральный директор Нив Браун утверждает, что компания разрабатывает инструменты для выявления уязвимых данных и кода в средах науки о данных, а также для защиты от таких угроз, как атаки «инъекции команд».
Браун основал Noma вместе с Алононом Троном после ухода из компании по автоматизации клиентского опыта Verint, где он заметил значительный «слепой угол» у команд безопасности в жизненном цикле данных и ИИ.
Отличие жизненного цикла данных и ИИ
Браун отметил:
- Существующие инструменты предназначены для традиционного жизненного цикла программного обеспечения.
- Однако жизненный цикл данных и ИИ отличается по своим характеристикам.
- Он включает в себя различные процессы НИОКР и сталкивается с уникальными техническими уязвимостями в моделях ИИ.
Функции безопасности Noma
Noma предназначена для выявления и исправления неправильных конфигураций в компонентах, используемых для разработки и работы ИИ приложений. Платформа сканирует на наличие «чувствительных» данных в наборах данных для обучения моделей, таких как тексты, содержащие личную информацию.
Браун утверждает, что компании могут быть лучше подготовлены к угрозам, если объединят функции безопасности ИИ приложений в одной панели управления, которая может использоваться как в облачных, так и в локальных средах.
Преимущества Noma
- Понимание ИИ приложения.
- Контроль за соблюдением норм и стандартов.
- Минимизация и смягчение рисков.
- Уверенность в расширении использования ИИ.
Успех и финансирование Noma
С момента своего основания в 2023 году, Noma уже имеет платных клиентов, включая компании из списка Fortune 500 в секторах B2B программного обеспечения, финансовых услуг и розничной торговли. Стартап недавно закрыл раунд финансирования Series A на сумму 25 миллионов долларов, который, по словам Брауна, был инициирован инвесторами; у Noma уже были свободные средства.
Браун заявил:
- «Мы решили принять 25 миллионов долларов, даже имея значительный капитал, чтобы ускорить наше развитие и особенно усилия нашей команды по выходу на рынок».
- Noma планирует удвоить свою команду из 20 человек в следующем году.
Итоги финансирования Noma
Компания Ballistic Ventures возглавила раунд Series A, что увеличивает общий объем привлеченных средств Noma до 32 миллионов долларов. Ранее Noma привлекла 7 миллионов долларов в скрытом раунде начального финансирования, который возглавила Glilot Capital Partners с участием Cyber Club London.