Согласно совместному исследованию АО «К2 Интеграция» и АО «Лаборатория Касперского» под названием «Безопасность ИИ в России: практика, риски, зрелость», 45% российских компаний используют либо планируют в будущем использовать искусственный интеллект в своей деятельности. Чаще всего ИИ применяется для генерации контента (41% участников исследования), аналитики данных и разработки ПО (по 37%), управления персоналом (27%), клиентских сервисов (22%) и других задач.
«Большинство компаний уже перешли от экспериментов с ИИ к его практическому применению, однако технология ещё не стала критически важной для бизнеса. Согласно опросу, 54% респондентов считают, что ИИ пока не играет значительной роли в процессах, и его недоступность не приведет к серьезным потерям. Это свидетельствует о том, что более половины организаций находятся на начальном этапе внедрения: ИИ уже используется, но его сбой пока не воспринимается как угроза непрерывности бизнеса», — говорится в исследовании.
Чуть более одной трети компаний-участников (38%) указали, что продолжают тестировать ИИ-решения, и пока они не играют значительной роли в их работе. Другая треть (32%) отметила, что при недоступности ИИ-сервисов их бизнес не остановится, но будет функционировать с умеренными потерями. Около 11% опрошенных считают ИИ «критически важным» (для ключевых процессов у 8%, для многих операций у 3%). По мнению авторов, это указывает на стремительное внедрение новой технологии в бизнес-процессы; другими словами, ИИ стал не только инструментом повышения удобства и ускорения рутинных задач.
«Искусственный интеллект так быстро вошёл в нашу жизнь, что трудно проследить, кто и в каком формате начал использовать его для бизнеса первым на российском рынке. Результаты нашего исследования с «Лабораторией Касперского» продемонстрировали, что темпы применения ИИ-сервисов растут. Это подтверждается двумя факторами. Во-первых, всего за несколько лет ИИ заметно влияет на операционную устойчивость бизнеса и чаще становится его неотъемлемой частью. В настоящее время ИИ в основном используют для генерации контента, аналитики данных, разработки ПО, HR-процессов и клиентских сервисов. Почти половина компаний утверждают, что при недоступности ИИ-сервисов их бизнес продолжит функционировать, но с потерями, включая критические», — отметил ведущий эксперт по безопасности разработки ИИ в «К2 Кибербезопасность» Александр Лысенко.
Вторым фактором, по его словам, является наличие у 38% компаний внутренних команд по разработке ИИ-решений для своих процессов. Это указывает на то, что искусственный интеллект воспринимается как стратегический актив, который необходимо развивать самостоятельно. Темпы внедрения ИИ настолько высоки, что опережают зрелость процессов, необходимых для контроля связанных с ним рисков. По его мнению, компаниям необходима синергия бизнеса, информационной безопасности и разработки, а все процессы должны соответствовать стандарту управления безопасностью собственных ИИ-разработок — AISecOps.
«Главный вывод исследования — рынок окончательно вышел из фазы тестирования. Около 42% компаний уже применяют или тестируют ИИ-решения в своих процессах. Тем не менее рынок сталкивается с классической проблемой взрывного роста: скорость внедрения технологий значительно опережает зрелость процессов безопасности. Мы наблюдаем типовой гоночный эффект — бизнес стремится оптимизировать расходы и повысить производительность, откладывая вопросы защиты «на потом». Полноценные практики MLSecOps существуют лишь у 7% организаций. Риски заключаются не столько в использовании сторонних нейросетей, сколько в хаотичности данного процесса. Проблема возникает, когда сотрудники или отделы подключают инструменты в обход IT-департамента — без единых корпоративных стандартов, фильтрации конфиденциальных данных и контроля доступа. Решением будет не отказ от внешних моделей, а переход к понятной и управляемой инфраструктуре работы с ними», — сообщил основатель маркетплейса нейросетей chad Артур Кольцов.
Он назвал «естественным» перекос в сторону генерации контента, разработки ПО и аналитики данных. По его словам, это объясняется рыночной прагматикой, так как в этих областях наименьший порог входа и цена ошибки. Если нейросеть допустит ошибку в тексте или предложит не оптимальный фрагмент кода, человек легко это заметит и исправит на стадии проверки, а экономия времени становится очевидной, риски инфраструктуры близки к нулю. Он добавил, что в промышленности или информационной безопасности стоимость ошибки может быть колоссальной, а внедрение требует масштабной перестройки архитектуры. Таким образом, бизнес логично тестирует границы там, где риски минимальны и управляемы.
С ним согласился руководитель продуктов Nova AI ООО «Орион» Никита Векессер. «Лидерство генерации контента закономерно, так как это самый доступный сценарий с быстрым эффектом», — отметил он. Однако также подчеркнул, что компании движутся дальше — к аналитике, разработке, поиску по корпоративным знаниям и ИИ-агентам. Он добавил, что Orion soft использует ИИ для аналитики, подготовки продуктовых требований, работы с документацией и ускорения разработки, но окончательная оценка результата всегда остаётся за человеком.
«То, что 43% компаний ожидают потерь при недоступности ИИ, подтверждает, что технология становится частью операционных процессов. В нынешних условиях технический сбой не остановил бы наш бизнес, но существенно снизил бы скорость аналитики, разработки и маркетинга. Поэтому, на наш взгляд, компаниям нужны резервные сценарии: несколько моделей или провайдеров, возможность локального запуска и сохранение ручного режима для критически важных операций», — заключил он.