Крупнейшие российские компании начали развивать инфраструктуру для мониторинга автономных ИИ-агентов — количество запросов бизнеса на такие решения за год увеличилось примерно втрое, сообщают «Известия». В около 80% случаев компании стремятся контролировать доступ нейросетей к корпоративным данным, проверять критически важные решения ИИ и защищаться от утечек. По оценкам экспертов, к 2026 году российский рынок продуктов для защиты ИИ может достигнуть 1–2 млрд рублей, а вместе с услугами — до 4 млрд рублей.
Yandex Cloud представил отчёт о киберугрозах для бизнеса в РФ: 15 тыс. компаний используют ИИ для защиты от хакеров
Нейросети помогают выявлять уязвимости в сети, анализировать хакерские атаки и определять их источники
Читайте также
Компании всё реже применяют обычных чат-ботов, и чаще — полные ИИ-агенты
Спрос на контроль ИИ растёт, поскольку компании всё чаще применяют не обычные чат-боты, а ИИ-агентов, способных самостоятельно выполнять задачи, обрабатывать корпоративные данные и запускать другие сервисы.
Для управления нейросетевыми агентами компании создают harness. Она определяет, к каким данным и инструментам будет иметь доступ ИИ-система, как она выполняет многошаговые задачи и в каких случаях должна запрашивать подтверждение человека.
«Яндекс», «Сбер» и МТС развивают собственные системы контроля ИИ
«Яндекс» работает над своими технологиями маршрутизации запросов и решениями для harness для пользовательских и корпоративных продуктов, сообщили «Известия». В MWS AI, входящей в МТС Web Services, отметили, что разрабатывают систему, позволяющую переключаться между разными моделями, контролировать расход вычислительных ресурсов и анализировать действия агентов.
«Сбер» уже применяет собственную инфраструктуру управления моделями и агентами в GigaАгенте, GigaCode и корпоративном GigaCowork, передают «Известия».
80% запросов бизнеса связаны с данными и их утечками
По данным ИТ-холдинга Т1, на которые ссылаются «Известия», за последний год спрос компаний на продукты для контроля ИИ-агентов увеличился примерно втрое. Около 80% обращений касаются управления доступом к корпоративной информации и защиты от утечек. Компании также хотят настроить возможность подтверждать критически важные решения ИИ. Интерес к этим решениям проявляют банки, промышленные предприятия, госорганизации и ритейлеры.
В ГК «Солар» сообщили изданию, что языковая модель не всегда может отличить данные от команды. Поэтому защитный слой должен отдельно анализировать запросы, ответы и действия ИИ и блокировать потенциально опасные операции по заданным правилам.
Рынок продуктов для контроля ИИ может вырасти до 5 млрд рублей к 2029 году
Эксперты «Известий» прогнозируют продолжение быстрого роста рынка решений для контроля ИИ.
По оценке сооснователя университета «Зерокодер» Кирилла Пшинника, на которого ссылается издание, к концу 2029 года объём рынка таких продуктов может составить около 5 млрд рублей. Основную выручку, по его мнению, будут приносить не только сами программы, но и их внедрение, интеграция и дальнейшее сопровождение.