Подпишитесь на наши ежедневные и еженедельные информационные бюллетени, чтобы получать последние обновления и эксклюзивный контент о ведущих в отрасли технологиях искусственного интеллекта. Узнать больше
Хотя векторные базы данных в настоящее время становятся все более распространенными в качестве основного элемента корпоративного развертывания искусственного интеллекта для извлечения дополненной генерации (RAG), это еще не все, что нужно.
Крис Латимер, генеральный директор и соучредитель стартапа Vectorize, несколько лет работал в DataStax, где помогал руководить облачными усилиями поставщика баз данных. Постоянная проблема, с которой он сталкивался снова и снова, заключалась в том, что база данных векторов на самом деле не была самой сложной частью обеспечения корпоративной RAG. Самая сложная часть проблемы заключалась в том, чтобы собрать все неструктурированные данные и поместить их в векторную базу данных таким образом, чтобы это было оптимизировано и хорошо подходило для генеративного ИИ.
Вот почему Латимер запустил Vectorize всего десять месяцев назад, пытаясь помочь решить эту проблему.
Сегодня компания объявляет, что привлекла $3,6 млн в рамках начального раунда финансирования под руководством True Ventures. Наряду с финансированием компания объявила об общедоступной корпоративной платформе RAG. Платформа Vectorize может использовать агентный подход RAG для передачи данных практически в реальном времени. Vectorize фокусируется на инженерной стороне ИИ. Платформа помогает компаниям готовить и поддерживать свои данные для использования в векторных базах данных и больших языковых моделях. Платформа Vectorize также позволяет предприятиям быстро создавать конвейер данных RAG через интуитивно понятный интерфейс. Еще одна основная возможность — это функция оценки RAG, которая позволяет предприятиям тестировать различные подходы.
«Мы постоянно видели, как люди доходили до конца цикла разработки своих проектов Gen AI и обнаруживали, что они работают не очень хорошо», — рассказал VentureBeat Крис Латимер, соучредитель и генеральный директор Vectorize. «Контекст, который они получали для своей векторной базы данных, был не самым полезным для большой языковой модели, она все еще вызывала галлюцинации или неверно интерпретировала данные».
Как Vectorize вписывается в корпоративный стек RAG
Vectorize не является векторной базой данных. Скорее, это платформа, которая соединяет источники неструктурированных данных с существующими векторными базами данных, такими как Pinecone, DataStax, Couchbase и Elastic.
Латимер объяснил, что Vectorize принимает и оптимизирует данные из различных источников для векторных баз данных. Платформа предоставит готовый к использованию конвейер данных, который будет обрабатывать прием, синхронизацию, обработку ошибок и другие передовые методы обработки данных.
Сама по себе векторизация также не является технологией встраивания векторов. Процесс преобразования данных, будь то текст, изображения или аудио, в векторы — это и есть векторное встраивание. Vectorize помогает пользователям оценить различные модели внедрения и методы фрагментирования данных, чтобы определить наилучшую конфигурацию для конкретного варианта использования и данных предприятия.
Латимер объяснил, что Vectorize позволяет пользователям выбирать из любого количества различных моделей внедрения. Различные модели могут включать, например, ada OpenAI или даже встраивания Voyage AI, которые сейчас используются Snowflake.
«Мы принимаем во внимание инновационные способы векторизации данных, чтобы вы получили наилучшие результаты», — сказал Латимер. «Но, в конечном счете, мы видим ценность в том, чтобы предоставить предприятиям и разработчикам готовое к производству решение, чтобы им просто не приходилось беспокоиться о инженерной стороне данных».
Использование агентного искусственного интеллекта для поддержки корпоративной RAG
Одной из ключевых инноваций Vectorize является подход «агентного RAG». Это подход, который сочетает в себе традиционные методы RAG с возможностями агента искусственного интеллекта, что позволяет более автономно решать проблемы в приложениях.
Агентная RAG также не является гипотетической концепцией. Его уже использует один из первых пользователей Vectorize, кремниевый стартап Groq, который недавно привлек 640 миллионов долларов. Groq использует агентные возможности RAG Vectorize для создания агента поддержки ИИ. Агент может автономно решать проблемы клиентов, используя данные и контекст, предоставляемые конвейерами данных Vectorize.
«Если у клиента есть вопрос, который уже был задан и на который уже был дан ответ, вы хотите, чтобы этот агент смог решить проблему клиента без участия человека», — сказал Латимер. «Но если есть что-то, что агент не может решить, вы действительно хотите, чтобы в цикле был человек, где вы могли бы обострить ситуацию, поэтому идея о том, чтобы агент мог обдумать свой путь решения проблемы, является всей идеей. за архитектурой агента искусственного интеллекта».
Почему конвейеры данных в режиме реального времени важны для корпоративной RAG
Основная причина, по которой предприятие будет использовать RAG, — это подключение к собственным источникам данных. Не менее важно следить за актуальностью данных.
«Устаревшие данные приведут к устаревшим решениям», — сказал Латимер. Vectorize предоставляет возможности обновления данных в режиме реального времени и почти в реальном времени, а также позволяет клиентам настраивать устойчивость к устареванию данных.
«На самом деле мы позволили людям настраивать платформу с учетом их терпимости к устаревшим данным и их потребности в данных в реальном времени», — сказал он. «Поэтому, если все, что вам нужно, это запланировать запуск вашего конвейера один раз в неделю, мы позволим вам это сделать, а затем, если вам нужно запустить его в режиме реального времени, мы также позволим вам сделать это, и вы получать обновления в реальном времени, как только они станут доступны».