Подпишитесь на наши ежедневные и еженедельные информационные бюллетени, чтобы получать последние обновления и эксклюзивный контент о ведущих в отрасли технологиях искусственного интеллекта. Узнать больше
В последние годы DataStax постоянно расширяет свою платформу данных, чтобы удовлетворить растущие потребности корпоративных разработчиков искусственного интеллекта.
Сегодня компания делает следующий шаг вперед, запуская платформу DataStax AI, созданную на базе Nvidia AI. Новая платформа объединяет существующие технологии баз данных DataStax, включая DataStax Astra для облачных вычислений и гиперконвергентную базу данных DataStax (HCD) для самостоятельного развертывания. Он также включает в себя технологию Langflow компании, которая используется для построения рабочих процессов агентного искусственного интеллекта. Компоненты корпоративного искусственного интеллекта Nvidia включают технологии, которые помогут ускорить и улучшить возможности организации быстро создавать и развертывать модели. Среди корпоративных компонентов Nvidia в стеке — NeMo Retriever, NeMo Guardrails и NIM Agent Blueprints.
По данным DataStax, новая платформа может сократить время разработки ИИ на 60% и обрабатывать рабочие нагрузки ИИ в 19 раз быстрее, чем текущие решения.
«Время производства — это одна из вещей, о которых мы говорим, создание этих вещей занимает много времени», — сказал VentureBeat Эд Ануфф, директор по продуктам DataStax. «Мы увидели, что многие люди застряли в аду разработки».
Как Langflow позволяет предприятиям извлечь выгоду из агентного искусственного интеллекта
Langflow, инструмент визуальной оркестрации искусственного интеллекта DataStax, играет решающую роль в новой платформе искусственного интеллекта.
Langflow позволяет разработчикам визуально создавать рабочие процессы ИИ, перетаскивая компоненты на холст. Эти компоненты представляют собой различные возможности DataStax и Nvidia, включая источники данных, модели искусственного интеллекта и этапы обработки. Такой визуальный подход значительно упрощает процесс создания сложных приложений искусственного интеллекта.
«Langflow позволяет нам представить все возможности и API DataStax, а также все компоненты и микросервисы Nvidia в виде визуальных компонентов, которые можно соединять вместе и запускать в интерактивном режиме», — сказал Ануфф.
Langflow также является важной технологией, которая позволяет использовать агентный искусственный интеллект на новой платформе DataStax. По словам Ануффа, платформа облегчает разработку трех основных типов агентов:
Целенаправленные агенты: Эти агенты могут выполнять определенные задачи от имени пользователей. Например, в приложении для путешествий агент может составить пакет отдыха на основе предпочтений пользователя.
Агенты автоматизации: эти агенты работают «за кулисами», выполняя задачи без прямого взаимодействия с пользователем. Они часто включают в себя взаимодействие API с другими API и агентами, что упрощает сложные автоматизированные рабочие процессы.
Мультиагентные системы: Этот подход предполагает разбиение сложных задач на подзадачи, выполняемые специализированными агентами.
Что комбинация Nvidia DataStax дает корпоративному ИИ
По словам Ануффа, сочетание возможностей Nvidia с данными DataStax и Langflow поможет корпоративным пользователям ИИ разными способами.
Он объяснил, что интеграция с Nvidia позволит корпоративным пользователям более легко вызывать пользовательские языковые модели и встраивания через стандартизированную архитектуру микросервисов NIM. Используя микросервисы Nvidia, пользователи также могут использовать аппаратные и программные возможности Nvidia для эффективной работы этих моделей.
Поддержка Guardrails — еще одно ключевое дополнение, которое поможет пользователям DataStax предотвратить небезопасный контент и выходные данные моделей.
«Возможность ограждения — это одна из функций, которая, по моему мнению, имеет наибольшее влияние на разработчиков и конечных пользователей», — сказал Ануфф. «Защитные ограждения — это, по сути, дополнительная модель, которая способна распознавать и перехватывать небезопасный контент, поступающий либо от пользователя, путем его приема, либо через материалы, полученные из баз данных».
Интеграция с Nvidia также поможет обеспечить постоянное совершенствование модели. Ануфф пояснил, что NeMo Curator позволяет корпоративным пользователям искусственного интеллекта определять дополнительный контент, который можно использовать в целях точной настройки.
Общий эффект от интеграции заключается в том, чтобы помочь предприятиям быстрее и с меньшими затратами получить выгоду от ИИ. Ануфф отметил, что этот подход не обязательно должен полностью полагаться на графические процессоры.
«Корпоративный стек Nvidia на самом деле способен выполнять рабочие нагрузки как на процессорах, так и на графических процессорах», — сказал Ануфф. «Графические процессоры будут быстрее и, как правило, будут там, где вы хотите разместить эти рабочие нагрузки, но если вы хотите переложить часть нагрузки на процессоры для экономии средств в тех областях, где это не имеет значения, это позволяет вам сделать это. также.»