TrueFoundry и его успехи
TrueFoundry — это стартап, основанный группой бывших инженеров Meta, который помогает компаниям внедрять AI-системы в большом масштабе. Недавно он привлек $19 миллионов инвестиций под руководством Intel Capital.
Рынок AI и внедрение GenAI
С появлением GenAI, особенно после запуска ChatGPT в ноябре 2022 года, компании всех размеров начали изучать возможности использования AI. Но GenAI требует больших вычислительных мощностей и оптимизации GPU. Не все компании имеют доступ к множеству GPU, поэтому оптимизация становится необходимой. Более того, работодателям необходимо проверять несколько моделей, чтобы найти наилучшее соответствие для своих задач и корректировать существующие модели.
Решения от TrueFoundry
TrueFoundry предлагает программное обеспечение по модели платформы как услуги (PaaS) для полнофункциональных дата-сайентистов. Оно обеспечивает:
- Автомасштабирование
- Превентивное обслуживание
- Централизованный контроль доступа
- Мониторинг в реальном времени
Эти функции упрощают внедрение AI от начала до конца.
Основание и развитие
Стартап был основан в июне 2021 года Никунджем Баджаджем, Абхишеком Чоудхари и Анурагом Гутгутия. Изначально TrueFoundry создавал программное обеспечение для ускорения развертывания машинного обучения. Однако с ростом популярности GenAI в 2023 году они адаптировали свою систему для поддержки этих возможностей.
Автопилот-система
TrueFoundry предлагает решение, известное как автопилот-система. Оно использует AI для анализа логов и метрик, помогая масштабированию AI-приложений, регулируя использование GPU и оптимизируя потребление памяти.
Успехи клиентов
С помощью автопилот-системы один из клиентов TrueFoundry, у которого всего 2 сотрудника, смог обработать 10 миллионов запросов в секунду.
Клиенты и технологии
В настоящее время TrueFoundry обслуживает 30 платных клиентов и имеет множество пользователей, работающих с его открытым RAG-фреймворком. Среди клиентов:
- NVIDIA
- Resmed
- Siemens Healthineers
- Automation Anywhere
- Games24x7
- Whatfix
Технологическая база
TrueFoundry строит свое программное обеспечение на базе Kubernetes, что делает его многооблачным и совместимым с основными облачными платформами, такими как AWS, Google Cloud и Azure. Компании могут развертывать платформу на своих серверах.
Результаты для клиентов
Компании, использующие TrueFoundry, создают свои внутренние AI-платформы за два месяца и достигают сроков окупаемости в четыре месяца, что значительно быстрее среднего времени по отрасли в 14 месяцев. Стартап также предоставляет клиентам экономию от 40% до 50% на затраты на инфраструктуру и улучшение скорости развертывания в 10 раз.
Соперничество на рынке
На облачном рынке появляются собственные решения для упрощения создания и развертывания AI-моделей. Тем не менее, Gutgutia утверждает, что решение TrueFoundry все еще актуально, поскольку оно увеличивает эффективность использования вычислительных ресурсов и сокращает время выхода AI-приложений на рынок.
Последние инвестиции
Раунд Series A, состоявшийся на все акционерное финансирование, также привлек инвестиции от Eniac Ventures, Peak XV Partners и Jump Capital. TrueFoundry планирует использовать средства для расширения команды из 45 человек в Индии для выхода на рынок США.
Будущее TrueFoundry
С новыми финансами TrueFoundry уже поднял более $21 миллиона в общей сложности и планирует запустить своего AI-агента. Он поможет предлагать подходящие ресурсы и оптимизировать масштабирование. Стартап также стремится удвоить свои доходы в этом году, после того как за прошлый год увеличил количество клиентов в четыре раза.