Подпишитесь на наши ежедневные и еженедельные информационные бюллетени, чтобы получать последние обновления и эксклюзивный контент о ведущих в отрасли технологиях искусственного интеллекта. Узнать больше
Сегодня Moondream вышла из скрытого режима с предварительным финансированием в размере 4,5 миллионов долларов и радикальным предложением: когда дело доходит до моделей искусственного интеллекта, чем меньше, тем лучше. Стартап, поддерживаемый Felicis Ventures, Microsoft M12 GitHub Fund и Ascend, создал модель языка видения, которая работает всего с 1,6 миллиарда параметров, но при этом конкурирует по производительности с моделями, в четыре раза превышающими ее размер.
Модель компании с открытым исходным кодом уже привлекла значительное внимание: было зарегистрировано более 2 миллионов загрузок и 5100 звезд GitHub. «Что делает ее особенной, так это то, что это одна из самых маленьких моделей, которая отличается высокой точностью и работает очень хорошо», — сказал Джей Аллен, генеральный директор Moondream и бывший технический директор AWS. «Он может работать везде очень легко и быстро. Он может работать даже на iOS и на мобильных телефонах».
Периферийные вычисления и корпоративный искусственный интеллект: как Moondream решает кризис стоимости облачных технологий
Стартап решает растущую проблему внедрения искусственного интеллекта на предприятиях: астрономические затраты и проблемы конфиденциальности облачных вычислений. Подход Moondream позволяет моделям искусственного интеллекта запускаться локально на устройствах — от смартфонов до промышленного оборудования.
«Поскольку ИИ проникает во все больше и больше приложений, я думаю, что мы разрываемся между желанием получить все преимущества ИИ, но не обязательно желанием транслировать всю нашу жизнь в облако», — сказал Аллен VentureBeat. «Я предпочитаю делать как можно ближе к краю, чтобы иметь контроль над своей конфиденциальностью».
Реальные приложения: от товарных запасов в розничной торговле до аналитики на заводе
Первые пользователи нашли для этой технологии разнообразные применения. Розничные торговцы используют его для автоматического управления запасами посредством мобильного сканирования. Транспортные компании используют его для проверки транспортных средств, а производственные предприятия с герметичными системами внедряют искусственный интеллект на местах для контроля качества.
Технические достижения выделяются. Недавние тесты показывают, что Moondream2 достигает точности 80,3% на VQAv2 и 64,3% на GQA, что конкурирует с гораздо более крупными моделями. Энергоэффективность системы впечатляет: технический директор Вик Коррапати отмечает, что «потребление токена составляет около 0,6 джоулей на миллиард параметров».
Давид против Голиафа: как маленькая команда бросает вызов технологическим гигантам
В то время как крупные технологические компании сосредоточены на масштабных моделях, требующих значительных вычислительных ресурсов, Moondream нацелена на практическую реализацию. «Многие компании в этой сфере сосредоточены на искусственном интеллекте, и в конечном итоге это становится большим отвлечением», — сказал Коррапати. «Мы сосредоточены на проблеме восприятия и на том, как мы предоставляем передовые мультимодальные возможности того размера и форм-фактора, которые нужны разработчикам».
Сейчас компания запускает облачный сервис Moondream, призванный упростить разработку, сохраняя при этом гибкость при развертывании на периферии. «Им нужен самый простой путь — начать с облачного предложения, чтобы они могли просто поиграть с ним», — сказал Аллен. «Но как только они это сделают, они не захотят чувствовать себя запертыми».
Этот гибридный подход находит отклик у разработчиков. Компания приобрела сильную поддержку в сообществе разработчиков программного обеспечения с открытым исходным кодом, причем Аллен объясняет это их «хакерским духом открытого исходного кода» и прозрачным процессом разработки.
Что касается конкуренции со стороны технологических гигантов, Аллен по-прежнему уверен в целенаправленной стратегии Moondream. «Для многих крупных компаний это, как правило, один из 8000 приоритетов», — сказал он. «Похоже, не так уж много компаний, которые так же сосредоточены, как мы, на обеспечении беспрепятственного опыта разработчиков в области мультимодальных перевозок».
Компания ожидает широкого внедрения корпоративных моделей языка видения в течение следующих 12 месяцев, хотя Коррапати предупреждает, что «говорить о сроках с использованием ИИ — опасная игра».
Благодаря новому финансированию Moondream планирует расширить свою команду, в том числе нанять инженеров полного стека в свою штаб-квартиру в Сиэтле. Следующей задачей компании станет масштабирование технологии при сохранении эффективности и доступности, которые определили ее ранний успех.