Запуск моделей Falcon 3
Институт инноваций в технологиях (TII), поддерживаемый правительством ОАЭ, объявил о запуске Falcon 3 — это серия открытых малых языковых моделей (SLM), которые эффективно работают на легких инфраструктурах с одной видеокартой GPU.
Характеристики моделей Falcon 3
Falcon 3 включает четыре размера моделей:
- 1B
- 3B
- 7B
- 10B
Существует два варианта: базовый и обученный на заданиях, что способствует демократизации доступа к продвинутым AI-возможностям для разработчиков и исследователей.
Согласно таблице líder board Hugging Face, модели уже outperform или близко к таким популярным открытым аналогам, как Meta’s Llama и ведущему в категории Qwen-2.5.
Спрос на малые языковые модели
Спрос на SLM, которые имеют меньше параметров и простые конструкции по сравнению с LLM, стремительно растет из-за их эффективности, доступности и способности работать на устройствах с ограниченными ресурсами.
Они подходят для широкого спектра приложений:
- Обслуживание клиентов
- Здравоохранение
- Мобильные приложения
- Интернет вещей (IoT)
Согласно отчётам Valuates Reports, рынок этих моделей ожидает рост с CAGR почти 18% в течение следующих пяти лет.
Что нового в Falcon 3?
Модели Falcon 3 обучены на 14 триллионов токенов — более чем в два раза больше, чем у их предшественника Falcon 2. Они используют архитектуру только с декодером и групповые запросы, что минимизирует использование памяти во время обработки.
Основные языки, которые поддерживают модели:
- Английский
- Французский
- Испанский
- Португальский
Модели имеют контекстное окно в 32K токенов, позволяя им обрабатывать длинные входные данные, такие как обильные документы.
Согласно TII, Falcon 3 универсален, подходит как для общих, так и для специализированных задач. Базовая модель идеальна для генеративных приложений, в то время как обученная версия превосходит в разговорных задачах, таких как обслуживание клиентов.
Результаты моделирования Falcon 3
На лидерборде Hugging Face модели Falcon 3, особенно 10B и 7B версии, показывают выдающиеся результаты в следующих задачах:
- Логическое мышление
- Понимание языка
- Следование инструкциям
- Код и математика
Модели 10B и 7B outperform таких конкурентов, как:
- Google’s Gemma 2-9B
- Meta’s Llama 3.1-8B
- Mistral-7B
- Yi 1.5-9B
Кроме того, они превосходят лидера категории Alibaba Qwen 2.5-7B в большинстве бенчмарков, за исключением MMLU.
Развертывание моделей Falcon 3
Сейчас модели Falcon 3 доступны на Hugging Face, что позволит реализовать AI без вычислительных ограничений. Они могут эффективно обрабатывать специфические задачи, включая:
- Chatbots для обслуживания клиентов
- Персонализированные рекомендательные системы
- Анализ данных
- Обнаружение мошенничества
- Диагностика в здравоохранении
- Оптимизация цепи поставок
- Образование
Институт также планирует расширить семью Falcon, включая модели с мультимодальными возможностями, которые будут представлены в январе 2025 года.
Лицензия и поддержка пользователей
Все модели выпущены под лицензией TII Falcon License 2.0, что поощряет ответственное развитие и внедрение AI. TII также запустил Falcon Playground — тестовую среду для исследования и интеграции моделей Falcon 3.