Новая модель от IBM: Granite 3.1
IBM продолжает удивлять мир новыми открытыми моделями Granite Large Language Models (LLM), выпуская их каждые несколько месяцев. Последней моделью является Granite 3.1, которая основывается на успехе Granite 3.0 и предлагает улучшенные возможности и производительность, оптимизированные для бизнес-приложений.
Возможности Granite 3.1
Семейство моделей Granite 3.1 обладает впечатляющим контекстным окном в 128K токенов, что существенно больше, чем у предыдущих моделей. Это расширение позволяет моделям обрабатывать и понимать значительно большие объемы текста — эквивалентно приблизительно 85 000 английских слов. Для сравнения, OpenAI’s ChatGPT 3 мог обрабатывать только 2 000 токенов.
Превосходство над конкурентами
IBM заявляет, что новая модель Granite 8B Instruct превосходит своих конкурентов, таких как Google Gemma 2, Meta Llama 3.1 и Qwen 2.5 по результатам тестов на HuggingFace’s OpenLLM Leaderboard.
Типы моделей Granite 3.1
- Плотные модели (доступные 2B и 8B), обученные на более 12 триллионах данных токенов.
- Модели Mixture of Experts (MoE), обученные на более чем 10 триллионах токенов данных.
Плотные модели предназначены для использования в задачах, связанных с инструментами и улучшенной генерацией текста, включая разработку кода, перевод и исправление ошибок. Модели MoE идеально подходят для развертывания в приложениях с низкой задержкой.
Улучшенные возможности графики и языка
Новая версия также предоставляет функцию «изображение-в-текст», что значительно увеличивает область применения моделей для бизнеса, работающего с графикой. Granite 3.1 предложит улучшенную способность к пониманию иностранных языков, включая:
- Немецкий
- Испанский
- Французский
- Японский
- Португальский
- Арабский
- Чешский
- Итальянский
- Корейский
- Нидерландский
- Упрощенный китайский
Таким образом, если у вас есть международный бизнес, IBM предлагает подходящий LLM для ваших нужд.
Лицензирование и безопасность
Как и предыдущие модели, новые LLM от Granite лицензированы под открытой лицензией Apache 2. IBM также придерживается своих обязательств по открытости, раскрывая обучающие наборы данных и предоставляя полную документацию по разработке моделей и их производительности.
Если вас беспокоят вопросы интеллектуальной собственности и ИИ, IBM предлагает неограниченное возмещение в случае претензий третьих сторон, связанных с использованием их моделей.
Мощный и надежный ИИ для бизнеса
Модели Granite 3.1 доступны на платформе IBM Watsonx, а также у поставщиков облачных услуг, таких как Google Vertex AI, и на ИИ-платформах, включая Hugging Face, NVIDIA (в виде микросервисов NIM), Ollama и Replicate.
Выход Granite 3.1 готов ускорить внедрение ИИ в бизнес-среде. Объединив эти модели с собственными данными с помощью таких технологий, как InstructLab от IBM, компании могут достичь задач, сопоставимых с более крупными моделями, при этом сэкономив значительные средства.
На фоне быстро меняющегося ландшафта ИИ, Granite 3.1 от IBM представляет собой значительный шаг вперед в предоставлении предприятиям мощных, эффективных и надежных инструментов ИИ, которые могут способствовать инновациям и решению сложных бизнес-проблем.