Введение
Nvidia запускает свои чипы AI в дата-центры и на так называемые AI фабрики по всему миру. Компания объявила, что её чипы Blackwell лидируют в AI-бенчмарках.
Передовые технологии Nvidia
Nvidia и её партнёры ускоряют обучение и развертывание приложений следующего поколения AI, которые используют новейшие достижения в области обучения и вывода.
- Nvidia Blackwell создан для повышения производительности новых приложений.
- В последнем раунде MLPerf Training Nvidia продемонстрировала наивысшую производительность.
- Blackwell поддерживает все результаты, представленные на сложнейших испытаниях, связанных с языковыми моделями.
Производительность Blackwell
Nvidia добилась выдающихся результатов на всех бенчмарках MLPerf Training v5.0, продемонстрировав свою универсальность в широком спектре AI задач:
- Языковые модели (LLM)
- Системы рекомендаций
- Обнаружение объектов
- Графовые нейронные сети
Технические характеристики
| Параметры | Blackwell | Hopper |
|---|---|---|
| Производительность (по сравнению с Hopper) | 2.2x (Llama 3.1) | Базовая |
| Fine-tuning (Llama 2) | 2.5x | Базовая |
Инновации AI фабрик
В будущих AI фабриках будут развиваться приложения, которые смогут генерировать токены и интеллектуальную информацию для различных секторов.
Платформа Nvidia
Платформа Nvidia включает:
- Графические процессоры (GPU)
- Процессоры (CPU)
- Сетевые технологии
- Программные библиотеки (CUDA-X)
- NeMo Framework
- TensorRT-LLM
Эта слаженная работа технологий позволяет организациям быстрее обучать и внедрять модели, значительно сокращая время на получение результатов.
Партнёрство и вклад
Партнёрская экосистема Nvidia активно участвовала в этом раунде MLPerf. Среди значимых заявок были результаты от:
- ASUS
- Cisco
- Giga Computing
- Lambda
- Lenovo
- Supermicro
Основы бенчмарков
MLPerf — это стабильно работающий бенчмарк, который используется для тестирования как вывода, так и обучения AI моделей.
Скорость обучения
Nvidia придаёт большое значение скорости, с которой модели достигают требуемой точности.
Как работает AI?
Nvidia рассматривает различные типы масштабирования в AI:
- Предварительное обучение: начальный этап, где AI получает знания.
- Постобучение: модели «учатся» на новых данных.
- Долговременное размышление: AI, способный решать сложные задачи.
Заключение
Nvidia продолжает оптимизировать Blackwell и его программное обеспечение, что позволит получить ещё лучшие результаты в будущем.