Разработка чипа AI от OpenAI
OpenAI на шаг приблизилась к разработке своего первого AI-чипа, согласно новому отчету. Количество разработчиков, создающих приложения на платформе OpenAI, стремительно растет, а расходы на облачные вычисления продолжают увеличиваться.
Сначала сообщалось, что OpenAI ведет переговоры с несколькими дизайнерами чипов, включая Broadcom. Теперь Reuters утверждает, что компания выбрала Broadcom в качестве партнера по производству кастомного кремния, а чип может появиться в 2026 году.
Система Microsoft Azure
Перед этим OpenAI планирует добавить чипы AMD в свою систему Microsoft Azure, наряду с уже существующими чипами Nvidia. Согласно Reuters, планы компании по созданию сети фабрик по производству чипов были сокращены.
Эти шаги предпринимаются для снижения растущих расходов на приложения с AI. Новый чип OpenAI, как сообщается, не будет использоваться для обучения генеративных AI моделей, так как этим занимаются чипы Nvidia. Вместо этого он будет выполнять AI-программное обеспечение и отвечать на запросы пользователей.
Обновления инструментов для разработчиков
На мероприятии DevDay в Лондоне, которое прошло после события в Сан-Франциско 1 октября, OpenAI анонсировала некоторые улучшенные инструменты для привлечения разработчиков. Самый важный из них — Real-time API, который является расширенной голосовой версией для разработчиков приложений, с пятью новыми голосами, улучшившими диапазон и выразительность.
- 3 миллиона разработчиков по всему миру используют API OpenAI.
- OpenAI снизила цену токенов API на 99% с момента запуска GPT-3 в июне 2020 года.
Несмотря на значительное снижение цен, разработчики все еще сталкиваются с высокими затратами на масштабное использование функций OpenAI. Новый собственный AI-чип может стать важным шагом на пути к снижению расходов и широкому распространению приложений с AI.
Стартups и AI-приложения
Невысокие расходы на облачные вычисления с AI продолжают сдерживать разработчиков приложений, но некоторые стартапы уже идут на риск. Например:
- Veed: популярный онлайн-редактор видео, использующий несколько моделей OpenAI для автоматических транскрипций и выделения лучших моментов из длинных видео.
- Granola: AI-блокнот, использующий GPT-4 и GPT-4o для транскрипции встреч и отправки последующих задач.
- Tortus: стартап, который использует GPT-4o и голосовые модели OpenAI для помощи врачам в автоматизации ведения медицинских записей.
Будущее OpenAI
Несмотря на существующие проблемы с конфиденциальностью и возможными ошибками AI, разработчики хотят использовать инструменты OpenAI. Доступный и разговорный голосовой режим имеет большой потенциал для обслуживания клиентов.
Хотя в скором времени можно ожидать, что вы будете общаться с голосовыми моделями OpenAI при звонках в магазины или службы поддержки, высокие операционные расходы на AI могут замедлить темпы его широкого распространения. Именно поэтому OpenAI стремится быстрее разработать свой собственный AI-чип.