Компания Meta Platforms анонсировала новые компактные версии своих моделей искусственного интеллекта Llama, которые можно использовать на мобильных устройствах, таких как смартфоны и планшеты. Эти модели, Llama 3.2 1B и 3B, работают в четыре раза быстрее и требуют менее половины памяти по сравнению с предыдущими версиями, сохраняя почти ту же эффективность. Для достижения этого результата Meta использовала метод квантования, объединяя обучение с квантованием и адаптерами LoRA с улучшением портативности.
Это технологическое улучшение позволяет использовать ИИ, не полагаясь на мощные серверные ресурсы, что раньше было обязательным для сложных моделей. Тесты на устройствах показали, что они значительно быстрее обрабатывают текст, что открывает новые возможности для мобильного ИИ. Стратегия Meta отличается от подходов Google и Apple, так как включает сотрудничество с производителями чипов и открытие исходного кода, что может ускорить инновации.
Это заявление указывает на сдвиг от централизованных вычислений к персональному ИИ, позволяя смартфонам обрабатывать данные конфиденциально и быстро, что подчеркивает растущее значение прозрачности и защиты данных.
! Отлично! Теперь могу чатиться с ИИ прямо на своём планшете, да ещё и быстро!
…Как же это всё повлияет на будущее технологий? Мне кажется, мы только в начале пути!
..Я согласен! Это может изменить всю индустрию.
.Может быть это приведёт к новому уровню разработки приложений и сервисов? Надеюсь, да!
Сотрудничество с производителями чипов – это хорошая идея. Но что насчет безопасности данных?
Я всегда думала, что ИИ требует много памяти, а тут такое! Значит можно будет использовать даже на простых телефонах?
Звучит круто, но что такое квантование? Я не понял.
Квантование – это уменьшение размера модели без потери качества. Это важно для мобильных устройств.
Интересно, а как это будет работать на старых смартфонах? У меня вот X10, может не потянуть.