Как запустить локальную LLM в виде браузерного ИИ с помощью этого бесплатного расширения

Введение

Когда речь заходит о запросах к удаленным моделям языка (LLM), я предпочитаю работать с локальными, такими как Ollama. Это позволяет мне лучше контролировать данные и процесс. Если вы еще не установили Ollama, я рекомендую ознакомится с моим руководством по установке LLM на MacOS. Также Ollama доступен для Linux и Windows, и расширение для Firefox работает на всех этих платформах.

Установка расширения Page Assist в Firefox

Чтобы начать использовать Page Assist, убедитесь, что Ollama установлен и работает. Ниже приведены шаги по установке:

  • 1. Откройте Firefox: Если вы читаете это в Firefox, вы уже на правильном пути.
  • 2. Установите Page Assist: Перейдите в магазин дополнений Firefox и нажмите «Добавить в Firefox». Подтвердите установку.

Заметьте, что Mozilla не активно контролирует безопасность этого дополнения, поэтому я рекомендую просмотреть код на GitHub.

Как использовать Page Assist

Перед тем как использовать Page Assist, удостоверьтесь, что Ollama запущен. Чтобы запустить локальную LLM, введите команду:

ollama run llama3.2

Если вы видите подсказку >>>, значит LLM запущена и готова к запросам.

  • 1. Закрепите расширение: Нажмите на иконку пазла в панели инструментов Firefox, затем на иконку настроек рядом с Page Assist и выберите «Закрепить на панели инструментов».
  • 2. Откройте расширение: Нажмите на иконку Page Assist, и откроется новая вкладка с интерфейсом Ollama.
  • 3. Выберите модель: Нажмите на выпадающее меню «Выбрать модель» и выберите свою установленную модель (например, llama3.2:latest).
  • 4. Введите запрос: Введите запрос в поле «Введите сообщение» и нажмите Enter или кнопку «Отправить».
  • 5. Добавить новую модель: Нажмите на иконку настроек в верхнем правом углу окна Page Assist, выберите «Управление моделями» и нажмите «Добавить новую модель». Укажите имя новой модели и нажмите «Загрузить модель».

Заключение

Итак, теперь вы знаете, как использовать Ollama с помощью простого расширения для Firefox. Он значительно упрощает взаимодействие с локальными моделями языка. Не забудьте провести небольшое исследование перед установкой любого расширения!

Дополнительные материалы

  • Как настроить God Mode в Windows 11
  • Что ожидать от Samsung Unpacked 2025: Galaxy S25 Ultra и AI функции
  • Почему некоторые компании отказываются от публичного облака
  • Как ChatGPT помог решить ДНК-мозг Ancestry для меня

ОСТАВЬТЕ ОТВЕТ

Пожалуйста, введите ваш комментарий!
пожалуйста, введите ваше имя здесь

Основатель более 10 стартапов в области ИТ и ИИ. Серийный предприниматель. Профессиональный управленец.