У вас три різні провайдери моделей, і в кожного своє вікно чату, своя підписка й своя історія. Open WebUI збирає їх в один інтерфейс на вашому сервері: обираєте модель для кожної розмови, уся історія зберігається у вас, можна поділитися з командою й підключити локальні моделі, коли треба, щоб нічого не покидало машину.
Два способи використання
Як інтерфейс до API. Open WebUI підключається до будь-якого OpenAI-сумісного API — хмарних провайдерів, проксі LiteLLM чи вашого ендпоінта. Сервер при цьому майже не працює; маленького тарифу вистачить із запасом.
З локальними моделями. Ставите на той самий сервер Ollama й запускаєте відкриті моделі просто на ньому. Тепер обмеження — пам'ять, а інференс на процесорі повільний. Чесний компроміс: повна приватність, скромна швидкість.
| Варіант | Тариф |
|---|---|
| Інтерфейс до API, для себе | Micro — 1 vCPU, 2 ГБ, $5/міс (SSH-тунель) |
| Інтерфейс до API, доступ команди через HTTPS | Micro-IP — 1 vCPU, 2 ГБ, $10/міс |
| Локальні моделі на 3B через Ollama | AI-Agent — 2 vCPU, 4 ГБ, $10/міс |
| Локальні моделі на 7–8B | Medium — 4 vCPU, 6 ГБ, $12/міс або тарифи Pro для більших моделей |
Встановлення в Docker
На сервері зі встановленим Docker:
docker run -d --name open-webui --restart always \
-p 127.0.0.1:3000:8080 \
-v open-webui:/app/backend/data \
ghcr.io/open-webui/open-webui:main
Прив'язка до 127.0.0.1 тримає сервіс поза публічним інтернетом, доки ви не вирішите, як його відкрити. Чати, користувачі й налаштування зберігаються в томі open-webui.
Безпечний доступ
SSH-тунель — працює на будь-якому тарифі, зокрема NAT:
ssh -p 22 -N -L 3000:127.0.0.1:3000 you@203.0.113.10
Відкрийте http://localhost:3000. На NAT-тарифі використовуйте персональний SSH-порт.
HTTPS на своєму домені — для команди на тарифі з виділеним IP. Спрямуйте піддомен на сервер (інструкція) і проксуйте його через nginx із заголовками WebSocket:
location / {
proxy_pass http://127.0.0.1:3000;
proxy_set_header Host $host;
proxy_set_header Upgrade $http_upgrade;
proxy_set_header Connection upgrade;
proxy_read_timeout 300s;
}
Потім виконайте certbot --nginx -d chat.example.com. Довгий таймаут читання важливий: повільні моделі стримлять відповідь хвилинами.
Перші кроки всередині
- Зареєструйтеся одразу. Перший акаунт стає адміністратором. Не лишайте свіжу установку відкритою — її може забрати хтось інший.
- Закрийте реєстрацію. Налаштування адміністратора → роль нових користувачів за замовчуванням «в очікуванні» або вимкнення реєстрації.
- Додайте підключення. Налаштування → Підключення → вставте базову URL-адресу API і ключ. Моделі цього провайдера з'являться у виборі моделі.
Додаємо локальні моделі
Встановіть Ollama на хост (наша інструкція), завантажте маленьку модель і запустіть Open WebUI так, щоб він її бачив:
ollama pull llama3.2:3b
docker rm -f open-webui
docker run -d --name open-webui --restart always \
-p 127.0.0.1:3000:8080 --add-host=host.docker.internal:host-gateway \
-e OLLAMA_BASE_URL=http://host.docker.internal:11434 \
-v open-webui:/app/backend/data ghcr.io/open-webui/open-webui:main
Том зберігає чати під час перезапуску. На процесорі чекайте кілька токенів на секунду — для конспектів і особистих нотаток нормально, для довгих текстів повільно. Для серйозного локального інференсу дивіться VPS для Ollama.
Що варто знати
- Оновлення часті.
docker pull ghcr.io/open-webui/open-webui:main, потім перестворіть контейнер. Спершу забекапте том. - Витрати на API — ваші. За замовчуванням Open WebUI не обмежує використання за користувачами; стежте за витратами, якщо ділитеся ним із командою.
- Це чат, а не модель. Якість відповідей повністю залежить від моделі за ним.
Ліміти тарифів і апгрейд — у документації з тарифів.
Коментарі
Поки немає коментарів. Будьте першим.