VPS pentru Open WebUI: o interfață de chat privată pentru LLM-uri

Folosești trei furnizori de modele diferiți, fiecare cu fereastra lui de chat, abonamentul lui și istoricul lui. Open WebUI îi pune pe toți în spatele unei singure interfețe pe care o găzduiești singur: alegi modelul pentru fiecare conversație, ții tot istoricul pe serverul tău, îl împarți cu echipa și conectezi modele locale atunci când vrei ca nimic să nu plece de pe mașină.

Două moduri de a-l rula

Ca interfață pentru API-uri. Open WebUI se conectează la orice API compatibil OpenAI — furnizori găzduiți, un proxy LiteLLM sau propriul endpoint. Serverul nu face aproape nimic; un plan mic e mai mult decât suficient.

Cu modele locale. Adaugi Ollama pe același server și rulezi local modele cu greutăți deschise. Acum RAM-ul e constrângerea, iar inferența pe CPU e lentă. Compromisul cinstit: intimitate totală, viteză modestă.

Instalare cu Docker

Pe un server cu Docker instalat:

docker run -d --name open-webui --restart always \
  -p 127.0.0.1:3000:8080 \
  -v open-webui:/app/backend/data \
  ghcr.io/open-webui/open-webui:main

Legarea la 127.0.0.1 îl ține departe de internetul public până decizi cum să-l expui. Conversațiile, utilizatorii și setările stau în volumul open-webui.

Accesul în siguranță

Tunel SSH — merge pe orice plan, inclusiv NAT:

ssh -p 22 -N -L 3000:127.0.0.1:3000 you@203.0.113.10

Deschide http://localhost:3000. Pe un plan NAT, folosește portul tău SSH personal.

HTTPS pe domeniul tău — pentru o echipă, pe un plan cu IP dedicat. Îndreaptă un subdomeniu spre server (ghid) și pune-l în spatele nginx, inclusiv cu anteturile WebSocket:

location / {
    proxy_pass http://127.0.0.1:3000;
    proxy_set_header Host $host;
    proxy_set_header Upgrade $http_upgrade;
    proxy_set_header Connection upgrade;
    proxy_read_timeout 300s;
}

Apoi rulează certbot --nginx -d chat.example.com. Timeoutul lung de citire contează: modelele lente transmit răspunsuri minute întregi.

Primii pași în interior

1. Înregistrează-te imediat. Primul cont devine administrator. Nu lăsa o instalare proaspătă publică — altcineva ar putea s-o revendice.
2. Închide înregistrările. Setări de administrare → setează rolul implicit pentru utilizatorii noi pe „în așteptare” sau dezactivează înregistrarea.
3. Adaugă o conexiune. Settings → Connections → lipește un URL de bază și o cheie API. Modelele acelui furnizor apar în selectorul de modele.

Adăugarea modelelor locale

Instalează Ollama pe host (ghidul nostru), descarcă un model mic și pornește Open WebUI astfel încât să ajungă la el:

ollama pull llama3.2:3b
docker rm -f open-webui
docker run -d --name open-webui --restart always \
  -p 127.0.0.1:3000:8080 --add-host=host.docker.internal:host-gateway \
  -e OLLAMA_BASE_URL=http://host.docker.internal:11434 \
  -v open-webui:/app/backend/data ghcr.io/open-webui/open-webui:main

Volumul îți păstrează conversațiile după repornire. Așteaptă-te la câțiva tokeni pe secundă pe CPU — bine pentru rezumate și notițe private, lent pentru eseuri lungi. Pentru inferență locală mai grea, vezi VPS pentru Ollama.

Bine de știut

• Actualizările sunt dese. docker pull ghcr.io/open-webui/open-webui:main, apoi recreezi containerul. Fă întâi backup volumului.
• Costurile API sunt ale tale. Implicit, Open WebUI nu limitează utilizarea per utilizator; urmărește cheltuielile dacă îl împarți cu o echipă.
• E o aplicație de chat, nu un model. Calitatea răspunsurilor depinde în întregime de modelul din spatele ei.

Limitele planurilor și trecerea la un plan mai mare sunt în documentația despre planuri.