VPS voor Open WebUI: een privé chatinterface voor LLM's

Je gebruikt drie verschillende modelaanbieders, elk met een eigen chatvenster, abonnement en geschiedenis. Open WebUI zet ze achter één interface die je zelf host: kies per gesprek een model, bewaar alle geschiedenis op je eigen server, deel het met je team en koppel lokale modellen als er niets de machine mag verlaten.

Twee manieren om het te draaien

Als frontend voor API's. Open WebUI koppelt met elke OpenAI-compatibele API — gehoste aanbieders, een LiteLLM-proxy of je eigen endpoint. De server doet bijna niets; een klein plan is ruim voldoende.

Met lokale modellen. Voeg Ollama toe op dezelfde server en draai modellen met open gewichten lokaal. Nu is RAM de beperking, en inferentie op de CPU is traag. De eerlijke afweging: volledige privacy, bescheiden snelheid.

Installatie met Docker

Op een server met Docker geïnstalleerd:

docker run -d --name open-webui --restart always \
  -p 127.0.0.1:3000:8080 \
  -v open-webui:/app/backend/data \
  ghcr.io/open-webui/open-webui:main

Door te binden aan 127.0.0.1 blijft het van het publieke internet af tot jij besluit hoe je het openstelt. Chats, gebruikers en instellingen staan in het volume open-webui.

Veilig toegang krijgen

SSH-tunnel — werkt op elk plan, ook NAT:

ssh -p 22 -N -L 3000:127.0.0.1:3000 you@203.0.113.10

Open http://localhost:3000. Gebruik op een NAT-plan je persoonlijke SSH-poort.

HTTPS op je domein — voor een team op een plan met dedicated IP. Laat een subdomein naar de server wijzen (handleiding) en proxy het met nginx, inclusief WebSocket-headers:

location / {
    proxy_pass http://127.0.0.1:3000;
    proxy_set_header Host $host;
    proxy_set_header Upgrade $http_upgrade;
    proxy_set_header Connection upgrade;
    proxy_read_timeout 300s;
}

Voer daarna certbot --nginx -d chat.example.com uit. De lange read-timeout doet ertoe: trage modellen streamen antwoorden minutenlang.

Eerste stappen binnen

1. Registreer je meteen. Het eerste account wordt beheerder. Laat een verse installatie niet openbaar staan — iemand anders kan hem claimen.
2. Sluit aanmeldingen. Beheerinstellingen → zet de standaardrol voor nieuwe gebruikers op 'in afwachting', of schakel registratie uit.
3. Voeg een verbinding toe. Instellingen → Verbindingen → plak een basis-URL van de API en een sleutel. Modellen van die aanbieder verschijnen in de modelkiezer.

Lokale modellen toevoegen

Installeer Ollama op de host (onze handleiding), haal een klein model op en start Open WebUI zo dat het erbij kan:

ollama pull llama3.2:3b
docker rm -f open-webui
docker run -d --name open-webui --restart always \
  -p 127.0.0.1:3000:8080 --add-host=host.docker.internal:host-gateway \
  -e OLLAMA_BASE_URL=http://host.docker.internal:11434 \
  -v open-webui:/app/backend/data ghcr.io/open-webui/open-webui:main

Het volume bewaart je chats bij de herstart. Reken op een paar tokens per seconde op de CPU — prima voor samenvattingen en privénotities, traag voor lange teksten. Voor zwaardere lokale inferentie, zie VPS voor Ollama.

Goed om te weten

• Updates komen vaak. docker pull ghcr.io/open-webui/open-webui:main, en maak de container daarna opnieuw aan. Maak eerst een back-up van het volume.
• API-kosten zijn voor jou. Open WebUI beperkt het gebruik per gebruiker standaard niet; houd de uitgaven in de gaten als je het met een team deelt.
• Het is een chatapp, geen model. De kwaliteit van de antwoorden hangt volledig af van het model erachter.

Planlimieten en upgrades staan in de documentatie over plannen.