VPS για Open WebUI: ιδιωτικό περιβάλλον chat για LLM

Χρησιμοποιείτε τρεις διαφορετικούς παρόχους μοντέλων, ο καθένας με το δικό του παράθυρο chat, συνδρομή και ιστορικό. Το Open WebUI τους βάζει πίσω από ένα περιβάλλον που φιλοξενείτε εσείς: διαλέγετε μοντέλο ανά συνομιλία, κρατάτε όλο το ιστορικό στον server σας, το μοιράζεστε με την ομάδα και συνδέετε τοπικά μοντέλα όταν τίποτα δεν πρέπει να φύγει από το μηχάνημα.

Δύο τρόποι να το τρέξετε

Ως περιβάλλον για API. Το Open WebUI συνδέεται σε οποιοδήποτε API συμβατό με OpenAI — φιλοξενούμενους παρόχους, έναν LiteLLM proxy ή δικό σας endpoint. Ο server δεν κάνει σχεδόν τίποτα· ένα μικρό πλάνο αρκεί και περισσεύει.

Με τοπικά μοντέλα. Προσθέστε το Ollama στον ίδιο server και τρέξτε τοπικά μοντέλα ανοιχτών βαρών. Τώρα ο περιορισμός είναι η RAM, και η εκτέλεση σε CPU είναι αργή. Ο ειλικρινής συμβιβασμός: πλήρης ιδιωτικότητα, μέτρια ταχύτητα.

Εγκατάσταση με Docker

Σε server με εγκατεστημένο Docker:

docker run -d --name open-webui --restart always \
  -p 127.0.0.1:3000:8080 \
  -v open-webui:/app/backend/data \
  ghcr.io/open-webui/open-webui:main

Η δέσμευση στο 127.0.0.1 το κρατά εκτός δημόσιου internet μέχρι να αποφασίσετε πώς θα το εκθέσετε. Συνομιλίες, χρήστες και ρυθμίσεις ζουν στο volume open-webui.

Ασφαλής πρόσβαση

SSH tunnel — δουλεύει σε όλα τα πλάνα, και σε NAT:

ssh -p 22 -N -L 3000:127.0.0.1:3000 you@203.0.113.10

Ανοίξτε το http://localhost:3000. Σε πλάνο NAT χρησιμοποιήστε την προσωπική σας θύρα SSH.

HTTPS στο domain σας — για ομάδα σε πλάνο με αποκλειστική IP. Δείξτε ένα subdomain στον server (οδηγός) και κάντε proxy με nginx, μαζί με τα headers για WebSocket:

location / {
    proxy_pass http://127.0.0.1:3000;
    proxy_set_header Host $host;
    proxy_set_header Upgrade $http_upgrade;
    proxy_set_header Connection upgrade;
    proxy_read_timeout 300s;
}

Μετά τρέξτε certbot --nginx -d chat.example.com. Το μεγάλο timeout ανάγνωσης μετράει: τα αργά μοντέλα στέλνουν απαντήσεις για λεπτά.

Πρώτα βήματα μέσα

1. Εγγραφείτε αμέσως. Ο πρώτος λογαριασμός γίνεται διαχειριστής. Μην αφήνετε μια φρέσκια εγκατάσταση δημόσια — μπορεί να την «πάρει» κάποιος άλλος.
2. Κλείστε τις εγγραφές. Ρυθμίσεις διαχειριστή → ορίστε τον προεπιλεγμένο ρόλο νέων χρηστών σε αναμονή, ή απενεργοποιήστε την εγγραφή.
3. Προσθέστε σύνδεση. Ρυθμίσεις → Συνδέσεις → επικολλήστε το βασικό URL του API και ένα κλειδί. Τα μοντέλα αυτού του παρόχου εμφανίζονται στην επιλογή μοντέλου.

Προσθήκη τοπικών μοντέλων

Εγκαταστήστε το Ollama στον host (ο οδηγός μας), κατεβάστε ένα μικρό μοντέλο και ξεκινήστε το Open WebUI ώστε να μπορεί να το φτάσει:

ollama pull llama3.2:3b
docker rm -f open-webui
docker run -d --name open-webui --restart always \
  -p 127.0.0.1:3000:8080 --add-host=host.docker.internal:host-gateway \
  -e OLLAMA_BASE_URL=http://host.docker.internal:11434 \
  -v open-webui:/app/backend/data ghcr.io/open-webui/open-webui:main

Το volume κρατά τις συνομιλίες σας στην επανεκκίνηση. Περιμένετε λίγα tokens το δευτερόλεπτο σε CPU — καλό για περιλήψεις και ιδιωτικές σημειώσεις, αργό για μεγάλα κείμενα. Για βαρύτερη τοπική εκτέλεση, δείτε το VPS για Ollama.

Αξίζει να ξέρετε

• Οι ενημερώσεις είναι συχνές. docker pull ghcr.io/open-webui/open-webui:main, και μετά αναδημιουργήστε το container. Κρατήστε πρώτα αντίγραφο του volume.
• Το κόστος των API είναι δικό σας. Το Open WebUI από προεπιλογή δεν περιορίζει τη χρήση ανά χρήστη· προσέχετε τα έξοδα αν το μοιράζεστε με ομάδα.
• Είναι εφαρμογή chat, όχι μοντέλο. Η ποιότητα των απαντήσεων εξαρτάται εξ ολοκλήρου από το μοντέλο πίσω του.

Όρια και αναβαθμίσεις των πλάνων στην τεκμηρίωση των πλάνων.