Open WebUI için VPS: LLM'ler için özel sohbet arayüzü

Her birinin kendi sohbet penceresi, aboneliği ve geçmişi olan üç farklı model sağlayıcısı kullanıyorsunuz. Open WebUI hepsini kendiniz barındırdığınız tek bir arayüzün arkasında toplar: her konuşma için bir model seçin, tüm geçmişi kendi sunucunuzda tutun, ekibinizle paylaşın ve hiçbir şeyin makineden çıkmaması gerektiğinde yerel modelleri bağlayın.

Çalıştırmanın iki yolu

API'ler için arayüz olarak. Open WebUI, OpenAI uyumlu herhangi bir API'ye bağlanır — barındırılan sağlayıcılar, bir LiteLLM proxy'si ya da kendi endpoint'iniz. Sunucu neredeyse hiç iş yapmaz; küçük bir plan fazlasıyla yeter.

Yerel modellerle. Aynı sunucuya Ollama ekleyin ve açık ağırlıklı modelleri yerel olarak çalıştırın. Artık kısıt RAM'dir ve CPU'da çıkarım yavaştır. Dürüst takas: tam gizlilik, mütevazı hız.

Docker ile kurulum

Docker kurulu bir sunucuda:

docker run -d --name open-webui --restart always \
  -p 127.0.0.1:3000:8080 \
  -v open-webui:/app/backend/data \
  ghcr.io/open-webui/open-webui:main

127.0.0.1'e bağlamak, nasıl açacağınıza karar verene kadar onu genel internetin dışında tutar. Sohbetler, kullanıcılar ve ayarlar open-webui volume'unda yaşar.

Güvenli erişim

SSH tüneli — NAT dahil her planda çalışır:

ssh -p 22 -N -L 3000:127.0.0.1:3000 you@203.0.113.10

http://localhost:3000 adresini açın. NAT planında kişisel SSH portunuzu kullanın.

Alan adınızda HTTPS — özel IP'li bir plandaki ekip için. Bir alt alan adını sunucuya yönlendirin (rehber) ve WebSocket başlıkları dahil nginx ile proxy yapın:

location / {
    proxy_pass http://127.0.0.1:3000;
    proxy_set_header Host $host;
    proxy_set_header Upgrade $http_upgrade;
    proxy_set_header Connection upgrade;
    proxy_read_timeout 300s;
}

Ardından certbot --nginx -d chat.example.com çalıştırın. Uzun okuma zaman aşımı önemlidir: yavaş modeller yanıtları dakikalarca akıtır.

İçerideki ilk adımlar

1. Hemen kaydolun. İlk hesap yönetici olur. Yeni bir kurulumu açık bırakmayın — başka biri sahiplenebilir.
2. Kayıtları kapatın. Yönetici ayarları → yeni kullanıcıların varsayılan rolünü beklemede yapın ya da kaydı kapatın.
3. Bir bağlantı ekleyin. Ayarlar → Bağlantılar → bir API temel URL'si ve anahtar yapıştırın. O sağlayıcının modelleri model seçicide görünür.

Yerel model ekleme

Ollama'yı sunucuya kurun (rehberimiz), küçük bir model indirin ve Open WebUI'yi ona erişebilecek şekilde başlatın:

ollama pull llama3.2:3b
docker rm -f open-webui
docker run -d --name open-webui --restart always \
  -p 127.0.0.1:3000:8080 --add-host=host.docker.internal:host-gateway \
  -e OLLAMA_BASE_URL=http://host.docker.internal:11434 \
  -v open-webui:/app/backend/data ghcr.io/open-webui/open-webui:main

Volume, yeniden başlatmada sohbetlerinizi korur. CPU'da saniyede birkaç token bekleyin — özetler ve özel notlar için iyi, uzun metinler için yavaş. Daha ağır yerel çıkarım için Ollama için VPS sayfasına bakın.

Bilmeye değer

• Güncellemeler sık gelir. docker pull ghcr.io/open-webui/open-webui:main, sonra container'ı yeniden oluşturun. Önce volume'u yedekleyin.
• API maliyetleri size aittir. Open WebUI varsayılan olarak kullanıcı başına kullanımı sınırlamaz; bir ekiple paylaşıyorsanız harcamaları izleyin.
• Bu bir sohbet uygulaması, model değil. Yanıt kalitesi tamamen arkasındaki modele bağlıdır.

Plan sınırları ve yükseltmeler plan belgelerinde.