በVPS ላይ Ollama እንዴት መጫን (እና API ውን መጥራት)

በVPS ላይ Ollama ጫን፣ ትንሽ ሞዴል ሳብ፣ እና የHTTP API ውን ጥራ — እነዚህ የCPU ማሽኖች መሆናቸውን በሚገልጽ ግልፅ ማስታወሻ፣ ስለዚህ ትናንሽ የተከፋፈሉ ሞዴሎችና embeddings ላይ ቆይ። copy-paste ትዕዛዞች፣ እና በደህና እንዴት እንደሚያጋልጡት።

Ollama የቦታ ሞዴል ማሄድን ባለ አንድ-መስመር መጫኛ ያደርገዋል። ይህ how-to ነው፤ የCPU መተንተን ምን ማድረግ እንደሚችልና እንደማይችል (እና የRAG ጣፋጭ ቦታ) ግልፅ ምስል ለማግኘት ለOllama VPS አጠቃቀም እና Ollama ራስ-ማስተናገድ ተመልከት።

1. Ollama ጫን

curl -fsSL https://ollama.com/install.sh | sh

ይህ Ollama ን ይጭናል እና በlocalhost:11434 ላይ የሚያዳምጥ የsystemd አገልግሎት ሆኖ ያስጀምረዋል።

2. ትንሽ ሞዴል ሳብና አሂድ

በCPU ማሽን ላይ ትንሽ ጀምር፦

ollama pull llama3.2:3b
ollama run llama3.2:3b "Summarize this in one sentence: ..."

3B ሞዴሎች በCPU ላይ በእውነት ጥቅም ላይ ይውላሉ፤ 7–8B በሰከንድ ጥቂት ቶከን ይሄዳሉ (ለbatch ጥሩ፣ ለውይይት አሳማሚ)፤ 13B+ swap ያደርጋሉ እና ይሳባሉ — አታድርግ።

3. HTTP API ጥራ

curl http://localhost:11434/api/generate \
  -d '{"model":"llama3.2:3b","prompt":"ping","stream":false}'

embeddings የCPU ጣፋጭ ቦታ ናቸው፦

ollama pull nomic-embed-text
curl http://localhost:11434/api/embeddings \
  -d '{"model":"nomic-embed-text","prompt":"hello world"}'

4. በlocalhost አቆየው — ካስፈለገ በደህና አጋልጠው

Ollama በነባሪ ወደ 127.0.0.1:11434 ይተሳሰራል። እዚያ ተወው። ከሌላ ማሽን ልትደርሰው ካስፈለገ፣ በተወሰነ-IP እቅድ ላይ ማረጋገጫ ካለው reverse proxy ፊት አስቀምጥ (nginx + HTTPS መመሪያ) ወይም SSH ዋሻ ተጠቀም — ማረጋገጫ የሌለው የሞዴል endpoint በጭራሽ በይፋ አታጋልጥ።

ግልፅ ክፍል

እነዚህ የCPU-ብቻ ናሙናዎች ናቸው (GPU የለም)። ትናንሽ የተከፋፈሉ ሞዴሎችና embeddings በደንብ ይሄዳሉ፤ ትላልቆቹ አይሄዱም። Ollama ን ከለግል RAG ክምችት vector DB ጋር አጣምረው — ትናንሽ የቦታ embeddings ከቦታ vector store ጋር እዚህ በእውነት የሚያበራው ማዋቀር ነው። Medium ($12/ወር፣ 6 GB) ምቹው እቅድ ነው። በአንድ ደቂቃ ገደማ root፣ ያለ KYC፣ በክሪፕቶ የሚከፈል።

FAQ

በVPS ላይ Ollama እንዴት እጭናለሁ?

አንድ ትዕዛዝ፦ curl -fsSL https://ollama.com/install.sh | sh። ከዚያ ትንሽ ሞዴል ollama pull አድርግና ollama run አድርገው፣ ወይም በlocalhost:11434 ላይ HTTP API ጥራ። ደረጃዎቹ ከታች ናቸው። በCPU VPS ላይ ትናንሽ የተከፋፈሉ ሞዴሎች (1B–8B) እና embeddings ላይ ቆይ — ትላልቅ ሞዴሎች GPU ያስፈልጋቸዋል።

በCPU VPS ላይ ሞዴሎች ፈጣኖች ይሆናሉ?

ትናንሾቹ አዎ፣ ትላልቆቹ አይ። በ4-ቢት ክፍፍል በ7–8B ሞዴል በሰከንድ ጥቂት ቶከኖችን ጠብቅ፣ እና በ1–3B ሞዴሎችና embedding ሞዴሎች ላይ በእውነት ፈጣን አፈጻጸም። ለጀርባ ስራዎች፣ ለምደባና ለRAG መስመሮች ግሩም — በትልቅ ሞዴል ላይ ለፈጣን መስተጋብራዊ ውይይት አይደለም።

የOllama API ን ወደ ኢንተርኔት ማጋለጥ አለብኝ?

አይ። በlocalhost:11434 ላይ አቆየው። የርቀት መዳረሻ ካስፈለገ፣ በተወሰነ-IP እቅድ ላይ ማረጋገጫ ካለው reverse proxy ጀርባ አስቀምጠው፣ ወይም በSSH ዋሻ በኩል ድረሰው። ማረጋገጫ የሌለው የሞዴል endpoint በጭራሽ ወደ ክፍት ኢንተርኔት አታጋልጥ።

የትኛው እቅድ ያስፈልገኛል?

የኛ Medium ($12/ወር፣ 6 GB) ለትናንሽ ሞዴሎችና embeddings በምቾት ይመጥናል፤ Small ($8) 1–3B ሞዴሎችን ለመሞከር ይሰራል። እነዚህ የCPU-ብቻ ናሙናዎች ናቸው — GPU የለም — ስለዚህ በፍጥነት ተስፋ ሳይሆን በሞዴሉ የRAM ዱካ መጠን ምረጥ።

መታወቂያ ወይም ካርድ ትጠይቃላችሁ?

አይ። ለመመዝገብ ኢሜይል፣ በUSDC ወይም USDT መክፈል — ሰነድ የለም፣ ካርድ የለም።

አስተያየቶች

እስካሁን አስተያየቶች የሉም። መጀመሪያ ይሁኑ።