გულწრფელი პასუხი კითხვაზე „რამდენი სერვერი სჭირდება ჩემს AI აგენტს?" არის: ნაკლები, ვიდრე გგონიათ — ზუსტად სანამ უცებ არ არის. ხრიკი არის იმის ცოდნა, რომელ მხარეს ზის თქვენი workload იმ ხაზისა. ასე რომ გამოცნობის ნაცვლად, აი რას იყენებს თითოეული სახის აგენტი რეალურად.
ერთი კითხვა, რომელიც ყველაფერს წყვეტს
მოდელი მუშაობს თქვენს სერვერზე, თუ თქვენი აგენტი მოდელს უწოდებს API-ით?
თუ თქვენი აგენტი ჰოსტინგებულ LLM-ს ესაუბრება (ჩვეულებრივი შემთხვევა), ჭკვიანი, ძვირი ნაწილი ხდება სხვის hardware-ზე. თქვენი box უბრალოდ უშვებს orchestration loop-ს: აიღე input, გამოიძახე API, დაარჩიე შედეგი, იქნებ დაარტყი მონაცემთა ბაზას, გაიმეორე. ეს მსუბუქია. ნამდვილად მსუბუქი — 1 GB box აკეთებს ამას ოფლის გარეშე.
თუ მოდელს ლოკალურად უშვებთ, ყველაფერი იცვლება: ახლა RAM-ს ბატონობს მოდელის წონები, და მოგინდებათ ყოველი ბირთვი, რასაც მიიღებთ. უმეტეს ადამიანს ეს არ სჭირდება. ისინი, ვისაც სჭირდება, ჩვეულებრივ ზუსტად იციან რატომ (კონფიდენციალურობა, არავითარი rate limit, offline). თუ ეს თქვენ ხართ, დავწერეთ ცალკე გზამკვლევი ლოკალური LLM-ის თვით-ჰოსტინგზე.
ზომა workload-ით
რეალური რიცხვები, ისეთი, რომლითაც შეგიძლიათ იმოქმედოთ:
| Workload | RAM | vCPU | დისკი | შენიშვნები |
|---|---|---|---|---|
| Chat / assistant აგენტი (API-backed) | 1 GB | 2 | 15 GB | loop პაწაწინაა; მოდელი დისტანციურია |
| Scraper / მონაცემთა აგენტი | 2 GB | 2 | 25 GB | ადგილი parsing-ისთვის + scrape-ებული მონაცემები |
| სავაჭრო bot | 1–2 GB | 2 | 15–25 GB | latency უფრო მნიშვნელოვანია ვიდრე ზომა — იხილეთ სავაჭრო bot გზამკვლევი |
| რამდენიმე აგენტი პარალელურად | 4 GB | 4 | 35 GB | ყოველი აგენტი იაფია; concurrency გროვდება |
| ლოკალური LLM, 3B–7B (quantized) | 4–6 GB | 4–6 | 25–45 GB | CPU-only, მუშაობს წასაკითხ ტემპში, არა მასობრივად |
pattern: API-backed აგენტები პაწაწინაა; ლოკალური მოდელები ერთადერთია, რაც მძიმეა.
სად წყვეტს CPU box
პირდაპირ ჭერზე: ჩვენი ტარიფები ზევით არის 6 GB RAM და 6 ბირთვი, CPU-only — არავითარი GPU. ეს ფარავს ყველაფერს ზემოთ ცხრილში, 7B ლოკალური მოდელის ჩათვლით პირადი გამოყენებისთვის. რას ის არ ფარავს: 13B+ მოდელები, მაღალ-გამტარიანი ლოკალური inference, ან რაიმე, რასაც ნამდვილად GPU სჭირდება. თუ ეს თქვენი workload-ია, CPU VPS — ჩვენი ან ვინმეს — არასწორი ხელსაწყოა, და სჯობს ეს ახლა იცოდეთ, ვიდრე deploy-ის შემდეგ.
აგენტების 95%-ისთვის, რომლებიც API-ს უწოდებენ, არაფერი ამათგანი პრობლემა არ არის. ისინი ბედნიერები არიან ყველაზე პატარა box-ზე.
პრაქტიკული ცერის წესი
- მხოლოდ აგენტი, რომელიც API-ს უწოდებს? დაიწყეთ 1 GB / 2 ბირთვზე. მოგვიანებით შეგიძლიათ ზომის შეცვლა.
- scraping ან მონაცემების შენახვა? 2 GB და უფრო დიდი დისკი.
- რამდენიმე აგენტის გაშვება, ან პატარა ლოკალური მოდელი? 4–6 GB და 4+ ბირთვი.
- სჭირდება GPU? განსხვავებული კატეგორია — ნუ აიძულებთ მას CPU-ზე.
ნუ გადააჭარბებთ უზრუნველყოფას ნერვიულობით. აგენტები ბუნებით მსუბუქია; ძალიან-პატარა box-ის ღირებულება ერთი resize-ია, ხოლო ძალიან-დიდი box-ის ღირებულება არის უსაქმური RAM-ის გადახდა ყოველ თვე.
როცა ზომას აირჩევთ, აგენტს შეუძლია box-ის თავად დაქირავება MCP-ით, ან შეგიძლიათ მისი შეკვეთა წუთში საიტზე. ორივე გზით, დაიწყეთ პატარადან — თითქმის ნამდვილად ნაკლები დაგჭირდებათ, ვიდრე მოელოდით.
კომენტარები
ჯერ არ არის კომენტარები. იყავით პირველი.