Phần lớn mọi người đoán mò dung lượng RAM. Họ hoặc mua quá nhiều “cho chắc”, hoặc làm quen với OOM killer lúc 3 giờ sáng. Bộ nhớ thực ra là một trong những thứ dễ chọn cấu hình nhất, vì tác vụ có thể dự đoán được khi bạn biết các con số ước chừng. Đây là chúng, từ máy 1 GB cho bot tới những máy chủ 64 GB mà người ta tìm khi muốn chạy mô hình lớn tại chỗ.
Con số ước chừng theo tác vụ
Đây là giá trị thực tế ở trạng thái ổn định cho một cấu hình điển hình, không phải mức tối thiểu của nhà cung cấp phần mềm.
| Tác vụ | RAM thực sự dùng | Gói phù hợp |
|---|---|---|
| Bot Telegram/Discord (Python, Node.js) | 100–300 MB | Nano 1 GB |
| Trang tĩnh + Caddy/Nginx | 50–150 MB | Nano 1 GB |
| WordPress + MariaDB, lưu lượng bình thường | 0,8–1,5 GB | Micro-IP 2 GB |
| PostgreSQL cho ứng dụng nhỏ | 0,5–2 GB (bạn quyết định qua shared_buffers) | Micro / Small |
| n8n với vài workflow | 0,5–1,5 GB | Micro 2 GB |
| Máy chủ Docker với 5–10 dịch vụ nhỏ | 2–4 GB | Small 4 GB |
| Coolify + build + một cơ sở dữ liệu | 3–4 GB | Small-IP 4 GB |
| LLM 7–8B, 4-bit, suy luận trên CPU | 5–6 GB | Medium 6 GB |
| LLM 14B, 4-bit | ~10 GB | Pro-32 |
| LLM 32B, 4-bit | ~20 GB | Pro-32 |
| LLM 70B, 4-bit | ~40–45 GB | Pro-48 / Pro-64 |
Có hai điều đáng chú ý. Thứ nhất, khoảng cách giữa các tác vụ “bình thường” và LLM là rất lớn: một bot và một mô hình 70B chênh nhau tới hai trăm lần. Thứ hai, hầu hết dịch vụ chạy tốt với 1–4 GB; người ta mua thừa vì chọn cấu hình cho một tương lai hiếm khi tới.
Công thức cho LLM
Với mô hình ngôn ngữ có một cách ước tính đơn giản: số tham số × số bit mỗi trọng số ÷ 8, cộng phần phụ trội. Một mô hình 8B ở khoảng 4,5 bit (mức lượng tử hóa Q4 điển hình) là 8 × 4,5 ÷ 8 ≈ 4,5 GB trọng số. Cộng thêm 1–2 GB cho cửa sổ ngữ cảnh (KV cache tăng theo độ dài ngữ cảnh) và runtime, bạn sẽ có 5–6 GB.
Phần thật lòng: trên máy chủ chỉ có CPU, bộ nhớ mới là một nửa câu chuyện. Hãy kỳ vọng vài token mỗi giây với mô hình 7–8B trên vài vCPU và khoảng một token mỗi giây với 70B. Như vậy ổn cho tác vụ theo lô, agent chạy nền và thử nghiệm riêng; đó không phải trải nghiệm trò chuyện cho nhiều người dùng cùng lúc. Nếu bạn chủ yếu gọi API của các mô hình được lưu trữ sẵn, agent của bạn cần ít hơn nhiều: xem chọn cấu hình VPS cho agent AI.
Hãy đo thay vì đoán
Nếu bạn đã có máy chủ, con số nằm ngay đó:
free -h # look at "available", not "free"
ps aux --sort=-rss | head -n 8 # the biggest processes, by resident memory
docker stats --no-stream # per-container usage
Linux dùng RAM nhàn rỗi làm bộ đệm đĩa, nên “free” luôn nhỏ, và đó là điều lành mạnh. Available mới là con số quan trọng: bộ nhớ mà kernel có thể cấp cho chương trình ngay lúc này. Nếu available luôn trên ~25% vào giờ cao điểm, cấu hình của bạn đã hợp lý. Nếu nó thường xuyên chạm 0 và swap tăng lên, hãy nâng gói.
Kiểm tra cả các lần bị OOM kill trong quá khứ:
journalctl -k | grep -i "out of memory"
Swap: dây an toàn, không phải động cơ
Một tệp swap 1–2 GB trên máy chủ nhỏ là bảo hiểm giá rẻ: một lần cập nhật gói hay build Docker cần thêm bộ nhớ trong chốc lát sẽ sống sót thay vì bị buộc dừng. Nhưng nếu một dịch vụ sống trong swap, mọi yêu cầu đều phải chờ đĩa. Swap dành cho các đợt tăng đột biến. Swap liên tục nghĩa là bạn cần gói tiếp theo.
Vậy nên mua bao nhiêu?
- 1 GB: một bot, một API nhỏ, một trang tĩnh.
- 2 GB: mức mặc định hợp lý cho mọi thứ có cơ sở dữ liệu hoặc Docker.
- 4–6 GB: vài dịch vụ trên cùng một máy, build trên máy chủ, một mô hình cục bộ nhỏ.
- 32–64 GB: chỉ khi một thứ lớn phải sống trong bộ nhớ: mô hình cục bộ trên 14B, chỉ mục RAG lớn, một đội agent. Đó là lý do có các gói bộ nhớ lớn.
Hãy bắt đầu nhỏ hơn một cỡ so với trực giác, theo dõi free -h trong một tuần, rồi nâng cấp nếu con số cho thấy cần. Tại EQVPS, nâng gói vẫn giữ nguyên dữ liệu và chỉ tính phần chênh lệch theo tỷ lệ (cách đổi gói hoạt động).
Bình luận
Chưa có bình luận nào. Hãy là người đầu tiên.