AI 에이전트는 실제로 얼마나의 VPS가 필요한가? 사이징 가이드

"내 AI 에이전트에 서버가 얼마나 필요해?"에 대한 솔직한 답은: 생각보다 적다 — 갑자기 아니게 되기 전까지는. 요령은 당신의 워크로드가 그 선의 어느 쪽에 앉는지 아는 것. 그러니 짐작 대신, 여기 각 종류의 에이전트가 실제로 무엇을 쓰는지를.

모든 것을 결정하는 단 하나의 질문

모델이 당신의 서버에서 도는가, 아니면 에이전트가 API 너머로 모델을 부르는가?

에이전트가 호스팅된 LLM과 대화하면(흔한 경우), 똑똑하고 비싼 부분은 남의 하드웨어에서 일어납니다. 당신의 박스는 그저 오케스트레이션 루프를 돕니다: 입력을 받고, API를 부르고, 결과를 파싱하고, 어쩌면 데이터베이스에 닿고, 반복. 그것은 가볍습니다. 진짜 가볍습니다 — 1 GB 박스가 땀 한 방울 없이 합니다.

모델을 로컬로 돌리면 모든 게 바뀝니다: 이제 RAM은 모델 가중치에 지배되고, 얻을 수 있는 모든 코어를 원하게 됩니다. 대부분은 이것이 필요 없습니다. 필요한 사람은 대개 이유를 정확히 압니다(프라이버시, 속도 제한 없음, 오프라인). 그게 당신이라면 로컬 LLM 자체 호스팅에 관한 별도 가이드를 썼습니다.

워크로드별 사이징

실제 숫자, 행동에 옮길 수 있는 종류의:

패턴: API 기반 에이전트는 작다; 로컬 모델만이 무거운 유일한 것이다.

CPU 박스는 어디서 멈추는가

천장에 대해 솔직하게: 우리 요금제는 6 GB RAM과 6코어, CPU 전용 — GPU 없음에서 상한입니다. 그것이 위 표의 모든 것을 커버합니다, 개인용 7B 로컬 모델을 포함해. 커버하지 않는 것: 13B+ 모델, 고처리량 로컬 추론, 또는 진짜 GPU가 필요한 무엇이든. 그게 당신 워크로드라면, CPU VPS — 우리 것이든 누구 것이든 — 는 잘못된 도구이고, 배포한 뒤보다 지금 아는 편이 낫습니다.

API를 부르는 95%의 에이전트에게는 이 중 어느 것도 문제가 아닙니다. 그들은 가장 작은 박스에 만족합니다.

실용적 경험칙

• API를 부르는 에이전트뿐? 1 GB / 2코어에서 시작. 나중에 크기를 바꿀 수 있습니다.
• 스크래핑이나 데이터 저장? 2 GB와 더 큰 디스크.
• 여러 에이전트, 또는 작은 로컬 모델을 돌리나? 4~6 GB와 4개 이상 코어.
• GPU가 필요한가? 다른 범주 — CPU에 억지로 밀어 넣지 마세요.

불안해서 과다 배치하지 마세요. 에이전트는 본질적으로 가볍습니다; 너무 작은 박스의 비용은 한 번의 크기 변경, 너무 큰 박스의 비용은 매달 노는 RAM에 내는 것입니다.

크기를 골랐다면, 에이전트가 MCP로 박스를 스스로 빌릴 수 있고, 사이트에서 1분 만에 주문할 수도 있습니다. 어느 쪽이든 작게 시작하세요 — 거의 확실히 기대보다 적게 필요할 겁니다.

VPS에는 RAM이 얼마나 필요할까요? 작업별 실제 수치 →