월 26달러 VPS 두 대로 24시간 내내 AI 에이전트 운영하기: Hostinger Governor가 CPU 크레딧 제한을 해결하다

두 대의 Hostinger KVM 8 VPS(8 vCPU, 32GB RAM, 400GB NVMe)에서 AI 에이전트를 24시간 운영하던 개발자가 제공업체의 CPU 크레딧 제한을 해결하기 위해 Hostinger Governor를 오픈소스로 공개했다. 문제는 이랬다. KVM 8은 크레딧이 남아 있는 동안 최대 8개 코어까지 버스트할 수 있지만, 크레딧은 4.8코어 분량만큼만 적립된다. 잔액이 0이 되면 서버 전체가 30%(2.4코어)로 떨어지고, 작업이 계속 밀려도 그 상태로 유지된다. 이 해결책을 적용하기 전, Hostinger는 그의 서버를 10일 동안 13번 제한했고, 그때마다 서버의 모든 서비스가 30%로 묶였다.

Governor가 하는 일

Governor는 크레딧 풀을 예산 관리한다. 크레딧이 있는 동안에는 서버가 모든 코어를 사용하고, 잔액이 바닥나기 전에 Governor가 부하를 4.8코어 기준선까지 낮춘다. 코어가 전용으로 할당되는 것은 아니지만, 30%라는 단단한 벽에 부딪히는 대신 꾸준한 기준선과 버스트를 함께 유지할 수 있다.

노트북 대신 VPS를 쓰는 이유

잠든 노트북은 예약된 에이전트를 실행할 수 없다. 그는 여러 에이전트, 예약 작업, 테스트 환경을 프로세스 격리와 함께 나란히 운영하고 싶었다. 그래야 하나의 폭주 작업이 나머지를 망가뜨리지 않는다. 또한 컴퓨팅과 메모리 가격이 오를 것으로 예상한다. Hetzner는 6월에 8코어, 32GB 전용 서버 가격을 월 €62.49에서 €138.49로 인상했다.

Hostinger KVM 8은 24개월 약정 시 가격이 가장 좋았다. 미국 기준 세전 월 $25.99이고, 2년 후 갱신 가격은 $49.99다. Hostinger의 54개 로케일에서 같은 플랜은 월 $22~$32였고, 현지 통화로 결제하고 20% 추천 할인을 받으면 그의 비용은 약 $18로 내려갔다. 그는 두 대를 운영한다.

그가 직접 설계한 서버 재구축

• 수작업으로 설정한 것은 없다. Ansible 저장소가 빈 VM에서 약 두 시간 만에 서버를 재구축하고, 서버는 검사를 통과한 뒤 각 변경을 스스로 적용한다.
• 열린 포트가 없다. 모든 연결은 외부로 나가며, 그는 Tailscale을 통해 서버에 접속한다.
• 각 에이전트나 서비스는 자체 Linux 사용자로 실행되므로 서로의 파일을 읽을 수 없다.
• 에이전트는 비공개 Telegram 그룹에 보고하며, 프로젝트당 하나의 토픽을 사용한다. 다섯 가지 작업은 항상 탭을 기다린다. 돈 지출, 프로덕션 데이터 삭제, 보안 변경, 모든 사용자에게 동시 메시지 발송, 개인 데이터를 새 곳으로 전송하기가 그것이다. /freeze는 모든 에이전트를 한 번에 중지한다.
• 어떤 에이전트도 API 키를 보유하지 않는다. 키는 각 요청을 검증하고 실행하며 취소 기록을 남기는 소규모 브로커 서비스에 있다.
• CPU는 계층으로 나뉜다. 상시 실행 에이전트는 작은 고정 몫을 받고, 빌드, CI, 배치 작업은 Governor의 상한 아래에서 나머지를 공유한다.
• 장애가 발생하면 서버가 스스로 재시작하거나 롤백하며, 외부 서비스가 서버가 조용해지면 그에게 알린다.

그는 시작할 때 이 모든 것이 필요하지는 않다고 말한다. 서버 한 대, 프로젝트당 Linux 사용자, 휴대폰 알림, CPU 크레딧을 감시하는 무언가만으로도 대부분 해결된다. Governor는 MIT 라이선스이며 모든 Hostinger KVM 플랜에서 작동한다.