Revolut GLM-5.3 자체 호스팅: 비용과 API 선택 기준
Revolut의 GLM-5.1에서 GLM-5.3으로의 전환을 바탕으로, B200 GPU 56개를 전제하지 않고 개방형 모델의 기본 도입을 검토합니다. 보고된 청구액 감소와 총소유비용을 구분하고, 256K 컨텍스트와 지연 목표, GLM-5.3 API 요금을 확인합니다. 종량제 API와 전용 호스팅을 비교하며 Yingjun Wu의 가동률 반례와 실용적인 시험 계획을 제시합니다.
목차
Revolut의 GLM-5.3 자체 호스팅 사례를 검토하는 대부분의 팀에는 종량제 API를 이용한 소규모 시험을 권장합니다. 품질 검사를 통과하지 못하는 작업에는 최상위 모델로 전환할 경로를 남겨 둡니다. 전용 호스팅은 실제 요청량, 지연 요구사항, 운영비를 확인한 뒤 타당성이 있을 때 검토합니다.
아래에서는 Revolut이 보고한 결과와 팀을 위한 권장 절차를 구분합니다. 문서와 API 요금의 확인 날짜는 2026-11-09입니다.
Revolut은 실제로 무엇을 구축했습니까?
Revolut은 약 2,000명의 엔지니어에게 개방형 GLM 모델을 기본값으로 제공하고, 최상위 모델은 예외적인 작업에 남겨 두었습니다. AI Engineer 발표와 녹취록은 GLM-5.1에서 GLM-5.3으로 전환한 과정을 설명합니다. 이후 배포 환경에는 Nvidia B200 GPU 56개를 사용했습니다.
운영 지표 슬라이드에는 Together도 등장합니다. 이것만으로 Revolut이 카드 56개를 구매해 자체 시설에 설치했다고 단정할 수는 없습니다. 슬라이드는 파트너를 밝힐 뿐, 하드웨어 소유권이나 전체 운영 계약까지 설명하지는 않습니다.
모델 엔드포인트와 코딩 클라이언트는 별도로 선택합니다. 모델을 바꾸기 위해 모든 클라이언트를 교체해야 한다고 전제하지 않습니다. 설명된 구조에서는 GLM이 텍스트 기반 작업을 처리합니다. 이미지 해석 요청은 라우터가 이미지를 이해하는 모델로 보냅니다.
생산성 수치도 범위를 구분해야 합니다. Abitbol은 코딩 시간 지표가 약 60%, 작업 완료까지의 기간을 뜻하는 리드 타임이 70% 개선됐다고 보고했습니다. 하지만 도입 현황 슬라이드에는 리드 타임 개선이 60%로 표시되어 있습니다.
이 수치는 회사가 보고한 내부 추세로 해석합니다. 조건을 통제한 GLM과 Claude의 비교 시험은 아닙니다. 모델 변경만으로 개선이 발생했다는 사실을 입증하지도 않습니다.
비용 90% 절감은 무엇을 비교한 수치입니까?
이 수치는 Revolut이 보고한 추론 청구액을 비교합니다. 엔지니어 고용비나 인프라 소유비를 모두 합친 금액을 비교하는 것은 아닙니다. 공식 발표 해설은 청구액이 이전 최상위 모델 제공업체 지출의 약 10분의 1이라고 설명합니다. 이전 청구액의 10분의 1만 남으면 감소율은 90%입니다.
별도로 The Register 보도는 입력/출력 1 million 토큰당 $0.30을 Revolut의 GLM-5.1 사용 단계와 연결합니다. 이 과거 토큰 단가를 보고된 전체 청구액 감소와 구분해야 합니다. GLM-5.3 API의 공개 요금도, Claude Code나 Codex 구독에 포함된 사용량도 아닙니다.
운영 지표 슬라이드에는 캐시된 토큰이 무료라고도 표시되어 있습니다. 그러나 발표 해설에는 동일한 조건으로 맞춘 요청량과 청구 기간이 없습니다. 전체 비용을 다시 계산하는 데 필요한 운영비 내역도 부족합니다. 따라서 $0.30을 감가상각까지 모두 반영한 총소유비용으로 표현해서는 안 됩니다.
호스팅 견적을 비교하기 전에 토큰당 비용의 분자에 어떤 비용이 들어가는지 확인합니다. GPU 임대료 또는 감가상각비, 보조 서버, 네트워크, 스토리지, 전력, 지원, 엔지니어 인건비를 살펴봅니다. 이미 묶음 요금에 포함된 항목을 다시 더하지 않도록 확인합니다.
그다음 분모에 포함할 토큰을 정의합니다. 신규 입력, 캐시 읽기, 생성된 출력은 서로 다른 과금 항목입니다. 무료 캐시 읽기를 포함한 평균 단가를 캐시되지 않은 입력 단가와 직접 비교할 수는 없습니다.
왜 컨텍스트는 256K, 첫 토큰 대기 시간은 3초 미만을 기준으로 삼습니까?
256K는 실제 작업에서 검증할 컨텍스트 예산으로 사용합니다. GLM-5.3 자체의 한도가 아닙니다. Z.ai의 현재 모델 문서는 텍스트 전용 입력과 1M 토큰 컨텍스트 창을 명시합니다.
Abitbol의 “긴 컨텍스트는 사기다”라는 발언은 모델 운영에서 선택한 절충점을 설명합니다. 긴 요청에는 컨텍스트 저장 공간과 입력 처리 작업이 더 많이 필요합니다. GPU 규모가 고정되어 있으면 동시에 처리할 세션을 위한 여유가 줄어듭니다.
실용적인 목표는 첫 토큰까지 3초 미만, 생성 속도는 초당 약 200토큰이었습니다. 이는 Revolut이 원하는 사용 경험을 설명합니다. 캐시가 없는 모든 신규 256K 토큰 요청이 3초 안에 입력 처리를 마친다는 보장은 아닙니다.
시험에서는 캐시가 준비되지 않은 요청과 캐시된 컨텍스트를 재사용하는 요청을 따로 측정합니다. 평상시와 최대 동시 요청 수에서 지연 시간의 중앙값과 95번째 백분위수를 기록합니다. 작업 전체의 완료 시간도 측정합니다. 토큰 생성 속도에는 테스트 실행이나 도구 응답을 기다리는 시간이 포함되지 않습니다.
사용 가능한 창을 모두 채우기보다 관련 파일과 검색으로 찾은 필요한 정보부터 제공합니다. 출력을 위한 공간도 남겨 둡니다. 승인된 작업의 결과가 추가 비용이나 지연을 정당화할 때만 컨텍스트 예산을 늘립니다.
어느 부분에 GPU 용량과 운영 인력이 필요합니까?
Revolut의 추론 성능을 재현하려면 실제 부하에 맞춘 조정이 필요합니다. 같은 모델 가중치를 불러오는 것만으로는 부족합니다. 성능 슬라이드는 첫 토큰까지의 시간이 14.26초에서 1.68초로 줄었다고 보여 줍니다. 하드웨어는 같은 B200 GPU 56개였습니다.
첫 토큰 대기 시간이 약 88% 감소했다는 의미입니다. 모든 코딩 작업이 88% 더 빨리 끝났다는 근거는 아닙니다.
발표에서는 FP4 양자화와 prefill 및 decode의 분리를 다룹니다. Prefill은 입력을 처리하는 단계입니다. Decode는 출력 토큰을 생성하는 단계입니다. 이런 추론 시스템 설정에는 용량 시험과 성능 저하에 대응할 운영 담당자가 필요합니다.
GPU 56개가 GLM-5.3을 불러오는 데 필요한 최소 하드웨어도 아닙니다. 현재 vLLM 배포 안내는 H200 또는 H20 GPU 8개로 단일 노드에서 FP8을 배포하는 구성을 설명합니다. 이 작은 구성은 Revolut과 같은 동시 처리량, 지연 시간, 비용 구조를 약속하지 않습니다.
전용 호스팅 시험에서는 제안된 하드웨어에서 대표적인 에이전트 세션을 재실행하도록 요청합니다. 모델 체크포인트, 연산 정밀도, 컨텍스트 예산, 최대 동시 요청 수를 고정합니다. 작업이 검사를 통과하고 지연도 허용 범위에 드는지 확인한 뒤 용량을 확장합니다.
GPU 56개 없이도 팀이 적용할 수 있는 것은 무엇입니까?
인프라보다 기본 모델 선택 정책과 평가 방법을 먼저 적용합니다. 다음 내용은 시험 계획을 제안한 것입니다. Revolut의 비공개 설정을 복원한 것은 아닙니다.
저장소에서 버그 수정, 테스트, 리팩터링, 문서 변경 등 대표적인 작업 20개를 선택합니다. GLM-5.3과 현재 모델을 같은 시작 커밋에서 실행합니다. 코딩 클라이언트, 도구 권한, 인수 테스트, 리뷰 기준은 동일하게 유지합니다.
실행마다 별도의 작업 사본을 제공합니다. 성공한 작업은 필요한 파일을 읽고, 리뷰 가능한 변경을 만들고, 합의한 검사를 통과해야 합니다. 채팅 답변이 그럴듯한 것만으로는 부족합니다.
라우팅 정책을 명확히 정합니다.
- 일반적인 텍스트 기반 코딩 작업은 GLM-5.3으로 보냅니다.
- 이미지 해석이 필요한 작업은 승인된 이미지 지원 모델로 보냅니다.
- 수정 시도가 실패하거나 리뷰어가 명시적으로 요청하면 최상위 모델로 전환하고 이유를 기록합니다.
이 정책은 평가를 시작하기 위한 기준입니다. 모든 상황에서 최적인 재시도 횟수를 뜻하지는 않습니다. 두 경로 모두 승인된 데이터 처리 규칙과 도구 권한을 따라야 합니다.
클라이언트 측 라우팅 구현에는 Claude Code Router 설정 가이드를 참고합니다. 이는 구현 선택지이며, Revolut이 해당 패키지를 사용했다는 뜻은 아닙니다.
입력, 캐시된 입력, 출력, 실패한 시도, 최상위 모델 전환 비용, 경과 시간, 사람의 리뷰 시간을 기록합니다. 비교 기준은 승인된 작업당 총지출입니다. 코딩 에이전트의 작업당 비용 가이드는 토큰 단가가 낮다는 이유만으로 선택할 수 없는 이유를 설명합니다.
품질 기준을 충족한 작업 유형에만 GLM-5.3을 기본값으로 도입합니다. 추가 재시도나 리뷰가 절감액을 없애면 기존 경로를 유지합니다.
API로 GLM-5.3을 사용하면 얼마가 듭니까?
Z.ai의 표준 API는 GPU 계약 없이 측정할 수 있는 비교 기준을 제공합니다. 2026-11-09 기준 공개 요금에 명시된 GLM-5.3의 USD 단가는 다음과 같습니다.
| 토큰 항목 | 1 million 토큰당 요금 |
|---|---|
| 캐시되지 않은 입력 | $1.40 |
| 캐시된 입력 | $0.26 |
| 출력 | $4.40 |
캐시된 입력의 저장 비용은 한시적으로 무료라고 명시되어 있습니다. 이 임시 조건을 영구적인 조건으로 가정해서는 안 됩니다.
입력 100 million 토큰과 출력 10 million 토큰인 예시 부하를 가정합니다. 캐시를 사용하지 않을 때 모델 토큰 요금은 다음과 같습니다.
100 × $1.40 + 10 × $4.40 = $184.00
입력 중 90 million 토큰에 캐시 적중 요금이 적용되면 추정액은 다음과 같습니다.
10 × $1.40 + 90 × $0.26 + 10 × $4.40 = $81.40
실제로 측정한 청구액이 아니라 계산 예시입니다. 유료 도구는 없다고 가정하며 모델 토큰 요금만 포함합니다. 캐시 비중 90%는 예시의 가정이며 실제 부하에 대한 보장이 아닙니다.
실제 응답의 usage.prompt_tokens_details.cached_tokens 필드로 캐시된 입력을 구분합니다. Z.ai의 컨텍스트 캐싱 가이드에 해당 필드가 설명되어 있습니다.
2026-11-09에 확인한 BetterToken 카탈로그에도 glm-5.3이 등록되어 있습니다. OpenCode GLM 연동은 OpenAI 호환 기본 URL https://www.bettertoken.ai/v1을 사용합니다. 측정한 토큰 구성 비율을 기준으로 현재 요금을 비교합니다. 이 API 경로는 Revolut의 인프라 비용 구조를 재현하지 않으며 코딩 도구 구독도 포함하지 않습니다.
Z.ai 접근을 확인하려면 HTTP API 안내에 따라 Standard API Key를 생성합니다. 이 예시에는 잔액이 충전된 표준 API 계정을 사용합니다.
curl이 설치된 Bash에서 다음 명령을 실행합니다. 첫 명령은 안내 문구 없이 키 입력을 기다립니다. 키를 붙여 넣고 Enter를 누릅니다. 입력한 키는 화면에 표시되지 않습니다.
read -rs ZAI_API_KEY && export ZAI_API_KEY
curl --silent --show-error \
--write-out '\nHTTP %{http_code}\n' \
"https://api.z.ai/api/paas/v4/chat/completions" \
-H "Authorization: Bearer $ZAI_API_KEY" \
-H "Content-Type: application/json" \
--data '{
"model": "glm-5.3",
"messages": [
{"role": "user", "content": "Return exactly READY."}
]
}'Chat Completion 참고 문서는 이 엔드포인트와 응답 형식을 설명합니다. HTTP 200, 비어 있지 않은 choices[0].message.content, usage 객체를 확인합니다. 기대하는 답변은 READY입니다. 이는 접근 확인이며 코딩 품질이나 도구 실행을 검증하는 시험은 아닙니다.
HTTP 429를 받으면 재시도 전에 JSON의 오류 코드를 확인합니다. Z.ai는 잔액 부족 또는 리소스 패키지 부재를 뜻하는 1113과 요청 빈도 제한을 뜻하는 1302를 구분합니다. 첫 번째 경우에는 사용 중인 API 계정에 잔액을 충전합니다. 두 번째 경우에는 요청 빈도를 줄입니다. 이 의미는 Z.ai 오류 참고 문서에 해당합니다.
Yingjun Wu의 가동률 35% 손익분기점을 팀에 그대로 적용할 수 있습니까?
그대로 적용할 수는 없습니다. Wu의 분석은 DeepSeek V4.1 Flash 추론 서비스를 판매하는 경우를 다룹니다. 내부 개발팀에 GLM-5.3을 제공하는 경우가 아닙니다.
2026년 11월 2일에 업데이트된 분석에서 H200은 최대 가동률에서도 임대료를 충당하지 못합니다. B300 시나리오는 약 35%에서 손익분기점에 도달합니다. H200 시나리오의 매출은 GPU-hour당 약 $1.60이고 임대료는 $3.99입니다. 이 반올림된 값으로 계산하면 다른 비용을 더하기 전부터 시간당 $2.39가 부족합니다.
이 계산에는 대역폭, 인건비, 예비 용량이 포함되지 않습니다. 해당 값은 저자가 설정한 시나리오의 조건으로 해석합니다. 현재 임대 견적이나 여기서 재현한 측정 결과가 아닙니다.
참고할 부분은 계산 방법입니다. 내부 호스팅에서는 토큰 판매 매출 대신 해당 배포로 실제로 줄일 수 있는 API 지출을 대입합니다. 모델, 캐시 비중, 달성 가능한 처리량, 품질 검사, 필요한 지연 조건을 기준으로 다시 계산합니다.
팀에는 어떤 배포 방식이 적합합니까?
수요가 불확실하거나 추론 운영 전문가가 없는 팀에는 종량제 API를 권장합니다. 반복 측정 결과 절약할 API 지출이 전체 호스팅 견적을 충당한다면 선택을 재검토합니다.
수요는 안정적이지만 하드웨어 소유와 운영이 목적이 아니라면 제공업체의 전용 호스팅 용량을 시험합니다. 계약에는 업데이트, 용량 제한, 장애, 데이터 위치, 지원을 누가 담당하는지 명시하도록 요구합니다. 필요한 계약 규모가 현실적인 사용량을 넘으면 종량제를 유지합니다.
통제 요구사항이 충분한 이유가 되고 유지보수할 팀도 있다면 자체 추론 인프라를 운영합니다. 최대 부하에서의 지연, 품질 저하, 인건비가 기대 이익을 없애면 결정을 바꿉니다.
계약 전에는 승인된 작업당 비용 비교, 최대 부하 재현 시험, 전체 월간 예산, 지정된 운영 책임자를 확보합니다. 유휴 용량과 예외적으로 최상위 모델을 사용하는 비용도 포함합니다. 전체 예산은 팀의 자체 호스팅 총소유비용 계산 체계로 검토합니다. Revolut의 과거 GLM-5.1 수치를 그대로 비용 예측에 사용하지 않습니다.
