랙 하나의 열을 공기로 빼는지 물로 빼는지, 계통에서 칩까지 전력이 몇 번 깎이는지, PUE가 무엇을 재지 못하는지, 랙 배전 전압을 왜 올리는지, 가속기 1만 장이 전기와 메모리를 얼마나 먹는지, 토큰 100만 개의 원가에서 전력과 자본비가 각각 얼마인지를 차례로 셈한다.
공랭 한계는 급기 방식(이중마루 타일인가, 열 통로 봉쇄인가, 열 사이 냉각기인가)과 허용 온도차에 따라 달라서 자료마다 다르다. 그래서 그림은 한계를 선 하나로 긋지 않고, 본문이 읽은 「바닥 타일 급기만으로는 대략 랙당 30 kW 안팎」을 흐린 띠로, ASHRAE TC 9.9의 2021년 백서 숫자 둘을 기준선으로 그렸다. 40~50 kW는 같은 백서가 대안으로 드는 열 사이 냉각이나 후면도어 열교환기 같은 보조 냉각이 있어야 한다.
풀이표와 대조 ()
「풀이」 열은 7회차 자습 부록 A 실습 1 풀이와 3절(간단 실습·공랭 한계 문단)의 값이다. 계산값을 풀이가 적은 자릿수로 반올림해 비교한다.
항목
계산
풀이
② 전력 체인 — 단계마다 곱해지는 손실
종합 효율 = Π ηi · 계통 입력 = P칩 / Π ηi · 단계 손실 = 그 단계 입력 × (1 − ηi) · 랙 안 열 = P칩 / (ηPSU ηVRM)
종합 효율
계통 입력
총손실 (전부 열)
랙 안에서 빼야 할 열
칩 전력 대비 랙 안 추가 몫
손실은 전부 열이 되어 다시 식혀야 한다. 그래서 배전 효율 개선은 전기요금을 줄이고 냉각 부하까지 같은 크기로 줄이는 이중의 이득을 준다. 시설 전체의 열부하는 계통 입력과 같다. 들어온 전력은 하나도 빠짐없이 열이 되어 나간다.
풀이표와 대조 ()
「풀이」 열은 7회차 자습 부록 A 실습 2 풀이(종합 효율·손실 표·설계적 함의)와 2절 「각 단계에서 손실이 곱해진다」의 값이다. 계산값을 풀이가 적은 자릿수로 반올림해 비교한다.
항목
계산
풀이
③ PUE의 함정 — 일은 같은데 지표가 나빠진다
PUE = (IT + 냉각 + 배전) / IT · 부대설비 = 고정분 + 변동분 × (IT뒤 / IT앞)
부대설비
IT냉각배전
원래 PUE
효율화 뒤 PUE
총 전력
총 전력 감소율
PUE는 분모가 IT 전력이다. IT를 효율화하면 분모가 줄어 지표가 악화된다. PUE는 IT 효율을 측정하지 않을 뿐 아니라 IT 효율 개선에 불이익을 준다. 일의 양도 들어 있지 않아서, 같은 PUE라도 토큰을 10배 만드는 시설과 아닌 시설이 구별되지 않는다.
풀이표와 대조 ()
「풀이」 열은 7회차 자습 부록 A 실습 3 풀이와 그 표의 값이다. 계산값을 풀이가 적은 자릿수로 반올림해 비교한다.
항목
계산
풀이
④ 랙 배전 전압 — 54 V와 800 V
I = P / V · 같은 도체면 I²R 손실 비 = (I1 / I2)² = (V2 / V1)²
54 V는 NVIDIA 문서의 랙 버스 전압, 48 V는 OCP Open Rack V3 공칭
NVIDIA가 2027년부터 가겠다고 밝힌 800 V 직류
V₁ 전류
V₂ 전류
전류 비
I²R 손실 비 (같은 도체)
NVIDIA는 2025년 5월 기술 블로그에서 48 V급 랙 배전이 랙 200 kW를 넘으면 한계에 닿는다고 보고, 2027년부터 1 MW 이상의 IT 랙을 지원하는 800 V 직류 배전으로 가겠다고 밝혔다. 같은 글에 따르면 54 V로 1 MW 랙 하나를 먹이려면 구리 버스바만 최대 200 kg이 든다. 같은 글은 종단 간 전력 효율 최대 5% 개선, 총소유비용 최대 30% 절감을 내세우는데, 이것은 NVIDIA의 주장이고 독립 검증된 값이 아니다. 실제 설계에서는 전압마다 도체 굵기가 다르므로 219배는 「같은 도체를 쓴다면」이라는 조건이 붙은 비교다.
풀이표와 대조 ()
「풀이」 열은 7회차 자습 부록 A 실습 4 풀이 끝 「랙 수준에서 같은 계산을 하면」의 값이다. 이 그림은 랙 배전 부분만 다루므로 실습 4 앞부분의 칩 IR drop(0.1 V·0.9 V·50 W)은 대조하지 않는다. 계산값을 풀이가 적은 자릿수로 반올림해 비교한다.
항목
계산
풀이
⑤ 가속기 1만 장 클러스터의 전력·메모리
IT = 가속기 수 × 장당 kW × (1 + 부대) 또는 (가속기 수 ÷ 8) × 시스템 kW · 시설 = IT × PUE · 연간 = 시설 × 8,760 h × 가동률 · 필요 유량 = 시설 전력 / (cp ΔT)
IT 전력의 경계
가동률 90%는 가정값
PUE
1.54는 Uptime 2025 조사 응답 시설의 가중평균, 1.48은 같은 조사에서 2020년 무렵 이후 준공한 시설의 평균, 1.09는 Google의 직전 12개월 이동평균이다. 한쪽은 설문 응답의 가중평균이고 다른 쪽은 한 회사가 스스로 정한 경계 안의 실측이라 표본도 경계도 다르다.
장당 메모리
전력
수열 냉각 (Q = m cp ΔT)
HBM
랙 배치 (랙당 4 m²)
랙당 8장
랙당 72장
「가속기당 1 kW + 부대 30%」는 계산 연습용 가정값이다. DGX 경계는 제조사가 적은 시스템 최대 전력이라 부대 30%를 더하지 않으며, 가정값 13 MW보다 크다. 수온이 연중 낮고 일정하면 냉동기 부하가 줄어든다. 대신 취수·방류 허가와 방류수 온도 상승이 생태에 주는 영향이 따라붙는다.
풀이표와 대조 ()
「풀이」 열은 7회차 자습 부록 A 실습 5 풀이((a)~(d)·「실제 시스템과 견주기」·3회차 실습 1 적용 문단), 3절 수열 냉각 문단, 4절 함정 2, 6절 첫 문단의 값이다. 계산값을 풀이가 적은 자릿수로 반올림해 비교한다.
항목
계산
풀이
⑥ 토큰 100만 개의 전력 원가와 자본비
tok/s ≲ B / 모델 바이트 × Bsz × η · 전력 원가 = 노드 전력 × PUE × 시간 × 전기료 · 자본비 = 노드 가격 / (년 × 8,760 × 가동률) × 시간
노드 전력
전력자본비(감가상각)
실효 처리량
100만 토큰 시간
전력량 (시설 기준)
전력 원가
자본비
자본비 ÷ 전력비
달력 시간당 자본비
가동 시간당 (÷ 가동률)
지배적 원가가 시간당 고정비이므로 이용률이 곧 원가다. 이 위험을 누가 지는가는 계약이 정한다. GPU 클라우드를 take-or-pay 약정으로 빌린 고객은 쓰든 안 쓰든 약정 용량 값을 낸다. 그러면 놀린 GPU의 원가는 임대 업체가 아니라 고객의 몫이 된다. 전력은 원가가 아니라 제약으로 작동한다. 전기를 못 끌어오면 가속기를 살 수 있어도 설치할 수 없다.
풀이표와 대조 ()
「풀이」 열은 7회차 자습 부록 A 실습 6 풀이(설정 문단·배치별 표·비중 표·결론 1)의 값이다. 계산값을 풀이가 적은 자릿수로 반올림해 비교한다.
항목
계산
풀이
이 계산이 빼놓은 것
팬 소비전력은 유량의 세제곱에, 팬 소음은 대략 풍속의 5~6제곱에 비례한다. 본문은 비례 관계만 말하므로 이 그림은 그 효과를 숫자로 만들지 않았다.
직접칩냉각으로 가도 칩 외 부품은 여전히 공랭이 필요하다.
DGX 시스템 전력은 제조사가 적은 시스템 경계의 최대값이다. 그래서 가정값 13 MW보다 크다.
PUE 1.54는 Uptime 2025 조사 응답 시설의 가중평균, 1.48은 같은 조사에서 2020년 무렵 이후 준공한 시설의 평균, 1.09는 Google이 스스로 정한 경계 안의 실측이다. 표본도 경계도 다른 두 값을 빼서 효율 차이로 읽기 전에 그 차이부터 확인해야 한다.
처리량은 2회차 디코딩 상한식에 대역폭 이용률을 곱한 값이다. 실제 서비스 원가에는 인건비, 네트워크, 스토리지, 미사용 캐파, 안전 여유가 붙고, API 가격에는 마진과 개발비 회수가 더해진다. 이 계산은 가격이 아니라 하한을 준다.