전용 칩을 만들지 사올지의 판단은 정량화할 수 있다. 개발비 CNRE 를 단위당 비용 차이로 나누면 손익분기 물량 N*가 나온다. 2회차 실습 4는 전력비를 칩·서버·시설 가운데 어디서 재는지 따져 N*를 다시 세고, 4회차 실습 5는 다른 가정값으로 N*를 따로 구해 그 물량이 어떤 조직의 것인지 묻는다.
N* = CNRE / [(cG + oG) − (cA + oA)] · o = 장당 kW × PUE × 8,760 × 년 × 가동률 × 전기료
① 전력을 어디서 재는가 — 칩, 서버, 시설
전력 경계
GPU 운영비 oG
ASIC 운영비 oA
분모
분모 중 전력비 차이
손익분기 물량 N*
같은 가정이면 어느 경계로 세든 N*는 3,400~3,600대에 머문다. 칩 경계에서 분모 27,875달러 중 전력비 차이는 875달러, 겨우 3%다(서버 경계로 세도 약 6%). 지배하는 것은 취득원가 차이 27,000달러다. 「전기를 아끼려고 자체 칩을 만든다」는 흔한 설명은 이 수치와 맞지 않는다.
② N*는 누구의 물량인가
3년 전력비 o 는 계산하지 않고 값으로 넣는다
GPU 단위당 cG + oG
ASIC 단위당 cA + oA
분모
손익분기 물량 N*
N*는 필요조건일 뿐이다. 충분조건은 개발 2~3년 후에도 그 워크로드가 살아 있을 것이며, 이것을 보장할 수 있는 조직은 자기 모델을 자기가 통제하는 곳뿐이다. 5,000대라는 문턱은 생각보다 낮아서, 하이퍼스케일러가 아니어도 「거의 하이퍼스케일러급」 사업자들이 커스텀 실리콘을 고려할 수 있다.
풀이와 대조 ()
2회차 실습 4 풀이(칩 경계·수명 2년·서버 경계·GPU만 서버 경계)와 4회차 실습 5 풀이의 값을 이 그림의 식으로 다시 셈한 것이다. 「풀이」 열은 풀이에 적힌 값이고, 그 자릿수로 반올림해 비교한다.
항목
계산
풀이
이 계산이 빼놓은 것
ASIC 한 대가 GPU 한 대의 일을 같은 처리량·지연·품질로 대신한다고 보았다(1:1 대체). ASIC 처리량이 GPU의 r배라면 같은 수요에 ASIC N/r대가 필요하므로, ASIC 쪽 단위 비용 cA + oA 를 r로 나눠 넣어야 같은 일의 비교가 된다.
전력 값은 상한이다. H100 SXM의 700 W는 칩 하나가 낼 수 있는 열의 상한이지 작업 중 평균 소비가 아니고, DGX H100의 10.2 kW도 최대값이다.
단가·전기료·PUE·가동률은 예시용 가정값이고, 제조사 사양에서 온 것은 칩과 서버의 전력 상한뿐이다.
ASIC 서버의 사양을 정할 근거가 없으므로, 서버 경계에서는 ASIC도 GPU와 같은 비율(1.275/0.7 ≈ 1.82배)로 올렸다.
시간 축. 칩 개발에 2~3년이 걸리는데 모델 아키텍처는 그보다 빨리 바뀐다. 진짜 제약은 N*가 아니라 이 시간이고, 2년 전의 설계 결정이 오늘의 모델 구조를 맞힐 확률이 실제 의사결정 변수다. 이 그림은 그것을 숫자로 넣지 않는다.
협상력. 자체 칩이 있으면 상용 GPU 벤더와의 가격 협상에서 옵션 가치를 얻는다. 이것도 숫자로 넣지 않았다.
cA 는 4회차 5절의 다이당 원가 + 패키징 + 테스트로 계산하는 값이다. 여기서는 값을 직접 넣는다.
4회차는 o 를 수명기간 운영비(주로 전력비)의 현재가치라고 부르지만 할인율을 주지 않는다. 이 그림도 할인하지 않는다.
②의 띠는 4회차 실습 5 표의 「수십 대」「수백~수천 대」「수만 대」「수십만 대」를 각각 10~99, 100~9,999, 10,000~99,999, 100,000~999,999대로 옮겨 그렸다.