엔비디아 블랙웰(Blackwell) B200의 도약
엔비디아의 차세대 AI 슈퍼칩 B200은 2개의 칩렛 다이를 10TB/s 초고속 NV-HBI 인터커넥트로 결합한 2080억 개의 트랜지스터 구조를 갖추고 있습니다.
단일 GPU당 최대 180GB 또는 192GB의 초고속 HBM3e 메모리를 탑재하여, 메모리 대역폭이 무려 8 TB/s에 달합니다. 2세대 Transformer Engine과 FP4 정밀도를 도입하여 H100 대비 학습 성능 최대 4배, 추론 성능 최대 30배 향상을 목표로 합니다.
클라우드 도입 전망과 예상 요금대
초기 B200 인프라는 마이크로소프트 애저, AWS, 구글 클라우드 및 최상위 AI 전문 클라우드(CoreWeave, Lambda 등)를 중심으로 공급되고 있습니다:
- 인프라 전력 요구량: GB200 NVL72 랙 시스템은 수랭식 쿨링과 120kW 이상의 전력을 소모하므로 데이터센터 설계가 뒷받침되는 곳에서만 서비스됩니다.
- 시간당 렌탈 가격 예상: H100($2.5~$3.5/시간) 대비 초기 B200 시간당 단가는 $4.5~$6.5 수준으로 형성될 전망이지만, 처리 속도가 월등하여 단위 작업당 소요 총비용(TCO)은 오히려 절감될 수 있습니다.
B200 도입을 검토해야 하는 조직
- 400B 이상의 초대형 프론티어 파운데이션 모델을 직접 사전학습하는 기업
- 수백만 명 이상의 동시 접속자를 대상으로 초저지연 LLM 추론 서비스를 제공해야 하는 플랫폼
- MoE(Mixture-of-Experts) 아키텍처 모델을 메모리 분할 없이 빠르게 구동해야 하는 연구소
퍼아워에서 확인하는 방법
B200 가격 및 H100 가격 페이지에서 최신 클라우드 인스턴스 론칭 현황과 시간당 견적을 지속적으로 업데이트하고 있습니다.