초대규모 LLM과 HPC 워크로드를 위한 최고 성능, 4.8TB/s 메모리 대역폭.
초대규모 LLM과 HPC 워크로드를
위한 최고 성능, 4.8TB/s 메모리 대역폭.
H200 NVL로 주류 엔터프라이즈 서버를 위한 AI 가속을 실현해보세요.
더 크고 빠른 메모리로 더 높은 성능
NVIDIA H200은 141GB HBM3e 메모리와 4.8TB/s 대역폭을 제공하는 최초의 GPU로, 생성형 AI·LLM·HPC 작업을 더 효율적으로 가속합니다.
더 크고 빠른 메모리로 더 높은 성능
NVIDIA H200은 141GB HBM3e 메모리와 4.8TB/s 대역폭을 제공하는 최초의 GPU로, 생성형 AI·LLM·HPC 작업을 더 효율적으로 가속합니다.
고성능 LLM 추론으로 통찰력 잠금 해제
H200은 대규모 추론 환경에서 높은 처리량과 낮은 TCO를 제공하며, Llama 2 같은 LLM 처리 시 H100 대비 최대 2배 빠른 성능을 지원합니다.
고성능 LLM 추론으로 통찰력 잠금 해제
H200은 대규모 추론 환경에서 높은 처리량과 낮은 TCO를 제공하며, Llama 2 같은 LLM 처리 시 H100 대비 최대 2배 빠른 성능을 지원합니다.
고성능 컴퓨팅을 슈퍼차지하세요
H200의 높은 메모리 대역폭은 HPC 작업의 데이터 병목을 줄여, 시뮬레이션·과학 연구·AI 분야에서 CPU 대비 최대 110배 빠른 성능을 제공합니다.
고성능 컴퓨팅을 슈퍼차지하세요
H200의 높은 메모리 대역폭은 HPC 작업의 데이터 병목을 줄여, 시뮬레이션·과학 연구·AI 분야에서 CPU 대비 최대 110배 빠른 성능을 제공합니다.
에너지 및 TCO 절감
H200은 H100과 같은 전력 범위에서 더 높은 성능을 제공해, 에너지 효율과 TCO를 더욱 개선합니다.
에너지 및 TCO 절감
H200은 H100과 같은 전력 범위에서 더 높은 성능을 제공해, 에너지 효율과 TCO를 더욱 개선합니다.
NVIDIA Hopper 아키텍처
HPC·AI 가속 4세대 Tensor 코어
Hopper Tensor Core는 FP8 기반 Transformer Engine으로 초대형 AI 모델 학습과 다양한 정밀도 연산을 더 빠르게 가속합니다.
HPC·AI 가속 4세대 Tensor 코어
Hopper Tensor Core는 FP8 기반 Transformer Engine으로 초대형 AI 모델 학습과 다양한 정밀도 연산을 더 빠르게 가속합니다.
NVIDIA 컨피덴셜 컴퓨팅
Hopper의 하드웨어 기반 보안은 온프레미스·클라우드·엣지 환경에서 AI와 HPC 워크로드의 데이터와 코드를 안전하게 보호합니다.
NVIDIA 컨피덴셜 컴퓨팅
Hopper의 하드웨어 기반 보안은 온프레미스·클라우드·엣지 환경에서 AI와 HPC 워크로드의 데이터와 코드를 안전하게 보호합니다.
4세대 NVIDIA® NVLink®
NVSwitch는 고대역폭·저지연 GPU 통신을 지원해 대규모 연산 환경에서 여러 GPU 간 협업 성능을 높입니다.
4세대 NVIDIA® NVLink®
NVSwitch는 고대역폭·저지연 GPU 통신을 지원해 대규모 연산 환경에서 여러 GPU 간 협업 성능을 높입니다.
3세대 NVIDIA NVSwitch ™
NVLink는 서버 내 다중 GPU를 고속으로 연결해 딥러닝 학습과 대규모 병렬 연산의 처리 효율을 향상시킵니다.
3세대 NVIDIA NVSwitch ™
NVLink는 서버 내 다중 GPU를 고속으로 연결해 딥러닝 학습과 대규모 병렬 연산의 처리 효율을 향상시킵니다.
2세대 MIG(Multi-Instance GPU)
MIG는 하나의 GPU를 여러 인스턴스로 분할해 다중 사용자 환경에서도 안전하고 효율적인 GPU 리소스 운영을 지원합니다.
2세대 MIG(Multi-Instance GPU)
MIG는 하나의 GPU를 여러 인스턴스로 분할해 다중 사용자 환경에서도 안전하고 효율적인 GPU 리소스 운영을 지원합니다.
DPX Instructions
DPX 명령은 복잡한 동적 프로그래밍 연산을 가속해 질병 분석, 경로 최적화, 그래프 처리 시간을 단축합니다.
DPX Instructions
DPX 명령은 복잡한 동적 프로그래밍 연산을 가속해 질병 분석, 경로 최적화, 그래프 처리 시간을 단축합니다.
비즈니스 환경에 맞는 산업별 솔루션
GPU로 AI 트레이닝 시간을 줄이고 비용 효율을 높이세요.
AI 트레이닝
→
→
→
→
GPU로 AI 트레이닝 시간을 줄이고 비용 효율을 높이세요.
AI 트레이닝
고성능 컴퓨팅(HPC)
700개 이상의 GPU 가속 애플리케이션으로 과학·연구 워크플로우를 확장하세요.
빠른 AI 추론으로 이미지, 음성, 영상 기반 서비스 응답을 강화하세요.
AI 추론
데이터 분석
GPU 기반 데이터 사이언스로 분석부터 학습·배포까지 더 빠르게 처리하세요.
상세 기술 사양
상세 기술 사양
NVIDIA H200 GPU의 전체 기술 사양입니다.
제품 구성 이미지
NVIDIA H200 SXM
NVIDIA H200 NVL
제품 상세 스펙
H200 SXM¹
H200 NVL¹
FP64
34 TFLOPS
30 TFLOPS
FP64 Tensor 코어
67 TFLOPS
60 TFLOPS
FP64 Tensor 코어
67 TFLOPS
60 TFLOPS
FP32
67 TFLOPS
60 TFLOPS
TF32 Tensor 코어²
989 TFLOPS
835 TFLOPS
TF32 Tensor 코어²
989 TFLOPS
835 TFLOPS
BFLOAT16 Tensor 코어²
1,979 TFLOPS
1,671 TFLOPS
BFLOAT16 Tensor 코어²
1,979 TFLOPS
1,671 TFLOPS
FP16 Tensor 코어²
1,979 TFLOPS
1,671 TFLOPS
FP16 Tensor 코어²
1,979 TFLOPS
1,671 TFLOPS
FP8 Tensor 코어²
3,958 TFLOPS
3,341 TFLOPS
FP8 Tensor 코어²
3,958 TFLOPS
3,341 TFLOPS
INT8 Tensor 코어²
3,958 TFLOPS
3,341 TFLOPS
INT8 Tensor 코어²
3,958 TFLOPS
3,341 TFLOPS
GPU 메모리
141GB
GPU 메모리 대역폭
4.8TB/s
디코더
7 NVDEC 7 JPEG
컨피덴셜 컴퓨팅
지원
최대 열 설계 전력(TDP)
최대 700W(구성 가능)
최대 600W(구성 가능)
최대 열 설계 전력(TDP)
최대 700W(구성 가능)
최대 600W(구성 가능)
멀티 인스턴스 GPU(MIG)
최대 7개의 MIG, 각각 18GB
각각 최대 7개의 MIGs @16.5GB
멀티 인스턴스 GPU(MIG)
최대 7개의 MIG, 각각 18GB
각각 최대 7개의 MIGs @16.5GB
폼 팩터
SXM
PCIe 듀얼 슬롯(공랭식)
인터커넥트
NVIDIA NVLink™: 900GB/s PCIe Gen5: 128GB/s
2방향 또는 4방향 NVIDIA NVLink 브리지: GPU당 900GB/s PCIe Gen5: 128GB/s
인터커넥트
NVIDIA NVLink™: 900GB/s PCIe Gen5: 128GB/s
2방향 또는 4방향 NVIDIA NVLink 브리지: GPU당 900GB/s PCIe Gen5: 128GB/s
서버 옵션
GPU가 4개 또는 8개인 NVIDIA HGX™ H200 파트너 및 NVIDIA-Certified System™
NVIDIA MGX™ H200 NVL 파트너 및 최대 8개의 GPU를 갖춘 NVIDIA 인증 시스템
서버 옵션
GPU가 4개 또는 8개인 NVIDIA HGX™ H200 파트너 및 NVIDIA-Certified System™
NVIDIA MGX™ H200 NVL 파트너 및 최대 8개의 GPU를 갖춘 NVIDIA 인증 시스템
NVIDIA AI Enterprise
추가 가능
포함 항목
NVIDIA AI Enterprise
추가 가능
포함 항목
제품 정보
상품명
NVIDIA H200 NVL
KC 인증번호
-
정격전압 / 최대소비전력
-
품질 보증
3년 무상보증
출시년월
24/04
제조사
NVIDIA Corporation
제조국
중국
크기
-
워크스테이션, 서버 호환성 체크
Dell·HP·Lenovo 등 주요 브랜드 장착 호환성 확인 물리적 설치 가능 여부와 운영 안정성 사전 검토 ISV 인증 지원 여부까지 함께 체크
워크스테이션, 서버 호환성 체크
Dell·HP·Lenovo 등 주요 브랜드 장착 호환성 확인 물리적 설치 가능 여부와 운영 안정성 사전 검토 ISV 인증 지원 여부까지 함께 체크
워크스테이션, 서버 호환성 체크
Dell·HP·Lenovo 등 주요 브랜드 장착 호환성 확인 물리적 설치 가능 여부와 운영 안정성 사전 검토 ISV 인증 지원 여부까지 함께 체크
멀티 GPU 시뮬레이션
다중 GPU 구성 시 성능 확장성 예측 워크로드별 연산 효율과 처리 성능 검토 확장 환경에 맞는 최적의 시스템 방향 제안
멀티 GPU 시뮬레이션
다중 GPU 구성 시 성능 확장성 예측 워크로드별 연산 효율과 처리 성능 검토 확장 환경에 맞는 최적의 시스템 방향 제안
멀티 GPU 시뮬레이션
다중 GPU 구성 시 성능 확장성 예측 워크로드별 연산 효율과 처리 성능 검토 확장 환경에 맞는 최적의 시스템 방향 제안
구매 옵션 최적화
단품 구매부터 완제 시스템까지 폭넓게 비교 비즈니스 규모에 맞는 도입 방식 제안 예산과 운영 목적에 맞춘 최적 옵션 설계
구매 옵션 최적화
단품 구매부터 완제 시스템까지 폭넓게 비교 비즈니스 규모에 맞는 도입 방식 제안 예산과 운영 목적에 맞춘 최적 옵션 설계
구매 옵션 최적화
단품 구매부터 완제 시스템까지 폭넓게 비교 비즈니스 규모에 맞는 도입 방식 제안 예산과 운영 목적에 맞춘 최적 옵션 설계
