초대규모 LLM과 HPC 워크로드를 위한 최고 성능, 4.8TB/s 메모리 대역폭
NVIDIA H200 NVL
주요 스펙
LLama2 70B 추론
1.9배 더 빠른 속도
고성능 컴퓨팅
110배 더 빠른 속도
GPT3-175B 추론
1.6배 더 빠른 속도
GPU 메모
141 GB
초대규모 LLM과 HPC 워크로드를 위한
최고 성능, 4.8TB/s 메모리 대역폭.
H200 NVL로 주류 엔터프라이즈 서버를 위한 AI 가속을 실현해보세요.
더 크고 빠른 메모리로 더 높은 성능
NVIDIA H200은 141GB HBM3e 메모리와 4.8TB/s 대역폭을 제공하는 최초의 GPU로, 생성형 AI·LLM·HPC 작업을 더 효율적으로 가속합니다.
고성능 LLM 추론으로 통찰력 잠금 해제
H200은 대규모 추론 환경에서 높은 처리량과 낮은 TCO를 제공하며, Llama 2 같은 LLM 처리 시 H100 대비 최대 2배 빠른 성능을 지원합니다.
고성능 컴퓨팅을 슈퍼차지하세요
H200의 높은 메모리 대역폭은 HPC 작업의 데이터 병목을 줄여, 시뮬레이션·과학 연구·AI 분야에서 CPU 대비 최대 110배 빠른 성능을 제공합니다.
에너지 및 TCO 절감
H200은 H100과 같은 전력 범위에서 더 높은 성능을 제공해, 에너지 효율과 TCO를 더욱 개선합니다.
NVIDIA Hopper 아키텍처
HPC·AI 가속 4세대 Tensor 코어
Hopper Tensor Core는 FP8 기반 Transformer Engine으로 초대형 AI 모델 학습과 다양한 정밀도 연산을 더 빠르게 가속합니다.
NVIDIA 컨피덴셜 컴퓨팅
Hopper의 하드웨어 기반 보안은 온프레미스·클라우드·엣지 환경에서 AI와 HPC 워크로드의 데이터와 코드를 안전하게 보호합니다.
4세대 NVIDIA® NVLink®
NVSwitch는 고대역폭·저지연 GPU 통신을 지원해 대규모 연산 환경에서 여러 GPU 간 협업 성능을 높입니다.
3세대 NVIDIA NVSwitch ™
NVLink는 서버 내 다중 GPU를 고속으로 연결해 딥러닝 학습과 대규모 병렬 연산의 처리 효율을 향상시킵니다.
2세대 MIG(Multi-Instance GPU)
MIG는 하나의 GPU를 여러 인스턴스로 분할해 다중 사용자 환경에서도 안전하고 효율적인 GPU 리소스 운영을 지원합니다.
DPX Instructions
DPX 명령은 복잡한 동적 프로그래밍 연산을 가속해 질병 분석, 경로 최적화, 그래프 처리 시간을 단축합니다.
비즈니스 환경에 맞는 산업별 솔루션
GPU로 AI 트레이닝 시간을 줄이고 비용 효율을 높이세요.
AI 트레이닝
→
Bank-grade encryption and compliance. Your data is protected with military-level security protocols.
→
Intelligent automation that learns from your workflow. Let AI handle the repetitive tasks.
→
인프라 호환성 진단
NVIDIA H200 NVL 기반최적의 인프라 구성을 간편하게 확인해 보세요.
워크스테이션, 서버 호환성 체크
Dell, HP, Lenovo 등 주요 브랜드 장착 호환 여부 확인 물리적 설치 가능 여부와 운영 안정성 사전 검토 ISV 인증 지원 여부까지 함께 체크
멀티 GPU 시뮬레이션
다중 GPU 구성 시 성능 확장성 예측 워크로드별 연산 효율과 처리 성능 검토 확장 환경에 맞는 최적의 시스템 방향 제안
구매 옵션 최적화
단품 구매부터 완제 시스템까지 폭넓게 비교 비즈니스 규모에 맞는 도입 방식 제안 예산과 운영 목적에 맞춘 최적 옵션 설계
NVIDIA Hopper 시리즈
어떤 GPU 서버가 필요한지 고민되시나요?
커스텀 GPU 서버 구성
연구 분야, 데이터셋 크기, 예산을 입력하면 최적의 GPU 서버 구성을 추천해드립니다.실시간 가격과 상세 견적서를 지금 바로 확인하세요.
빠른 견적 확인하기
→
추천 블로그
상세 기술 사양
NVIDIA H200 NVL의 전체 기술 사양입니다.
제품 구성 이미지
NVIDIA H200 NVL
제품 상세 스펙
폼 팩
H200 SXM¹
H200 NVL¹
FP64
34 TFLOPS
30 TFLOPS
FP64 Tensor 코어
67 TFLOPS
60 TFLOPS
FP32
67 TFLOPS
60 TFLOPS
TF32 Tensor 코어²
989 TFLOPS
835 TFLOPS
BFLOAT16 Tensor 코어²
1,979 TFLOPS
1,671 TFLOPS
FP16 Tensor 코어²
1,979 TFLOPS
1,671 TFLOPS
FP8 Tensor 코어²
3,958 TFLOPS
3,341 TFLOPS
INT8 Tensor 코어²
3,958 TFLOPS
3,341 TFLOPS
GPU 메모리
141GB
GPU 메모리 대역폭
4.8TB/s
디코더
7 NVDEC 7 JPEG
컨피덴셜 컴퓨팅
지원
최대 열 설계 전력(TDP)
최대 700W(구성 가능)
최대 600W(구성 가능)
멀티 인스턴스 GPU(MIG)
최대 7개의 MIG, 각각 18GB
각각 최대 7개의 MIGs @16.5GB
폼 팩터
SXM
PCIe 듀얼 슬롯(공랭식)
인터커넥트
NVIDIA NVLink™: 900GB/s PCIe Gen5: 128GB/s
2방향 또는 4방향 NVIDIA NVLink 브리지: GPU당 900GB/s PCIe Gen5: 128GB/s
서버 옵션
GPU가 4개 또는 8개인 NVIDIA HGX™ H200 파트너 및 NVIDIA-Certified System™
NVIDIA MGX™ H200 NVL 파트너 및 최대 8개의 GPU를 갖춘 NVIDIA 인증 시스템
NVIDIA AI Enterprise
추가 가능
포함 항목
제품 정보
상품명
NVIDIA H200 NVL
KC 인증번호
-
정격전압 / 최대소비전력
-
품질 보증
3년 무상보증
출시년월
24/04
제조사
NVIDIA Corporation
제조국
중국
크기
-
XDNODE를 통해 한정된 예산을 얼마나 잘 활용할 수 있을지 확인해 보세요.
상세 스펙과 맞춤형 견적서를
빠르게 받아보세요.
제품
인사이트
회사·지원
서비스 이용약관
(주)엑스디노드
주소: 서울시 성동구 성수일로 89 메타모르포 501, 505호
전화번호: 02-6671-9000
통신판매 신고번호: 2024-서울송파-3420
사업자등록번호 : 393-86-02729