엑스디노드 메인 히어로 GPU 서버
NVIDIA DGX B300 제품 이미지
NVIDIA DGX 300 제품 이미지
NVIDIA DGX B300 제품 이미지

AI 추론을 위한 AI 팩토리의 기반

NVIDIA DGX B300

NVIDIA DGX B300

주요 스펙

AI 성능

72 PFLOPS FP8
144 PFLOPS FP4

GPU 메모리

2.1TB HBM3e
64TB/s Bandwidth

GPU 구성

8x Blackwell Ultra SXM
Xeon® 6776P ×2

NVLink

14.4TB/s
NVLink Switch ×2

AI 추론을 위한 AI 팩토리의 기반.

NVIDIA DGX 시스템은 모든 규모의 엔터프라이즈AI 인프라를 위한 세계 최고의 솔루션을 제공합니다.

현대적 데이터 센터를 위한 설계 청사진

NVIDIA MGX 랙에 적합한 새로 설계된 섀시와 공랭식 디자인으로 최신 데이터 센터에 호환성과 확장성을 제공하며, 버스바와 PSU 중 선택 가능한 유연한 전력 아키텍처로 기존 인프라와 지속 가능성 목표에 맞춰 최적화할 수 있습니다.

현대적 데이터 센터를 위한 설계 청사진

NVIDIA MGX 랙에 적합한 새로 설계된 섀시와 공랭식 디자인으로 최신 데이터 센터에 호환성과 확장성을 제공하며, 버스바와 PSU 중 선택 가능한 유연한 전력 아키텍처로 기존 인프라와 지속 가능성 목표에 맞춰 최적화할 수 있습니다.

모든 엔터프라이즈를 위한 AI 가속화

NVIDIA Blackwell Ultra GPU기반의 DGX B300은 추론 성능 144 페타FLOPS, 학습 성능 72 페타 FLOPS를 제공합니다. 현대적 데이터 센터에 최적화된 신규 폼팩터로 설계되어 있으며, NVIDIA MGX™ 및 기존 엔터프라이즈 랙과 호환됩니다.

모든 엔터프라이즈를 위한 AI 가속화

NVIDIA Blackwell Ultra GPU기반의 DGX B300은 추론 성능 144 페타FLOPS, 학습 성능 72 페타 FLOPS를 제공합니다. 현대적 데이터 센터에 최적화된 신규 폼팩터로 설계되어 있으며, NVIDIA MGX™ 및 기존 엔터프라이즈 랙과 호환됩니다.

LLM 추론을 위한 AI 팩토리 DGX B300

세계 최초로 NVIDIA Blackwell Ultra GPU와 NVIDIA ConnectX-8 네트워킹, 최적화된 NVIDIA Mission Control 소프트웨어를 완전 통합한 시스템인 DGX B300은 이전 세대 대비 추론 성능은 11배, 학습 성능은 4배 향상된 성능을 제공합니다.

LLM 추론을 위한 AI 팩토리 DGX B300

세계 최초로 NVIDIA Blackwell Ultra GPU와 NVIDIA ConnectX-8 네트워킹, 최적화된 NVIDIA Mission Control 소프트웨어를 완전 통합한 시스템인 DGX B300은 이전 세대 대비 추론 성능은 11배, 학습 성능은 4배 향상된 성능을 제공합니다.

NVIDIA Mission Control로 모델 운영 및 핵심 자동화

NVIDIA Mission Control은 세계적 수준의 운영 역량을 소프트웨어 형태로 구현하여, 개발 워크로드, 인프라, 설비 운영까지 AI 팩토리의 전 영역을 포괄적으로 관리합니다. 실시간 추론 및 학습을 위한 민첩한 운영은 물론, 인프라 복원력을 높이는 전체 스택 지능까지 제공합니다.

NVIDIA Mission Control로 모델 운영 및 핵심 자동화

NVIDIA Mission Control은 세계적 수준의 운영 역량을 소프트웨어 형태로 구현하여, 개발 워크로드, 인프라, 설비 운영까지 AI 팩토리의 전 영역을 포괄적으로 관리합니다. 실시간 추론 및 학습을 위한 민첩한 운영은 물론, 인프라 복원력을 높이는 전체 스택 지능까지 제공합니다.

NVIDIA Blackwell 아키텍처 기반

NVIDIA Blackwell 아키텍처 기반

새로운 차원의 AI 슈퍼칩

Blackwell 프로세서는 2,080억 개의 트랜지스터를 탑재하고 있으며 NVIDIA를 위해 맞춤 제작된 TSMC 4NP 프로세스를 사용하여 제조되었습니다. 모든 Blackwell 제품은 10TB/s의 칩 간 상호 연결을 통해 연결된 레티클 제한 다이 2개를 제공하여 캐시가 완전히 일관되고 CUDA와 호환되는 단일 GPU 슈퍼칩에서 GPU 다이 2개의 성능을 제공합니다.

새로운 차원의 AI 슈퍼칩

Blackwell 프로세서는 2,080억 개의 트랜지스터를 탑재하고 있으며 NVIDIA를 위해 맞춤 제작된 TSMC 4NP 프로세스를 사용하여 제조되었습니다. 모든 Blackwell 제품은 10TB/s의 칩 간 상호 연결을 통해 연결된 레티클 제한 다이 2개를 제공하여 캐시가 완전히 일관되고 CUDA와 호환되는 단일 GPU 슈퍼칩에서 GPU 다이 2개의 성능을 제공합니다.

2세대 생성형 AI 엔진

FP8(8비트 부동점) 및 FP16(16비트 부동점) 정밀도로 교육을 가속화하는 트랜스포머 엔진 기술을 지원하는 것 외에도 Blackwell은 새로운 생성형 AI 엔진을 도입합니다. 생성형 AI 엔진은 NVIDIA® TensorRT™-LLM 및 NeMo™ Framework 혁신과 결합된 맞춤형 Blackwell Tensor 코어 기술을 사용하여 거대 언어 모델(LLM) 및 전문가 혼합(MoE) 모델의 추론 및 교육을 가속화합니다.

2세대 생성형 AI 엔진

FP8(8비트 부동점) 및 FP16(16비트 부동점) 정밀도로 교육을 가속화하는 트랜스포머 엔진 기술을 지원하는 것 외에도 Blackwell은 새로운 생성형 AI 엔진을 도입합니다. 생성형 AI 엔진은 NVIDIA® TensorRT™-LLM 및 NeMo™ Framework 혁신과 결합된 맞춤형 Blackwell Tensor 코어 기술을 사용하여 거대 언어 모델(LLM) 및 전문가 혼합(MoE) 모델의 추론 및 교육을 가속화합니다.

NVLink 및 NVLink Switch

NVIDIA NVLink 스위치 칩은 하나의 72-GPU NVLink 도메인에서 130TB/s의 GPU 대역폭을 구현하며, NVIDIA 확장 가능한 계층적 집계 및 감소 프로토콜(SHARP)™ FP8 지원으로 4배의 대역폭 효율성을 달성합니다. 또한 1.8TB/s의 놀라운 상호 연결 속도로 단일 서버 이상의 클러스터를 지원하고 있습니다.

NVLink 및 NVLink Switch

NVIDIA NVLink 스위치 칩은 하나의 72-GPU NVLink 도메인에서 130TB/s의 GPU 대역폭을 구현하며, NVIDIA 확장 가능한 계층적 집계 및 감소 프로토콜(SHARP)™ FP8 지원으로 4배의 대역폭 효율성을 달성합니다. 또한 1.8TB/s의 놀라운 상호 연결 속도로 단일 서버 이상의 클러스터를 지원하고 있습니다.

안전한 AI

NVIDIA Blackwell은 업계 최초의 TEE-I/O 지원 GPU로, NVIDIA® NVLink®를 통한 인라인 보호 및 TEE-I/O 지원 호스트와 함께 최고 성능의 컨피덴셜 컴퓨팅 솔루션을 제공합니다. AI의 IP를 보호하고 기밀 AI 훈련, 추론 및 Federated Learning을 안전하게 지원하는 것은 물론 가장 큰 모델도 성능이 뛰어난 방식으로 보호할 수 있습니다.

안전한 AI

NVIDIA Blackwell은 업계 최초의 TEE-I/O 지원 GPU로, NVIDIA® NVLink®를 통한 인라인 보호 및 TEE-I/O 지원 호스트와 함께 최고 성능의 컨피덴셜 컴퓨팅 솔루션을 제공합니다. AI의 IP를 보호하고 기밀 AI 훈련, 추론 및 Federated Learning을 안전하게 지원하는 것은 물론 가장 큰 모델도 성능이 뛰어난 방식으로 보호할 수 있습니다.

Decompression Engine

Blackwell의 Decompression Engine과 고속 링크(900GB/s 양방향 대역폭)를 통해 NVIDIA Grace™ CPU의 방대한 메모리에 액세스하는 기능은 데이터에서 최고의 성능을 위해 데이터베이스 쿼리의 전체 파이프라인을 가속화합니다. LZ4, Snappy 및 Deflate와 같은 최신 압축 형식을 지원하여 분석 및 데이터 사이언스를 지원합니다.

Decompression Engine

Blackwell의 Decompression Engine과 고속 링크(900GB/s 양방향 대역폭)를 통해 NVIDIA Grace™ CPU의 방대한 메모리에 액세스하는 기능은 데이터에서 최고의 성능을 위해 데이터베이스 쿼리의 전체 파이프라인을 가속화합니다. LZ4, Snappy 및 Deflate와 같은 최신 압축 형식을 지원하여 분석 및 데이터 사이언스를 지원합니다.

RAS(신뢰성, 가용성, 서비스 가능성) 엔진

Blackwell은 발생할 수 있는 잠재적인 결함을 조기에 식별하여 가동 중단 시간을 최소화하기 위해 전용 RAS 엔진으로 지능형 복원력을 추가합니다. NVIDIA의 RAS 엔진은 우려되는 영역을 식별하고 유지 관리를 계획할 수 있는 심층 진단 정보를 제공합니다. RAS 엔진은 문제의 원인을 신속하게 파악하여 소요 시간을 단축하고 효과적인 해결을 촉진하여 가동 중단 시간을 최소화합니다.

RAS(신뢰성, 가용성, 서비스 가능성) 엔진

Blackwell은 발생할 수 있는 잠재적인 결함을 조기에 식별하여 가동 중단 시간을 최소화하기 위해 전용 RAS 엔진으로 지능형 복원력을 추가합니다. NVIDIA의 RAS 엔진은 우려되는 영역을 식별하고 유지 관리를 계획할 수 있는 심층 진단 정보를 제공합니다. RAS 엔진은 문제의 원인을 신속하게 파악하여 소요 시간을 단축하고 효과적인 해결을 촉진하여 가동 중단 시간을 최소화합니다.

비즈니스 환경에 맞는 산업별 솔루션

탁월한 성능을 위한 가속화된 워크플로우

데이터 분석

A MacBook with lines of code on its screen on a busy desk

AI 추론

더 빠르고 정확한 풀스택 AI 추론

a white antenna with many small balls

Intelligent automation that learns from your workflow. Let AI handle the repetitive tasks.

사전 학습된 Foundation 모델 사용자 지정, 배포

생성형 AI

a computer circuit board with a brain on it

탁월한 성능을 위한 가속화된 워크플로우

데이터 분석

A MacBook with lines of code on its screen on a busy desk

AI 추론

더 빠르고 정확한 풀스택 AI 추론

a white antenna with many small balls

Intelligent automation that learns from your workflow. Let AI handle the repetitive tasks.

사전 학습된 Foundation 모델 사용자 지정, 배포

생성형 AI

a computer circuit board with a brain on it

데이터 센터에서 과학 발전을 촉진

고성능 컴퓨팅

blue circuit board

렌더링

비교할 수 없는 속도의 사실적인 디자인, 시뮬레이션

a lion with a red light on its head and a mountain in the background

Intelligent automation that learns from your workflow. Let AI handle the repetitive tasks.

가상화된 데이터 센터 관리 간소화

가상화

brown wooden hallway with gray metal doors

데이터 센터에서 과학 발전을 촉진

고성능 컴퓨팅

blue circuit board

렌더링

비교할 수 없는 속도의 사실적인 디자인, 시뮬레이션

a lion with a red light on its head and a mountain in the background

Intelligent automation that learns from your workflow. Let AI handle the repetitive tasks.

가상화된 데이터 센터 관리 간소화

가상화

brown wooden hallway with gray metal doors

상세 기술 사양

상세 기술 사양

NVIDIA DGX B300의 전체 기술 사양입니다.

제품 상세 스펙

GPU

8x NVIDIA Blackwell Ultra SXM

Total GPU Memory

2.1 TB total, 64 TB/s HBM3e bandwidth

Performance

FP4 Tensor Core* - 144 PFLOPS | 108 PFLOPS FP8/FP6 Tensor Core** - 72 PFLOPS

NVIDIA NVLink Switch System

2x

NVIDIA NVLink™ Bandwidth

14.4 TB/s aggregate bandwidth

System Power

14.5 kW (Busbar) / 15.1 kW (PSU)

CPU

Intel® Xeon® 6776P Processors

Networking

- 8x OSFP ports serving 8x NVIDIA ConnectX-8 VPI > Up to 800Gb/s NVIDIA InfiniBand/Ethernet - 2x dual-port QSFP112 NVIDIA BlueField-3 DPU > Up to 400Gb/s NVIDIA InfiniBand/Ethernet

System memory

2 TB, configurable to 4 TB

Management Network

1GbE onboard NIC with RJ45 1GbE RJ45 Host baseboard management controller (BMC)

Storage

NVIDIA AI Enterprise (optimized AI software) NVIDIA Mission Control (AI data center operations and orchestration with NVIDIA Run:ai technology) NVIDIA DGX OS (operating system) Supports Red Hat Enterprise Linux / Rocky / Ubuntu

Software

NVIDIA AI Enterprise (optimized AI software) NVIDIA Mission Control (AI data center operations and orchestration with NVIDIA Run:ai technology) NVIDIA DGX OS (operating system) Supports Red Hat Enterprise Linux / Rocky / Ubuntu

Rack Units (RU)

10 RU

Operating Temperature

10C° - 35C°

Support

3 year business-standard hardware and software support

제품 정보

상품명

NVIDIA DGX B300

KC 인증번호

R-RWT1-P4387C

정격전압 / 최대소비전력

4.5 kW (Busbar) / 15.1 kW (PSU)

품질 보증

3년 무상보증

출시년월

2025

제조사

NVIDIA Corporation

제조국

대만

크기

442 x 482.6 x 904.2 mm (10RU)

인프라 호환성 진단

인프라 호환성 진단

NVIDIA DGX B300 기반최적의 인프라 구성을 간편하게 확인해 보세요.

워크스테이션, 서버 호환성 체크

  • Dell, HP, Lenovo 등 주요 브랜드 장착 호환 여부 확인 물리적 설치 가능 여부와 운영 안정성 사전 검토 ISV 인증 지원 여부까지 함께 체크

워크스테이션, 서버 호환성 체크

  • Dell, HP, Lenovo 등 주요 브랜드 장착 호환 여부 확인 물리적 설치 가능 여부와 운영 안정성 사전 검토 ISV 인증 지원 여부까지 함께 체크

워크스테이션, 서버 호환성 체크

  • Dell, HP, Lenovo 등 주요 브랜드 장착 호환 여부 확인 물리적 설치 가능 여부와 운영 안정성 사전 검토 ISV 인증 지원 여부까지 함께 체크

black circuit board

멀티 GPU 시뮬레이션

  • 다중 GPU 구성 시 성능 확장성 예측 워크로드별 연산 효율과 처리 성능 검토 확장 환경에 맞는 최적의 시스템 방향 제안

black circuit board

멀티 GPU 시뮬레이션

  • 다중 GPU 구성 시 성능 확장성 예측 워크로드별 연산 효율과 처리 성능 검토 확장 환경에 맞는 최적의 시스템 방향 제안

black circuit board

멀티 GPU 시뮬레이션

  • 다중 GPU 구성 시 성능 확장성 예측 워크로드별 연산 효율과 처리 성능 검토 확장 환경에 맞는 최적의 시스템 방향 제안

blue circuit board

구매 옵션 최적화

  • 단품 구매부터 완제 시스템까지 폭넓게 비교 비즈니스 규모에 맞는 도입 방식 제안 예산과 운영 목적에 맞춘 최적 옵션 설계

blue circuit board

구매 옵션 최적화

  • 단품 구매부터 완제 시스템까지 폭넓게 비교 비즈니스 규모에 맞는 도입 방식 제안 예산과 운영 목적에 맞춘 최적 옵션 설계

blue circuit board

구매 옵션 최적화

  • 단품 구매부터 완제 시스템까지 폭넓게 비교 비즈니스 규모에 맞는 도입 방식 제안 예산과 운영 목적에 맞춘 최적 옵션 설계

DGX Platform 시스템 라인업

DGX B200

8× Blackwell GPU

1.44TB GPU Mem

DGX Spark

128GB 통합 메모리

1 PFLOP FP4

XDNODE를 통해 한정된 예산을
얼마나 잘 활용할 수 있을지 확인해 보세요.

XDNODE를 통해 한정된 예산을
얼마나 잘 활용할 수 있을지 확인해 보세요.

XDNODE를 통해 한정된 예산을
얼마나 잘 활용할 수 있을지 확인해 보세요.