Falcon 6048

AI 워크로드 성능을 극대화하기 위한 차세대 메모리/스토리지 아키텍처

단일 Intel 6세대 Xeon 프로세서를 탑재한 3U GPU 가속 서버
최대 48개의 NVMe SSD, 2개의 GPU 및 2개의 NIC를 지원하는 유연한 I/O 확장 구조
최대 288M IOPS@512B 제공 (SSD당 최대 6M IOPS)
NVIDIA Nsight 기반 성능 모니터링 지원

Overview | Specification | Photo | Topology

Overview

GPU-Managed Data Access

Falcon 6048은 GPU HBM 메모리와 NVMe 스토리지 간 데이터 이동을 최적화하기 위해 설계된 GPU-Accelerated Memory & Storage Architecture를 제공합니다.

Breakthrough Performance — More than 200M IOPS with Gen6 Fabric

Falcon 6048은 Broadcom PCIe Gen6 Switch 및 최대 48개의 E1.S NVMe SSD 기반 아키텍처를 통해 2억 IOPS 이상의 초고성능 데이터 처리 성능을 제공합니다.

AI 학습, 추론, 실시간 예측 및 대규모 데이터 분석 환경에서 초저지연 데이터 접근과 대규모 병렬 처리 성능을 제공합니다.

Built for cuVS and Graph Neural Network (GNN) Acceleration

Falcon 6048은 NVIDIA cuVS 및 WholeGraph Framework 환경에 최적화되어 있으며, 벡터 데이터베이스 및 Graph Neural Network(GNN) 워크로드에서 높은 성능을 제공합니다.

Embedding부터 Retrieval까지 GPU 기반 가속 환경을 제공하여 대규모 AI 데이터 처리 및 고속 벡터 검색 환경에 적합합니다.

Ultra-low Latency AI Data Access

Falcon 6048은 GPU와 NVMe SSD 간 초저지연 데이터 접근 환경을 제공하도록 설계되었습니다.

PCIe Gen6 기반의 고속 데이터 패브릭 아키텍처를 통해 대규모 AI 및 HPC 워크로드 환경에서 높은 데이터 처리 효율성과 안정적인 성능을 제공합니다.

PCIe Gen6 AI Data Fabric Topology

PCIe 6.0 스위치를 핵심으로 하는 Falcon 6048은 뛰어난 처리 성능과 확장성을 제공합니다. 최대 2개의 NVIDIA H200 GPU, 4개의 NVIDIA ConnectX-9 NIC, 그리고 최대 48개의 NVMe SSD(사용 가능한 PCIe 슬롯 구성에 따라 다름)를 지원하며, GPU 가속 서버 환경에 1개의 CPU와 8개의 DDR5 메모리 모듈을 통합할 수 있습니다.

이 아키텍처는 초고성능 IOPS 및 초저지연 소규모 데이터 접근 환경을 위해 설계되었습니다. AI 학습, 추론, 실시간 예측 및 데이터 집약적 워크로드에서 흔히 발생하는 대규모 랜덤 I/O 패턴 기반 데이터 처리 환경에서 높은 효율성과 성능을 제공합니다.

Specification

Software Features
Management Interface	Redfish®, RESTful API, GUI and CLI
System Management	• Dashboard for SSD utilization, performance, and other information • Predictive health monitoring • Role-based authentication and access control
Hardware Features
Model Name	Falcon 6048
BMC	Aspeed AST2600 Advanced PCIe Graphics & Remote Management Processor
CPU	• Single Intel® Gen6 Xeon® Scalable Processor (Granite Rapids CPU)
PCIe Switch	Broadcom PEX 90144 PCIe 6.0 Switch
Memory	• Eight (8) DDR5 6400MHz RDIMM slots • Maximum capacity: 1TB
NVMe SSD	• PCIe fabric: Up to forty-eight (48) E1.S 15mm NVMe SSDs • CPU: Two (2) U.2 (PCIe Gen5)
PCIe Slot	• GPU slot, full-height, full-length, double width: Two (2) PCIe 6.0 x16 slots (up to 650W GPU) • Network card, half-height, half-length, single width: Up to four (4) PCIe 6.0 x16 slots (up to 75W NIC)
Power	3200W (3+1 redundant) power supply 80+ Titanium
Fan	Ten (10) 60x56mm fans Hot swap
LAN	• One (1) RJ45 GbE connector for BMC dedicated management port • Two (2) RJ45 1GbE connectors
Environmental Spec.	• Storage temperature: -10ºC (14ºF) ~ 60ºC (140ºF) • Operating temperature: 0ºC (32ºF) ~ 35ºC (95ºF) • Storage operating humidity: 5%~95% (non-condensing)
Dimension	3U; 129.6 (H) x 438 (W) x 850 (D) mm
Compatible Devices
Accelerator	• NVIDIA H200, H100 • NVIDIA RTX Pro 6000
Network Cards	NVIDIA ConnectX-7, ConnectX-8, ConnectX-9