Falcon 6048
AI 워크로드 성능을 극대화하기 위한 차세대 메모리/스토리지 아키텍처
- 단일 Intel 6세대 Xeon 프로세서를 탑재한 3U GPU 가속 서버
- 최대 48개의 NVMe SSD, 2개의 GPU 및 2개의 NIC를 지원하는 유연한 I/O 확장 구조
- 최대 288M IOPS@512B 제공 (SSD당 최대 6M IOPS)
- NVIDIA Nsight 기반 성능 모니터링 지원
Overview | Specification | Photo | Topology
Overview
Breakthrough Performance — More than 200M IOPS with Gen6 Fabric
Falcon 6048은 Broadcom PCIe Gen6 Switch 및 최대 48개의 E1.S NVMe SSD 기반 아키텍처를 통해 2억 IOPS 이상의 초고성능 데이터 처리 성능을 제공합니다.
AI 학습, 추론, 실시간 예측 및 대규모 데이터 분석 환경에서 초저지연 데이터 접근과 대규모 병렬 처리 성능을 제공합니다.
Built for cuVS and Graph Neural Network (GNN) Acceleration
Falcon 6048은 NVIDIA cuVS 및 WholeGraph Framework 환경에 최적화되어 있으며, 벡터 데이터베이스 및 Graph Neural Network(GNN) 워크로드에서 높은 성능을 제공합니다.
Embedding부터 Retrieval까지 GPU 기반 가속 환경을 제공하여 대규모 AI 데이터 처리 및 고속 벡터 검색 환경에 적합합니다.
Ultra-low Latency AI Data Access
Falcon 6048은 GPU와 NVMe SSD 간 초저지연 데이터 접근 환경을 제공하도록 설계되었습니다.
PCIe Gen6 기반의 고속 데이터 패브릭 아키텍처를 통해 대규모 AI 및 HPC 워크로드 환경에서 높은 데이터 처리 효율성과 안정적인 성능을 제공합니다.
Specification
| Software Features | |
| Management Interface | Redfish®, RESTful API, GUI and CLI |
| System Management |
• Dashboard for SSD utilization, performance, and other information • Predictive health monitoring • Role-based authentication and access control |
| Hardware Features | |
| Model Name | Falcon 6048 |
| BMC | Aspeed AST2600 Advanced PCIe Graphics & Remote Management Processor |
| CPU | • Single Intel® Gen6 Xeon® Scalable Processor (Granite Rapids CPU) |
| PCIe Switch | Broadcom PEX 90144 PCIe 6.0 Switch |
| Memory |
• Eight (8) DDR5 6400MHz RDIMM slots • Maximum capacity: 1TB |
| NVMe SSD |
• PCIe fabric: Up to forty-eight (48) E1.S 15mm NVMe SSDs • CPU: Two (2) U.2 (PCIe Gen5) |
| PCIe Slot |
• GPU slot, full-height, full-length, double width: Two (2) PCIe 6.0 x16 slots (up to 650W GPU) • Network card, half-height, half-length, single width: |
| Power | 3200W (3+1 redundant) power supply 80+ Titanium |
| Fan |
Ten (10) 60x56mm fans Hot swap |
| LAN |
• One (1) RJ45 GbE connector for BMC dedicated management port • Two (2) RJ45 1GbE connectors |
| Environmental Spec. |
• Storage temperature: -10ºC (14ºF) ~ 60ºC (140ºF) • Operating temperature: 0ºC (32ºF) ~ 35ºC (95ºF) • Storage operating humidity: 5%~95% (non-condensing) |
| Dimension | 3U; 129.6 (H) x 438 (W) x 850 (D) mm |
| Compatible Devices | |
| Accelerator |
• NVIDIA H200, H100 • NVIDIA RTX Pro 6000 |
| Network Cards | NVIDIA ConnectX-7, ConnectX-8, ConnectX-9 |
Falcon 6048 Photo
PCIe Gen6 AI Data Fabric Topology
PCIe 6.0 스위치를 핵심으로 하는 Falcon 6048은 뛰어난 처리 성능과 확장성을 제공합니다. 최대 2개의 NVIDIA H200 GPU, 4개의 NVIDIA ConnectX-9 NIC, 그리고 최대 48개의 NVMe SSD(사용 가능한 PCIe 슬롯 구성에 따라 다름)를 지원하며, GPU 가속 서버 환경에 1개의 CPU와 8개의 DDR5 메모리 모듈을 통합할 수 있습니다.
이 아키텍처는 초고성능 IOPS 및 초저지연 소규모 데이터 접근 환경을 위해 설계되었습니다. AI 학습, 추론, 실시간 예측 및 데이터 집약적 워크로드에서 흔히 발생하는 대규모 랜덤 I/O 패턴 기반 데이터 처리 환경에서 높은 효율성과 성능을 제공합니다.
