HPE ProLiant Compute DL384 Gen12 – 2U NVIDIA GH200 NVL2 Grace Hopper AI Sunucu

Açıklama

HPE ProLiant Compute DL384 Gen12: NVIDIA GH200 NVL2 ile Generative AI ve Büyük Dil Modelleri için Superchip Sunucu

HPE ProLiant Compute DL384 Gen12, HPE’nin portföyündeki ilk NVIDIA GH200 NVL2 Grace Hopper™ Superchip’li rack sunucusudur. Geleneksel CPU-GPU mimarisinin yarattığı darboğazları ortadan kaldıran bu platform; CPU ile GPU’yu NVLink-C2C bağlantısıyla tek bir birleşik bellek mimarisinde buluşturur. Tek node’da 8 PFLOPS AI performansı ve 1,2 TB hızlı koherent bellek kapasitesiyle büyük dil modeli (LLM) inference, Retrieval Augmented Generation (RAG), model fine-tuning ve bellek yoğun HPC iş yükleri için kurumsal sınıfta çözüm sunar.

Öne Çıkan Özellikler

• HPE portföyünün ilk NVIDIA GH200 NVL2 Grace Hopper Superchip’li rack sunucusu
• 2x Superchip yapılandırmasında 1,2 TB birleşik hızlı bellek (LPDDR5X + HBM3e)
• Tek node’da 8 PFLOPS AI performansı — H100’e kıyasla 2x inference hızı
• NVLink-C2C ile CPU-GPU arasında 900 GB/s koherent bant genişliği (2x Superchip’te 5 TB/s toplam)
• NVIDIA H100’e göre 3,5 kat fazla GPU belleği ve 3 kat fazla bant genişliği
• NVIDIA InfiniBand, Ethernet ve BlueField adaptör desteği ile düşük gecikmeli AI fabric
• NVIDIA OVX™ sertifikalı yapay zeka altyapısı
• HPE iLO ile Silicon Root of Trust güvenlik mimarisi
• Her Superchip başına 72 çekirdek Arm Neoverse V2 CPU (2x Superchip = 144 toplam çekirdek)

GH200 NVL2 Superchip Konfigürasyonları

Teknik Özellikler

Hedef İş Yükleri

• Büyük Dil Modeli (LLM) Inference: GPT, LLaMA, Mistral ve benzeri modellerin kurumsal ortamda yüksek hızlı çalıştırılması
• Retrieval Augmented Generation (RAG): Kurumsal bilgi tabanı entegrasyonuyla özelleştirilmiş AI yanıt üretimi
• GenAI Fine-Tuning: Kurumsal veri setleriyle büyük model ince ayarı, düşük gecikme ve yüksek throughput
• Büyük Ölçekli Simülasyon: Moleküler dinamik, iklim modelleme, hesaplamalı akışkanlar dinamiği
• EDA (Elektronik Tasarım Otomasyonu): Karmaşık çip tasarım ve doğrulama iş yükleri
• HPC / Bilimsel Hesaplama: Bellek yoğun paralel hesaplama gerektiren araştırma uygulamaları

HPE ve NVIDIA Ortaklığı Güvencesi

DL384 Gen12, HPE’nin “NVIDIA AI Computing by HPE” portföyünün temel taşlarından biridir. NVIDIA GH200 NVL2’nin CPU ile GPU’yu tek koherent bellek uzayında birleştiren mimarisi, geleneksel PCIe bağlantılı GPU sunucularının bellek bant genişliği darboğazını tamamen ortadan kaldırır. HPE iLO Advanced yönetim özellikleri varsayılan olarak etkin gelir; HPE Compute Ops Management ile edge’ten buluta kadar tek konsol üzerinden izleme ve otomasyon sağlanır. Silicon Root of Trust teknolojisiyle silikon düzeyinde firmware güvenliği korunur. NVIDIA OVX™ sertifikası, kurumsal AI altyapılarında doğrulanmış uyumluluk güvencesi sunar.