NVIDIA H100 Tensor Core GPU, her veri merkezi için benzeri görülmemiş performans, ölçeklenebilirlik ve güvenlikle büyük ölçekli yapay zeka ve HPC için büyüklük sırasına göre bir sıçrama sağlar ve yapay zeka geliştirme ve dağıtımını kolaylaştırmak için NVIDIA AI Enterprise yazılım paketini içerir. H100, trilyon parametreli dil modelleri için özel bir Transformer Engine ile üst düzey ölçekli iş yüklerini hızlandırır. Küçük işler için H100, doğru boyutlu Çoklu Örnek GPU (MIG) bölümlerine bölünebilir. Hopper Gizli Bilgi İşlem ile bu ölçeklenebilir bilgi işlem gücü, paylaşılan veri merkezi altyapısındaki hassas uygulamaların güvenliğini sağlayabilir. NVIDIA AI Enterprise'ın H100 PCIe satın alımlarına dahil edilmesi, geliştirme süresini kısaltır ve AI iş yüklerinin dağıtımını basitleştirir ve H100'ü en güçlü uçtan uca AI ve HPC veri merkezi platformu haline getirir.
NVIDIA Hopper mimarisi, her veri merkezine benzeri görülmemiş performans, ölçeklenebilirlik ve güvenlik sağlar. Hopper, Transformer Engine gibi yeni bilgi işlem çekirdeği yeteneklerinden, veri merkezine önceki nesle göre kat kat daha hızlı güç sağlamak için daha hızlı ağ oluşturmaya kadar önceki nesilleri temel alır. NVIDIA NVLink, iki H100 kart arasında ultra yüksek bant genişliğini ve son derece düşük gecikme süresini destekler ve bellek havuzu oluşturmayı ve performans ölçeklendirmeyi destekler (uygulama desteği gereklidir). İkinci nesil MIG, 7 kat daha güvenli kiracılar için QoS'yi (hizmet kalitesi) en üst düzeye çıkarmak amacıyla GPU'yu güvenli bir şekilde izole edilmiş doğru boyutlu örneklere ayırır. Hızlandırılmış AI iş akışlarının geliştirilmesini ve dağıtımını optimize eden bir yazılım paketi olan NVIDIA AI Enterprise'ın (H100 PCIe'ye özel) dahil edilmesi, bu yeni H100 mimari yenilikleri aracılığıyla performansı en üst düzeye çıkarır. Bu teknoloji atılımları, dünyanın şimdiye kadar üretilmiş en gelişmiş GPU'su olan H100 Tensor Core GPU'yu besliyor.