NVIDIA H100 NVL

Per gli LLM con un massimo di 175 miliardi di parametri, il bridge NVIDIA H100 NVL with NVLink basato su PCIe sfrutta Transformer Engine, NVLink e 188 GB di memoria HBM3 per consentire prestazioni ottimali e una facile scalabilità in qualsiasi data center e portare gli LLM nel mainstream. I server equipaggiati con le GPU H100 NVL aumentano le prestazioni del modello GPT-175B fino a 12 volte rispetto ai sistemi NVIDIA DGX A100, mantenendo al contempo una bassa latenza in ambienti di data center con limitazioni di potenza.