Nvidia GB200 NVL2: Rack server for large AI models

Nvidia's Blackwell accelerators now available in dual-pack rack insert with up to 40 petaflops. Rubin with HBMe4 memory to follow in 2026.

Nvidia CEO Jensen Huang presented another building block of the Blackwell computing accelerator family at his keynote in the run-up to Computex . Below the, Nvidia is offering the GB200 NVL2 rack plug-in unit with two GB200 processors for AI model training. The rack isThe two GB200s soldered inside each consist of a Blackwell double chip and a Grace CPU with 72 ARM cores.

The rack server offers a total of 1.3 TByte of RAM, 384 GByte of which is attached to the Blackwell chips as fast HMB3e RAM. The throughput of the HBM3e memory is 8 TByte/s in each case. The GB200s communicate with each other via NVLink at 2 x 900 GByte/s. This makes the GB200 NVL2 suitable for training large models for generative AI applications.Finally, Jensen Huang gave an outlook on the upcoming AI accelerator generations.

Wir haben diese Nachrichten zusammengefasst, damit Sie sie schnell lesen können. Wenn Sie sich für die Nachrichten interessieren, können Sie den vollständigen Text hier lesen. Weiterlesen:

heise_de /  🏆 20. in DE

Computex 2024 Künstliche Intelligenz Nvidia Nvidia Blackwell Server

Deutschland Neuesten Nachrichten, Deutschland Schlagzeilen

Similar News:Sie können auch ähnliche Nachrichten wie diese lesen, die wir aus anderen Nachrichtenquellen gesammelt haben.

Nvidia GB200 NVL2: Blackwell gibt es jetzt auch als Modul mit zwei GPUs und CPUsNvidia erweitert die MGX-Plattform für modulare Serverdesigns mit GB200 NVL2 um eine Variante mit zwei Blackwell-GPUs und zwei Grace-CPUs.
Weiterlesen »

NASDAQ-Titel NVIDIA-Aktie: Darum empfiehlt ein UBS-Analyst NVIDIA zum KaufDer Chipkonzern NVIDIA legt am 22. Mai 2024 seine Quartalsbilanz offen. Im Vorfeld hat ein UBS-Analyst die Aktie zum Kauf empfohlen - die Gründe.
Weiterlesen »

NASDAQ-Titel NVIDIA-Aktie legt heute Zahlen vor: Darum empfiehlt ein UBS-Analyst NVIDIA zum KaufDer Chipkonzern NVIDIA legt am 22. Mai 2024 seine Quartalsbilanz offen. Im Vorfeld hat ein UBS-Analyst die Aktie zum Kauf empfohlen - die Gründe.
Weiterlesen »

Nvidia Quartalszahlen: Kann Nvidia weiter überzeugen?Nvidia Quartalszahlen: Kann Nvidia weiter überzeugen?
Weiterlesen »

NASDAQ-Titel NVIDIA-Aktie profitiert: Künstliche Intelligenz treibt Umsatz und Gewinn von NVIDIA anDer KI-Profiteur NVIDIA hat die Bücher zum ersten Quartal des Geschäftsjahres 2025 geöffnet.
Weiterlesen »

NASDAQ-Titel NVIDIA-Aktie: Mega-Bonus - So viel kassiert NVIDIA-CEO Jensen Huang jetzt abFür den US-amerikanischen Chipdesigner NVIDIA läuft es inmitten des Booms um künstliche Intelligenz derzeit sagenhaft. Das lässt sich nicht nur am Aktienkurs, sondern auch an den Vergütungen innerhalb der Führungsetage ablesen.
Weiterlesen »