Categories: KI

Nvidia stellt neue Generation seiner KI-Beschleunigerchips vor

Nvidia hat auf seiner Entwicklerkonferenz GTC 2024 eine neue Generation seiner GPU-basierten Beschleuniger-Chips für KI-Anwendungen vorgestellt. Der neue Chip B200 (Blackwell) hat mehr als doppelt so viele Transistoren wie sein Vorgänger H100 (Hopper).

„Hopper ist fantastisch, aber wir brauchen größere GPUs“, sagte Chief Executive Jensen Huang während seiner Keynote. Der B200 bietet eine Leistung von bis zu 20 Petaflops – der H100 bringt es auf 4 Petaflops. Das Leistungsplus soll es Unternehmen ermöglichen, größere und komplexere KI-Modelle zu entwickeln. Zudem enthält der neue Chip eine Transformer-Engine, die speziell für die Ausführung von Transformer-basierten KI-Modellen wie ChatGPT entwickelt wurde.

Laut Nvidia planen Cloud-Anbieter wie Amazon, Google, Microsoft und Oracle den Einsatz des GB200 Grace Blackwell Superchip, der zwei B200-GPUs zusammen mit einer ARM-basierten Grace-CPU enthält.

Amazon Web Services soll den Bau einer Server-Clusters mit 20.000 GB200-Chips in Angriff nehmen. Das System soll ein Modell mit 27 Billionen Parametern betreiben können. Modelle wie OpenAIs GPT-4 haben rund 1,7 Billionen Parameter.

Nvidia kündigte außerdem den Ausbau seines Softwaregeschäfts an. Ein neues Angebot namens NIM Inference Microservices soll Cloud-native Microservices für mehr als zwei Dutzend populäre Basismodelle bieten, einschließlich von Nvidia entwickelter Modelle. NIM ist so konzipiert, dass Benutzer KI-Modelle auf einer Reihe von Nvidia-Hardware betreiben können, die sie entweder lokal oder in der Cloud besitzen, und nicht auf die Anmietung von Kapazitäten bei einem dritten Cloud-Anbieter beschränkt sind.

Stefan Beiersmann

Stefan unterstützt seit 2006 als Freier Mitarbeiter die ZDNet-Redaktion. Wenn andere noch schlafen, sichtet er bereits die Nachrichtenlage, sodass die ersten News des Tages meistens von ihm stammen.

Recent Posts

Digitale Matching-Plattform für Unternehmen und IT-Freelancer

Damit IT-Freelancer und Unternehmen einfacher zueinander finden, hat der Personaldienstleister Hays die Matching-Plattform "Tribeworks" gelauncht.

3 Stunden ago

Mit ChatGPT und Dall-E richtig starten

Kostenloses Webinar der Online-Marketing-Academy am 18.7. zum Einstieg in KI-Tools.

3 Stunden ago

Podcast: Geschäftsprozesse mit generativer KI automatisieren

Wie sich unstrukturierte Daten unter anderem für die Automatisierung von Rechnungsprozessen nutzen lassen, erklärt Ruud…

3 Stunden ago

Was macht Check Point als attraktiver Arbeitgeber aus?

Kim Forsthuber von Checkpoint erklärt, wie sie zum Security-Anbieter gekommen ist und was sie an…

2 Tagen ago

Android-Malware Rafel RAT aufgedeckt

Bösartiges Tool wird für Spionage, Fernzugriff, Datenklau und Ransomware verwendet. Check Point-Sicherheitsforscher beobachten Angriffe in…

2 Tagen ago

US-Regierung verhängt Verkaufsverbot gegen Kasperskys Antivirensoftware

Es tritt bereits im Juli in Kraft. Ab Ende September wird auch der Wiederverkauf von…

2 Tagen ago