Categories: KI

MI300X: AMD stellt Generative-AI-Beschleuniger vor

AMD hat einen neuen Chip namens Instinct MI300X vorgestellt, der für Arbeitslasten im Bereich Artificial Intelligence Computing entwickelt wurde. Er setzt sich aus verschiedenen Chiplets zusammen, um besonders hohe Übertragungsraten für Speicher und Daten zu erreichen.

Bei der Vorstellung des Instinct MI300X bezeichnete AMD-Chefin Lisa Su den Chip als Generative AI Accelerator. Seine Chiplets seien speziell für KI- und High-Performance-Computing-Arbeitslasten entwickelt worden. Im Gegensatz zum Instinct MI300A besteht der MI300X ausschließlich aus GPU-Chiplets vom Typ CDNA3. Beim MI300A setzt AMD auf eine Kombination aus drei Zen4-CPU-Chiplets mit mehreren GPU-Chiplets.

Dadurch, dass die CPU-Chiplets durch GPUs ersetzt werden, kommt der MI300X auf 153 Millionen statt 146 Millionen Transistoren. Zudem erhöht AMD den gemeinsam verfügbaren Arbeitsspeicher von 128 auf 192 GByte. Die Speicherbandbreite wird sogar von 800 GByte pro Sekunden auf 5,2 TByte pro Sekunde gesteigert.

„Die generative KI und große Sprachmodelle haben die Welt verändert“, so Su weiter. „Der Bedarf an mehr Rechenleistung wächst exponentiell, egal ob es um Training oder Inferenz geht.“ Der MI300X sei der erste Chip, der leistungsfähig genug sei, um ein neuronales Netz dieser Größe vollständig im Speicher zu betreiben, anstatt Daten zwischen externem Speicher hin- und herschieben zu müssen.

„Ein einzelner MI300X kann Modelle mit bis zu 80 Milliarden Parametern im Speicher ausführen“, ergänzte Su. „Wenn man den MI300X mit der Konkurrenz vergleicht, bietet der MI300X 2,4-mal mehr Speicher und 1,6-mal mehr Speicherbandbreite, und mit dieser zusätzlichen Speicherkapazität haben wir tatsächlich einen Vorteil für große Sprachmodelle, weil wir größere Modelle direkt im Speicher ausführen können.“

Um mit den DGX-Systemen von Nvidia zu konkurrieren, stellte Su eine Familie von KI-Computern namens AMD Instinct Platform vor. Das erste Exemplar dieser Plattform wird acht MI300X mit 1,5 Terabyte HMB3-Speicher kombinieren. Der Server entspricht dem Industriestandard Open Compute Platform spec. „Kunden können all diese KI-Rechenkapazitäten im Speicher auf einer Industriestandard-Plattform nutzen, die sich direkt in ihre bestehende Infrastruktur einfügt“, sagte Su.

Stefan Beiersmann

Stefan unterstützt seit 2006 als Freier Mitarbeiter die ZDNet-Redaktion. Wenn andere noch schlafen, sichtet er bereits die Nachrichtenlage, sodass die ersten News des Tages meistens von ihm stammen.

Recent Posts

Erste öffentliche Beta von Android 15 verfügbar

Google bietet die Vorabversion derzeit exklusiv für bestimmte Pixel-Geräte an. Zu den neuen Funktionen gehört…

23 Stunden ago

Apple warnt vor Spyware-Angriffen auf iPhones

Sie sind zielgerichtet und betreffen aktuell Nutzer in 92 Ländern weltweit. Bei den Angriffen kommt…

1 Tag ago

Deutsche zeigen Mobile Banking die kalte Schulter

Mit ihren Dienstleistungen für Smartphones stoßen viele Banken eher auf Desinteresse. Eine Umfrage von Sopra…

1 Tag ago

Google veröffentlicht weiteres Sicherheitsupdate für Chrome

Es beseitigt unter anderem einen möglichen Sandbox-Escape. Der Entdecker der Lücke erhält von Google eine…

2 Tagen ago

Bitkom sagt Verschärfung des IT-Fachkräftemangels voraus

Bis 2040 sollen in Deutschland mehr als 660.000 IT-Fachkräfte fehlen. Für das Jahr 2023 ermittelt…

2 Tagen ago

Gesünder baggern mit neuartiger Sensortechnik

Fraunhofer-Forschende haben für Fahrer:innen von Baumaschinen einen Helm mit integriertem Beschleunigungssensor entwickelt.

2 Tagen ago