Intel stellt KI-Chip Gaudi 3

Intel hat die neueste Generation seines KI-Chips Gaudi vorgestellt. Gaudi 3 ist unter anderem für das Training und die Analyse von künstlicher Intelligenz optimiert. Laut Intel-CEO Pat Gelsinger ist Gaudi 3 beim Training von KI-Modellen wie dem Sprachmodell TensorRT fast doppelt so schnell wie Nvidias H100-Chip.

Bei anderen KI-Aufgaben wie Vorhersagen zu Antworten auf reale Fragen auf Basis eines trainierten neuronalen Netzes soll Gaudi 3 den KI-Chip von Nvidia um 50 Prozent übertreffen. Schon beim Benchmark MLPerf war der Vorgänger Gaudi 2 der einzige Rechenzentrums-Chip, der mit dem H100 konkurrieren konnte.

Der Gaudi 3 besteht aus 64 separaten Tensor-Kernen auf einem Die, um Matrix-Multiplikationen zu beschleunigen, die das Herzstück der KI-Verarbeitung sind. Unterstützt wird er von acht diskreten „Matrix-Math-Engines“. Das Bauteil nutzt 96 MByte schnellen On-Chip-SRAM-Cache-Speicher und weitere 128 GByte externen HBM3e-Speicher. Dabei handelt es sich um den schnellsten DRAM der Branche, der aus mehreren neben dem Prozessor gestapelten Speicherchips besteht.

Der Guadi 3 erreicht 1,84 TeraFLOPs, eine Billion Fließkomma-Operationen pro Sekunde, wenn er mit 8-Bit-Fließkomma-Mathematik arbeitet, dem weit verbreiteten Maß für die Chipleistung.

Gelsinger sagte, dass Gaudi 3 dabei helfen wird, künstliche Intelligenz durch drei verschiedene Phasen zu bringen. Die erste, die gegenwärtige Phase, ist das „Zeitalter der KI-Copiloten“, so Gelsinger. „Das zweite Zeitalter steht vor der Tür, das Zeitalter der KI-Agenten.“ Die dritte Stufe wäre das „Zeitalter der KI-Funktionen“, wenn die Technologie eingesetzt wird, um „komplexe, unternehmensweite Ergebnisse zu automatisieren.“