Google: Spezial-Chip bis zu 30-mal schneller als GPU und CPU

Google hat Leistungsdaten seiner Spezial-Chips enthüllt, die seit 2015 in seinen Rechenzentren für Maschinenlernen-Anwendungen zum Einsatz kommen. Der als Tensor Processing Unit (TPU) bezeichnete Chip wurde eigens als neue Kategorie zur Beschleunigung von maschinellem Lernen entwickelt.

Eine jetzt veröffentlichte Studie (PDF) stellt einen gewaltigen Leistungssprung heraus, wenn es um Anwendungen mit trainierten neuronalen Netzen geht, für die diese erste TPU-Generation geschaffen wurde. Während in der Trainingsphase noch GPUs ihre Stärke ausspielen, kann Googles maßgeschneiderte Hardware hier besonders punkten.

Der Studie zufolge ist sie bei den produktionstypischen KI-Belastungen um den Faktor 15 bis 30 schneller als gleichzeitig verfügbare GPUs und CPUs, was sich in diesem Fall auf im Jahr 2015 eingesetzte Prozessoren bezieht. Bei der Energieeffizienz meldet der Internetkonzern sogar eine Verbesserung um den Faktor 30 bis 80 gegenüber herkömmlichen Chips.

Zur Software führt Googles Hardwareentwickler Norm Jouppi in einem Blogeintrag aus, dass die neuronalen Netze für diese Anwendungen erstaunlich wenig Code benötigen, nämlich nur 100 bis 1500 Zeilen. Der Code basiert auf dem Maschinenlernen-Framework TensorFlow, das Google 2015 unter der Apache-2.0-Lizenz als Open Source freigab.

Laut Jouppi wurde die Erfordernis von TPUs vor sechs Jahren klar, als zunehmend rechenintensive Deep-Learning-Modelle quer durch die Produktpalette benutzt wurden. TPUs stehen demnach hinter jeder beantworteten Suchanfrage und unterstützen Dienste wie die Bildersuche, Google Photos und die Google-Cloud-Vision-API. Sie sollen auch erhebliche qualitative Verbesserungen von Google Translate im letzten Jahr ermöglicht haben. Nicht zuletzt hätten sie beim Sieg von Googles KI-Programm AlphaGo gegen den weltweit besten Spieler des klassischen asiatischen Brettspiels geholfen.