KI-Modell „Made in Germany“

Ein Konsortium unter Leitung der Fraunhofer-Institute IAIS und IIS entwickelte mit weiteren Partnern wie der TU Dresden, dem Deutschen Forschungszentrum für Künstliche Intelligenz GmbH (DFKI) und dem Forschungszentrum Jülich das Sprachmodell Teuken-7B. Das auf dem Jülicher Supercomputer JUWELS trainierte Sprachmodell ist seit dem 26. November 2024 unter einer Open-Source-Lizenz verfügbar.

Die Deutsche Telekom ist nun der erste Anbieter, der den Zugang zu Teuken-7B kommerziell zur Verfügung stellt. Behörden und Unternehmen können so nun eine leistungsstarke, vertrauenswürdige und quelloffene Alternative zu den großen gängigen Modellen nutzen und ist damit ein maßgeblicher Beitrag zur digitalen Souveränität Deutschlands.

Mehrsprachig, Open Source und Vertrauenswürdig

OpenGPT-X setzt bei der Entwicklung großer KI-Sprachmodelle auf „Made in Germany“. Berücksichtigt sind dabei sowohl die Bedürfnisse europäischer Unternehmen als auch die der Forschung. Das ermöglicht auch für die Zukunft neue datenbasierte Geschäftslösungen. Die Modelle zeichnen sich durch Mehrsprachigkeit, Offenheit (Open Source) und Vertrauenswürdigkeit aus. Das Teuken-7B-Modell wurde von Grund auf multilingual trainiert und bietet dank eines speziell entwickelten Tokenizers eine hohe Energie- und Kosteneffizienz bei Anwendungen in allen 24 europäischen Amtssprachen. Mit seiner umfassenden Open-Source-Lizenzierung (Apache 2.0) und optimierten Leistung setzt es neue Maßstäbe für KI-Lösungen in Europa.

„Die Bereitstellung von Teuken als Open-Source-Modell hat mehrere Vorteile: Unternehmen können das Modell auf ihre Bedarfe anpassen – also spezialisierte Anwendungen damit entwickeln. Zudem können sie bestimmen, ob sie das Modell lokal auf der eigenen Infrastruktur oder bei einem vertrauenswürdigen Cloud-Anbieter ihrer Wahl betreiben wollen. Wenn gewünscht, können sensible Daten also im Unternehmen verbleiben“, sagt Nicolas Flores-Herr, Projektleiter am Fraunhofer IAIS.

Einsatzmöglichkeiten mit flexiblen Betriebsmodellen

Mit den AI Foundation Services stellt die Telekom-Tochter T-Systems flexible Betriebsmodelle bereit. Unternehmen können wählen, ob sie die Modelle in hochsicheren, zertifizierten Telekom-Rechenzentren in Deutschland, DSGVO-konform in Europa oder sogar dediziert auf eigener Infrastruktur nutzen möchten.

Das neue Sprachmodell „Teuken-7B“ ist außerdem direkt in das standardisierte Telekom-Produkt Business GPT integriert. Es unterstützt „out-of-the-box“ RAG-Anwendungen (retrieval augmented generation) und fasst Dokumente und unternehmensinterne Chatbots zusammen. Über eine einheitliche API (Netzwerkschnittstelle) können Unternehmen mithilfe der AI Foundation Services das Modell auch in bestehende KI-Assistenten, Agenten und eigene Chatbots integrieren. Die AI Foundation Services ermöglichen zudem die Entwicklung und den Betrieb von generativen KI-Anwendungen auf skalierbaren und sicheren Plattformen.