Soofi S: Ist der Durchbruch bei KI aus Deutschland gelungen?

Soofi S bietet eine vergleichsweise gute Leistung, Effizienz und gute Ergebnisse bei deutscher Sprache. Ist es damit eine echte Alternative zu KI aus den USA und aus China?

Wer die Basismodelle kontrolliert, kontrolliert die Ebene, auf der die nächste Generation digitaler Wertschöpfung aufbaut. Genau hier war Europa bisher schwach. Die großen Foundation Models kamen aus den USA und aus China, und europäische Unternehmen blieben Anwender fremder Kerntechnologie. Mit Soofi S liegt jetzt zum ersten Mal ein vollständig offenes deutsches Modell vor, das nach eigenen Messungen die stärksten frei verfügbaren Konkurrenten schlägt – und das auf Infrastruktur, die komplett in Deutschland steht.

Ob das schon der Durchbruch für Europas KI und digitale Souveränität ist, hängt davon ab, welchen Maßstab man anlegt. Als frei verfügbares Modell für die deutsche Sprache setzt Soofi S eine neue Bestmarke. Ein direkter Konkurrent von GPT-5.x oder Gemini ist es nicht, und das will es auch nicht sein.

Grundlage der Analyse ist der Pretraining Report des Soofi-Konsortiums und die Projektseite soofi.info.

Was Soofi S ist – und was nicht

Soofi S ist das erste Modell einer geplanten Familie aus dem Projekt SOOFI (Sovereign Open Source Foundation Models). Getragen wird es von einem Konsortium aus deutschen Forschungseinrichtungen und Firmen, koordiniert vom KI-Bundesverband und gefördert vom Bundesministerium für Wirtschaft und Energie mit rund 20 Millionen Euro im Rahmen des europäischen Programms IPCEI-CIS.

Zum Konsortium gehören unter anderem die Fraunhofer-Institute IAIS und IIS, das DFKI, die Universität Würzburg mit dem CAIDAS-Zentrum, das L3S Research Center der Uni Hannover, hessian.AI der TU Darmstadt, die Berliner Hochschule für Technik sowie die Start-ups ellamind und Merantix Momentum.

Wichtig zur Einordnung: Soofi S ist ein Base Model. Es ist nicht auf Dialog getrimmt und tritt nicht gegen ChatGPT als Chatbot an. Das eigentliche Ziel der Initiative ist es, ein Modell mit rund 100 Milliarden Parametern zu erstellen; Soofi S ist der erste, kleinere Baustein auf diesem Weg. Instruktions- und Reasoning-Varianten sollen folgen.

Der technische Kern: viel Wissen, wenig Rechenlast pro Token

Soofi S trägt die Bezeichnung 30B-A3B. Dabei erklärt die zweite Zahl das Prinzip: Das Modell enthält insgesamt 31,6 Milliarden Parameter, aktiviert aber pro erzeugtem Token nur etwa 3,2 Milliarden davon. Der Rechenaufwand liegt damit näher an einem 3B-Modell als an einem klassischen 30B-Modell.

Möglich macht das eine hybride Bauweise aus zwei Ideen:

• Mixture-of-Experts (MoE): Statt für jedes Token das ganze Netz zu aktivieren, wählt ein Router aus 128 spezialisierten Experten-Netzwerken nur wenige aus. Das globale Wissen steckt in den gerade inaktiven Experten, und die Rechenlast bleibt klein.
• Mamba-2 statt reiner Attention: Herkömmliche Transformer müssen den gesamten bisherigen Kontext im Speicher halten im sogenannten KV-Cache, der mit der Textlänge linear wächst und bei langen Dokumenten den GPU-Speicher sprengt. Mamba-2-Schichten arbeiten als State-Space-Modelle und komprimieren den Verlauf in einem Zustand. In Soofi S halten nur 6 von 52 Schichten überhaupt einen KV-Cache.

Diese Kombination übernimmt das Konsortium ohne Änderungen von Nvidias Nemotron 3 Nano: 23 Mamba-2-Schichten, 23 MoE-Schichten, 6 Attention-Schichten. Der eigene Beitrag von Soofi liegt in den Trainingsdaten.

Abbildung: Hybride Architektur von Nemotron Nano 3

Der praktische Effekt zeigt sich beim Durchsatz. Bei einer Kontextlänge von 40.000 Token und 32 parallelen Anfragen erzeugt Soofi S pro GPU rund achtmal so viele Token pro Sekunde wie dichte Modelle der 14- bis 24-Milliarden-Klasse. Und während der Durchsatz bei klassischen Modellen mit wachsendem Kontext einbricht, bleibt er bei Soofi S von 4.000 bis 256.000 Token nahezu konstant. Das einzige Vergleichsmodell mit ähnlichem Verhalten ist Alibabas Qwen3.5 35B-A3B, das ebenfalls hybrid gebaut ist.

Für die Praxis heißt das: Wer hunderte Seiten Handbücher, Verträge oder Log-Dateien am Stück verarbeiten oder KI-Assistenten für viele Nutzer gleichzeitig betreiben will, zahlt bei Soofi S nicht für die sonst übliche Kostenexplosion.

Die deutsche Sprache als eigentliche Leistung

Wenn die Architektur von Nvidia stammt, worin besteht dann der deutsche Anteil? In den Daten. Das Konsortium trainierte Soofi S von Grund auf mit rund 27 Billionen Token in drei Phasen: etwa 20 Billionen für die sprachlichen Grundlagen, etwa 6 Billionen aus hochwertigeren Quellen zur Verfeinerung, danach eine kürzere Phase für sehr lange Dokumente bis zu einer Million Token.

Abbildung: Training von Soofi S in drei Phasen

Der entscheidende Unterschied zur Nemotron-Vorlage ist der Anteil deutschsprachiger Quellen. Bei Nvidia machen alle nicht-englischen Sprachen zusammen nur rund 5 Prozent aus. Bei Soofi S steigt der deutsche Anteil von 7,2 Prozent in der ersten auf 15,3 Prozent in der zweiten Phase. Als Quellen dienten unter anderem deutscher Webtext aus HPLT, das offen lizenzierte German-Commons-Korpus, deutsche Teile von FinePDFs und FineWiki sowie das kommerziell lizenzierte Genios-Korpus mit 193 Millionen Zeitungsartikeln aus 916 deutschen Publikationen.

Gegenüber der reinen Nemotron-Basis verbessert die deutsche Datenmischung die Sprachkompetenz um 15,1 Punkte und den Wissenstest GPQA-Diamond um 9,6 Punkte, ohne dass die englische Leistung darunter leidet.

Whitebox statt Blackbox: die Antwort auf den EU AI Act

Der zweite große Pluspunkt von Soofi S ist die Offenheit. Viele internationale Modelle geben, wenn überhaupt, nur grobe Systemkarten heraus und verschweigen die Zusammensetzung ihrer Trainingsdaten – oft aus Sorge vor Urheberrechtsklagen. Für Prüfstellen und Compliance-Abteilungen sind solche Modelle kaum verwendbar.

Soofi S geht den umgekehrten Weg. Das Konsortium veröffentlicht die Modellgewichte samt ausgewählter Zwischen-Checkpoints, den vollständigen Trainings- und Evaluierungscode sowie ein detailliertes Datenverzeichnis mit Token-Zahlen, Epochen und Beitrag jeder einzelnen Quelle, und das inklusive der Quellen, die geprüft, aber ausgeschlossen wurden. Rund 99 Prozent der Trainingsmischung lassen sich damit unabhängig rekonstruieren. Nach Angaben des Teams erfüllt Soofi S die Open Source AI Definition 1.0 der Open Source Initiative.

Ein Detail bleibt allerdings offen: Die strengere Anforderung, dass wirklich jedes Trainings-Token frei weiterverteilbar sein muss, erfüllt Soofi S wegen des Anteils des kommerziell lizenzierten Genios-Korpus nicht. Auch die endgültige Lizenz für die Modellfreigabe war zum Zeitpunkt der Veröffentlichung des Reports noch nicht final festgelegt. Wer eine gebührenfreie kommerzielle Nutzung plant, sollte diesen Punkt im Auge behalten.

Leistung im Vergleich: national führend, international solide

Kommen wir zur Kernfrage: Wie gut ist das Modell wirklich? Getestet wurde Soofi S gegen 16 andere offene Modelle. Bei den aggregierten Werten für Deutsch und Englisch führt es unter allen vollständig offenen Modellen, teils mit zweistelligem Abstand.

Gegen die europäischen und offenen Konkurrenten

Bemerkenswert ist der Abstand nach oben: Soofi S schlägt mit 31,6 Milliarden Parametern das mehr als doppelt so große Apertus 70B aus der Schweiz. Bei den deutschsprachigen Tests liegt es durchweg vorn, etwa mit 88,8 Punkten bei GLP-DE und 92,3 bei ARC-Challenge-DE.

Tabelle: Soofi S Testergebnisse

Die starken Code-Werte sind kein Zufall: Das Modell ist auf industrielle Entwicklungs- und Automatisierungsaufgaben ausgelegt.

Abbildung: Leistung von Soofi S im Vergleich

Wo Soofi S zurückliegt

Ein Modell mit nur 3,2 Milliarden aktiven Parametern hat Grenzen:

• Wettbewerbsmathematik: Bei Minerva MATH-DE erreicht Soofi S nur 56 Punkte – deutlich hinter Qwen3.5 35B-A3B (76,5) und Gemma 3 27B (65,6).
• Faktenwissen: Beim offenen Faktenabruf (NaturalQuestions) fällt das Modell zurück. Der Grund ist bauartbedingt: Wenige aktive Parameter speichern weniger Weltwissen als ein dichtes 27B-Modell.
• Lange Kontexte in der Praxis: Im RULER-Test bricht die Trefferquote beim Extrahieren häufiger Wörter jenseits von 32.000 Token auf rund 3 Prozent ein, während das baugleiche Nemotron-Modell noch 60 bis 64 Prozent schafft. Ursache ist fehlendes synthetisches Training für solche Extraktionsaufgaben. Bei den übrigen zwölf RULER-Aufgaben liegen beide gleichauf. Das ist relevant, weil das riesige Kontextfenster sonst als zentrales Verkaufsargument gilt.

Im internationalen Vergleich gilt also: Gegen die besten offenen Modelle mit offenen Gewichten (Qwen, Gemma) hält Soofi S in seinen Stärken Code, deutsche Sprache und Effizienz mit oder liegt vorn, fällt aber bei Mathematik und Faktenwissen zurück. 

Ein Durchbruch ist Soofi S bei effizienter, deutschsprachiger, vollständig offener KI. Ein weltweiter Spitzenreiter über alle Disziplinen ist es aber nicht.

Die Infrastruktur: trainiert in Deutschland

KI-Souveränität braucht auch die passende Hardware. Soofi S wurde von Anfang bis Ende auf der Industrial AI Cloud der Deutschen Telekom in München trainiert. Das ist ein Bruch mit der bisherigen Praxis, für das Training auf US-Hyperscaler auszuweichen.

Das Training lief zwischen März und Mai 2026 auf bis zu 512 Nvidia-B200-GPUs und verbrauchte rund 253.000 GPU-Stunden. Das Rechenzentrum läuft vollständig mit erneuerbarer Energie, wird mit Wasser aus dem Eisbach gekühlt und speist seine Abwärme in das Fernwärmenetz des Tucherpark-Quartiers ein. Die neue KI-Fabrik erhöht die deutsche KI-Rechenkapazität deutlich, eingebettet in eine Umgebung mit über 10.000 GPUs. Im Vergleich zu großen Rechenzentren, wie sie derzeit in großen Mengen in den USA, China und anderen Ländern entstehen, nimmt sich die KI-Fabrik jedoch eher klein aus.

Datenschutz und Compliance waren von Beginn an Teil des Entstehungsprozesses.

Für welche Unternehmen sich Soofi S lohnt

Soofi S ist kein Ersatz für einen generischen Consumer-Chatbot. Seine Stärken, vor allem Effizienz, deutsche Sprache, Code, Offenheit und der Betrieb im eigenen Haus, zahlen sich in klar umrissenen Feldern aus.

Stark regulierte Branchen und die öffentliche Verwaltung

Für Behörden, Gerichte, das Gesundheitswesen, Banken oder Rüstung ist die Cloud-Nutzung ausländischer Modelle oft ausgeschlossen. Soofi S lässt sich auf eigenen Servern oder auf zertifizierten souveränen Plattformen betreiben. Ein naheliegender Einsatz: die automatisierte Analyse von Regelwerken, Genehmigungsverfahren und technischen Spezifikationen per Retrieval-Augmented Generation (RAG). Weil das Modell Amtsdeutsch, Vertragsklauseln und DIN-Normen besser verstehen kann, passt es hier besser als Modelle, die hauptsächlich auf Englisch trainiert wurden.

Softwareentwicklung und IT-Dienstleister

Soofi S eignet sich als Coding-Assistent, der komplett im Unternehmensnetz bleibt. Gerade Automobilzulieferer mit proprietärem Embedded-Code schützen so ihr geistiges Eigentum, und der hohe Durchsatz erlaubt es, viele Entwickler gleichzeitig zu bedienen.

Supply Chain und Logistik

Als kognitiver Motor für KI-Agenten kann Soofi S unstrukturierte Textdaten auswerten, Rechnungen verarbeiten und Risiken in Lieferketten früh erkennen. Ein Beispiel ist die Partnerschaft von T-Systems mit SupplyOn, das über 140.000 Industrieunternehmen vernetzt. Weil dabei vertrauliche Einkaufs- und Produktionsdaten zusammenlaufen, muss die KI unter europäischer Kontrolle bleiben.

Produzierendes Gewerbe und agentische KI

Die effiziente Architektur von Soofi S erlaubt den Betrieb nahe an der Produktionsstraße (Edge). Das senkt Latenzen bei Qualitätskontrolle oder Robotersteuerung. Für autonome Steuerungssysteme werden allerdings erst die angekündigten Reasoning-Varianten den vollen Nutzen bringen.

Make or Buy: die Rechnung ändert sich

Bislang war der Bezug von KI über die API eines ausländischen Anbieters bequem und billig im Einstieg, aber verbunden mit variablen Token-Kosten, dem Risiko plötzlicher Preisänderungen und dem Kontrollverlust über eigene Daten. Der Eigenbetrieb scheiterte oft an den Hardwarekosten.

Soofi S verschiebt diese Rechnung. Weil pro Token nur 3,2 Milliarden Parameter aktiv sind und der KV-Cache klein bleibt, sinken die Hardwareanforderungen im Dauerbetrieb spürbar. Fällt die Lizenzfrage zugunsten einer freien kommerziellen Nutzung aus, entfallen zusätzlich die Gebühren an den Modellhersteller. Für Unternehmen, die KI tief in ihre Kernprozesse einbauen – idealerweise nach einem Fine-Tuning auf eigene Daten – kann der Eigenbetrieb langfristig deutlich günstiger sein. Für gelegentliche, allgemeine Aufgaben bleibt der API-Bezug eines großen internationalen Modells dagegen oft die einfachere Wahl.

Einordnung: Was der Durchbruch wert ist

Soofi S beweist, dass ein deutsches Konsortium mit überschaubarem Budget und offener Methode ein Modell bauen kann, das die nationale Open-Source-Spitze anführen und international mithalten kann. Das ist eine belastbare Grundlage, auf der Unternehmen und Behörden eigene Anwendungen aufsetzen können, transparent und ohne Vendor Lock-in.

Zugleich lohnt der nüchterne Blick. Die Architektur wurde von Nvidia übernommen. Das Faktenwissen und die Mathematik-Leistung bleiben hinter den größten internationalen Modellen zurück, und die praktische Schwäche bei sehr langen Kontexten steht im Widerspruch zum beworbenen Millionen-Token-Fenster. Der eigentliche Prüfstein kommt erst mit den Instruktions- und Reasoning-Varianten und dem angepeilten 100-Milliarden-Modell.

Souveränität bedeutet, wie Projektkoordinator Jörg Bienert betont, nicht Abschottung; sie steht für Handlungsfähigkeit. Gemessen daran hat Europa mit Soofi S ein Werkzeug gewonnen, das es vorher nicht hatte. Ob daraus ein tragfähiges Ökosystem wird, entscheidet sich in den nächsten Schritten..

FAQ

Was ist Soofi S?

Soofi S ist ein vollständig offenes deutsches KI-Sprachmodell mit 31,6 Milliarden Parametern, von denen pro Token nur etwa 3,2 Milliarden aktiv sind. Es ist der erste Baustein der Modellfamilie aus dem Projekt SOOFI (Sovereign Open Source Foundation Models) und auf industrielle Anwendungen in deutscher Sprache ausgelegt.

Ist Soofi S ein Konkurrent zu ChatGPT und Claude?

Nein. Soofi S ist ein Base Model, also die Rohstufe ohne Dialog-Feinschliff. Es tritt nicht als fertiger Chatbot an. Dialog- und Reasoning-Varianten sollen folgen. Es ist als Grundlage für eigene Unternehmensanwendungen gedacht und nicht als App für Endnutzer.

Was macht Soofi S technisch besonders?

Die hybride Mamba-MoE-Architektur. Sie hält den Rechenaufwand niedrig und den Durchsatz auch bei sehr langen Texten stabil, bei denen klassische Modelle einbrechen. Die Bauweise stammt von Nvidias Nemotron 3 Nano; der eigene Beitrag liegt in der stark deutsch gewichteten Mischung der Trainingsdaten.

Wie gut ist Soofi S im Vergleich?

Unter den vollständig offenen Modellen führt Soofi S bei Deutsch und Englisch und schlägt sogar das doppelt so große Apertus 70B. Bei Code und deutscher Sprache liegt es vorn. Bei Wettbewerbsmathematik und Faktenwissen fällt es gegen die größten internationalen Modelle wie Qwen3.5 oder Gemma 3 zurück.

Ist Soofi S wirklich Open Source?

Weitgehend ja. Veröffentlicht werden Gewichte, Trainings- und Evaluierungscode, Checkpoints und ein detailliertes Datenverzeichnis; rund 99 Prozent der Trainingsdaten sind rekonstruierbar. Das Modell erfüllt die Open Source AI Definition 1.0. Die strengere Anforderung, dass jedes einzelne Token frei weiterverteilbar sein muss, erfüllt es wegen eines 1,3-Prozent-Anteils kommerziell lizenzierter Daten nicht. Die endgültige Lizenz stand bei Veröffentlichung des Reports noch aus.

Wo wurde das Modell trainiert?

Vollständig auf der Industrial AI Cloud der Deutschen Telekom in München, zwischen März und Mai 2026 auf bis zu 512 Nvidia-B200-GPUs. Das Rechenzentrum läuft mit erneuerbarer Energie.

Für welche Unternehmen lohnt sich der Einsatz?

Vor allem für stark regulierte Branchen und die öffentliche Verwaltung, für Software- und IT-Dienstleister, für das Supply-Chain-Management und für das produzierende Gewerbe, also überall dort, wo Datenschutz, der Schutz von Geschäftsgeheimnissen und der Betrieb im eigenen Haus wichtiger sind als maximale Allround-Leistung.

Was kostet die Nutzung?

Der Modellzugang ist offen. Kosten entstehen vor allem durch die eigene Hardware oder eine souveräne Cloud. Weil pro Token nur wenige Parameter aktiv sind, ist der Dauerbetrieb vergleichsweise günstig. Ob zusätzlich Lizenzgebühren anfallen, hängt von der noch nicht final festgelegten Lizenz ab.

Was kommt als Nächstes?

Geplant sind Instruktions- und Reasoning-Modelle sowie perspektivisch ein Modell mit rund 100 Milliarden Parametern. Das Konsortium sucht derzeit Industriepartner, um Anwendungsfälle rund um technische Dokumente, Code-Generierung und agentische Systeme unter realen Bedingungen zu testen.