Mit Soofi S beginnt die erste Release-Phase des Projekts. Das Modell soll insbesondere dort eingesetzt werden, wo Organisationen KI-Anwendungen nachvollziehbar, anpassbar und auf eigener oder souveräner Infrastruktur betreiben wollen – etwa bei industriellen Prozessen, der Analyse umfangreicher technischer und regulatorischer Dokumente, Code-Generierung oder agentischen KI-Systemen. Trainiert von Grund auf mit 27 Billionen (27T) Token, verbindet Soofi S als 30 Milliarden Parameter (30B A3B) Mixture-of-Experts-Modell durch seine hybride Mamba-Transformer-Architektur hohen Durchsatz mit geringem Energieaufwand. Soofi S ist hauptsächlich auf englischen und deutschen Texten trainiert worden und erreicht im Englischen in seiner Größenklasse Spitzenwerte unter den offenen Modellen; im Deutschen führt es die Vergleichsgruppe an. Soofi S erscheint zunächst als Basismodell, das sich bereits jetzt für eigene Domänen feinabstimmen lässt; nachtrainierte Varianten für Dialog- und Agentenanwendungen folgen.

„Wer die Basismodelle kontrolliert, kontrolliert einen zentralen Teil der künftigen digitalen Wertschöpfung und erhöht seine Souveränität und Resilienz. Mit Soofi schaffen wir eine offene Grundlage, auf der Unternehmen, Mittelstand und öffentlicher Sektor transparente KI-Anwendungen auf Basis ihrer eigenen Daten entwickeln können, ohne sich dauerhaft von einzelnen außereuropäischen Modellen abhängig zu machen“, sagt Jörg Bienert, Geschäftsführer Center for Sovereign AI, KI Bundesverband.

TU-Beteiligung

Ein besonderer Fokus liegt auf Transparenz: Das Konsortium wird nicht nur Modellgewichte bereitstellen, sondern auch technische Dokumentation zu Trainingsmethodik, Datenaufbereitung und eingesetzten Datenpipelines veröffentlichen. Damit wird Soofi S für Unternehmen, Behörden und Forschung besser prüfbar sowie für spezifische Anwendungsfelder anpassbar. Professor Kristian Kersting, Co-Sprecher des Exzellenzclusters Reasonable Artificial Intelligence (RAI), und sein Team (Ruben Härle, Lukas Helff, Maurice Kraus and Sebastian Sztwiertnia) sind an diesem Projekt beteiligt. Konkret sind sie in drei Aufgaben eingebunden: Die Forschenden werden eine innovative Datenpipeline aufbauen, die mithilfe KI-gestützter Qualitätsprüfungen („LLM-Judges“) verlässliche, europäische Trainingsdaten sammeln soll. Zudem entwickeln und trainieren die Forschenden ein Reasoning-Modell, das besser logisch schlussfolgern kann. Solche Systeme könnten etwa Behördenprozesse verständlicher machen, Handwerksbetriebe bei Angeboten unterstützen oder Start-ups bei technischen Entscheidungen begleiten. Drittens arbeitet die Gruppe an energieeffizienten Alternativen zu klassischen Transformern, um langfristig kostengünstigere KI-Dienste zu ermöglichen.

Trainiert werden Soofi S und die darauffolgenden Modelle auf der Industrial AI Cloud der Telekom in München unter Nutzung von NVIDIA Blackwell GPUs und NVIDIA Nemotron offene KI-Modelle. Erste Ergebnisse zeigen, dass das Soofi S-Basismodell in deutschen und englischen Benchmarks mit internationalen Modellen vergleichbarer Größe mithalten kann bzw. diese übertrifft.