Soofi S im Praxischeck: Deutschlands offenes KI-Modell

Im Juli 2026 hat ein deutsches Forschungskonsortium etwas veröffentlicht, das es in dieser Form noch nicht gab: ein Sprachmodell, bei dem Sie nichts glauben müssen, weil Sie alles nachlesen können. Soofi S kommt mit offenen Gewichten, offenem Trainingscode und einer Datenliste, die bis auf die einzelne Quelle aufschlüsselt, womit das Modell gelernt hat. Trainiert wurde es vollständig auf Telekom-Servern in München. Kein Silicon-Valley-Wunder, sondern Forschung mit Rechenschaftsbericht. Genau deshalb lohnt sich ein nüchterner Blick statt Jubel.

Was »voll offen« wirklich heißt

Meta nennt Llama gern Open Source. Google sagt über Gemma Ähnliches. Was Sie tatsächlich bekommen: die Gewichte zum Herunterladen, dazu Nutzungsbedingungen des Konzerns – und keine Auskunft darüber, mit welchen Daten trainiert wurde. Das ist eine Blackbox mit Download-Knopf.

Soofi S geht einen anderen Weg. Hinter dem Modell steht ein Konsortium aus Fraunhofer IAIS und IIS, dem DFKI, der TU Darmstadt und weiteren Forschungseinrichtungen, koordiniert vom KI Bundesverband und gefördert vom Bundeswirtschaftsministerium im Rahmen des europäischen IPCEI-CIS-Programms. Offengelegt sind die Gewichte, der Trainings- und Evaluationscode und der komplette Datenmix – pro Quelle, mit Token-Anzahl. Rund 99 Prozent der Trainingsdaten lassen sich damit nachvollziehen und rekonstruieren.

Eine ehrliche Fußnote gehört dazu: Die Gewichte liegen auf Hugging Face (Soofi-Project/Soofi-S-Base), aktuell aber als Beta-Vorschau. Die endgültige freie Lizenz ist angekündigt, Stand Juli 2026 jedoch noch nicht final. Wer produktiv planen will, behält das im Auge, bevor er baut.

Die Technik, ohne Schaum

Soofi S ist ein Mixture-of-Experts-Modell (ein Modell aus vielen Spezialisten) mit 31,6 Milliarden Parametern, von denen pro Wortbaustein nur etwa 3,2 Milliarden rechnen. Stellen Sie sich einen Handwerksbetrieb mit 128 Gesellen vor: Für jeden Auftrag rücken nur die sechs aus, die genau dieses Gewerk beherrschen – der Rest bleibt in der Werkstatt. So hat das Modell das Wissen eines großen Betriebs im Haus, bezahlt pro Anfrage aber nur die Arbeitszeit einer kleinen Kolonne.

Das Ergebnis kann sich sehen lassen: In den Deutsch- und Englisch-Benchmarks ist Soofi S derzeit das stärkste vollständig offene Modell und liegt vor Olmo 3 32B aus den USA und Apertus 70B aus der Schweiz. Gerade auf Deutsch – wo viele US-Modelle spürbar schwächeln – wurde der Datenanteil gezielt erhöht.

Für wen das relevant ist

Interessant wird das überall dort, wo Daten nichts in einer US-Cloud zu suchen haben. Eine Kanzlei, die Schriftsätze zusammenfassen lassen will, gibt Mandantendaten weiter. Eine Praxis, die Arztbriefe vorformulieren lässt, verarbeitet Patientendaten. Ein Verein, der Mitgliederanfragen mit KI vorsortiert, hängt an sensiblen Personendaten. In allen drei Fällen ist der Weg zu ChatGPT und Co. rechtlich mindestens heikel – die Daten verlassen Ihren Verantwortungsbereich und landen bei einem Konzern, dessen Zusagen Sie nicht prüfen können. Warum das strukturell ein Problem ist, habe ich am Beispiel Microsoft 365 gegen Nextcloud ausführlich beschrieben.

Ein Modell, das Sie auf eigener Hardware betreiben, dreht das Verhältnis um: Die Daten bleiben im Haus, der Anbieter kann keine Bedingungen ändern, kein Abo kündigen, keinen Preis erhöhen. Wie lokale KI und Datenschutz zusammenpassen, zeige ich im Beitrag über lokale KI – Soofi S ist der bislang überzeugendste deutsche Baustein für genau diesen Ansatz.

Was Sie zum Selbst-Hosten realistisch brauchen

Hier hilft die Experten-Architektur doppelt. Zwar müssen alle 31,6 Milliarden Parameter im Speicher liegen – unkomprimiert sind das gut 60 Gigabyte, also Serverklasse. Aber weil pro Anfrage nur ein Bruchteil rechnet, antwortet das Modell etwa so flott wie ein kleines 3-Milliarden-Modell. Mit den angekündigten komprimierten Varianten (Quantisierung – das Modell wird verlustarm verkleinert) rückt der Betrieb auf einer Workstation mit einer aktuellen 24-Gigabyte-Grafikkarte oder einem Rechner mit reichlich Arbeitsspeicher in Reichweite. Ernsthafte Hardware, ja. Ein Rechenzentrum? Nein.

Die gängigen Werkzeuge sind vorbereitet: Das Modell läuft mit den verbreiteten offenen Inferenz-Systemen, von vLLM bis llama.cpp. Wer schon einmal Open-Source-Dienste selbst gehostet hat, kennt das Muster: Einmal sauber aufgesetzt, gehört das System Ihnen.

Die ehrlichen Grenzen

Soofi S ist kein Ersatz für die kommerziellen Spitzenmodelle. Bei anspruchsvoller Mathematik schwächelt es messbar, bei manchen Aufgaben mit sehr langen Dokumenten ebenfalls. Die Basisversion ist zudem ein rohes Modell ohne Feinschliff für den Dialog – die zugeschnittenen Chat-Varianten tragen noch das Etikett »Preview«. Wer komplexe Rechtsgutachten oder schwierige Analysen von einer KI erwartet, bleibt vorerst bei den großen Anbietern und muss den Datenabfluss anders lösen.

Aber: Der Alltag in kleinen Organisationen besteht selten aus Spitzenaufgaben. Dokumente zusammenfassen, Entwürfe formulieren, E-Mails vorsortieren, interne Unterlagen durchsuchbar machen – dafür reicht ein Modell dieser Klasse längst. Und es macht das auf Deutsch besser als jedes andere Modell, dem Sie vollständig in die Karten schauen können.

Mein Fazit

Soofi S ist kein Grund, morgen alle Verträge zu kündigen – aber ein Beleg, dass brauchbare Sprachmodelle nicht zwingend einem US-Konzern gehören müssen. Offene Gewichte, offener Code, offengelegte Daten, trainiert in München: Das ist digitale Souveränität nicht als Schlagwort, sondern als überprüfbares Stück Software.

Wenn Sie wissen wollen, ob sich ein lokales Modell für Ihre Kanzlei, Praxis oder Ihren Verein rechnet – oder ob die ehrliche Antwort vorerst »noch nicht« lautet: Genau solche Fragen kläre ich in der KI-Beratung. Das Erstgespräch ist kostenlos, und auch »das lassen wir bleiben« ist ein Ergebnis.

Was hinter dem Mixture-of-Experts-Prinzip steckt, erkläre ich in Ruhe unter Was ist ein Mixture-of-Experts-Modell?