Open-Source-LLM, im AI-Kontext.
Ein Open-Source-LLM ist ein Sprachmodell mit offen verfügbaren Gewichten. Es läuft auf eigener Infrastruktur, die Daten verlassen das Haus nicht.
Ein Open-Source-LLM ist ein Sprachmodell, dessen Gewichte veröffentlicht sind und das dadurch auf eigener oder gemieteter Infrastruktur betrieben werden kann. Bekannte Vertreter sind Llama von Meta, Mistral aus Frankreich, Gemma von Google und Qwen von Alibaba. Der Reiz für den deutschen Mittelstand liegt im Datenweg: Anfragen verlassen das eigene Netz nicht, und der Standort ist frei wählbar. Der Preis dafür ist Betrieb, also Hardware oder GPU-Miete, Updates, Überwachung und jemand, der sich zuständig fühlt. Zu beachten ist außerdem die Lizenz, denn nicht jedes als offen bezeichnete Modell steht unter einer klassischen Open-Source-Lizenz, manche Nutzungsbedingungen enthalten Einschränkungen.
Beispiele aus dem Mittelstand
- Ein Zulieferer betreibt ein offenes Modell im eigenen Rechenzentrum, weil Konstruktionsdaten unter keinen Umständen nach außen gehen dürfen.
- Eine Klinikverwaltung nutzt ein gemietetes GPU-Setup in einem deutschen Rechenzentrum für Textarbeiten mit Patientenbezug.
Folge-Fragen
Sind offene Modelle so gut wie die großen Anbieter?
Bei Zusammenfassen, Umformulieren und Klassifizieren kommen sie nah heran. Bei langen Ketten von Denkschritten liegen die Spitzenmodelle der großen Anbieter weiter vorn.
Was kostet der Eigenbetrieb?
Statt Nutzung nach Tokens zahlt man Hardware oder GPU-Miete plus Betrieb. Das lohnt sich bei gleichmäßig hoher Auslastung, nicht bei ein paar Anfragen am Tag.
Ist Eigenbetrieb automatisch DSGVO-konform?
Nein, er erleichtert es nur. Verarbeitungsverzeichnis, Rechtsgrundlage, Löschkonzept und Zugriffsrechte bleiben Pflicht und gehören in eine datenschutzrechtliche Prüfung.
Heißt offen auch frei nutzbar?
Nicht immer. Einzelne Modelle stehen unter eigenen Lizenzen mit Auflagen, etwa zur Nutzergröße oder Namensnennung. Die Lizenz vor dem Rollout lesen.
Open-Source-LLM in der Praxis.
Wo dieser Begriff in deinem Geschäft konkret wird, beginnt die Arbeit. Wir nennen klar, ob die Idee in unser Studio passt.
Künstliche Intelligenz