Open-Source vs proprietäre LLMs

"Open Source" und "Open Weights" sind nicht synonym. Open-Source-Lizenzierung (Apache 2.0, MIT, GPL) gilt für Quellcode und erlaubt unbeschränkte kommerzielle und private Nutzung. Open-Weights bedeutet, dass die trainierten Modellgewichte herunterladbar sind, aber möglicherweise unter einer spezialisierten Lizenz beschränkt sind. LLaMA 3.1 ist Open-Weights, nicht Open Source — Meta veröffentlicht die Gewichte unter Llama Community License 2.1, die kommerzielle Nutzung erlaubt, aber Einschränkungen enthält, die das Aufrufen von Derivatmodellen als "LLaMA" verhindern und Attribution erfordern.

Proprietäre Modelle sind weder Open-Weights noch Open Source. OpenAI (GPT-4o), Anthropic (Claude Opus 4.7) und Google (Gemini 3.1 Pro) veröffentlichen keine Modellgewichte. Sie greifen ausschließlich über API zu. Die Gewichte bleiben geschlossen; Sie können das Modell nicht sehen, herunterladen, ändern oder selbst bereitstellen.

Das Verständnis dieser Unterscheidung ist wichtig für Compliance, Anpassung und Datensouveränität. Erfahren Sie, wie LLMs intern funktionieren, um zu verstehen, warum Gewichte wichtig sind.

Proprietäre LLMs sind geschlossene Modelle, auf die nur über API zugegriffen werden kann — der Vendor kontrolliert die Gewichte, Trainingsdaten, Safety-Alignment und alle Updates. OpenAI (GPT-4o), Anthropic (Claude Opus 4.7), Google (Gemini 3.1 Pro) und Mistral API sind proprietär. Sie können keine Gewichte herunterladen, Trainingsdaten anzeigen, lokal Inferenz ausführen oder die Modellgewichte direkt anpassen.

Die Preisgestaltung ist Pro-Token-API-Billing auf einem Vendor-kontrollierten Server. GPT-4o kostet $5 pro 1 Million Input-Token und $15 pro 1 Million Output-Token. Claude Opus 4.7 kostet $3/$15. Gemini 3.1 Pro kostet $1,25/$2,50 (≤200K Kontext). Sie haben keine Infrastrukturkosten, können aber die monatliche Ausgabe nicht genau vorhersagen — Kosten skalieren mit Nutzung.

Proprietäre Vendor behalten Kontrolle über Modell-Updates, Verhalten und Alignment. Wenn OpenAI GPT-4o aktualisiert, erhalten Sie automatisch die neue Version. Safety-Alignment, Constitutional AI und Instruction-Following sind Vendor-Verantwortlichkeiten. Für regulierte Branchen kann dies Compliance vereinfachen — der Vendor behält Audit-Trails und veröffentlichte Safety-Praktiken.

Open-Weights-Modell. Ein großes Sprachmodell, dessen trainierte Gewichte (die numerischen Parameter, die während des Trainings gelernt wurden) öffentlich verfügbar sind und heruntergeladen, geändert, Fine-tuned und selbst gehostet werden können. Beispiele: LLaMA 3.1 (Meta), Mistral Large 2 (Mistral AI), Qwen 2.5 (Alibaba). Nicht zu verwechseln mit Open-Source-Lizenzierung; "Open Weights" ist über herunterladbare Modelldateien, nicht unbedingt Quellcode oder OSI-konforme Lizenzierung.

Proprietäres LLM. Ein großes Sprachmodell, dessen Gewichte privat bleiben und nie freigegeben werden. Der Zugriff erfolgt ausschließlich über die API eines Vendors, erfordert Pro-Token-Billing und Netzwerkverbindung. Beispiele: GPT-4o (OpenAI), Claude Opus 4.7 (Anthropic), Gemini 3.1 Pro (Google). Benutzer können das Modell nicht herunterladen, inspizieren, ändern oder selbst hosten.

Fine-Tuning. Der Prozess der Umschulung eines vortrainierten Modells auf einem neuen, kleineren Datensatz, der für eine Domain oder Aufgabe spezifisch ist. Fine-Tuning aktualisiert die Modellgewichte, um sich auf Ihren Anwendungsfall zu spezialisieren (z. B. Kundenservice-Ton, Domain-Vokabeln). Open-Weights-Modelle unterstützen vollständiges Fine-Tuning via LoRA, QLoRA oder vollständige Rückausbreitung; die meisten proprietären Modelle beschränken oder verbieten Fine-Tuning.

Training-Datums-Cutoff. Das Datum, nach dem ein Modell kein Wissen über Ereignisse oder Informationen hat. GPT-4o hat einen Cutoff von Oktober 2024; Claude Opus 4.7 hat Anfang 2025; Gemini 3.1 Pro hat Oktober 2024. Modelle können keine genauen Informationen über Ereignisse nach ihrem Cutoff-Datum bereitstellen.

Modellgewichte. Die numerischen Parameter (Milliarden bis Billionen von Zahlen), die während des Modelltrainings gelernt wurden. Gewichte bestimmen das Verhalten, Wissen und Reasoning-Muster des Modells. Open-Weights-Modelle veröffentlichen diese Dateien (~15–800 GB je nach Modellgröße); proprietäre Modelle halten Gewichte geheim.

Open-Source-LLMs (LLaMA 3.1, Mistral, Qwen) machen Modellgewichte öffentlich verfügbar — Organisationen können sie herunterladen, inspizieren, Fine-tunen und selbst hosten. Proprietäre LLMs (GPT-4o, Claude, Gemini) gehören Vendors und sind nur über APIs zugänglich. Benutzer können proprietäre Gewichte nicht herunterladen oder ändern, profitieren aber von verwalteter Infrastruktur und Vendor-Updates.

Bei vielen Aufgaben ja. Die Leistungslücke hat sich auf 7–8 Prozentpunkte bei Reasoning-Benchmarks (MMLU) verengt. Bei Klassifizierung, Zusammenfassung und Domain-spezifischen Aufgaben entsprechen Open-Weights-Modelle wie LLaMA 3.1 70B jetzt proprietären Pendants. Proprietäre Modelle führen immer noch bei komplexem Multi-Step-Reasoning, Agent-Orchestrierung und Multimodal-Input-Handhabung.

Unternehmen sollten Open-Source-LLMs verwenden, wenn Datenschutz obligatorisch ist (Gesundheitswesen, Finanzen, Recht), wenn die Verarbeitung mehr als 10 Millionen Token pro Tag erfolgt, wenn Domain-spezifische Fine-Tuning erforderlich ist oder wenn EU AI Act Compliance On-Premises-Datenresidenz verlangt. Open-Weights-Modelle eliminieren auch Vendor Lock-in und Pro-Token-API-Billing.

Für viele Anwendungsfälle ja. Open-Source-LLMs sind produktionsreif für Klassifizierung, Zusammenfassung, Extraktion und Domain-spezifische Aufgaben. Proprietäre Modelle behalten Vorteile bei komplexem Reasoning, Multimodal-Input, Tool-Integration und Zero-Infrastruktur-Bereitstellung. Ein hybrider Ansatz — Routing von Aufgaben basierend auf Kosten-, Datenschutz- und Leistungsanforderungen — übertrifft die Abhängigkeit von einer Modellklasse allein.

Verwenden Sie diesen Rahmen, um in 30 Sekunden zu entscheiden. Antwort: Passt Ihr Anwendungsfall in eine der unten stehenden Kategorien? Wenn mehrere Kriterien zutreffen, gewichten Sie sie nach Wichtigkeit für Ihr Projekt.

Open-Source-LLMs ermöglichen Organisationen, Modellgewichte herunterzuladen, zu inspizieren und zu ändern und dann lokal ohne Vendor-Abhängigkeit oder Pro-Token-API-Kosten bereitzustellen. Die führenden Modelle in 2026 sind Metas LLaMA 3.1, Mistral Large 2, Qwen 2.5 und andere, die unter Community-Lizenzen veröffentlicht wurden.

Metas LLaMA 3.1 Familie ist der führende Open-Weights-Konkurrent zu proprietären Modellen. LLaMA 3.1 kommt in drei Größen: 8B (~8GB VRAM für Inferenz), 70B (~40GB VRAM) und 405B (~800GB+ VRAM über mehrere GPUs). Alle drei unterstützen 131K Token-Kontextfenster — entsprechend oder übertreffend viele proprietäre Modelle. LLaMA 3.1 wird auf 15 Billionen Token mehrsprachigen Text trainiert; neuere Varianten unterstützen mehrere Sprachen wettbewerbsfähig.

Mistral AI bietet zwei starke Kandidaten: Mistral 7B und Mistral Large 2. Mistral 7B ist ein schlankes 7B-Parameter-Modell mit 32K Kontext, ideal für Consumer-Grade-Inferenz und schnelle Prototypen. Mistral Large 2 skaliert auf 123B Parameter mit 123K Kontext und zielt auf die "Frontier Lite" Leistungsband — konkurriert direkt mit LLaMA 70B und proprietären Modellen. Beide sind unter Mistral Community License für kommerzielle Nutzung verfügbar.

Qwen 2.5 (Alibaba) und aufstrebende Modelle (Falcon, Phi-4) runden die Landschaft ab. Qwen 2.5 72B unterstützt 128K Kontext und zeichnet sich bei chinesischen Sprachaufgaben aus; nützlich für Teams, die Asia-Pacific-Märkte bedienen. Kleinere Modelle wie Phi-4 (Microsoft) und Falcon 180B zielen auf kostenempfindliche oder spezialisierte Anwendungsfälle ab. Alle sind herunterladbar, selbst-hostbar und unterstützen Fine-Tuning via LoRA oder vollständiges Training.

Proprietäre LLMs werden ausschließlich über Vendor-kontrollierte APIs zugegriffen; Modellgewichte werden nie veröffentlicht und können nicht heruntergeladen, geändert oder lokal bereitgestellt werden. Benutzer zahlen Pro-Token-API-Billing und akzeptieren Vendor-Kontrolle über Modell-Updates, Sicherheitsrichtlinien und Leistungsmerkmale.

OpenAIs GPT-4o bleibt der Reasoning-Leiter. GPT-4o unterstützt 128K Token-Kontextfenster mit Training-Cutoff Oktober 2024. Es zeichnet sich bei Tool-Use, Agent-Workflows, Multimodal-Input (Bilder, Text) und komplexem Multi-Step-Reasoning aus. API-Preisgestaltung: $5 pro 1 Million Input-Token, $15 pro 1 Million Output-Token (März 2026 Raten). GPT-4o ist nur API; Gewichte werden nie veröffentlicht. Siehe wie Kontextfenster Ihr AI-System beeinflussen, um Trade-Offs zu verstehen.

Anthropics Claude Opus 4.7 dominiert Schreib- und Code-Qualitäts-Benchmarks. Claude unterstützt 200K Token-Kontext — 2× größer als GPT-4o — ermöglicht längere Dokumente und erweiterte Gespräche. Training-Datums-Cutoff: Anfang 2025. API-Preisgestaltung: $3 pro 1 Million Input-Token, $15 pro 1 Million Output-Token. Claude bietet kein öffentliches Fine-Tuning. Anthropic priorisiert Interpretierbarkeit und Safety-Alignment gegenüber Benchmark-Maximierung.

Googles Gemini 3.1 Pro bietet das größte Kontextfenster: 2M Token. Dies ermöglicht vollständiges Buch-Längen-Dokument-Verarbeitung, erschöpfende Forschung und erweiterte Multi-Turn-Gespräche. Preisgestaltung: $1,25 pro 1 Million Input-Token (≤200K Kontext), $10 pro 1 Million Output-Token; höhere Raten für >200K Kontext. Gemini integriert sich tief mit Google Workspace, Calendar, Gmail und Web-Suche. Training-Datums-Cutoff: Oktober 2024. Fine-Tuning ist für Gemini-Modelle verfügbar.

Proprietäre Modelle führen immer noch bei allgemeinem Reasoning (MMLU), aber die Lücke hat sich auf 7–8 Prozentpunkte verengt. MMLU (Massive Multitask Language Understanding) ist ein breiter Benchmark, der 57 akademische Disziplinen abdeckt. Um zu verstehen, warum wie LLMs tatsächlich funktionieren wichtig für Reasoning-Fähigkeit ist, lesen Sie unseren tiefgehenden Bericht zur Transformer-Architektur. Aktuelle Scores:

GPT-4o: 88,7% (OpenAI, 2024)

Claude 3.5 Sonnet: 88,3% (Anthropic, 2024)

LLaMA 3.1 70B: 80,5% (Meta, 2024)

Mistral Large 2: 81,2% (Mistral AI, 2024)

Qwen 2.5 72B: 82,1% (Alibaba, 2024)

Die Leistungslücke zwischen Open-Weights- und proprietären Modellen hat sich von 15–20 Prozentpunkten in 2022 auf 7–8 Punkte bei Reasoning-Aufgaben in 2026 verengt. Bei spezialisierten Aufgaben (Programmierung, Mathematik, Zusammenfassung, Klassifizierung) entsprechen Open-Weights-Modelle jetzt proprietären Pendants oder übertreffen sie.

Die verbleibende Lücke ist hauptsächlich bei abstraktem Reasoning und Tool-Use-Orchestrierung. — Touvron et al., "Llama 3 Herd of Models", 2024

Wichtiger Vorbehalt: Benchmarks messen enge Fähigkeiten. Task-spezifische Leistung variiert: bei Klassifizierung, Zusammenfassung und Extraktion entspricht LLaMA 3.1 70B oft oder übertrifft GPT-4o. Für komplexes Multi-Step-Reasoning (Algebra, lange Gedankenketten), behalten proprietäre Modelle einen Vorteil. Der einzige zuverlässige Benchmark ist das Testen bei Ihrer tatsächlichen Aufgabe — siehe wie Sie das richtige Modell für Ihren Anwendungsfall wählen.

Direkter Kostenvergleich: proprietäre APIs dominieren bei niedrigem Volumen; Open-Weights Self-Hosting gewinnt in großem Maßstab. Der Überkreuzungspunkt liegt typischerweise bei 5–10M Token pro Tag. Unter dieser Schwelle begünstigen API-Einfachheit und keine Infrastrukturkosten proprietär. Darüber gewinnt Open-Weights Self-Hosting bei Kosten.

API-Preisgestaltung ab März 2026:

Self-Hosting-Infrastruktur-Kosten: NVIDIA A100 80GB mietet für ~$2/Stunde in der Cloud; RTX 4090 Consumer-Hardware kostet ~$1,50/Stunde in Elektrizität + Amortisierung (3-Jahre Lebensdauer). Für Mistral 7B, Inferenz-Durchsatz ist ~50–100 Token/Sekunde pro GPU oder ~180–360M Token/Tag pro GPU. Mistral Large 2 oder LLaMA 70B: ~20–30 Token/Sekunde pro A100 oder ~1,7–2,6M Token/Tag. Bei diesen Durchsätzen:

Bei 5M Token/Tag: A100 Self-Hosting kostet ~$2,50/Tag. API-Kosten für Claude Sonnet: 5M × ($3 + $15) / 1M = $90/Tag (angenommen 50% Input, 50% Output durchschnittlich). APIs immer noch billiger.

Bei 50M Token/Tag: Benötigen 20 A100s Self-Hosting = $50/Tag. API-Kosten: $900/Tag. Open-Weights gewinnt entscheidend.

Bei 100M Token/Tag: Benötigen 40 A100s = $100/Tag. API-Kosten: $1.800/Tag. Open-Weights ist 18× billiger.

Überprüfen Sie Preisgestaltung: OpenAI Pricing · Anthropic Pricing · Google Pricing — Raten ändern sich vierteljährlich. Siehe Token, Kosten und Limits erklärt für detaillierter Token-Kosten-Aufschlüsselung.

Open-Weights-Modelle lokal bereitgestellt = keine Daten verlassen Ihre Infrastruktur. Wenn Sie LLaMA 3.1 über Ollama auf Ihrer privaten GPU ausführen, verlassen keine Inferenzdaten, Metadaten oder Abfrage-Logs Ihr Netzwerk. Dies ist Datensouveränität: Sie behalten vollständige Kontrolle. Proprietäre APIs (OpenAI, Anthropic, Google) erfordern, dass Sie Anfragen über das Netzwerk an externe Server senden. Selbst mit vertraglicher Datenlöschung, die Daten durchquert kurzzeitig Vendor-Infrastruktur und wird für Compliance protokolliert.

Der EU AI Act (2024) bezeichnet bestimmte LLM-Anwendungen als "hochriskant", die Risicodokumentation, Bias-Tests und Audit-Trails erfordern. Kategorien umfassen Systeme, die bedeutende Entscheidungen treffen (Einstellung, Kredit, Rechtswegermittlung, Vorteilsbestimmung). Hochriskante Systeme müssen Aufzeichnungen darüber führen, wie Entscheidungen getroffen werden, Nicht-Diskriminierung beweisen und menschliche Aufsicht unterstützen. Open-Weights-Modelle On-Premises erleichtern dies — Sie kontrollieren das Audit-Trail und die Datenspeicherung. Proprietäre APIs erschweren dies — Sie verlassen sich auf Vendor-Compliance-Berichte, die möglicherweise für regulierte Branchen unzureichend sind.

Für regulierte Branchen (Gesundheitswesen, Finanzen, Rechtsdienstleistungen) ist Open-Weights oft obligatorisch. HIPAA (Gesundheitswesen), SOX (Finanzen) und Anwalt-Klient-Berechtigungsprivileg erfordern Datenresidenz — d. h. Daten können Ihre Gerichtsbarkeit nicht verlassen. Proprietäre APIs mit Sitz in den USA oder anderen Ländern verletzen diese Anforderungen. Teams in diesen Sektoren stellen typischerweise Open-Weights-Modelle (LLaMA, Mistral oder kommerzielle Verteilungen) auf On-Premises-Infrastruktur bereit.

Open-Weights-Modelle erlauben vollständiges Fine-Tuning; proprietäre Modelle beschränken oder verbieten es. Fine-Tuning bedeutet Umschulung der Modellgewichte auf Ihren eigenen Daten, um das Modell für Ihre Domain zu spezialisieren. Sie können LoRA (Low-Rank Adaptation) für effizientes Fine-Tuning, QLoRA für quantisiertes Training oder vollständiges Backpropagation-Training verwenden, wenn Sie die Compute haben. Nach Fine-Tuning gehört das Modell Ihnen — Sie besitzen die resultierenden Gewichte, können sie überall bereitstellen und können sie offline aktualisieren.

Proprietäre Fine-Tuning-Verfügbarkeit: OpenAI Fine-Tuning-API funktioniert nur für GPT-4o mini, GPT-4 (ältere Modelle). Nicht verfügbar für GPT-4o Flagship. Anthropic bietet kein Fine-Tuning für Claude über API. Google bietet begrenzt Fine-Tuning für Gemini. Keine dieser Optionen erlaubt Besitz der Fine-Tuned-Gewichte — Sie mieten eine Fine-Tuned-Kopie des proprietären Modells.

Sicherheitsüberlegung: Bei Fine-Tuning auf proprietären APIs werden Ihre Trainingsdaten auf Vendor-Server hochgeladen. Für sensitive Domains verletzt dies Compliance-Regeln. Open-Weights Fine-Tuning bleibt On-Premises. Siehe Prompt-Injection und Sicherheit für zusätzliche Angriffsflächen-Überlegungen bei Verwendung externer APIs.

Open-Weights-Modelle kosten in großem Maßstab weniger und ermöglichen vollständige Anpassung; proprietäre Modelle liefern schnellere Time-to-Value und verwaltete Infrastruktur zu höheren Pro-Token-Kosten. Unter 5M Token/Tag sind proprietäre APIs üblicherweise billiger. Über 10M Token/Tag gewinnt Self-Hosted Open-Weights bei Kosten. Wählen Sie basierend auf Ihrem Volumen, Datenschutzanforderungen und Infrastruktur-Bereitschaft.

Open-Weights-Modelle ermöglichen tiefere Prompt-Experimente zu niedrigeren Kosten. Sie können denselben Prompt 100 Mal gegen eine lokale LLaMA 3.1-Instanz ausführen und über Wording, Temperatur und Struktur ohne Pro-Token-Billing iterieren. Fine-Tune das Modell auf Prompt-Response-Paaren aus Ihrer Domain. Experimentieren Sie mit Jailbreaks und Grenzfällen in Ihrer privaten Infrastruktur. Diese Sandbox-Umgebung ist ideal für Forschung, Prototypen und Verständnis des Modellverhaltens.

Proprietäre APIs sind schneller zu testen und einfacher zu skalieren. Sie schreiben einen Prompt, rufen die GPT-4o oder Claude-API auf und erhalten Ergebnisse in Millisekunden mit Null-Infrastruktur-Setup. Keine Notwendigkeit, VRAM, Quantisierung oder Modell-Downloads zu verwalten. Für schnelle A/B-Tests, Produktions-Bereitstellung und Handhabung variabler Traffic, reduzieren proprietäre Modelle operative Komplexität.

Hybrider Ansatz: Prototype auf Open-Weights, validiere auf proprietär. Entwickeln und verfeinern Sie Prompts lokal mit LLaMA 3.1 8B (schnelle Iteration, keine Kosten). Sobald die Prompt-Strategie gesperrt ist, testen Sie auf GPT-4o oder Claude 4.6, um Frontier-Leistung zu bestätigen. Stellen Sie den besseren Performer zur Produktion bereit. Dies kombiniert Open-Weights-Flexibilität mit proprietärer Zuverlässigkeit.

Wählen Sie Open-Weights, wenn Datenschutz, Kosten in großem Maßstab oder tiefe Anpassungsanforderungen Ihre Zwänge dominieren. Open-Weights zeichnen sich aus in:

Wählen Sie proprietär, wenn absolute Leistung, verwaltete Infrastruktur oder Safety-Alignment am meisten wichtig ist. Proprietär zeichnet sich aus in:

Organisationen können Hybrid-AI-Architekturen verwenden, die Anfragen an Open-Weights-Modelle für sensitive Daten und kostenempfindliche Aufgaben weiterleiten, während komplexes Reasoning und Multimodal-Arbeit an proprietäre Modelle verteilt werden. Dieser Ansatz kombiniert die Kosteneffizienz, den Datenschutz und die Anpassung von Open-Weights mit der Leistung und verwalteten Infrastruktur von proprietären LLMs.

Open-Weights ist nicht immer billiger als proprietäre APIs. Bei <5M Token/Tag sind proprietäre APIs (GPT-4o mini, Claude Haiku, Gemini Flash) oft billiger, da Infrastruktur-Kosten (GPU-Amortisierung, Elektrizität, DevOps-Arbeit) API-Billing übersteigen. Nur über 10M Token/Tag wird Open-Weights Self-Hosting kostenoptimal.

Bad Prompt "Welches ist besser, Open Source oder GPT-4o?"

Good Prompt "Ich muss 20M Token/Tag von Kundenservice-Tickets verarbeiten. Ich kann Daten nicht außerhalb der EU senden. Vergleichen Sie Open-Weights (LLaMA 3.1 70B Self-Hosted) vs. proprietär (GPT-4o über API) für diesen Anwendungsfall: Infrastruktur-Kosten bei 20M Token/Tag, GDPR-Datenresidenz-Compliance, Fine-Tuning-Machbarkeit und erwartete Qualität bei Ticket-Klassifizierungs-Aufgaben einbeziehen."