Von GPT-2 bis heute: Wie sich Prompt Engineering entwickelt hat

Prompt Engineering entwickelte sich von informellem Trial-and-Error-Textmanipulation rund um GPT-3 im Jahr 2020 zu einer strukturierten Disziplin mit benannten Techniken, Frameworks und Werkzeugen bis 2026. Der Bogen umfasst fünf Phasen: frühe Few-Shot-Experimente, den ChatGPT-Moment, der die Fähigkeit in das Mainstream-Bewusstsein brachte, die Entwicklung strukturierter Denktechniken, den Aufstieg der automatisierten Prompt-Optimierung und die aktuelle Verschiebung hin zum Kontext-Design.

Die Disziplin entstand nicht aus einem einzigen Paper oder Unternehmen. Sie wuchs aus der Überschneidung von Forschung (Few-Shot-Learning, Chain-of-Thought-Reasoning, RAG), Praktikergemeinschaften, die Prompt-Sammlungen online teilten, und der plötzlichen öffentlichen Verfügbarkeit leistungsfähiger Modelle, die gutes Prompting sofort lohnend machte. Bis 2026 ist Prompt Engineering kein Nischentrick mehr – es ist eine Basisfähigkeit für jeden, der mit KI-Systemen arbeitet.

Bevor der Begriff „Prompt Engineering" existierte, manipulierten Forscher bereits Modelleingaben, um bessere Ausgaben zu erzielen – sie nannten es nur nicht so. Frühe Transformer-Modelle wie GPT-2 (2019, OpenAI) und BERT (2018, Google) wurden durch sorgfältig gewählten Eingabetext genutzt, aber die Praxis wurde als Teil der Datenvorverarbeitung behandelt, nicht als eigenständige Fähigkeit.

GPT-2, veröffentlicht im Februar 2019, war ein 1,5-Milliarden-Parameter-Modell, das Text auf überraschend kohärente Weise vervollständigen konnte. Forscher und frühe Praktiker bemerkten, dass die Formulierung einer Eingabe die Qualität der Vervollständigung dramatisch veränderte – aber es gab noch kein Framework, keine Terminologie und keine Community, die um diese Beobachtung herum aufgebaut worden war. Prompts waren Eingaben, keine Engineering-Artefakte.

Die moderne Geschichte des Prompt Engineerings beginnt effektiv mit GPT-3. Im Mai 2020 veröffentlichte OpenAI GPT-3, ein 175-Milliarden-Parameter-Modell, zusammen mit dem bahnbrechenden Paper von Brown et al., „Language Models are Few-Shot Learners" Brown et al., 2020 – Language Models are Few-Shot Learners. Das Paper demonstrierte, dass durch das Einschließen einiger Beispiele der gewünschten Aufgabe direkt im Prompt – ohne Gewichtsaktualisierungen am Modell – die Leistung bei nachgelagerten Aufgaben dramatisch verbessert wurde.

Dies war der Keim des Prompt Engineerings als Disziplin. Forscher und Entwickler erkannten, dass dasselbe Modell in einen Übersetzer, einen Zusammenfasser, einen Code-Generator oder ein Frage-Antwort-System verwandelt werden konnte, indem einfach die Art geändert wurde, wie der Prompt geschrieben wurde. Das Modell brauchte kein Neu-Training – es brauchte einen besseren Prompt. Diese Erkenntnis rahmte neu, was ein Prompt war: nicht nur eine Eingabe, sondern ein Design-Artefakt.

Brown et al. berichteten, dass die Few-Shot-Leistung konsistent mit der Modellgröße skalierte: Das 175-Milliarden-Parameter-Modell GPT-3 übertraf kleinere Varianten in allen getesteten Benchmarks deutlich und zeigte, dass Skalierung und prompt-basiertes Lernen direkt miteinander verknüpft sind. Dies machte die Qualität des Prompts zu einer Variablen, die Praktiker – nicht nur Forscher – direkt kontrollieren konnten.

Siehe Zero-Shot vs. Few-Shot: Which Approach Gets Better Results? für einen praktischen Leitfaden zur Technik, die GPT-3 bekannt machte.

Zwischen 2021 und Anfang 2022 wanderte das Prompt-Crafting von Forschungsarbeiten in Praktikergemeinschaften. GitHub-Repositories mit kuratierten Prompt-Sammlungen erschienen – „awesome-prompts"-Stil-Listen, die teilten, was bei der Coding-Assistenz, Zusammenfassung und kreativem Schreiben funktionierte. Prompt-Sammlungen, die auf Twitter und Reddit geteilt wurden, wurden zu Community-Ressourcen. Der Prompt Engineering Guide (promptingguide.ai) Prompt Engineering Guide – promptingguide.ai wurde zu einer der ersten dedizierten Referenzen, die Techniken systematisch katalogisierte.

Der Begriff „Prompt Engineering" begann in diesem Zeitraum häufiger in Forschungsarbeiten, Blog-Posts und Stellenbeschreibungen aufzutauchen. OpenAIs InstructGPT-Paper (Ouyang et al., 2022) führte RLHF-feinabgestimmte Modelle ein, die auf natürlichsprachliche Anweisungen weitaus zuverlässiger reagierten – was Prompt-Qualität noch folgenreicher machte. Bis Mitte 2022 war klar, dass dies eine übertragbare Fähigkeit war, nicht nur eine Forscherkuriosität.

Die Einführung des Chain-of-Thought (CoT)-Promptings im Jahr 2022 war die bedeutendste technische Entwicklung in der kurzen Geschichte der Disziplin. Wei et al. (Google Brain) veröffentlichten „Chain-of-Thought Prompting Elicits Reasoning in Large Language Models" und demonstrierten, dass das Bitten eines Modells, Schritt für Schritt zu denken, bevor es antwortet, die Leistung bei arithmetischen, alltagspraktischen und symbolischen Denkaufgaben dramatisch verbesserte. In einem zentralen Ergebnis verbesserte Chain-of-Thought-Prompting die Genauigkeit von PaLM auf dem GSM8K-Grundschulmathematik-Benchmark von 17,9 % auf 58 % – ein Gewinn, der ausschließlich durch Änderung der Prompt-Struktur erzielt wurde, ohne zusätzliches Modelltraining. Die Implikation war tiefgreifend: Die Struktur des Prompts konnte unterschiedliches Denkverhalten aktivieren – nicht nur unterschiedliche Fakten.

Verwandte Techniken folgten schnell. Zhou et al. führten das Least-to-Most-Prompting ein, das komplexe Probleme in eine Folge einfacherer Teilprobleme zerlegte, die der Reihe nach gelöst wurden. Diese Ansätze verwandelten Prompt Engineering von einer Formatierungsübung in ein Werkzeug, um strukturiertes Denken aus Modellen zu elizitieren, die nicht explizit darauf trainiert worden waren, auf diese Weise zu denken. Prompting war zum Gerüst für Kognition geworden.

Den vollständigen Technik-Leitfaden findest du unter Chain-of-Thought Prompting: Make AI Show Its Reasoning und Prompt Chaining: How to Break Big Tasks Into Winning Steps.

Die Veröffentlichung von ChatGPT am 30. November 2022 veränderte das öffentliche Profil des Prompt Engineerings über Nacht. ChatGPT erreichte innerhalb der ersten fünf Tage eine Million Nutzer – bestätigt von OpenAI-CEO Sam Altman auf Twitter im Dezember 2022 – und 100 Millionen monatlich aktive Nutzer bis Januar 2023 gemäß einer UBS-Analyse, die von Reuters zitiert wurde. Innerhalb von Tagen experimentierten Millionen von Menschen mit Prompts und stellten fest, dass ihre Ergebnisse je nach Formulierung der Anfragen enorm variierten. Technologiemedien berichteten über „Prompt Engineering" als eine Fähigkeit, die es zu erlernen lohnte. Das Oxford English Dictionary fügte „prompt" im Jahr 2023 als ein auf KI bezogenes Verb hinzu, und das Wort selbst wurde in mehreren Rankings zum Läufer-up für das Wort des Jahres.

Bis Anfang 2023 erschien „Prompt Engineer" als Berufsbezeichnung mit gemeldeten Gehältern von 175.000–335.000 Dollar bei Unternehmen einschließlich Anthropic, laut weitzitierten Stellenausschreibungen. Die Rolle zog erhebliche Medienaufmerksamkeit auf sich – Bloomberg, The Guardian und The Atlantic berichteten alle darüber, ob Prompt Engineering eine echte Karriere sei. Der damalige Konsens: Es war eine Übergangsrolle, teils Human-Computer-Interface-Design, teils Fachexpertise, teils Qualitätssicherung.

Die Popularisierung des Ausdrucks „Prompt Engineering" wird manchmal verschiedenen Praktikern und Kommentatoren zugeschrieben. Richard Socher, ehemaliger Chief Scientist bei Salesforce, wird in einigen Kommentaren erwähnt, als er dazu beigetragen hat, die Idee früh zu rahmen. Der Wikipedia-Artikel über Prompt Engineering Prompt Engineering – Wikipedia bietet einen ausgewogenen Überblick über konkurrierende Behauptungen über die Herkunft des Begriffs.

Die Veröffentlichung von GPT-4 im März 2023 erweiterte das Prompt Engineering gleichzeitig in zwei Richtungen: größere Kontextfenster (bis zu 128K Token in späteren Versionen) und multimodale Eingaben. Praktiker konnten nun Bilder neben Text in Prompts einschließen und öffneten damit Prompt Engineering für visuelle Aufgaben – Bilder beschreiben, Diagramme vergleichen, Diagramme kommentieren. Frühe Gemini-Modelle von Google und multimodale Claude-Versionen von Anthropic folgten innerhalb von Monaten.

Dasselbe Jahr sah die Formalisierung von Prompt-Engineering-Best-Practices. OpenAI veröffentlichte seinen offiziellen Prompt-Engineering-Leitfaden OpenAI – Best Practices for Prompt Engineering. Google Cloud veröffentlichte seine eigene Prompt-Engineering-Dokumentation Google Cloud – Prompt Engineering for AI Guide. Unabhängige Autoren kodifizierten Frameworks – CRAFT, CO-STAR, SPECS, RISEN, TRACE – die Praktikern wiederholbare Vorlagen zur Strukturierung von Prompts gaben und die Abhängigkeit von Trial-and-Error reduzierten.

Diese Frameworks repräsentierten die Reifung des Prompt Engineerings von einer persönlichen Fähigkeit zu einer lehr- und teilbaren Praxis. Siehe Which Prompt Framework Should You Use? für einen Leitfaden zur Auswahl unter ihnen und Beyond Text: How to Prompt with Images für die multimodale Dimension.

Eine auffällige Entwicklung im Jahr 2023 war Forschung, die zeigte, dass LLMs Prompts genauso gut optimieren konnten wie Menschen. Zhou et al. veröffentlichten „Large Language Models Are Human-Level Prompt Engineers" (APE) und demonstrierten, dass ein LLM, das mit der Generierung und Bewertung von Prompt-Kandidaten beauftragt wurde, menschlich geschriebene Prompts bei Benchmark-Aufgaben erreichen oder übertreffen konnte. Stanfords DSPy-Framework (2023) ging noch weiter – es ermöglichte Entwicklern zu beschreiben, was ein Prompt erreichen soll, und ließ das System die Formulierung automatisch optimieren.

Gleichzeitig wurde Retrieval-Augmented Generation (RAG) – ursprünglich von Lewis et al. bei Meta im Jahr 2020 eingeführt – zu einem zentralen Muster in Produktions-KI-Systemen. RAG speiste abgerufene Dokumente direkt in den Prompt-Kontext ein, verankerte Modellausgaben in echten, aktuellen Quellen anstatt Prompts dazu zu zwingen, alle notwendigen Fakten zu enthalten. Dies verlagerte den Schwerpunkt im Prompt Engineering von „Wie bringe ich das Modell dazu, das zu wissen?" zu „Wie strukturiere ich den Kontext, damit das Modell ihn richtig nutzt?"

Siehe RAG Explained: How to Ground AI Answers in Real Data und Self-Consistency Prompting: Let the AI Check Its Own Work für die wichtigsten Techniken aus dieser Periode.

Bis 2024 begann eine neue Rahmung die einfache Idee des „besseren Prompts schreiben" zu verdrängen. Praktiker und Forscher begannen, von Context Engineering zu sprechen – der Praxis, zu orchestrieren, was in das vollständige Kontextfenster einfließt: den System-Prompt, abgerufene Dokumente, Werkzeugausgaben, Gesprächsverlauf und Benutzereingaben, alle bewusst zusammengestellt, um das Modellverhalten zu steuern. Der Prompt war kein eigenständiges Artefakt mehr; er war eine Schicht in einem gestalteten Kontext.

Mehrere Entwicklungen beschleunigten diesen Wandel. Metas Llama-3-Klasse-Modelle (2024) machten leistungsfähige Open-Source-LLMs für private Deployments verfügbar und verlagerten einen Teil des Prompt Engineerings von Cloud-APIs zu lokaler Infrastruktur. Kontextfenster wuchsen auf 1 Million Token oder mehr (Gemini 1.5 Pro), was es praktikabel machte, gesamte Codebasen, Bücher oder Dokumentensammlungen in einen einzigen Prompt einzuspeisen. Multi-Agenten-Frameworks wie LangChain und AutoGen verwandelten Prompting in Orchestrierung – ein Prompt löst ein anderes Modell aus, das ein Werkzeug auslöst, das Kontext zum nächsten Prompt zurückgibt.

Stand 2026 beschreiben Forschung und Kommentare Prompt Engineering zunehmend nicht als Nischen-Berufsbezeichnung, sondern als grundlegende Literacy-Fähigkeit für Wissensarbeiter, die KI-Werkzeuge nutzen. Akademische Paper wie „Prompt Engineering as a New 21st Century Skill" Prompt engineering as a new 21st century skill – Frontiers rahmen strukturiertes Prompting neben Lesen, Schreiben und Rechnen als Basiskompetenz für die Arbeit mit generativen KI-Systemen.

Die Rolle hat sich in zwei unterschiedliche Spuren aufgeteilt. Die erste ist System- und Kontext-Design – das Engineering von Produktions-KI-Systemen, bei denen Prompts Teil einer größeren Architektur sind, die Retrieval, Agenten und Evaluierungs-Pipelines umfasst. Die zweite ist der alltägliche Einsatz – die Fähigkeit, klare, strukturierte Prompts zu schreiben, die nützliche Ausgaben produzieren, ohne die zugrundeliegende Architektur zu kennen. Beide Spuren profitieren von denselben Kernprinzipien: klare Aufgabenspezifikation, angemessener Kontext, Einschränkungen und Ausgabeformat.

Was sich trotz leistungsfähigerer Modelle und automatisierter Werkzeuge nicht verändert hat, ist das Grundprinzip: Je klarer und strukturierter die Eingabe, desto zuverlässiger und nützlicher die Ausgabe. Die Techniken, Terminologie und Werkzeuge sind gereift, aber die Kernerkenntnis aus der GPT-3-Ära ist 2026 noch wahr.

Die folgende Tabelle fasst die wichtigsten Meilensteine von 2018 bis 2026 zusammen – die Ereignisse, Paper und Modell-Veröffentlichungen, die die Entwicklung des Prompt Engineerings in seine heutige Form geprägt haben.

Jede Phase der Evolution des Prompt Engineerings hinterließ einen dauerhaften Niederschlag in der aktuellen Praxis. Die GPT-3-Ära gab uns die Kernerkenntnis, dass das Modellverhalten durch Eingabestruktur geprägt wird – nicht nur durch Inhalt. Die Chain-of-Thought-Ära gab uns explizite Denkgerüste: schrittweises Prompting, Prompt-Verkettung und Tree-of-Thought-Ansätze. Die Framework-Ära gab uns wiederverwendbare Vorlagen, die Best Practices kodifizieren, ohne dass jeder Praktiker sie von Grund auf neu entdecken muss.

Die RAG- und Kontext-Design-Ära gab uns das Verständnis, dass Prompts nicht isoliert existieren – sie werden mit abgerufenen Daten, Systemanweisungen und Werkzeugausgaben zusammengestellt, um einen vollständigen Kontext zu bilden. Und die automatisierte Prompting-Ära erinnerte uns daran, dass die Prinzipien guten Promptings messbar sind: besser strukturierte Prompts liefern bessere Ausgaben auf eine Weise, die systematisch bewertet und optimiert werden kann.