Kontext-Engineering ist die Disziplin, die aus vielversprechenden KI-Demos verlässliche Unternehmensanwendungen macht. Lange galt das Formulieren des perfekten Prompts als Schlüsselkompetenz. Doch in der Praxis zeigt sich: Selbst der beste Prompt hilft wenig, wenn dem Sprachmodell die richtigen Informationen fehlen.
Ein Modell kennt weder deine Preisliste noch deine Vertragsbedingungen oder den aktuellen Stand eines Kundenprojekts. Es weiß nur, was in seinen Trainingsdaten stand und was du ihm im Moment der Anfrage mitgibst. Genau dieser zweite Teil entscheidet über Qualität, Aktualität und Vertrauenswürdigkeit der Antworten.
Dieser Beitrag erklärt dir, was hinter dem Begriff steckt, welche Bausteine dazugehören und wie du in deinem Unternehmen die Grundlage für gute Kontexte schaffst.
Inhaltsverzeichnis
Was ist Kontext-Engineering?
Kontext-Engineering bezeichnet die systematische Gestaltung aller Informationen, die ein Sprachmodell bei einer Anfrage erhält. Dazu gehören Anweisungen, relevante Dokumente, Daten aus Fachsystemen, der bisherige Gesprächsverlauf, verfügbare Werkzeuge und Regeln. Ziel ist, dem Modell genau die Informationen bereitzustellen, die es für eine korrekte, aktuelle und überprüfbare Antwort braucht.
Der Unterschied zum klassischen Prompt Engineering liegt im Blickwinkel. Prompt Engineering fragt: Wie formuliere ich meine Anweisung? Kontext-Engineering fragt: Welche Informationen braucht das Modell, woher kommen sie, in welcher Form und in welcher Reihenfolge? Die Formulierung bleibt wichtig, ist aber nur ein Baustein von vielen.
Man kann sich das Kontextfenster wie den Schreibtisch einer neuen Fachkraft vorstellen. Ist er leer, rät sie. Ist er mit hunderten ungeordneten Akten überladen, findet sie das Wesentliche nicht. Gute Arbeit gelingt, wenn genau die richtigen Unterlagen ordentlich bereitliegen.
Warum der perfekte Prompt nicht reicht
Sprachmodelle sind beeindruckend sprachgewandt. Gerade das macht sie tückisch: Fehlen ihnen Informationen, füllen sie Lücken oft mit plausibel klingenden, aber falschen Aussagen. Kein noch so ausgefeilter Prompt kann ein Modell dazu bringen, Fakten zu kennen, die es nie gesehen hat.
Hinzu kommen typische Probleme in Unternehmen:
- Veraltetes Wissen: Trainingsdaten haben einen Stichtag, Produkte, Preise und Regeln ändern sich laufend.
- Fehlendes Firmenwissen: Interne Prozesse, Kundenhistorie und Fachbegriffe kennt kein allgemeines Modell.
- Widersprüchliche Quellen: Mehrere Versionen eines Dokuments führen zu inkonsistenten Antworten.
- Berechtigungen: Nicht jede Person darf jede Information sehen, das Modell muss das respektieren.
- Nachvollziehbarkeit: Ohne Quellenangabe lässt sich eine Antwort kaum prüfen.
All diese Punkte lösen sich nicht durch bessere Formulierungen, sondern durch bessere Daten und eine durchdachte Architektur. Genau hier setzt Kontext-Engineering an.
Die Bausteine von Kontext-Engineering
Ein guter Kontext entsteht aus mehreren Komponenten, die zusammenspielen. Je nach Anwendung sind sie unterschiedlich stark ausgeprägt. Ein einfacher Assistent für interne Richtlinien braucht weniger als ein KI-Agent, der selbstständig Aufgaben in mehreren Systemen erledigt.
Anweisungen und Rollen
Die Systemanweisung legt fest, welche Rolle das Modell einnimmt, welche Aufgaben es erfüllt, welchen Ton es anschlägt und wo seine Grenzen liegen. Gute Anweisungen sind klar, konkret und widerspruchsfrei. Sie beschreiben auch, was das Modell tun soll, wenn Informationen fehlen, etwa nachfragen oder ehrlich sagen, dass es keine Antwort weiß.
Wissen aus Dokumenten
Bei der Retrieval Augmented Generation, kurz RAG, sucht ein System passende Textstellen aus einer Wissensbasis und gibt sie dem Modell mit. Die Qualität hängt dabei stark von der Vorbereitung ab: Wie werden Dokumente in Abschnitte zerlegt? Welche Metadaten wie Datum, Gültigkeit oder Abteilung werden gespeichert? Wie gut findet die Suche wirklich die relevanten Passagen?
Viele Unternehmen kombinieren deshalb semantische Suche mit klassischer Stichwortsuche und filtern zusätzlich nach Metadaten. So landen nicht nur ähnlich klingende, sondern tatsächlich passende und gültige Informationen im Kontext.
Strukturierte Daten aus Fachsystemen
Viele Fragen lassen sich nicht aus Dokumenten beantworten, sondern nur aus aktuellen Daten: Lieferstatus, Lagerbestand, Vertragslaufzeit, offene Tickets. Hier ruft das System über Schnittstellen Daten aus ERP, CRM oder anderen Anwendungen ab und gibt sie dem Modell in einer gut lesbaren Form mit.
Gedächtnis und Gesprächsverlauf
In längeren Dialogen muss das System entscheiden, welche früheren Informationen relevant bleiben. Ein vollständiger Verlauf wird schnell zu lang und lenkt ab. Bewährt haben sich Zusammenfassungen und ein gezieltes Langzeitgedächtnis für wichtige Fakten, etwa Präferenzen oder bereits getroffene Entscheidungen.
Werkzeuge und Aktionen
Agentische Systeme erhalten zusätzlich Beschreibungen von Werkzeugen, die sie nutzen dürfen: eine Suche, eine Berechnung, das Anlegen eines Tickets. Auch diese Beschreibungen sind Teil des Kontexts. Sind sie unklar oder zu zahlreich, wählt das Modell häufiger das falsche Werkzeug. Wie solche Agenten im Kundenservice in den Regelbetrieb kommen, zeigt unser Beitrag über KI-Agenten im Kundenservice.
Gute Daten als Fundament
Kontext-Engineering ist letztlich angewandtes Datenmanagement. Die beste Retrieval-Architektur scheitert, wenn die Wissensbasis veraltet, lückenhaft oder widersprüchlich ist. Deshalb beginnt jedes erfolgreiche Projekt mit einem ehrlichen Blick auf die eigenen Daten.
Diese Eigenschaften machen Daten kontexttauglich:
- Aktualität: Veraltete Versionen werden archiviert oder klar als ungültig markiert.
- Eindeutigkeit: Es gibt eine verbindliche Quelle für jede wichtige Information.
- Struktur: Dokumente haben sinnvolle Überschriften, Abschnitte und Metadaten.
- Verantwortung: Für jeden Wissensbereich gibt es eine Person, die Inhalte pflegt.
- Berechtigungen: Zugriffsrechte sind dokumentiert und technisch abbildbar.
Viele Unternehmen entdecken bei der Einführung von KI-Assistenten, wie verstreut ihr Wissen ist. Das ist keine schlechte Nachricht. Die Aufräumarbeit verbessert nicht nur die KI, sondern auch die Zusammenarbeit der Menschen. Wie du den Wert deiner Daten insgesamt bewertest und nutzbar machst, erklärt unser Beitrag zur Datenökonomie im Unternehmen.
Kontext-Engineering in der Praxis: In sechs Schritten zum besseren Kontext
Der Weg zu besseren KI-Anwendungen lässt sich strukturieren. Die folgenden Schritte helfen dir, systematisch vorzugehen und Fortschritte messbar zu machen.
- Anwendungsfall präzise beschreiben: Welche Fragen soll das System beantworten, welche Aufgaben erledigen, für wen?
- Informationsbedarf ableiten: Welche Dokumente, Daten und Werkzeuge braucht das Modell dafür?
- Quellen aufbereiten: Veraltetes entfernen, Struktur und Metadaten ergänzen, Verantwortliche benennen.
- Abruf gestalten: Suche, Filter und Schnittstellen so einrichten, dass relevante Informationen zuverlässig gefunden werden.
- Kontext zusammensetzen: Anweisungen, Wissen und Daten in klarer Reihenfolge und angemessenem Umfang bündeln.
- Qualität messen: Mit einem Testdatensatz typischer Fragen regelmäßig prüfen, ob Antworten korrekt, vollständig und belegt sind.
Besonders der letzte Schritt wird oft vernachlässigt. Ohne systematische Evaluation bleibt unklar, ob eine Änderung an Suche, Daten oder Anweisungen die Ergebnisse verbessert oder verschlechtert.
Kontext-Engineering am Beispiel: Ein Assistent für Angebote
Wie sich die Prinzipien zusammenfügen, zeigt ein vereinfachtes, typisches Szenario. Ein Vertriebsteam möchte einen KI-Assistenten, der Angebotsentwürfe für Standardprodukte vorbereitet. Ein erster Versuch mit einem allgemeinen Chat-Werkzeug scheitert: Die Entwürfe klingen gut, enthalten aber erfundene Lieferzeiten und veraltete Konditionen.
Mit Kontext-Engineering sieht der Aufbau anders aus. Der Assistent erhält bei jeder Anfrage gezielt die Informationen, die er braucht:
- die aktuelle Preisliste und gültige Rabattregeln aus dem ERP-System
- die Stammdaten und bisherigen Bestellungen des jeweiligen Kunden aus dem CRM
- freigegebene Textbausteine und Vertragsbedingungen aus der Dokumentenablage
- eine klare Anweisung, fehlende Angaben zu markieren statt sie zu erfinden
Das Ergebnis ist ein Entwurf, der auf geprüften Daten beruht und dessen Quellen nachvollziehbar sind. Die Vertriebsmitarbeiterin prüft und ergänzt ihn, statt ihn von Grund auf neu zu schreiben. Der Prompt selbst hat sich dabei kaum verändert. Den Unterschied macht allein der Kontext.
Das Beispiel zeigt auch, wo die eigentliche Arbeit liegt: in sauberen Preislisten, aktuellen Kundendaten, gepflegten Textbausteinen und funktionierenden Schnittstellen. Kontext-Engineering ist damit weniger eine Frage der KI-Technik als eine Frage der Organisation. Wer diese Grundlagen schafft, kann dieselbe Infrastruktur später für weitere Anwendungen nutzen, etwa für Serviceanfragen oder interne Recherchen.
Warum Kontext-Engineering bei jedem Modellwechsel zählt
Sprachmodelle entwickeln sich schnell. Was heute das beste Modell ist, kann in wenigen Monaten überholt sein. Prompts, die sorgfältig auf ein bestimmtes Modell abgestimmt wurden, funktionieren mit dem Nachfolger oft anders. Gut aufbereitete Daten und eine saubere Abrufarchitektur behalten dagegen ihren Wert.
Deshalb ist Kontext-Engineering auch eine strategische Investition. Sie macht dich unabhängiger von einzelnen Anbietern und Modellgenerationen. Wechselst du das Modell, prüfst du mit deinem Testdatensatz die Qualität, passt Anweisungen an und nutzt die bestehende Wissensbasis weiter.
Typische Fehler und wie du sie vermeidest
Mehr Kontext ist nicht automatisch besser. Moderne Modelle verarbeiten zwar sehr lange Texte, doch je mehr irrelevante Informationen im Kontext stehen, desto eher übersieht das Modell das Entscheidende. Auch Kosten und Antwortzeiten steigen mit der Länge.
Weitere häufige Fehler sind:
- ganze Dokumente statt relevanter Abschnitte in den Kontext laden
- widersprüchliche Anweisungen aus verschiedenen Quellen ungeprüft kombinieren
- Berechtigungen erst nachträglich berücksichtigen
- keine Quellenangaben in den Antworten verlangen
- Änderungen ohne Testdatensatz live schalten
Ein guter Grundsatz lautet: So viel Kontext wie nötig, so wenig wie möglich. Jedes Element im Kontext sollte einen klaren Zweck erfüllen.
Sicherheit und Datenschutz im Kontext
Alles, was im Kontext landet, kann potenziell in einer Antwort auftauchen. Deshalb müssen Berechtigungen schon beim Abruf greifen. Ein Assistent darf einer Person nur Informationen zeigen, die sie auch in den Ursprungssystemen sehen dürfte.
Hinzu kommt ein neues Angriffsrisiko: die indirekte Prompt Injection. Dabei verstecken Angreifer Anweisungen in Dokumenten, E-Mails oder Webseiten, die später als Kontext in ein Modell gelangen. Das Modell hält diese Texte womöglich für legitime Anweisungen.
Schutzmaßnahmen sind eine klare Trennung zwischen Anweisungen und Inhalten, begrenzte Rechte für Aktionen und eine Prüfung kritischer Schritte durch Menschen. Hinweise zu Risiken generativer KI veröffentlicht das Bundesamt für Sicherheit in der Informationstechnik.
Bei personenbezogenen Daten gelten die Regeln der DSGVO auch für den Kontext. Prüfe, welche Daten wirklich nötig sind, und anonymisiere oder pseudonymisiere, wo es möglich ist. Wer besonders sensible Informationen verarbeitet, kann Modelle auch im eigenen Rechenzentrum betreiben. Wie das funktioniert, liest du in unserem Beitrag über lokale KI mit kleinen Sprachmodellen.
Neue Rollen und Kompetenzen
Kontext-Engineering verändert die Anforderungen an Teams. Gefragt sind nicht nur Entwicklerinnen und Entwickler, sondern auch Menschen, die Fachwissen strukturieren, Wissensbasen pflegen und Qualität beurteilen können. Klassische Rollen wie Dokumentation, Wissensmanagement und Datenqualität gewinnen dadurch neu an Gewicht.
Für Führungskräfte bedeutet das: KI-Projekte sind keine reinen IT-Projekte. Sie brauchen Fachbereiche, die ihr Wissen einbringen und Verantwortung für Inhalte übernehmen. Wer diese Zusammenarbeit früh organisiert, baut KI-Anwendungen, die auch nach dem ersten Modellwechsel noch funktionieren.
Für das Risikomanagement rund um KI-Systeme bieten etablierte Rahmenwerke eine gute Orientierung, etwa das KI-Risikomanagement-Framework des US-amerikanischen National Institute of Standards and Technology. Es hilft, Verantwortlichkeiten, Messung und Kontrolle strukturiert aufzusetzen.
Fazit: Kontext-Engineering ist Datenarbeit
Kontext-Engineering verschiebt den Fokus von der cleveren Formulierung zur soliden Grundlage. Sprachmodelle liefern verlässliche Antworten, wenn sie zur richtigen Zeit die richtigen Informationen in guter Struktur erhalten. Dafür brauchst du aktuelle, eindeutige und gut gepflegte Daten, eine durchdachte Abrufarchitektur und eine systematische Qualitätsmessung.
Der Aufwand lohnt sich doppelt. Deine KI-Anwendungen werden genauer, nachvollziehbarer und sicherer. Und dein Unternehmen gewinnt eine aufgeräumte Wissensbasis, von der auch die Menschen profitieren. Wer heute in Kontext-Engineering investiert, schafft die Basis für jede künftige Generation von KI-Modellen.
Häufige Fragen zu Kontext-Engineering
Was ist der Unterschied zwischen Prompt Engineering und Kontext-Engineering?
Prompt Engineering konzentriert sich auf die Formulierung einer Anweisung an ein Sprachmodell. Kontext-Engineering betrachtet alle Informationen, die das Modell bei einer Anfrage erhält: Anweisungen, Dokumente, Daten aus Fachsystemen, Gesprächsverlauf und Werkzeuge. Es fragt, welche Informationen das Modell braucht, woher sie kommen und wie sie aufbereitet werden. Die Formulierung ist dabei nur ein Baustein.
Warum ist Kontext-Engineering für Unternehmen wichtig?
Allgemeine Sprachmodelle kennen weder interne Prozesse noch aktuelle Preise, Verträge oder Kundendaten. Fehlen solche Informationen, erfinden Modelle mitunter plausible, aber falsche Antworten. Kontext-Engineering sorgt dafür, dass das Modell die relevanten, aktuellen und berechtigten Informationen erhält. Das macht Antworten genauer, überprüfbar und für den produktiven Einsatz in Unternehmen tauglich.
Was bedeutet Retrieval Augmented Generation?
Retrieval Augmented Generation, kurz RAG, ist ein Verfahren, bei dem ein System zu jeder Anfrage passende Textstellen aus einer Wissensbasis sucht und dem Sprachmodell als Grundlage mitgibt. Das Modell formuliert seine Antwort dann auf Basis dieser Quellen. Die Qualität hängt stark davon ab, wie gut Dokumente aufbereitet, mit Metadaten versehen und durchsuchbar sind.
Wie misst man die Qualität von Kontext-Engineering?
Am besten mit einem Testdatensatz typischer Fragen und erwarteter Antworten. Damit prüfst du regelmäßig, ob das System die richtigen Quellen findet und ob Antworten korrekt, vollständig und belegt sind. Fachleute aus den betroffenen Bereichen sollten die Bewertung unterstützen. So erkennst du, ob Änderungen an Daten, Suche oder Anweisungen tatsächlich Verbesserungen bringen.
Welche Risiken entstehen durch externen Kontext?
Inhalte aus Dokumenten, E-Mails oder Webseiten können versteckte Anweisungen enthalten, sogenannte indirekte Prompt Injections. Das Modell könnte sie fälschlich befolgen. Zudem können vertrauliche Daten in Antworten gelangen, wenn Berechtigungen nicht beim Abruf geprüft werden. Schutz bieten eine klare Trennung von Anweisungen und Inhalten, begrenzte Rechte und menschliche Kontrolle kritischer Aktionen.
