Kapitel 01

Was ist Kontext-Engineering und warum braucht man es?

Kontext beschreibt alles, was die KI braucht, um eine Aufgabe zu verstehen und angemessen zu lösen. Das beinhaltet den Chat-Verlauf, Long-Term Memory, Systemanweisungen, Skills, verfügbare Tools und natürlich den Prompt.

Wurde sich bis vor Kurzem noch darauf konzentriert, mithilfe von Prompt-Engineering bessere Antworten zu erhalten, ist man mittlerweile dazu übergegangen, am größeren Hebel anzusetzen: dem Kontext.

Kontext-Engineering beschäftigt sich damit, den spezifischen Kontext einer Organisation oder eines Users bestmöglich für KI aufzubereiten. Tobi Lütke, Shopify CEO, beschreibt es als:

Mithilfe von Kontext-Engineering definiert man alles, was das LLM sieht, bevor es anfängt zu antworten. Wichtig hierbei ist, dass das Arbeitsgedächtnis begrenzt ist, ähnlich wie bei uns Menschen. Diesen Platz sinnvoll zu nutzen, ist die wahre Kunst.

Während es beim Prompt-Engineering nur um die Verbesserung der Anweisungen ging, setzt Kontext-Engineering holistischer an. Es beschreibt ein System, das alles organisiert, was der KI zur Verfügung gestellt wird: Gesprächsverlauf, Nutzerdaten, externe Dokumente, Tools sowie Output-Formate.

Gut aufgebauter Kontext sorgt dafür, dass die begrenzte Aufmerksamkeit des Modells bestmöglich genutzt wird: Nur das wird ins begrenzte Arbeitsgedächtnis aufgenommen, was gebraucht wird, und Daten aus dem persistenten Speicher werden nur dann abgerufen, wenn sie relevant sind.

RAG, also Retrieval Augmented Generation, war die erste Entwicklung hin zum Kontext-Engineering, da RAG es zum ersten Mal ermöglichte, LLMs mit externen Infos zu versorgen. Zuvor konnten LLMs nur Fragen auf den Daten basierend beantworten, auf denen sie trainiert wurden. Mit RAG änderte sich das.

Auch heute noch bleibt RAG ein Bestandteil guten Kontext-Engineerings.

Kapitel 02

Was macht guten Kontext aus?

Guten Kontext beeinflusst man auf zwei Ebenen: einmal als Anwender:in und einmal als Unternehmen, nämlich dadurch, wie der Kontext für alle im Workspace aufgesetzt und definiert wird.

Was Du selbst für besseren Kontext tun kannst

Diese Dinge kannst Du sofort selbst umsetzen, ohne tief in die Infrastruktur einzusteigen. Vieles davon gibst Du direkt im Prompt an:

• Zweck: Was versuchst Du zu erreichen?
• Zielgruppe: Für wen wird die Antwort generiert?
• Format: Wie soll die Ausgabe aussehen?
• Beispiele: Wie sieht ein gutes Beispiel des gewünschten Ergebnisses aus?
• Wissen: Welche Dokumente oder anderes Wissen sollen einbezogen werden?

Baue Deinen eigenen Prompt mit Kontext

Statt jedes Mal neu anzufangen, hier ein Gerüst, das Du nutzen kannst, um mit wenig Aufwand bessere Ergebnisse zu erzielen.

Nicht jedes Feld muss immer ausgefüllt werden, aber je klarer diese Punkte, desto weniger musst Du später anpassen.

Kontext gezielt anhängen

Nicht immer reicht es, vorhandenes Wissen abzurufen oder den Prompt anzupassen. Wenn Du Dokumente oder anderes Wissen anhängst, geh gezielt vor: Statt ein riesiges PDF mit vielen Themen anzuhängen, lade nur das Kapitel in den Kontext, das wirklich relevant für die Anfrage ist. Für Informationen, die sich in Echtzeit ändern, sind Konnektoren meist der bessere Weg als manuell eingefügte Daten.

Wohin gehört welcher Kontext?

• Einmalig gebraucht → in den Prompt.
• Immer wieder gleich → ins Gedächtnis, einen Skill oder die Anweisungen eines Agenten.
• Ändert sich ständig → live über eine verbundene Quelle anbinden, statt es statisch zu hinterlegen.

Kontext, den Du dauerhaft hinterlegst

• Skills: beinhalten alles, was Du bei Ausführung einer bestimmten Aufgabe beachten musst, wie zum Beispiel Tonalität, aber auch Struktur des Outputs. Sie sind quasi die Verfahrensanweisung für die KI.
• Persönliche Vorlieben: im eigenen Gedächtnis (Memory) speichern, um zuverlässig Antworten zu generieren, die deinen eigenen Präferenzen entsprechen.
• Projekte: ein eigener Arbeitsraum für ein größeres Vorhaben, in dem Du Richtlinien, Terminologie und Beispiele dauerhaft hinterlegst. So hat jede Anfrage innerhalb des Projekts denselben Kontext, ohne dass Du ihn neu mitgeben musst.

Kapitel 03

Was Dein Unternehmen verwaltet

Während Anwender viel Einfluss auf den eigenen Kontext haben, kommt es auf Unternehmensebene darauf an, Kontext so zu verwalten, dass alle Mitarbeitenden zur richtigen Zeit auf relevanten Kontext zugreifen können. Dabei kommen weitere Themen hinzu, die auf individueller Ebene keine Rolle spielen.

Rolle & Rechte (Governance): Wer darf was sehen?

Mit einem bewussten Rollen- & Rechte-Management stellen Organisationen sicher, dass Nutzer:innen nur auf die Informationen Zugriff haben, für die sie die notwendige Berechtigung besitzen.

Kuration: Was gelangt in den Kontext

Auf individueller Ebene entscheidest Du selbst, was Du anhängst. Auf Unternehmensebene braucht es jedoch Regeln, damit sich keine Fehler einschleichen und irrelevantes Wissen gespeichert wird.

Wissensbasis + Metadaten: Das Fundament erfolgreichen Wissensmanagements mit KI ist die Wissensdatenbank. Über passende Metadaten findet das System immer die relevanten Informationen und fragt sie „just in time“ ab.

Speicherung und Wartung: Kontext proaktiv managen

Kontext ist keine Ablage, die einmal befüllt ihren Zweck erfüllt. Kontext verändert sich und muss aktiv verwaltet werden, um zu verhindern, dass die Qualität leidet.

• Unternehmensgedächtnis: Da sich Wissen, Daten und Informationen im Unternehmen stets verändern, muss sich auch der Kontext dynamisch weiterentwickeln. Etwa sollten relevante neue Arbeitsergebnisse und Meeting-Protokolle auch wieder als Kontext zur Verfügung stehen.
• Context Rot vermeiden durch Windowing: Je mehr veraltete oder irrelevante Informationen sich im Kontext ansammeln, desto schlechter werden die Ergebnisse (dies bezeichnet man auch als Context Rot). Mit Windowing, also der Praxis, nur relevantes im Kontextfenster anzugeben, lässt sich Context Rot vermeiden.

Bereitstellung: Alles, was das ganze Team nutzt

Der geteilte Workspace ist der Rahmen, in dem KI-Nutzung im Unternehmen zusammenläuft. Verwaltung und Einrichtung liegen in der Regel bei den Admins oder den KI-Verantwortlichen im jeweiligen Team, die festlegen, wer welche Rolle erhält und welche Werkzeuge wem zur Verfügung stehen.

• Skills: Unternehmensweit im geteilten Workspace verfügbar gemacht, sorgen sie dafür, dass wiederkehrende Anfragen immer konsistente Ergebnisse liefern.
• Tools: Die Werkzeuge, die dem System zur Verfügung stehen, etwa das Erstellen von Excel-Tabellen oder Nutzen anderer Anwendungen.
• Projekte: Projekte sind im Grunde Arbeitsräume mit Richtlinien, Terminologien und Daten, welche spezifisch für das jeweilige Projekt zur Verfügung stehen.

Kapitel 04

Warum mehr Kontext nicht zu besseren Ergebnissen führt

Egal ob für einzelne Anwender:innen oder Organisationen, für beide gilt: Mehr Kontext führt nicht automatisch zu besseren Ergebnissen. Ganz im Gegenteil: zu viel Wissen kann schädlich wirken. Ähnlich wie bei uns Menschen, für die mehr Informationen auch nicht zwangsläufig zu besseren Entscheidungen führen.¹

Der Grund ist simpel und durch die Architektur von LLMs bedingt: Sie arbeiten mit einem begrenzten Kontextfenster (die Größe wird in Token angegeben). Je größer der Kontext, desto mehr Aufwand betreibt das LLM, um alles zu lesen und Antworten zu erzeugen. Ab einem gewissen Punkt kippt mehr Kontext ins Negative, und das Modell erzeugt fehlerhafte Ausgaben.

Interessanterweise beginnt der Qualitätsverlust oft schon, bevor das Kontextfenster voll ist. Eine Studie von Chroma zeigt, dass die Genauigkeit mit wachsendem Kontext nachlässt, lange bevor das technische Limit erreicht ist.²

Typische Fehlermuster

Drew Breunig hat vier typische Fehlermuster beschrieben, die bei zu viel Kontext auftreten.³

• Poisoning: Wenn ein Fehler sich durch alle weiteren Anfragen zieht.
• Distraction: Durch langen Chatverlauf kann es passieren, dass Outputs anfangen, von der eigentlichen Anfrage abzudriften.
• Confusion: Bei Bereitstellung von überflüssigen Informationen kann es zu sinkender Qualität kommen.
• Clash: Widersprüchliche Informationen sind eine weitere häufige Fehlerquelle.

Gutes Kontext-Engineering stellt sicher, dass immer nur der Kontext geladen und genutzt wird, der für die Anfrage relevant ist, um viele Fehlerquellen zu eliminieren.

Nichtsdestotrotz: Wenn Du merkst, dass die Qualität in einem Chat abnimmt, ist es am besten, sich einmal die wichtigen Dinge zusammenfassen zu lassen und dann einen neuen Chat anzufangen.

Kapitel 05

Wer stellt Kontext bereit?

Kontext systematisch aufzubereiten und bereitzustellen ist Teamarbeit. Die gute Nachricht ist, dass in den meisten Unternehmen das Wissen bereits erfasst ist, wenn auch oft in verschiedenen Systemen wie Wissensdatenbanken, Wikis, dem Ticketsystem, der Dateiablage und den Posteingängen.

Über Konnektoren oder MCP gelingt es, KI direkten Zugriff auf das Wissen zu liefern. Alles im Rahmen der Rechte und Rollen, die durch Admins definiert werden.

Es geht beim Bereitstellen also weniger darum, alles an einen neuen Ort zu kopieren, sondern nur darum, sicherzustellen, dass die KI Zugang erhält und sich erschließen kann, was in den jeweiligen Quellen zu finden ist.

Guter Kontext ist damit weniger eine Frage des cleveren Prompts, sondern vor allem eine Frage des Zugriffs und der Datenhygiene: Die KI muss das Wissen erreichen, das im Unternehmen längst existiert.

Am besten versteht man den Effekt angebundener Quellen anhand von Beispielen:

In größeren Organisationen verteilt sich das auf mehrere Rollen wie Wissensmanagement, Marketing, IT & Sicherheit, Digitalisierungsbeauftragte etc. Bei kleineren Unternehmen wird der Kontext hingegen meist durch ein kleines Team, unterstützt von der IT, realisiert.

Besseren Kontext aufbauen: der Weg in fünf Schritten

Guter Kontext entsteht nicht von heute auf morgen, sondern ist ein Prozess. Hier sind fünf Schritte, mit denen Ihr nach und nach bessere Ergebnisse erzielen könnt.

Wer konsequent dran bleibt und Arbeitsergebnisse direkt in den Kontext zurückspielt, wird nach und nach ein System erhalten, das zuverlässig relevante Antworten gibt.

Kapitel 06

Ein sich selbst verbesserndes System

Mit jedem Arbeitstag wird Kontext weitergeschrieben und Unternehmenswissen verändert sich. Die Entscheidungen aus dem Meeting letzte Woche wurden mit neuen überschrieben, und Resultate vorheriger Prozesse fließen in neue mit ein.

Wer Kontext-Engineering so aufsetzt, dass die KI stetig mitgeht und Wissen dynamisch aktualisiert, hat am Ende ein System, das verlässlich und durchgängig auf komplexe Anfragen antworten kann. Statt immer bei null anzufangen, setzt Ihr auf dem neuesten Stand auf.

• Newsletter, die an die letzte Kampagne anschließen
• Antworten an Kunden, die die ganze Geschichte einbeziehen
• Briefings, die die Entscheidungen aus dem gestrigen Meeting enthalten

Unternehmen, die viel Wissen und Kontext haben, brauchen KI, die mitwächst. Doch das gelingt nur, wenn proaktiv Ergebnisse festgehalten werden, Wissen verfügbar gemacht wird und niemand mehr 5 Seiten langen Text ins Promptfenster kopieren muss.

Die richtige Plattform wählen

Guter Kontext entsteht nicht durch einen einzelnen Prompt. Er entsteht durch ein System, das Wissen einordnet, Zugriffe steuert und relevante Informationen im richtigen Moment verfügbar macht.

Genau hier setzt die Context Engine von nuwacom an. Sie verbindet Unternehmenswissen, Memory, Skills, Projekte und angebundene Quellen. So erhält die KI nicht einfach mehr Informationen, sondern den Kontext, den sie für die jeweilige Aufgabe braucht.

Für Nutzer bedeutet das: weniger Suchen, weniger wiederholtes Erklären und bessere Antworten. Für Wissensmanager bedeutet es: Unternehmenswissen bleibt zugänglich und kann im richtigen Berechtigungskontext genutzt werden.

Denn KI wird nicht dadurch verlässlich, dass sie mehr weiß. Sie wird es, wenn sie das richtige Wissen im richtigen Zusammenhang nutzen kann.