Wo KI-Agenten 2026 scheitern und was dagegen hilft

Drew Breunig schreibt seit 2025 über Context Engineering, also darüber, welche Informationen ein Sprachmodell bei einer Aufgabe vor sich hat. Im Oktober 2026 hat er auf der Konferenz AGNTCon einen kurzen Vortrag über den Stand dieses Fachs gehalten und am 24. Oktober Folien und Mitschrift veröffentlicht. Er erzählt darin, welche Fehler mit den großen Kontextfenstern von 2024 kamen, welche Gegenmittel sich bewährt haben, welche neuen Fehler die lang laufenden Agenten von 2026 mitbringen und womit er für 2027 rechnet. Seine Schlussfolgerung gilt für jede dieser Stufen: Wer mit KI arbeitet, entscheidet, was ein festes Programm erledigt und was das Modell selbst entscheiden darf.
Wir arbeiten in unserem eigenen Betrieb jeden Tag mit KI-Agenten. Unsere eigene Agentensteuerung schlägt Aufgaben aus E-Mails und ausgewählten WhatsApp-Gesprächen vor, Agenten arbeiten sie ab, und was nach außen geht, gibt ein Mensch frei. Die Agenten entwerfen Antworten, schreiben und prüfen Code und pflegen unsere Wissensablage. Verantwortlich für die Ablage ist unser Gründer Sebastian Behler. Neue Regeln und Entscheidungen legt er fest. Routine-Aktualisierungen schreiben die Agenten ohne Freigabe im Einzelfall. Dieser Beitrag folgt Breunigs Aufbau und stellt neben jede Stufe, was wir in dieser Arbeit gesehen und daraufhin geändert haben. Wo wir nichts Eigenes beizutragen haben, sagen wir das. Was Kontext im Betrieb bedeutet und wer ihn pflegt, beschreibt Kontextmanagement im Unternehmen.
Erst sollte ein großes Kontextfenster reichen
Im Februar 2024 stellte Google mit Gemini 1.5 Pro ein Modell vor, das eine Million Tokens auf einmal verarbeiten kann. Ein Token ist ein Wortstück, die Einheit, in der Sprachmodelle Text zählen. Eine Million Tokens entsprechen nach Googles Angaben mehr als 700.000 Wörtern; die erste Gemini-Generation hatte 32.000 verarbeitet. Das Kontextfenster, also die Textmenge, die ein Modell für eine Antwort berücksichtigt, war damit um ein Vielfaches gewachsen. Daraus entstand eine bequeme Hoffnung: Wenn alles hineinpasst, muss niemand mehr auswählen.
Breunig hat im Juni 2025 beschrieben, warum das nicht aufgeht. Ein langer Kontext bietet Platz für mehr Information und ebenso für mehr Fehler. Er unterscheidet vier Arten:
- Vergifteter Kontext: Ein Fehler gelangt in den Kontext und wird immer wieder herangezogen. Googles Gemini 2.5 Pro suchte beim Pokémon-Spielen viele Stunden nach Tee, den es in dieser Version des Spiels nicht gibt. Den Fall und einen eigenen beschreibt KI-Halluzination oder vergifteter Kontext?.
- Ablenkung: Der Verlauf wird so lang, dass das Modell sich mehr an ihm ausrichtet als an dem, was es im Training gelernt hat.
- Verwirrung: Angaben, die mit der Aufgabe nichts zu tun haben, beeinflussen das Ergebnis.
- Widerspruch: Neue Angaben, Werkzeuge oder Anweisungen widersprechen dem, was schon im Kontext steht.
Wie stark Ablenkung wirkt, haben Carolina Camassa und Derek Shiller 2026 in „Do as I Say, Not as I Do“ gemessen. Sie gaben 13 Modellen eine klare Anweisung, etwa jede Frage ins Russische zu übersetzen. Danach legten sie Beispiele in den Verlauf, in denen der Assistent etwas anderes tat und auf Französisch antwortete. Mit jedem weiteren Beispiel folgten die Modelle häufiger dem Muster und seltener der Anweisung. Betroffen waren alle 13, in sehr unterschiedlichem Maß. Wie lange ein Modell standhielt, ließ sich weder an seiner Größe noch an seinen Ergebnissen in den üblichen Leistungstests ablesen.
Im Büro kennt man die Lage aus langen Chats. Wer einen Entwurf im selben Gespräch fünfmal überarbeiten lässt, hat dem Werkzeug fünf Fassungen in den Verlauf gelegt, die er nicht wollte. Ob das die nächste Antwort messbar verschlechtert, hat die Studie nicht untersucht; sie arbeitete mit vorbereiteten Gesprächen. Google beobachtete etwas Verwandtes bei einem echten Agenten. Im technischen Bericht zu Gemini 2.5 heißt es, der Pokémon spielende Agent habe dazu geneigt, Aktionen aus seinem Verlauf zu wiederholen, statt neue Pläne zu entwickeln, sobald dieser Verlauf deutlich über 100.000 Tokens hinauswuchs. Der Bericht nennt das selbst eine anekdotische Beobachtung. Verarbeiten konnte das Modell mehr als eine Million Tokens.
Gegen die beiden anderen Fehlerarten haben wir Regeln. Breunig schaltet die Gedächtnisfunktion von ChatGPT und Claude aus, weil sie Notizen aus seiner Arbeit und aus privaten Projekten vermischt. Auch bei uns bleibt das automatische Gedächtnis der Agenten aus. Geschäftliche Angaben stehen stattdessen mit Datum und Quelle in Dateien, die jemand prüfen kann. Gegen Widersprüche hat bei uns jede Regel eine zuständige Datei, und andere Dateien verweisen dorthin, statt sie zu wiederholen. Wo sich zwei Dateien trotzdem widersprechen können, steht fest, welche Vorrang hat. Für die Texte dieser Website entscheidet zum Beispiel eine Datei über die Wortwahl und eine andere über die Preise. Ein Agent, der einen Widerspruch findet, meldet ihn, statt still eine Seite zu wählen.
Die Gegenmittel sind seit 2025 dieselben
Ebenfalls im Juni 2025 hat Breunig sechs Gegenmittel beschrieben. In seinem Vortrag stellt er fest, dass sie dieselben geblieben sind, obwohl neue Fehler hinzukamen. Wir nutzen alle sechs:
- Ergänzen: Das Modell bekommt die Informationen, die ihm für genau diese Aufgabe fehlen, etwa aus einer Dokumentensuche oder einer Arbeitsanweisung. Bevor ein Agent bei uns eine Antwort an einen Kunden entwirft, liest er den bisherigen E-Mail-Verlauf und die Notizen zum Projekt.
- Auswählen: Das Modell sieht nur die Werkzeuge und Anweisungen, die es für die Aufgabe braucht. Breunig berichtet von einem Unternehmen, dessen Agenten plötzlich schlecht arbeiteten, weil bei jedem Start 600 Arbeitsanweisungen geladen wurden. Bei uns sieht ein Agent zu jeder Arbeitsanweisung zunächst eine Zeile Beschreibung und lädt den vollständigen Text erst, wenn die Aufgabe ihn braucht.
- Abschotten: Eine Teilaufgabe geht an einen eigenen Agenten, der ohne den bisherigen Verlauf beginnt. Braucht ein Ergebnis bei uns eine unabhängige Prüfung, übernimmt sie im Regelfall ein Agent des anderen Anbieters. Er sieht Auftrag und Ergebnis, aber nicht das Gespräch, in dem das Ergebnis entstanden ist (wie wir KI-Code prüfen).
- Kürzen: Was nicht mehr gebraucht wird, verschwindet aus dem Verlauf. Claude Code und Codex tun das zum Teil selbst. Wenn unsere Agenten eine Webseite prüfen, nutzen sie ein Kommandozeilenwerkzeug, das nur das Ergebnis meldet, damit nicht jede Momentaufnahme der Seite im Verlauf landet.
- Auslagern: Informationen werden in Dateien oder einer Datenbank abgelegt und bei Bedarf wieder gelesen. Bei uns steht jede dauerhafte Tatsache mit Datum und Quelle in genau einer Datei unserer Wissensablage.
- Zusammenfassen: Ein langer Verlauf wird durch eine Zusammenfassung ersetzt. Gibt bei uns ein Agent eine Aufgabe weiter, übergibt er wenige Sätze: den Stand, den nächsten Schritt und offene Entscheidungen. Warum es so wenige sind, zeigt der Abschnitt über 2026.
Wer selbst Agenten baut, findet in Breunigs Mitschrift kurzen Beispielcode für vier der sechs Gegenmittel.
Schnell geändert haben sich dagegen die Namen. 2023 hieß diese Arbeit Prompt Engineering, 2025 Context Engineering, und 2026 spricht man von Harness Engineering, nach dem englischen Wort für das Rahmenprogramm, in dem ein Agent arbeitet. Die Aufgabe blieb dieselbe: dem Modell die richtigen Informationen zu geben. Geändert hat sich, wer sie zusammenstellt. Mit jedem Schritt übernimmt festes Programm mehr davon und das Modell selbst weniger.
2026: Agenten, die stundenlang arbeiten
2026 versprechen die Modellanbieter etwas anderes als ein größeres Fenster. Die Modelle sollen ihr Rahmenprogramm selbst bedienen, ihren Kontext selbst verwalten und dabei viele Stunden an einer Aufgabe bleiben. In einem Versuch, den Anthropic im Oktober 2026 beschrieben hat, hatten Agenten sechs Stunden Zeit. Bei uns darf ein koordinierender Agent, der Aufgaben an andere Agenten verteilt und ihre Ergebnisse zusammenführt, bis zu vier Stunden am Stück arbeiten. Warum nicht länger, steht weiter unten. Breunig sieht in dieser Entwicklung zwei neue Fehlerarten.
Gegen das Training anschreiben
Die erste nennt Breunig „fighting the weights“, also gegen die im Training gelernten Gewichte des Modells arbeiten. Ein Modell, das in bestimmten Umgebungen gelernt hat, ein Rahmenprogramm zu bedienen, bringt deren Gewohnheiten mit und tut deshalb manchmal nicht, was man verlangt. Als Beleg zeigt Breunig Anweisungen aus Claude Code, Anthropics Programmierwerkzeug. Die Bitte, voneinander unabhängige Werkzeugaufrufe gleichzeitig statt nacheinander auszuführen, steht dort an vielen Stellen, teils mehrfach wortgleich. Seine Faustregel: Wer in einer Anweisung Wiederholungen und Großbuchstaben findet, kämpft vermutlich gegen das Training.
Wer mit KI Texte schreibt, kennt ein Beispiel dafür: den Gedankenstrich. Sam Altman, der Chef von OpenAI, meldete am 14. November 2025 als kleinen, aber erfreulichen Erfolg, dass ChatGPT keine Gedankenstriche mehr setzt, wenn man das in den eigenen Anweisungen verlangt. Vorher hatte es sich daran nicht zuverlässig gehalten. Auch unsere Schreibregeln verbieten Gedankenstriche, seit dem 31. August 2026. Die Regel steht in mehreren Anweisungsdateien. Zusätzlich zählt vor jeder Veröffentlichung ein Prüfskript die Gedankenstriche in jedem Artikel, und erlaubt ist keiner.
Dasselbe Prinzip gilt bei uns für Regeln, bei denen mehr auf dem Spiel steht. Dass Agenten keine E-Mails abschicken, steht in ihren Anweisungen und ist zusätzlich technisch ausgeschlossen: Ihr Zugang zu unserem Postfach hat keine Berechtigung zum Senden. Die fertige Microsoft-365-Anbindung unseres KI-Anbieters könnte senden. Deshalb sind ihre Werkzeuge zum Senden von E-Mails und Teams-Nachrichten bei uns abgeschaltet, und der Agent nutzt unser eigenes Postfachwerkzeug mit weniger Rechten. Liest ein Agent eine unserer PostgreSQL-Datenbanken im laufenden Betrieb, öffnet das Werkzeug eine Transaktion, die nur Lesen erlaubt. Eine Regel, die man in einer Anweisung wiederholen muss, gehört in eine Berechtigung oder in eine Prüfung durch ein Programm.
Festbeißen
Die zweite Fehlerart nennt Breunig „context inertia“, die Trägheit des Kontexts. Ein Agent beißt sich an einer Vermutung, einer Teilaufgabe oder einem Ziel fest und verfolgt es weiter, wenn er längst umkehren sollte. Im Oktober 2026 erschienen kurz nacheinander mehrere Arbeiten dazu:
- Anthropic beschreibt in seinem Bericht über Versuche, ob sich KI-Modelle auch ohne Zugang zu einem Rechenzentrum selbst vervielfältigen können, ein Rahmenprogramm namens Memento. Es soll einen häufigen Fehler langer Läufe abfangen: Der Agent hält an einer falschen Idee fest, etwa über die Ursache eines Fehlers, statt umzukehren. Memento startet deshalb in Abständen einen frischen Agenten. Er übernimmt den Arbeitsstand und kurze Notizen seines Vorgängers, aber nicht dessen Verlauf. In einem der Versuche geschah das alle anderthalb Stunden.
- Ein Team um Ziyang Cai bei Microsoft Research zeigt in „Fork-and-Flush“, dass Läufe desselben Agenten an derselben Aufgabe oft auf sehr unterschiedlichen Ständen stehen bleiben, auch mit viel zusätzlicher Rechenzeit. Als Gegenmittel übernehmen neue Zweige den bisherigen Arbeitsstand und beginnen mit leerem Verlauf.
- Shangyin Tan und Kollegen aus Berkeley und Stanford beobachten in „Scaling Discovery Requires Forgetting“, dass sich Agenten an ihre eigenen früheren Versuche binden und immer weniger und kleinere Änderungen machen. Sie verwerfen deshalb in Abständen alles, was die Agenten bisher angesammelt haben, und starten vom besten bisherigen Ergebnis neu. In ihren Versuchen brachte das bis zu 15 % bessere Ergebnisse als parallel arbeitende Agenten und bis zu 39 % bessere als ein einzelner Agent.
Breunig fällt auf, dass keine dieser Arbeiten ein neues Gegenmittel erfindet. Alle setzen auf Abschotten, Auslagern und das Verwerfen des angesammelten Verlaufs. Seine erste Frage an jeden, der klagt, sein Agent sei schlechter geworden, lautet deshalb: Wie lang ist Ihr Verlauf? Ab etwa 200.000 Tokens wird er selbst aufmerksam und beginnt vor einer größeren Aufgabe neu.
Bei uns sah dieser Fehler so aus. Vom 11. bis 13. Oktober 2026 arbeiteten unsere koordinierenden Agenten tagelang an Werkzeugen, die unsere Prüfungen absichern sollten, während fertige Änderungen auf ihre Übernahme warteten. Am 13. Oktober fanden wir außerdem einen Übergabeplan, der auf 1.035 Zeilen angewachsen war und 477 Mal gelesen worden war. Gedacht war er als Gedächtnis zwischen den Sitzungen. Wir lesen das als dieselbe Trägheit, die Anthropic beschreibt, verteilt über viele Sitzungen. Noch am selben Tag haben wir die Regeln geändert:
- Eine Übergabe besteht aus wenigen Sätzen: dem Stand, dem nächsten Schritt und offenen Entscheidungen. Sie wird bei jeder Übergabe ersetzt und nicht verlängert.
- Sie steht dort, wo die nächste Sitzung beginnt, in der Beschreibung der Aufgabe.
- Jede Aufgabe bekommt eine eigene Sitzung.
- Ein koordinierender Agent beendet seinen Durchgang mit einer solchen Übergabe, sobald seine Aufgabe übernommen ist, spätestens aber nach vier Stunden. In langen Durchgängen gingen Stunden damit verloren, dass das Werkzeug den Verlauf zusammenfasste.
Der Arbeitsstand selbst geht dabei nicht verloren. Code liegt in der Versionsverwaltung, Tatsachen liegen in der Wissensablage. Verworfen wird nur der Verlauf, wie bei Memento. Wie viel Zeit uns das spart, haben wir nicht gemessen.
2027: Erinnerungen, die sich widersprechen
Für 2027 sagt Breunig das nächste Problem voraus. Persönliche Agenten wie Hermes oder OpenClaw behalten Erinnerungen über Monate und schreiben sich eigene Arbeitsanweisungen. Breunig betreibt selbst seit sechs Monaten einen Hermes-Agenten und beobachtet, dass sich dessen Anweisungen mit merkwürdigen Einzellösungen füllen. Der Agent löst eine Aufgabe auf eine Weise und eine ähnliche später auf eine andere, und Anweisungen und Erinnerungen beginnen, einander zu widersprechen. Nötig sei deshalb gezieltes Vergessen, und wie das geht, habe noch niemand herausgefunden. Was diese Agenten heute können und was ein Betrieb vor dem Anschluss klären sollte, beschreibt unser Vergleich von OpenClaw, Hermes, Grok Bot und OpenAI dots.
Den Anfang davon sehen wir in unserer eigenen Wissensablage, die Agenten jede Woche fortschreiben. Im Oktober 2026 fanden wir dort eine Datei, die ihre Aussagen mit unseren eigenen Artikeln belegte und aus einem abgewogenen Argument eine feste Regel gemacht hatte. Den Fall beschreibt KI-Halluzination oder vergifteter Kontext?.
Vergessen ist bei uns deshalb geplante Arbeit. Seit dem 10. August 2026 gleicht ein Agent die Ablage jede Woche mit E-Mails, Chats und offenen Aufgaben ab. Dazu gehören feste Schritte:
- Ein Prüfskript markiert Angaben zu laufender Arbeit, deren jüngstes Datum älter als 14 Tage ist, alle anderen nach 42 Tagen. Eine markierte Angabe wird an ihrer Quelle geprüft, bevor sie ein neues Datum bekommt.
- Die Datei, die jeder Agent zuerst liest, bleibt bei rund 100 Zeilen. Lange Einträge geben ihre ältere Vorgeschichte an Protokolldateien ab, die nur liest, wer sie braucht.
- Alle drei Wochen folgt ein Aufräumdurchgang. Er führt doppelte Einträge in der Datei zusammen, die am genauesten passt, und streicht nur überholte Stände und Fragen, die schon vor dem letzten Durchgang beantwortet waren.
Gelöst ist das Problem damit nicht. Ob drei Wochen der richtige Abstand sind, haben wir nicht gemessen, und was überholt ist, bleibt bei jedem Durchgang eine Frage des Urteils. Für einen Betrieb folgt daraus trotzdem eine klare Regel: Wer einem Agenten ein Gedächtnis gibt, braucht auch einen festen Termin, an dem eine benannte Person darin aufräumt, und eine Regel, was dabei gestrichen werden darf.
Was ein Programm festlegt und was das Modell entscheidet
Breunig schließt mit einer Folie, die er nach eigener Aussage vor anderthalb Jahren für Schulungen in Unternehmen gemacht hat. Das Ergebnis eines Sprachmodells hängt von zwei Dingen ab: von den Daten, mit denen es trainiert wurde, und vom Kontext, den es für die Aufgabe bekommt. Wer bessere Ergebnisse will, kann ein größeres Modell nehmen, was teuer ist, es länger nachdenken lassen, was langsam ist, oder den Kontext verbessern. Nur das Letzte ist billig und schnell. Die Arbeit besteht für Breunig darin, zu entscheiden, wo ein festes Programm arbeitet und wo das Modell lenken darf. Jeder Fortschritt der Modelle verschiebt diese Grenze.
In unserer Arbeit ziehen wir die Grenze mit einer Frage: Lässt sich die Regel jedes Mal gleich prüfen? Dann prüft sie ein Programm, oder eine fehlende Berechtigung lässt das Werkzeug den Schritt verweigern, egal was in der Anweisung steht. Braucht sie ein Urteil, entwirft das Modell, und ein zweites Modell oder ein Mensch prüft. Bei uns sieht die Aufteilung heute so aus:
- Ein Programm oder eine fehlende Berechtigung entscheidet, wer E-Mails senden darf, ob ein Text Gedankenstriche enthält und ob eine Änderung am Code zusammen mit dem aktuellen Stand ihre Tests besteht.
- Das Modell liest E-Mail-Verläufe und entwirft Antworten, schreibt Code und prüft als zweiter Agent, ob ein Entwurf mehr behauptet, als seine Quellen hergeben.
- Ein Mensch entscheidet, was nach außen geht und welche Version einer Software live geschaltet wird, und er legt neue Regeln und Entscheidungen für die Wissensablage fest.
Prüfen Sie diese Aufteilung, wenn Sie das Modell wechseln. Ein neues Modell folgt mancher Anweisung, die das alte übergangen hat, wie ChatGPT seit November 2025 der Anweisung zu Gedankenstrichen. Es bringt aber auch neue Fehler mit, wie die langen Läufe von 2026 gezeigt haben.
Wo diese Grenze in Ihrem Betrieb verläuft, legen wir in der Einrichtung fest: welche Quellen ein Agent liest, welche Rechte er in Ihren vorhandenen Programmen bekommt und wer was freigibt. Regeln, die eine schriftliche Anweisung nicht tragen kann, bauen wir als Software. Kostenlose Potenzialanalyse vereinbaren