Wer prüft die KI? Das Vier-Augen-Prinzip für KI-Agenten

Am 25. August 2026 haben wir in unserer eigenen Vertriebsarbeit eine Auswahlregel geändert: Bis zu welcher Unternehmensgröße sprechen wir mögliche Kunden aktiv an? Ein KI-Agent bekam die Entscheidung und arbeitete sie in sechs interne Dokumente ein. Das Ergebnis las sich sauber. Ein einziger Satz darin hätte die neue Regel trotzdem im Alltag wieder abgeschafft: Er legte fest, dass die Recherche weiterhin an der alten Grenze aussortiert. Jedes Unternehmen, das die neue Regel hätte durchlassen sollen, wäre nie bis zu ihr vorgedrungen.

Gefunden hat diesen Satz nicht der Agent, der ihn geschrieben hat. Gefunden hat ihn ein zweiter Agent, der am ersten Entwurf nicht beteiligt war.

Warum KI-Arbeit sich nicht selbst prüfen kann

Wer einen Text selbst geschrieben hat, liest ihn so, wie er gemeint war. Was tatsächlich dasteht, tritt beim eigenen Nachlesen dahinter zurück. Das gilt für Menschen und ebenso für KI-Agenten: Der Autor eines Ergebnisses bestätigt beim Prüfen vor allem die eigene Absicht. Dazu kommt eine Eigenheit, die KI-Fehler tückischer macht als Tippfehler. KI-Arbeit scheitert meist leise, mit einem Satz, der vernünftig klingt, in den Zusammenhang passt und trotzdem das Gegenteil des Gewollten bewirkt. Einen solchen Satz übersieht jede Rechtschreibprüfung, und der Autor übersieht ihn am längsten.

Die Antwort darauf gibt es im Betrieb seit jeher: das Vier-Augen-Prinzip. Wer eine Rechnung prüft, sollte sie nicht selbst erstellt haben. Genau so lassen wir KI-Arbeit prüfen, von einem zweiten KI-Agenten, der an der Arbeit unbeteiligt war. Wir nennen ihn im Folgenden schlicht den Prüfer.

Neu ist an diesem Prinzip nur seine Reichweite. Zwischen Menschen bleibt das zweite Augenpaar knapp: Jede Zahl eines Berichts unabhängig nachzurechnen war immer möglich und ist aus Kostengründen praktisch nie geschehen. Ein Prüf-Agent macht diese Gründlichkeit bezahlbar, denn er ist bei der zweihundertsten Zahl so aufmerksam wie bei der ersten.

Feste Regeln zuerst, Urteil danach

Der Prüfer ist die zweite von zwei Kontrollstufen, und die Unterscheidung ist wichtig. Die erste Stufe sind formale Kontrollen. Das sind feste Regeln, die ein Programm ohne Ermessen prüft: etwa, ob jedes Pflichtfeld gefüllt ist, ob ein Entwurf sein Längenlimit einhält und ob jede Behauptung eine Quelle trägt. Solche Kontrollen kosten fast nichts und laufen bei jedem Durchgang identisch ab; was sie einmal finden, finden sie immer.

Der Satz vom 25. August hätte jede dieser Kontrollen anstandslos passiert. Er stand im richtigen Dokument, war vollständig und sauber formuliert; er widersprach nur der getroffenen Entscheidung. Ob ein Satz das tut und ob eine Quelle das Behauptete wirklich hergibt, lässt sich nicht in eine feste Regel fassen. Das braucht Urteil, und genau dort beginnt die Arbeit des Prüfers. Die Reihenfolge ist bewusst gewählt: Erst räumen die formalen Kontrollen die einfachen Fehler ab, dann bekommt der Prüfer eine Arbeit vorgelegt, in der nur noch die Fragen offen sind, die Urteil verlangen.

Wie der Prüfer arbeitet

Der Prüfer weiß bewusst nichts von der Entstehung der Arbeit. Er sieht genau zwei Dinge: die Entscheidung, wie sie der Inhaber formuliert hat, und die fertigen Dokumente, wie sie am Ende tatsächlich dastehen. Diese Blindheit ist der Kern des Verfahrens, denn so liest der Prüfer den Text wie später ein Außenstehender, ohne das Wissen, wie er gemeint war.

Drei Regeln machen aus dem zweiten Blick eine belastbare Prüfung:

• Kein Befund ohne Beleg: Der Prüfer muss zu jedem Fund den genauen Satz zitieren, den er beanstandet; „Das wirkt unklar“ zählt nicht. Die Regel steht wörtlich in unserer internen Prüfanleitung, und der Fall vom 25. August zeigt ihren Wert: Jeder der 13 Befunde kam mit dem beanstandeten Satz im Wortlaut zurück. Das machte die Korrektur zum Handgriff statt zur Suche.
• Jeder Prüfpunkt bekommt ein Urteil: Der Prüfer arbeitet eine feste Liste ab und schreibt zu jedem Punkt ein Ergebnis auf, auch „in Ordnung“. So kann Schweigen nie verdecken, dass ein Punkt gar nicht geprüft wurde.
• Der Prüfer ändert nichts: Er findet, und der Autor korrigiert danach. Diese Trennung ist eine bewusste Entscheidung, obwohl es schneller ginge, wenn der Prüfer gleich selbst eingriffe. Ein Prüfer, der korrigiert, wird zum zweiten Autor und bräuchte dann selbst wieder einen Prüfer.

Im Fall vom 25. August lieferte der Prüfer 13 Befunde mit Beleg. 2 davon waren gravierend: der eingangs beschriebene Satz, der die neue Regel ausgehebelt hätte, und ein Hinweis, der noch die alte Fassung für maßgeblich erklärte. 11 weitere waren kleiner, etwa eine an einer Stelle fehlende Bedingung der Entscheidung. Der Autor hat alle korrigiert, danach liefen die formalen Kontrollen erneut. Erst dann wurde das Ergebnis übernommen.

Wer prüft den Prüfer?

Eine Prüfliste kann in zwei Richtungen falsch sein: zu lasch oder zu streng. Deshalb testen wir den Prüfer, bevor er echte Arbeit sieht, mit zwei vorbereiteten Fällen. Der erste ist ein bekannt gutes Stück Arbeit; ein tauglicher Prüfer lässt es mit höchstens Kleinigkeiten passieren. Der zweite ist ein absichtlich fehlerhaftes Stück mit versteckten, vorher dokumentierten Fehlern (die Auflösung liegt in einem eigenen Dokument, das der Prüfer erst nach seinem Urteil öffnen darf; wer die Fehlerliste vorher kennt, prüft nicht mehr, sondern hakt nur noch ab). Übersieht der Prüfer auch nur einen der versteckten Fehler, schärfen wir die Prüfliste nach und wiederholen den Test.

Das klingt nach Aufwand, ist aber derselbe Gedanke wie eine Brandschutzübung: Man testet den Schutz, bevor es brennt.

Der Mensch bleibt das letzte Tor

Bei allem, was das Verfahren leistet, ersetzt es eine Sache ausdrücklich nicht: die menschliche Freigabe. Bei uns geht nichts nach außen, das nur von KI geprüft wurde: Keine Nachricht wird versendet, keine Änderung geht live, ohne dass ein Mensch sie freigegeben hat. Die Prüfung durch den zweiten Agenten hat einen anderen Zweck. Beim Menschen kommt nur noch Arbeit an, deren handwerkliche Fehler bereits gefunden sind, und er kann sich auf die geschäftliche Entscheidung konzentrieren.

Wie viel Absicherung eine Aufgabe verdient, entscheidet dieser Artikel bewusst nicht. Eine E-Mail an einen langjährigen Kunden mag mit weniger auskommen als eine Regel, die dauerhaft über Angebote entscheidet. Für diese Abwägung haben wir aufgeschrieben, wie man den Prüfaufwand am Risiko ausrichtet.

Woran Sie ein belastbares Prüfverfahren erkennen

Wenn ein Dienstleister oder Ihr eigenes Team KI-Arbeit für Sie erledigt, genügen fünf Fragen, um die Qualitätssicherung einzuschätzen:

1. Prüft dieselbe KI ihre eigene Arbeit, oder ein zweiter, unbeteiligter Agent?
2. Muss die Prüfung Belege liefern, ein Zitat oder eine Quelle zu jedem Befund?
3. Wurde das Prüfverfahren selbst getestet, etwa mit einem Fall, dessen Fehler vorher bekannt waren?
4. Was geschieht mit Befunden: Was stoppt die Arbeit sofort, was wird später behoben, was entscheiden Sie? Hilfreich ist hier, vorher festzulegen, woran Sie ein richtiges Ergebnis überhaupt erkennen.
5. An welcher Stelle geben Sie frei, und kann die KI diese Stelle umgehen?

Wer auf die erste Frage „die KI prüft sich selbst“ hört, hat genug gehört.

Ein plausibel klingender Satz, der eine Geschäftsregel unbemerkt aushebelt, ist nach unserer Erfahrung der gefährlichste Fehler von KI-Arbeit. Ob er auch der häufigste ist, hängt von der Aufgabe ab und bleibt offen. Sicher ist: Abhilfe schafft in erster Linie der Ablauf, nicht das nächste Modell. Wo dieser Prüfschritt beim Bau eines Agenten hingehört, steht in KI-Agenten erstellen: No-Code-Plattform oder Code?. Wenn Sie wissen möchten, wie das für Ihre eigenen KI-Aufgaben aussieht, sprechen wir über den konkreten Ablauf.