Wie Sie beim KI-Coding die Kontrolle behalten

Engineering · 5 min

Illustration: Roboter baut Code innerhalb goldener Leitplanken, eine Hand am Kontrollhebel

Ein Inhaber zeigt uns eine Anwendung, die in wenigen Wochen mit einem KI-Werkzeug entstanden ist. Sie läuft, zwei Kollegen arbeiten täglich damit. Dann kommt der Montag, an dem eine Zahl im Bericht nicht stimmt, und die Frage im Raum hat mit Programmieren wenig zu tun: Was hat sich seit Freitag geändert, wer hat es geprüft, und wie kommen wir zurück?

Diese drei Fragen entscheiden, ob KI-Tempo ein Vorteil bleibt.

Der begonnene Stand ist dabei ein Gewinn, weil die Idee damit konkret und prüfbar wird. Über den weiteren Wert entscheiden die Stellen im Ablauf, an denen jemand prüfen, nachsehen und zurückgehen kann. Wie solche Stellen aussehen, zeigt XPO Inventory, eine Business-App, die wir für NEO Expo aus dem Messebau entwickelt haben. Dort war früh festgelegt, welche Angaben das System vorschlagen darf und welche ein Mensch setzt.

Codeorganisation zuerst festlegen

KI-Werkzeuge lösen die Aufgabe, die vor ihnen liegt, und sie lösen sie lokal. Ohne Struktur entsteht eine zweite Hilfsfunktion neben der ersten und ein dritter Weg, denselben Wert zu speichern. Es muss also festliegen, wo Datenzugriffe stehen und wo die Regeln eines Ablaufs stehen. In XPO Inventory tragen vier Standorttypen die operative Logik: Lager, LKW, Messestand und Behälter. Jede Bewegung wird als Transaktion geschrieben, vom Wareneingang bis zur Entsorgung. So entsteht ein Prüfpfad, den niemand nachträglich zusammensuchen muss.

Den Tech Stack begrenzen

KI kann für fast jedes Problem eine weitere Bibliothek vorschlagen, und am Tag der Einführung ist jede davon kostenlos. Bezahlt wird später, in Updates und in der Frage, wer die Besonderheit in zwei Jahren noch kennt. XPO Inventory steht deshalb auf wenigen verbreiteten Bausteinen, im Kern Next.js und PostgreSQL. Ein enger Baukasten ist die Bedingung dafür, dass eine KI innerhalb bekannter Muster arbeitet.

Linting und Typechecking als harte Grenze

Ob KI-Code richtig ist, sieht man ihm nicht an. Linting und Typechecking laufen bei jeder Änderung, sie ermüden nicht, und sie finden unsichere Typannahmen, bevor jemand sie im Betrieb bemerkt. Sortieren lässt sich die Arbeit mit einer Frage: Kann eine Maschine entscheiden, ob das richtig ist? Wenn ja, gehört die Prüfung in die Automatik. Wenn nein, braucht sie einen Menschen mit Urteil, und das ist die knappe Ressource.

Wie stark KI die Entwicklung beschleunigt, ist offen. In einer Studie von METR brauchten 16 erfahrene Entwickler für 246 Aufgaben mit den Werkzeugen von Anfang 2025 rund 19 % länger als ohne, während der DORA-Bericht 2025 von Google bei knapp 5.000 Befragten höheren Durchsatz und zugleich schwächere Auslieferungsstabilität misst; 30 % vertrauen KI-Code wenig oder gar nicht. Das Tempo hängt am umgebenden System, nicht am Werkzeug allein.

Tests schützen gegen überzeugende Fehler

KI-Code sieht selten falsch aus, und genau das macht seine Fehler gefährlich. Eine falsch gerundete Summe fällt auf; eine Berechtigungsprüfung, die einen Fall zu wenig abdeckt, fällt monatelang niemandem auf. Nicht jede Änderung braucht eine große Testsuite, aber jede Regel, an der Geld, Termine oder Zugriffsrechte hängen, braucht einen Test. In XPO Inventory gehören Ende-zu-Ende-Tests zur Grundlage der Anwendung, und beim Abgleich offline erfasster Buchungen prüft der Server dieselben Bestands- und Reservierungsregeln wie online.

Sechs Fragen, die Sie ohne Programmierkenntnisse stellen können

Ob ein Projekt unter Kontrolle ist, lässt sich ohne eine Zeile Code prüfen. Stellen Sie diese Fragen im nächsten Gespräch; die Antworten sagen mehr als jede Demo.

Wer hat die letzte Änderung geprüft, und woran hat diese Person das erkannt?
Zeigen Sie mir alle Änderungen der letzten vier Wochen, mit Datum und Freigabe.
Wie lange dauert es, die vorherige Version wiederherzustellen?
Welche Prüfungen laufen vor jedem Livegang, und was passiert bei einem Fehlschlag?
Welche Angaben darf die KI vorschlagen, und welche setzt ein Mensch?
Wo liegen Code und Zugänge, und könnte morgen jemand anders übernehmen?

Wenn eine Antwort nur beschrieben, aber nicht vorgeführt werden kann, fehlt der Nachweis.

Menschen entscheiden, KI beschleunigt

Das Ziel, das Datenmodell, die Sicherheitsanforderungen und die Frage, woran das fertige Ergebnis erkennbar ist, gehören zu Menschen. Die KI entwirft, schreibt, baut um und erklärt. Eine Regel aus unserer eigenen Arbeit: Ein System darf einen Wert vorschlagen, aber nicht stillschweigend setzen, wenn ein späterer Schritt mit diesem Wert weiterrechnet. In XPO Inventory schlägt die Bildanalyse aus einem Artikelfoto Name, Beschreibung, Farbe, Kategorie und Einheit vor, während Maße und Menge manuell bleiben. Am Ende verantwortet ein Mensch mit Namen, was live geht.

Den größeren Zusammenhang beschreibt der Leitfaden Software mit KI entwickeln, und wo KI im Betrieb sonst trägt, zeigt KI im Unternehmen einsetzen. Wenn Sie eine begonnene Anwendung prüfen und auf einen klaren Weg bringen möchten, sprechen Sie direkt mit dem Entwickler.

Woran erkenne ich ohne Programmierkenntnisse, ob ein Softwareprojekt unter Kontrolle ist?

Achten Sie auf vier Dinge, die sich vorführen lassen: eine Liste der Änderungen mit Datum und Freigabe, automatische Prüfungen vor jedem Livegang, einen geübten Weg zurück zur vorherigen Version und eine Festlegung, welche Werte ein Mensch selbst setzt. Wenn eine Antwort nur beschrieben, aber nicht vorgeführt werden kann, fehlt der Nachweis.

Muss jede von KI geschriebene Zeile geprüft werden?

Nein, die Prüftiefe folgt dem Risiko. Entscheidend sind Reichweite, Datensensibilität, Umkehrbarkeit und Häufigkeit einer Änderung. Ein Textbaustein auf einer internen Seite braucht weniger Aufmerksamkeit als eine Berechtigungsprüfung. Alles gleich streng zu prüfen kostet den Zeitgewinn wieder auf, gar nicht zu prüfen holt das volle Risiko ins Haus.

Wir haben eine Anwendung mit einem KI-Werkzeug begonnen und kommen nicht weiter. Ist die Arbeit verloren?

Die begonnene Arbeit macht die Idee konkret und gibt uns etwas, das wir prüfen können. Erst diese Prüfung zeigt, was davon trägt. Danach gibt es vier ehrliche Wege. Sie können auf der jetzigen Basis weiterarbeiten, vereinfachen, einzelne Teile neu bauen oder das Vorhaben beenden.

Wird Entwicklung mit KI wirklich schneller?

Das hängt am Umfeld. In der METR-Studie brauchten 16 erfahrene Entwickler mit den Werkzeugen von Anfang 2025 rund 19 % länger als ohne, während der DORA-Bericht von Google im selben Jahr höheren Durchsatz und zugleich schwächere Auslieferungsstabilität misst. Schnell wird es dort, wo Struktur, Prüfungen und Tests die Prüfarbeit tragen.