Wie Sie beim KI-Coding die Kontrolle behalten

KI-Softwareentwicklung · 5 min

Illustration: Roboter baut Code innerhalb goldener Leitplanken, eine Hand am Kontrollhebel

Eine Anwendung, die mit einem KI-Werkzeug entstanden ist und im Alltag läuft, muss drei Fragen beantworten können: Was hat sich seit der letzten Version geändert, wer hat es geprüft, und wie kommen wir zurück? Diese drei Fragen entscheiden, ob KI-Tempo ein Vorteil bleibt.

Der begonnene Stand ist dabei ein Gewinn, weil die Idee damit konkret und prüfbar wird. Über den weiteren Wert entscheiden die Stellen im Ablauf, an denen jemand prüfen, nachsehen und zurückgehen kann. Wie solche Stellen aussehen, zeigt XPO Inventory, eine Business-App, die wir für NEO Expo aus dem Messebau entwickelt haben. Dort war früh festgelegt, welche Angaben das System vorschlagen darf und welche ein Mensch setzt.

Codeorganisation zuerst festlegen

KI-Werkzeuge lösen die Aufgabe, die vor ihnen liegt, und sie lösen sie lokal. Ohne Struktur entsteht eine zweite Hilfsfunktion neben der ersten und ein dritter Weg, denselben Wert zu speichern. Es muss also festliegen, wo Datenzugriffe stehen und wo die Regeln eines Ablaufs stehen. In XPO Inventory tragen vier Standorttypen die operative Logik: Lager, LKW, Messestand und Behälter. Jede Bewegung wird als Transaktion geschrieben, vom Wareneingang bis zur Entsorgung. So entsteht ein Prüfpfad, den niemand nachträglich zusammensuchen muss.

Den Tech Stack begrenzen

KI kann für fast jedes Problem eine weitere Bibliothek vorschlagen, und am Tag der Einführung ist jede davon kostenlos. Bezahlt wird später, in Updates und in der Frage, wer die Besonderheit in zwei Jahren noch kennt. XPO Inventory steht deshalb auf wenigen verbreiteten Bausteinen, im Kern Next.js und PostgreSQL. Ein enger Baukasten ist die Bedingung dafür, dass eine KI innerhalb bekannter Muster arbeitet.

Linting und Typechecking als harte Grenze

Ob KI-Code richtig ist, sieht man ihm nicht an. Linting und Typechecking laufen bei jeder Änderung, sie ermüden nicht, und sie finden unsichere Typannahmen, bevor jemand sie im Betrieb bemerkt. Sortieren lässt sich die Arbeit mit einer Frage: Kann eine Maschine entscheiden, ob das richtig ist? Wenn ja, gehört die Prüfung in die Automatik. Wenn nein, braucht sie einen Menschen mit Urteil, und das ist die knappe Ressource.

Wie stark KI die Entwicklung beschleunigt, ist offen. In einer Studie von METR brauchten 16 erfahrene Entwickler für 246 Aufgaben mit den Werkzeugen von Anfang 2025 rund 19 % länger als ohne, während der DORA-Bericht 2025 von Google bei knapp 5.000 Befragten höheren Durchsatz und zugleich schwächere Auslieferungsstabilität misst; 30 % vertrauen KI-Code wenig oder gar nicht. Das Tempo hängt am umgebenden System, nicht am Werkzeug allein.

Tests schützen gegen überzeugende Fehler

KI-Code sieht selten falsch aus, und genau das macht seine Fehler gefährlich. Eine falsch gerundete Summe fällt auf; eine Berechtigungsprüfung, die einen Fall zu wenig abdeckt, fällt monatelang niemandem auf. Nicht jede Änderung braucht eine große Testsuite, aber jede Regel, an der Geld, Termine oder Zugriffsrechte hängen, braucht einen Test. In XPO Inventory gehören Ende-zu-Ende-Tests zur Grundlage der Anwendung, und beim Abgleich offline erfasster Buchungen prüft der Server dieselben Bestands- und Reservierungsregeln wie online.

Sechs Fragen, die Sie ohne Programmierkenntnisse stellen können

Ob ein Projekt unter Kontrolle ist, lässt sich ohne eine Zeile Code prüfen. Stellen Sie diese Fragen im nächsten Gespräch; die Antworten sagen mehr als jede Demo.

Wer hat die letzte Änderung geprüft, und woran hat diese Person das erkannt?
Zeigen Sie mir alle Änderungen der letzten vier Wochen, mit Datum und Freigabe.
Wie lange dauert es, die vorherige Version wiederherzustellen?
Welche Prüfungen laufen vor jedem Livegang, und was passiert bei einem Fehlschlag?
Welche Angaben darf die KI vorschlagen, und welche setzt ein Mensch?
Wo liegen Code und Zugänge, und könnte morgen jemand anders übernehmen?

Wenn eine Antwort nur beschrieben, aber nicht vorgeführt werden kann, fehlt der Nachweis.

Welche Entscheidungen bei Menschen bleiben

Das Ziel, das Datenmodell, die Sicherheitsanforderungen und die Frage, woran das fertige Ergebnis erkennbar ist, gehören zu Menschen. Die KI entwirft, schreibt, baut um und erklärt. Eine Regel aus unserer eigenen Arbeit: Ein System darf einen Wert vorschlagen, aber nicht stillschweigend setzen, wenn ein späterer Schritt mit diesem Wert weiterrechnet. In XPO Inventory schlägt die Bildanalyse aus einem Artikelfoto Name, Beschreibung, Farbe, Kategorie und Einheit vor, während Maße und Menge manuell bleiben. Am Ende verantwortet ein Mensch mit Namen, was live geht.

Den größeren Zusammenhang beschreibt der Leitfaden Software mit KI entwickeln, und wo KI im Betrieb sonst trägt, zeigt KI im Unternehmen einsetzen. Wenn Sie eine begonnene Anwendung prüfen und auf einen klaren Weg bringen möchten, sprechen Sie direkt mit dem Entwickler.

Woran erkenne ich ohne Programmierkenntnisse, ob ein Softwareprojekt unter Kontrolle ist?

Achten Sie auf vier Dinge, die sich vorführen lassen: eine Liste der Änderungen mit Datum und Freigabe, automatische Prüfungen vor jedem Livegang, einen geübten Weg zurück zur vorherigen Version und eine Festlegung, welche Werte ein Mensch selbst setzt. Wenn eine Antwort nur beschrieben, aber nicht vorgeführt werden kann, fehlt der Nachweis.

Muss jede von KI geschriebene Zeile geprüft werden?

Nein, die Prüftiefe folgt dem Risiko. Entscheidend sind Reichweite, Datensensibilität, Umkehrbarkeit und Häufigkeit einer Änderung. Ein Textbaustein auf einer internen Seite braucht weniger Aufmerksamkeit als eine Berechtigungsprüfung. Alles gleich streng zu prüfen kostet den Zeitgewinn wieder auf, gar nicht zu prüfen holt das volle Risiko ins Haus.

Wir haben eine Anwendung mit einem KI-Werkzeug begonnen und kommen nicht weiter. Ist die Arbeit verloren?

Die begonnene Arbeit macht die Idee konkret und gibt Ihnen etwas, das sich prüfen lässt. Erst eine Bestandsaufnahme zeigt, was davon trägt. Danach gibt es vier ehrliche Wege: auf der jetzigen Basis weiterarbeiten, vereinfachen, einzelne Teile neu bauen oder das Vorhaben beenden. Lassen Sie jeden Vorschlag mit seinen Gründen und Folgen festhalten.

Wird Entwicklung mit KI wirklich schneller?

Nicht automatisch. Unabhängige Messungen aus dem Jahr 2025 zeigen beides: erfahrene Entwickler, die mit KI-Werkzeugen langsamer wurden, und Teams mit höherem Durchsatz bei schwächerer Auslieferungsstabilität. Schnell wird es dort, wo Struktur, automatische Prüfungen und Tests die Prüfarbeit tragen; das Umfeld entscheidet, nicht das Werkzeug allein.