Auf dieser Seite
Zählt mit KI nur noch das Ergebnis? Sieben Einwände und meine Antworten
Als Software Product Engineer für E-Commerce arbeite ich täglich mit KI-Agenten, und als Gastdozent unterrichte ich Studierende in Webentwicklung. In beiden Rollen höre ich dieselbe Frage: Wenn die KI den Code schreibt, ist es dann nicht egal, wie Software entsteht, solange das Ergebnis stimmt?
Zum Teil ja. Bei Code, der wirklich weggeworfen wird, etwa einem Skript für eine einmalige Auswertung, zählt nur das Ergebnis. Prototypen gehören nur dazu, solange sie nicht in Betrieb gehen, und das tun überzeugende Prototypen erstaunlich oft. Für alles andere verschiebt diese Haltung das Problem nur: Jemand muss feststellen, dass das Ergebnis stimmt.
Die Beispiele in diesem Artikel sind erfunden. Die Fehlerbilder dahinter sind typisch für generierten Code.
1. „Der Weg ist egal, solange das Ergebnis stimmt.“
Als Ziel ist das richtig. Nur sieht man einem Ergebnis selten an, ob es stimmt. Eine Demo zeigt, dass etwas funktioniert. Sie zeigt nicht, ob es sicher ist, personenbezogene Daten schützt, für alle bedienbar ist, unter Last hält, sich ändern lässt und bezahlbar läuft.
Ein Beispiel: Eine generierte Mitgliedersuche für eine Stadtbibliothek funktioniert in der Demo mit zwanzig Testdatensätzen tadellos. Mit zweihunderttausend Mitgliedern durchsucht jede Anfrage den gesamten Bestand, weil der Index fehlt. Einzeln fällt das kaum auf. Wenn morgens viele gleichzeitig suchen, wird die Seite aber spürbar langsam. Und die Antwort enthält neben dem Namen auch Adresse und Geburtsdatum, weil der Code einfach den kompletten Datensatz des Mitglieds zurückgibt. Auf der Oberfläche sieht man davon nichts, erst in den Entwicklerwerkzeugen des Browsers oder bei einem Lasttest. Beides findet nur, wer weiß, wo man nachsehen muss.
Tests helfen, aber sie prüfen nur, was vorher jemand festgelegt hat. In der Mitgliedersuche hätten zwei Festlegungen beide Fehler gefangen: ein Test mit realistischer Datenmenge und eine Vorgabe, welche Felder die Antwort enthalten darf. Darauf muss man aber erst kommen. „Das Ergebnis stimmt“ ist deshalb kein Zustand, sondern ein Urteil. Und für dieses Urteil braucht man Fachwissen.
2. „Die KI wird doch immer besser.“
Ja, und ihre Fehler werden seltener. Sie werden aber auch plausibler. Ein Fehler, der wie richtiger Code aussieht und den ersten Test besteht, ist schwerer zu finden als einer, der sofort abstürzt.
Ein typischer Fall: Das Rückgabedatum einer Ausleihe wird in UTC berechnet statt in der Ortszeit der Bibliothek. Die Tests laufen tagsüber und sind grün. Wer aber kurz nach Mitternacht nachsieht, bekommt ein Datum, das um einen Tag danebenliegt. Der Code ist sauber geschrieben, gut benannt und falsch. Ein Test, der die Uhr auf 0:30 Uhr stellt, findet den Fehler sofort. Schreiben wird ihn aber nur, wer Zeitzonen als Fehlerquelle kennt.
Dazu kommt ein gut erforschter Effekt aus der Automatisierung, der Automation Bias: Je zuverlässiger ein System wirkt, desto weniger prüfen Menschen nach und desto eher übernehmen sie seine Vorschläge auch dann, wenn sie falsch sind. Die guten Ergebnisse der letzten Wochen sind kein Beleg für das nächste.
Einen Fehler behebt auch das beste Modell nicht: die falsch verstandene Anforderung. Sie wird nur schneller und überzeugender umgesetzt. Deshalb schreibe ich vor jeder nennenswerten Umsetzung eine kurze Spezifikation.
3. „Dann prüft eben eine zweite KI.“
Automatische Prüfungen sind sinnvoll. In meiner Fertigungsstraße laufen Kompilieren, Linting und Tests aus der Spezifikation bei jeder Änderung, und eine zweite KI als Reviewer ist eine naheliegende Ergänzung. Das Problem lösen sie aber nicht ganz.
Eine zweite KI prüft vor allem, ob der Code in sich stimmig ist. Ob er das Richtige tut, kann sie nur gegen einen Maßstab prüfen, und den muss jemand aufgeschrieben haben. Zurück zur Stadtbibliothek: Mitglieder sollen alle Ausleihen mit einem Klick verlängern können. Fernleihen gehören aber anderen Bibliotheken und dürfen nicht verlängert werden. Steht das nirgends, verlängert die generierte Funktion sie mit. Eine zweite KI findet diesen Fehler bestenfalls zufällig, wenn sie von sich aus nach Sonderfällen fragt. Verlassen kann man sich darauf nicht, denn der Code tut genau, was verlangt war. Nur das Verlangte war unvollständig.
Zwei Modelle machen außerdem oft ähnliche Fehler, weil sie aus ähnlichen Daten gelernt haben. Jemand muss festlegen, wonach geprüft wird, und entscheiden, welchem Ergebnis man glaubt, wenn zwei Prüfungen sich widersprechen. Und verantwortlich ist am Ende nicht das Modell, sondern wer die Software betreibt, gegenüber Kundschaft, Behörden und im Zweifel vor Gericht.
4. „Dann muss man nicht mehr programmieren lernen.“
Manches verliert tatsächlich an Wert: Syntax auswendig kennen, Boilerplate abtippen, die Parameter einer API im Kopf haben. Anderes gewinnt: Anforderungen klären, Code lesen, Fehler eingrenzen, Entwürfe beurteilen.
Lesen und Schreiben lernt man aber zusammen: Wer selbst geschrieben hat, kennt die Stellen, an denen man sich vertut, und liest genauer. Rechnen lernt man trotz Taschenrechner, weil man sonst nicht merkt, wenn ein Ergebnis um eine Zehnerpotenz danebenliegt. Wer nur generieren lässt, steht beim ersten echten Fehler ohne Werkzeug da: Der Assistent schlägt die dritte Korrektur vor, und niemand kann beurteilen, welche stimmt. Einen Stacktrace lesen, eine Anfrage in den Entwicklerwerkzeugen des Browsers nachvollziehen, einen Fehler mit einem kleinen Test eingrenzen, das bleibt Handwerk.
In meinem Kurs ist KI trotzdem durchgehend erlaubt, mit einer Regel: Wer Code abgibt, muss ihn erklären können. Ob das Verständnis da ist, prüfe ich in Quiz, Reviews und Präsentationen. Warum ich dafür einen Stack mit wenig Magie wähle, habe ich an anderer Stelle beschrieben.
5. „Das Wissen veraltet doch sowieso.“
Frameworks veralten, Grundlagen kaum. HTTP, Statuscodes, semantisches HTML, Formulare, Sessions, die Trennung von Server und Browser, Transaktionen und Indizes gibt es seit Jahrzehnten. Wer sie versteht, erkennt sie in jedem neuen Framework wieder, und in jedem generierten Code.
Mit KI verschiebt sich, welches Wissen sich lohnt: weg von „Wie schreibe ich das?“, hin zu „Woran erkenne ich, ob das stimmt?“. Wie eine Abfrage in einem bestimmten Framework aussieht, liefert der Assistent auf Nachfrage, allerdings mit dem Wissensstand seines Trainings und manchmal für eine ältere Version. Wer die Grundlagen kennt und in der Dokumentation nachsieht, merkt das. Dass eine Schleife mit einer Datenbankabfrage pro Durchlauf bei tausend Einträgen tausend Abfragen bedeutet, muss man selbst sehen. Ein Urteil, ob eine Lösung zum Problem passt, liefert der Assistent zwar auch, oft gut begründet. Ob es stimmt, kann aber nur beurteilen, wer das Problem selbst versteht.
6. „Wartbarkeit ist egal, die KI schreibt den Code einfach neu.“
Für kleine, abgegrenzte Teile stimmt das manchmal, und dann ist Neuschreiben auch die richtige Wahl. Software besteht aber nicht nur aus Code. Sie hat Daten, Schnittstellen, Nutzer:innen und Systeme, die sich auf ihr Verhalten verlassen, auch auf Verhalten, das nirgends dokumentiert ist.
Ein Neuschreiben muss all das erhalten. Ohne Tests und Spezifikation merkt niemand, was dabei verloren geht, bis sich jemand beschwert. Gespeicherte Daten müssen weiter passen, und jede neue Fassung muss wieder geprüft werden.
Wartbarkeit bekommt mit Agenten sogar eine zusätzliche Bedeutung. Eine klare Struktur, sprechende Namen und ein Leitfaden im Repository helfen einem Agenten genauso wie einem Menschen. In unübersichtlichem Code rät er mehr, und geratener Code ist genau der, der plausibel aussieht und trotzdem falsch ist.
Ein Risiko zeigt kein einzelner Pull Request. Ein Agent löst die Aufgabe, die er bekommt, nicht die des ganzen Systems. Er schreibt eine Hilfsfunktion neu, die es schon gibt, oder greift aus der Oberfläche direkt auf die Datenbank zu. Jede Änderung ist für sich vertretbar, und trotzdem zerfällt mit der Zeit die Struktur. Einen Teil davon fangen Architekturregeln als Tests ab. Ob ein Schnitt fachlich stimmt, muss weiterhin ein Mensch beurteilen.
7. „Dann werden Entwickler:innen überflüssig.“
Das kann niemand seriös vorhersagen, ich auch nicht. Sichtbar ist bisher eine Verschiebung: weniger Tippen, mehr Entscheiden. Was gebaut wird, wie es mit dem Bestehenden zusammenpasst, wann es fertig ist und wer dafür einsteht, nimmt einem keine KI ab.
Ein Teil der Arbeit wird dadurch anspruchsvoller. Agenten liefern in derselben Zeit mehr Code, als ich selbst schreiben könnte. Der Engpass liegt deshalb im Review: Mehr parallele Aufgaben, als ich sorgfältig prüfen kann, bringen nichts. Und auch dieses Prüfen gelingt nur mit dem Wissen, das angeblich egal geworden ist.
Damit verschiebt sich das Berufsfeld. Wenn das Schreiben von Code billiger wird, steigt der Wert dessen, was davor und danach liegt: verstehen, welches Problem ein Produkt lösen soll, Anforderungen hinterfragen, entscheiden, was gebaut wird und was nicht, und dafür sorgen, dass das Ergebnis im Betrieb trägt. Auch deshalb verstehe ich mich heute als Software Product Engineer: Ich verbinde Produkt und Technik, von der Frage, ob etwas gebaut werden sollte, bis zur Software, die es tut.
Worauf es ankommt
Die Frage ist nicht, ob Menschen oder Maschinen den Code schreiben. Die Frage ist, wer beurteilen kann, ob er stimmt. Je mehr auf dem Spiel steht, desto wichtiger wird diese Fähigkeit: bei Geld, Daten, Sicherheit oder einem System, das zehn Jahre laufen soll.
Für Code, der wirklich weggeworfen wird, reicht das Ergebnis. Für alles andere muss es jemand beurteilen können.
Thema für Ihr Projekt?
Passende Leistung: Agentische Entwicklung einführen. Schildern Sie mir kurz, worum es geht. Ich melde mich mit einer ersten Einschätzung.
Projekt anfragen