Warum KI in der Softwareentwicklung neue Risiken schafft

KI entwickelt heute Anwendungen, schreibt Programmcode und automatisiert ganze Teile der Softwareentwicklung. Für viele Unternehmen klingt das nach einem grossen Effizienzgewinn: Projekte sollen schneller umgesetzt, Kosten reduziert und fehlende Fachkräfte leichter ersetzt werden. Genau darin liegt jedoch ein wachsendes Risiko. Denn Software entsteht nicht allein durch Geschwindigkeit, sondern vor allem durch Verständnis für Prozesse, Zusammenhänge und langfristige Auswirkungen.

KI kann Aufgaben beschleunigen, aber sie versteht nicht automatisch, welche Folgen technische Entscheidungen später im Unternehmen auslösen. Deshalb wird erfahrene IT nicht unwichtiger, sondern an vielen Stellen sogar entscheidender. Besonders dort, wo Fachbereiche und IT nur unzureichend zusammenarbeiten, verstärkt KI bestehende Probleme sichtbar.

Wenn KI eigenständig Fehler produziert

Wie schnell daraus konkrete Risiken entstehen können, zeigte ein Vorfall rund um den KI- gestützten Entwicklungsdienst Replit im Sommer 2025. Dort hatte ein KI-Agent eigenständig Änderungen an einer produktiven Datenbank vorgenommen und dabei Unternehmensdaten gelöscht. Der Fall sorgte für Aufmerksamkeit, weil er ein grundlegendes Problem moderner KI-Systeme sichtbar machte: Die Systeme wirken häufig kompetent, obwohl sie Zusammenhänge lediglich statistisch ableiten.

Dadurch entsteht in vielen Unternehmen eine gefährliche Wahrnehmungslücke. Entwickler und Fachbereiche erleben, wie schnell neue Anwendungen erstellt werden können, und verbinden dieses Tempo automatisch mit höherer Produktivität. Untersuchungen zeigen jedoch ein deutlich differenzierteres Bild. In einer unabhängigen Studie aus dem Jahr 2025 arbeiteten erfahrene Entwickler mit KI-Unterstützung im Durchschnitt langsamer, obwohl sie gleichzeitig überzeugt waren, schneller zu sein.

Der eigentliche Engpass liegt woanders

Das zentrale Problem liegt dabei nicht im Schreiben von Programmcode. Der Engpass in der Softwareentwicklung war noch nie das reine Tippen. Entscheidend ist vielmehr die Frage, was überhaupt entwickelt werden soll, welche Prozesse berücksichtigt werden müssen und welche Auswirkungen eine technische Entscheidung später im Betrieb hat.

KI kann vorhandene Muster kombinieren und Vorschläge erzeugen. Sie versteht jedoch nicht automatisch, wie Unternehmensabläufe funktionieren oder welche fachlichen Anforderungen tatsächlich gemeint sind. Wenn Anforderungen unklar bleiben, produziert KI deshalb nicht automatisch bessere Ergebnisse, sondern häufig lediglich schneller neue Fehlerquellen.

Anforderungen über den Zaun werfen ist keine Kommunikation. Genau dieses Problem verschärft sich durch KI sichtbar. Denn sobald unklare Vorgaben automatisiert in Software übersetzt werden, entsteht funktionierende Technik, die unter Umständen am eigentlichen Bedarf vorbeiarbeitet.

Warum die Rolle der IT wichtiger wird

Parallel dazu entstehen zusätzliche Sicherheits- und Wartungsrisiken. Anwendungen werden schneller erweitert, gleichzeitig wachsen technische Schulden und komplexe Abhängigkeiten innerhalb der IT-Landschaft. Gerade in Unternehmen mit gewachsenen Systemstrukturen lässt sich KI-generierte Software deshalb häufig nur mit hohem Aufwand kontrollieren.

Die eigentliche Herausforderung liegt damit nicht allein in der Technologie selbst, sondern in der Organisation ihrer Nutzung. Unternehmen benötigen klare Verantwortlichkeiten, funktionierende Abstimmungsprozesse und erfahrene IT-Mitarbeiter, die technische Risiken frühzeitig erkennen können.

Dadurch verändert KI auch die Rolle der IT grundlegend. IT-Abteilungen werden nicht überflüssig. Stattdessen übernehmen sie zunehmend Übersetzungsarbeit zwischen Fachbereich und Technik. Entscheidend ist nicht allein, wie schnell Software entsteht, sondern ob sie im Alltag tatsächlich Wirkung erzeugt. Denn KI kann Software schneller entwickeln. Verstehen, was entwickelt werden soll, bleibt weiterhin eine menschliche Aufgabe.

Über René Schröder

René Schröder ist Gründer und Geschäftsführer der RegSus Consulting GmbH in München. Seit über 20 Jahren begleitet er IT-Transformationen im DACH-Mittelstand sowie in regulierten Branchen wie Energie, Pharma und Finanzdienstleistungen. Sein Schwerpunkt liegt auf der Zusammenarbeit zwischen IT und Fachbereich. Er ist Autor mehrerer Bücher zu IT und Business, zuletzt „E-Mails über den Zaun werfen ist keine Kommunikation“ und „Wir irren uns gern gemeinsam“.

Mehr Informationen unter: https://regsus.de/