KI in der Softwareentwicklung: Wem gehört der Code und wer haftet für Fehler?

Muss ein IT-Dienstleister offenlegen, dass er KI einsetzt?

Ein IT-Dienstleister muss seinem Auftraggeber nicht von sich aus mitteilen, dass er KI einsetzt. Eine direkte gesetzliche Pflicht dazu gibt es nicht, auch nicht im AI Act, der europäischen KI-Verordnung, denn KI ist ein Arbeitswerkzeug des Auftragnehmers. Anders liegt es, wenn die Parteien den Einsatz von Werkzeugen vertraglich geregelt haben.

Die Frage nach der Offenlegung betrifft beide Seiten: Auftragnehmer möchten den KI-Einsatz nicht immer offenlegen, Auftraggeber wollen ihn manchmal sicherstellen oder ausschließen, etwa wegen des Preises.

Verträge über IT-Leistungen sind in der Regel Dienstverträge oder Werkverträge. Geschuldet ist eine Tätigkeit oder ein konkreter Erfolg, etwa ein Entwicklungsergebnis. Wie der Auftragnehmer dorthin kommt, legen Standardverträge meist nicht fest. Strukturiert der Vertrag den Entwicklungsprozess vor, etwa nach der Wasserfallmethode oder nach Scrum, kann er auch die Werkzeuge festlegen.

Wie bei einem Handwerker, dem Sie auch nicht vorschreiben, welchen Hammer er benutzt, gilt: Wer die Werkzeuge festlegen will, muss es vereinbaren.

Auch die Kennzeichnungspflichten nach Art. 50 AI Act ändern daran wenig. Anbieter von KI-Systemen müssen Audio, Video und Text maschinenlesbar kennzeichnen. Für Betreiber gilt, vereinfacht gesagt, eine wahrnehmbare Kennzeichnungspflicht für Text, der die Öffentlichkeit informieren soll. Ein Dienstleister, der KI als Werkzeug einsetzt, ist in der Regel Betreiber. Selbst wenn man Code im weitesten Sinne als Text ansieht, dient beauftragter Softwarecode fast nie der Information der Öffentlichkeit.

Ein Gespräch über den KI-Einsatz wird trotzdem sinnvoll oder sogar nötig, wenn einer dieser Fälle vorliegt:

• Vertragliche Vereinbarung: Der Vertrag regelt, welche Arbeitswerkzeuge der Auftragnehmer einsetzen darf.
• Aufklärungspflicht: Die Konstellation begründet eine Pflicht, den Auftraggeber zu informieren.
• Rechte am Input: Code, Daten oder Geschäftsgeheimnisse des Auftraggebers sollen in die KI gelangen.
• Interesse des Auftraggebers: Der Auftraggeber möchte ausdrücklich wissen, ob und wie KI im Projekt arbeitet.

Statt einer gesetzlichen Offenlegungspflicht entscheiden in der Praxis Setup und Umfang des KI-Einsatzes, allen voran der Input, darüber, ob sich der KI-Einsatz verheimlichen lässt.

Was darf ein Dienstleister in den Prompt geben?

In den Prompt darf ein Dienstleister alles geben, woran keine Rechte Dritter bestehen: eigene Werke zur Überarbeitung, gemeinfreie Inhalte und eigene Prompts. Urheberrechtlich geschützte Werke wie Fachartikel, Fotos, Videos oder Songs gehören ohne entsprechende Rechte nicht hinein.

„Rechte Dritter“ ist dabei weit zu verstehen. Diese drei Kategorien von Inhalten stehen unter Vorbehalt, wenn sie in eine KI eingegeben werden sollen:

• Urheberrechtlich geschützte Werke: Die Eingabe in eine KI ist regelmäßig eine urheberrechtlich relevante Nutzung, weil zumindest anfangs eine Kopie entsteht.
• Personenbezogene Daten: Juristisch streng genommen kein Recht Dritter, aber die Verarbeitung in der KI braucht eine Rechtsgrundlage.
• Geschäftsgeheimnisse und vertrauliche Informationen: Der Auftraggeber will sie geschützt wissen, und oft regeln Verträge ausdrücklich, wie mit ihnen umzugehen ist.

Wie hoch die Anforderungen sind, hängt vom Einsatzzweck ab. Nutzt ein Entwickler die KI als Recherchewerkzeug oder Ersatz für die Google-Suche und gibt nichts Sensibles ein, ist das Risiko gering.

Anders sieht es bei einem typischen Entwicklungsprojekt aus. Ein Auftraggeber möchte aus seiner Software 1.0 eine Version 2.0 machen lassen, und der Code der Version 1.0 soll Teil des Inputs sein. Dann stellt sich sofort die urheberrechtliche Frage, ob der Dienstleister diesen Code in die KI eingeben darf.

Je nach Projekt sind mit der Beauftragung bereits bestimmte Nutzungsrechte übertragen. Bei komplexeren Projekten empfehlen wir einen Vertrag, der die Eingabe in die KI ausdrücklich erlaubt. Sollen personenbezogene Daten in der KI verarbeitet werden, muss das Vertragsverhältnis die Rechtsgrundlage dafür abbilden.

Zu klären ist deshalb, woher der Input stammt und wer Rechte daran hat oder die Nutzung für die KI blockieren kann. Davon hängt ab, ob ein Vertrag oder eine Lizenz die Nutzung im beabsichtigten Umfang absichern muss.

Sobald der Input Rechte des Auftraggebers berührt, lässt sich der KI-Einsatz kaum noch verheimlichen, und die Parteien müssen in einem vom KI-Einsatz abhängigen Umfang vorab klären, was in den Prompt darf und was danach mit den Daten geschieht.

 

Was passiert mit den Daten beim KI-Anbieter?

Betreibt der Dienstleister das Large Language Model (LLM), also das Sprachmodell, nicht auf eigenen Servern, gibt er den Input in der Regel an einen Subdienstleister weiter. Die Pflicht, die Inhalte des Auftraggebers zu schützen, erstreckt sich in der Regel auch auf diese Subdienstleisterkette. Der Vertrag mit dem LLM-Anbieter muss deshalb zu den Zusagen gegenüber dem Auftraggeber passen.

Zwischen Input und Output liegt die Verarbeitung im LLM. Je nach Konstellation ist eine ganze Dienstleisterkette beteiligt, die an Schnittstellen filtert, damit bestimmte Daten nicht bis zum Basismodell gelangen. Im schlimmsten Fall trainiert der KI-Anbieter sein Modell mit den Geschäftsgeheimnissen des Auftraggebers.

Vor dem Einsatz eines LLM-Dienstes in der Leistungserbringung sollte der Auftragnehmer diese Fragen beantworten:

• Wer bekommt den Input vom Dienstleister?
• Was machen die Subdienstleister mit personenbezogenen Daten, urheberrechtlich geschützten Werken und Geschäftsgeheimnissen?
• Deckt die Beauftragung des Subdienstleisters ab, was dem Auftraggeber zugesagt ist?

Ein Instrument dafür ist die Zero-Data-Retention-Vereinbarung. Darin sichert der LLM-Anbieter vertraglich zu, Eingaben nicht zu speichern und sein Modell nicht damit weiterzutrainieren.

Solche Vereinbarungen kosten Geld und spiegeln sich im Preis wider. Wer Geschäftsgeheimnisse des Auftraggebers in ein kostenloses, anonym nutzbares Sprachmodell gibt, riskiert einen Vertragsbruch, erst recht, wenn er mit dem Auftraggeber eine Vertraulichkeitsvereinbarung getroffen hat.

Die Kosten geschützter LLM-Zugänge gehören deshalb von Anfang an in die Kalkulation, damit die Schutzkette vom Auftraggeber bis zum Modell lückenlos hält.

Wer haftet für Fehler bei KI-gestützter Softwareentwicklung?

Für KI-generierten Code haftet der Auftragnehmer, der ihn als Leistungsergebnis oder als Teil davon an seinen Auftraggeber liefert. Diese Ergebnisverantwortung folgt aus dem Vertrag und den klassischen Zurechnungsregeln des geltenden Rechts, nicht erst aus dem AI Act. Sie gilt unabhängig vom eingesetzten Werkzeug. Der Hinweis, die KI habe den Fehler gemacht, entlastet den Auftragnehmer nicht.

Wo die Verantwortung beim KI-Einsatz beginnt und endet, arbeiten die Gerichte gerade erst heraus, und zwar mit unterschiedlichen Ergebnissen. Drei Urteile aus 2026 zeigen die Spannbreite:

• OLG Hamm, Urteil vom 12.05.2026, 4 UKl 3/25 („Aesthetify“): Ein Websitebetreiber haftet für falsche Aussagen seines eigenen KI-Chatbots. Der Bot hatte Geschäftsführer fälschlich als Fachärzte bezeichnet, mit einer nicht vorhandenen Facharztbezeichnung.
• LG München I, Urteil vom 28.05.2026, 26 O 869/26 („Google AI Overview“): Google haftet für eine falsche KI-Übersicht, die Verlage mit Betrugsmaschen, Abofallen und unseriösen Praktiken in Verbindung brachte. Google konnte sich nicht darauf zurückziehen, nur Drittquellen zusammengefasst zu haben.
• LG Berlin II, Urteil vom 01.06.2026, 52 O 62/26 („KI und Duftzwillinge“): Google haftet nicht für eine KI-generierte Markenverletzung. Google hatte fremde Marken nicht direkt als Keywords gebucht. Zu eigen gemacht hatte sich Google die Aussage auch nicht, weil ein Durchschnittsnutzer erkennt, dass eine KI am Werk war.

Eine feste Linie gibt es noch nicht. In der IT-Leistungserbringung sollten Auftragnehmer aber davon ausgehen, dass ein Fehler dem zugerechnet wird, der die KI eingesetzt und den Vertrag über das Ergebnis geschlossen hat.

Auftragnehmer tragen damit das Haftungsrisiko für ihren KI-Code, doch die Haftung ist nur die eine Hälfte: Die andere betrifft die Rechte am Code selbst.

Ist KI-generierter Code urheberrechtlich geschützt?

KI-generierter Code ist nach deutschem Recht grundsätzlich nicht urheberrechtlich geschützt. Er ist ein automatisch erzeugter Inhalt ohne Werkcharakter, weil kein Mensch ihn geschrieben hat. Code, der unverändert aus der KI kommt, ist deshalb nicht schutzfähig.

Für das Urheberrecht an Software und anderen KI-generierten Inhalten gilt diese Einordnung:

Inhalt	Urheberrechtlicher Status
Reproduktion oder Übersetzung eines bestehenden Werks durch die KI	Der Output gehört weiterhin dem ursprünglichen Urheber.
KI-Output, also neu generierte Inhalte wie Code	Mangels Werkcharakter grundsätzlich keine Urheberrechte.
KI-Prompts	Grundsätzlich kein urheberrechtlicher Schutz, da rein technisch-funktional.

Der Fall der Reproduktion ist selten, aber anschaulich: Wer mit KI ein Textverarbeitungsprogramm entwickelt und am Ende Word erhält, hat ein Problem.

Folgenreicher ist der Normalfall des neu generierten Codes. In einem typischen Werkvertrag über Softwareentwicklung erhält der Auftraggeber Nutzungsrechte am Entwicklungsergebnis, ausdrücklich oder stillschweigend. Bei echter Individualentwicklung sind meist sogar exklusive Nutzungsrechte vorgesehen.

Liefert der Auftragnehmer reinen KI-Output, fehlt ein schutzfähiger Gegenstand, an dem er diese Rechte einräumen könnte. Das Leistungsergebnis hat dann einen Rechtsmangel.

Verschärfend wirkt die maschinenlesbare Kennzeichnung, zu der KI-Anbieter nach Art. 50 AI Act verpflichtet sind. Trägt der Output eine solche Kennung, erkennt jeder, der sie auslesen kann, dass es sich um KI-Output handelt. Damit ist nachweisbar, dass keine Nutzungsrechte eingeräumt werden konnten.

Wer exklusive Rechte an KI-generiertem Code zusagt, verspricht also etwas, das er ohne weitere Vorkehrungen im Vertrag oder im Entwicklungsprozess nicht liefern kann.

Wie sichern Auftragnehmer die Rechte am Leistungsergebnis?

Ein Auftragnehmer schuldet Nutzungsrechte an einem Ergebnis, an dem bei reinem KI-Output keine Rechte entstehen. Dieses Problem lässt sich auf zwei Wegen lösen: über den Vertrag oder über den Entwicklungsprozess.

Der erste und einfachste Weg ist ein Vertrag, der die Realität des KI-Einsatzes abbildet. Exklusive Entwicklungsergebnisse mit ausschließlichen Nutzungsrechten pauschal zuzusichern, ist bei KI-gestützter Entwicklung meist keine gute Idee.

KI-gestützte Softwareentwicklung heißt: Entwickler arbeiten mit dem KI-Output weiter und bearbeiten ihn so weit, dass am Ende rechtlich ein menschliches Entwicklungsergebnis steht. Diesen zweiten Weg nutzen Auftragnehmer, um den Code doch schutzfähig zu machen. Im Idealfall erreicht der Code dann die Schöpfungshöhe, also die Schwelle zum urheberrechtlich geschützten Werk.

Diese Bausteine sichern das KI-gestützte Leistungsergebnis rechtlich und wirtschaftlich ab:

• Vertragsregelung zu den Nutzungsrechten: Der Vertrag beschreibt, welche Rechte am Leistungsergebnis bei KI-Einsatz realistisch entstehen.
• Interne Guidelines: Das Entwicklungsteam hat klare Regeln, wofür und wie es KI einsetzt.
• Freigabeprozess: Entwickler bearbeiten den KI-Output, bevor er ins Leistungsergebnis eingeht, und greifen dabei werkschöpfend ein.
• Freistellungsklauseln: Interessen, die sich anders nicht absichern lassen, werden wirtschaftlich über Freistellungen abgedeckt.

Auftraggeber sind gut beraten, den Auftragnehmer vertraglich auf solche Prozesse zu verpflichten. Bei einem gemeinfreien Leistungsergebnis bleibt sonst nur Schadensersatz, das eigentliche Interesse an exklusiver Software ist dann nicht mehr zu erfüllen.

Eine Standardlösung für die Rechte am KI-gestützten Leistungsergebnis gibt es nicht, und selbst ein sauberer Freigabeprozess beseitigt nicht jedes Risiko des KI-Outputs.

Welche Risiken bleiben trotz menschlicher Bearbeitung?

Auch wenn KI-gestützter Code die Schöpfungshöhe erreicht, bleiben typische Risiken von KI-Output bestehen. Die wichtigsten betreffen Open-Source-Lizenzen, Sicherheitslücken und die Nachweispflichten nach dem Cyber Resilience Act (CRA):

• Open-Source-Bestandteile: Je nach Konfiguration des Sprachmodells können Open-Source-Komponenten in den Code einfließen. Infiziert eine Copyleft-Lizenz das Entwicklungsergebnis, unterliegt es plötzlich einer Open-Source-Lizenz, und im klassischen Softwareentwicklungsvertrag liegt ebenfalls ein Rechtsmangel vor.
• Sicherheitsrisiken: KI-generierter Code kann Schwachstellen enthalten oder auf sogenannten Halluzinationen beruhen, also auf plausibel wirkenden, aber falschen Ausgaben. Auch hier kann sich der Auftragnehmer nicht mit dem Hinweis auf die KI aus der Verantwortung ziehen.
• Nachweispflichten nach dem CRA: Für digitale Produkte verlangt der Cyber Resilience Act gegebenenfalls eine vollständige SBOM (Software Bill of Materials, die Stückliste aller Softwarekomponenten), ausführliche Dokumentation und einen bestimmten Sicherheitsstandard.

Der Auftragnehmer muss deshalb nachvollziehen und überprüfen können, was bei der KI-gestützten Entwicklung passiert ist und welche Open-Source-Bestandteile im Code stecken, sonst lassen sich Lizenz- und Sicherheitspflichten nicht verlässlich erfüllen.

Was ändert sich, wenn das Leistungsergebnis selbst ein KI-System ist?

Entwickelt ein Dienstleister mit KI-Unterstützung ein Produkt, das selbst ein Sprachmodell ist, verschieben sich die regulatorischen Anforderungen deutlich. Die Regeln zu Input, Verarbeitung und Output gelten weiter. Für Dienstleister, die KI-Systeme entwickeln, sind zudem diese Pflichten entscheidend:

• Rollenwechsel im AI Act: Wer Kunden ein LLM zur Verfügung stellt, wird vom Dienstleister zum Anbieter und trägt die erweiterten Anbieterpflichten.
• Produkthaftung: Die Anforderungen aus der Produkthaftung gelten wie bei anderer Software.
• Digitales Produkt nach dem CRA: Auch die Pflichten für digitale Produkte nach dem Cyber Resilience Act bleiben bestehen.

Die tatsächlichen Risiken potenzieren sich, wenn KI selbst das Leistungsergebnis ist, und umso wichtiger wird, wie der Dienstleister das Werkzeug KI strukturell einbindet.

Fazit: KI in der Softwareentwicklung braucht Vertrag und Prozess

Rechtssicher wird KI-Softwareentwicklung erst durch das Zusammenspiel zweier Ebenen: die vertragliche Ausgestaltung des KI-Einsatzes im Einzelfall und die interne Struktur beim Auftragnehmer. Die KI einfach machen zu lassen, ist keine gute Idee.

Es braucht Guidelines und einen festen Freigabeprozess, die im Vertrag und im Entwicklungsalltag gleichermaßen verankert sind. Auftraggeber und Auftragnehmer sollten das vor Projektstart klären, denn ein gemeinfreies oder lizenzinfiziertes Ergebnis lässt sich nachträglich nicht reparieren.

 

Häufig gestellte Fragen

Muss ich im Softwareentwicklungsvertrag regeln, ob KI eingesetzt werden darf?

Eine direkte gesetzliche Pflicht, den KI-Einsatz im Softwareentwicklungsvertrag zu regeln, besteht nicht. Je nach Umfang des KI-Einsatzes ist eine Regelung aber sinnvoll oder sogar notwendig. Das gilt vor allem, wenn Code, personenbezogene Daten oder Geschäftsgeheimnisse des Auftraggebers in die KI gelangen sollen oder der Auftraggeber exklusive Nutzungsrechte am Ergebnis erwartet.

Darf ein Dienstleister Kundencode in ChatGPT oder Claude eingeben?

Kundencode darf ein Dienstleister nur in eine KI eingeben, wenn er die nötigen Rechte daran hat. Zudem muss in der Regel auch der Vertrag mit dem KI-Anbieter den vereinbarten Schutz abbilden. Die Eingabe ist regelmäßig eine urheberrechtlich relevante Nutzung, weil zumindest anfangs eine Kopie entsteht. Für Geschäftsgeheimnisse des Auftraggebers scheiden kostenlose, anonym nutzbare Versionen in der Regel aus, weil sonst ein Vertragsbruch droht.

Muss KI-generierter Code nach dem AI Act gekennzeichnet werden?

Wahrnehmbar gekennzeichnet werden muss beauftragter Code in der Regel nicht. Ein IT-Dienstleister, der KI als Werkzeug einsetzt, ist meist Betreiber nach Art. 50 AI Act, und für Betreiber gilt die wahrnehmbare Kennzeichnung vereinfacht gesagt nur für Text, der die Öffentlichkeit informieren soll. KI-Anbieter müssen ihren Output dagegen maschinenlesbar kennzeichnen, was fehlende Nutzungsrechte am Code nachweisbar machen kann.

Was ist Zero Data Retention?

Zero Data Retention ist die vertragliche Zusicherung eines KI-Anbieters, Eingaben nicht zu speichern und sein Modell nicht damit zu trainieren. Für IT-Dienstleister ist sie ein Weg, Daten und Geschäftsgeheimnisse ihrer Auftraggeber auch in der Subdienstleisterkette zu schützen. Solche Vereinbarungen kosten Geld und gehören in die Projektkalkulation.

Wem gehört Code, den eine KI geschrieben hat?

Code, den eine KI ohne menschliche Bearbeitung erzeugt hat, ist nach deutschem Recht grundsätzlich nicht urheberrechtlich geschützt, weil ihm der Werkcharakter fehlt. Schutzfähig werden kann KI-gestützter Code, wenn ein Entwickler ihn so weit bearbeitet, dass ein menschliches Entwicklungsergebnis entsteht.

Was passiert, wenn KI Open-Source-Code mit Copyleft-Lizenz einbaut?

Infiziert eine Copyleft-Lizenz das Entwicklungsergebnis, unterliegt die gelieferte Software einer Open-Source-Lizenz, und im klassischen Werkvertrag über Softwareentwicklung liegt ein Rechtsmangel vor. Für digitale Produkte kann der Cyber Resilience Act zusätzlich eine vollständige SBOM verlangen.