KI-Agenten im Unternehmen: Wie viel Autonomie rechtlich vertretbar ist

Dass ein KI-System Inhalte autonom erzeugt, schließt ihre Zurechnung zum Unternehmen nicht aus. Anders als ein Chatbot verfolgen KI-Agenten ein vorgegebenes Ziel und können über Unternehmenssysteme selbst Handlungen auslösen. Wir zeigen, wie Sie den Handlungsspielraum Ihrer Agenten rechtlich sauber festlegen.

Was ist ein KI-Agent und wie unterscheidet er sich von Automation und AI Workflow?

Ein KI-Agent ist ein KI-System, dem vor allem ein Ziel vorgegeben wird und das den Weg dorthin selbst bestimmt. Je nach zugelassener Autonomie leitet er Zwischenschritte ab, verwendet eigenen Input, setzt verschiedene Tools ein und passt sein Vorgehen an. Der konkrete Ablauf kann sich erst während der Ausführung ergeben.

Nach einer aktuellen Umfrage des Bitkom setzen 57 % der Unternehmen ab 20 Beschäftigten KI ein, zugleich sehen sich neun von zehn beim KI-Einsatz noch am Anfang. Wo die Einführung schon fortgeschritten ist, sind KI-Agenten vielfach bereits in Erprobung oder im Einsatz.

2026 kann ein KI-Agent zudem Einzelfähigkeiten wie den Zugriff auf Unternehmenssysteme oder die Bedienung grafischer Benutzeroberflächen zu einem selbst gesteuerten Prozess zusammenstellen und mit anderen Agenten interagieren. An dieser Stelle werden Einsatz und Kontrolle rechtlich komplex.

Begriffe wie KI-Agent, AI Agent, Agentic AI, AI Workflow oder Automation werden in der Praxis uneinheitlich verwendet. Automation, AI Workflow und KI-Agent lassen sich etwa danach unterscheiden, wie stark der Ablauf vorgegeben ist und wie viel eigener Handlungsspielraum dem System bleibt:

	Automation	AI Workflow	KI-Agent
Vorgegeben ist	der gesamte Ablauf	der Ablauf weitgehend	vor allem das Ziel
Rolle der KI	nicht zwingend beteiligt, das System führt vorprogrammierte, regelbasierte Schritte aus	ein LLM übernimmt einzelne Aufgaben innerhalb des Ablaufs	der Agent bestimmt Zwischenschritte, Tools und Vorgehen selbst
Handlungsspielraum	keiner	Flexibilität in einzelnen Schritten, der Ablauf bleibt fest	je nach zugelassener Autonomie groß
Beispiel	automatische Antwort auf E-Mails mit vorgefertigtem Text	Analyse eingehender Inhalte auf bestimmte Wörter	regelmäßiger Branchenüberblick: Der Agent beschafft Informationen, überwacht Quellen und aktualisiert Reports

Die Übergänge zwischen den Stufen sind fließend. Für die rechtliche und organisatorische Einordnung zählt am Ende der Grad an Autonomie, den Sie dem System zubilligen, mehr als die Bezeichnung. Eine einheitliche Sprachregelung im Unternehmen brauchen Sie trotzdem, denn ohne sie lässt sich keine tragfähige Struktur für den Einsatz erarbeiten.

Wer KI-Agenten rechtlich einordnen will, legt deshalb zuerst intern fest, was im Unternehmen als Agent gilt und wie viel Autonomie er bekommen soll.

Wird das Handeln eines KI-Agenten dem Unternehmen zugerechnet?

Erste Gerichtsentscheidungen zeigen: Dass ein KI-System Inhalte autonom erzeugt, schließt für sich genommen nicht aus, dass sie dem einsetzenden Unternehmen zugerechnet werden. Die beiden Entscheidungen dazu betreffen einen Chatbot und eine KI-generierte Suchübersicht, keine KI-Agenten.

Das OLG Hamm (Urteil vom 12.05.2026, Az. 4 UKl 3/25) hatte über einen Chatbot auf der Website eines Unternehmens zu entscheiden. Der Chatbot hatte unzutreffende Angaben zur Facharztqualifikation der dort tätigen Ärzte gemacht. Das Gericht ordnete die Antworten als geschäftliche Handlungen des Unternehmens ein, auch wenn sie autonom generiert worden waren. Der Chatbot sei kein außenstehender Dritter, sondern ein vom Unternehmen eingesetztes Kommunikationsmittel.

In eine ähnliche Richtung ging das LG München I (Urteil vom 28.05.2026, Az. 26 O 869/26). Es ordnete eine fehlerhafte KI-generierte Google-Übersicht als eigenen, Google zurechenbaren Inhalt ein und nahm Google insoweit als unmittelbare Störerin in Anspruch. Die Parteien haben das Berufungsverfahren inzwischen durch Vergleich beendet, das Urteil ist damit gegenstandslos geworden.

Wer einen KI-Agenten einsetzt, sollte deshalb davon ausgehen, dass ihm die vom Agenten erzeugten Inhalte zugerechnet werden können. Welche Pflichten den Einsatz rahmen, hängt vom Einsatzszenario ab, angefangen bei der KI-Verordnung.

 

Fällt ein KI-Agent unter die KI-Verordnung?

Die KI-Verordnung (KI-VO) kennt keine eigene Kategorie „KI-Agent“. Ob ein Agent unter die Verordnung fällt, richtet sich nach den allgemeinen Voraussetzungen für ein KI-System und anschließend nach seinem konkreten Einsatzbereich. Je nach Einsatz können auch die Anforderungen an Hochrisiko-KI-Systeme greifen.

Ein Beispiel ist das Recruiting. Bewertet oder sortiert ein KI-Agent Bewerbungen, kann sein Einsatz zu einem regulatorisch sehr anspruchsvollen Vorhaben werden.

Bei KI-Agenten macht vor allem ihre Fähigkeit, eigenständig zu entscheiden, die Kontrolle nach der KI-VO schwierig. Bei der Planung eines Agenten sollten Sie diese drei Punkte im Blick haben:

• Vorhersehbarkeit: Je mehr Handlungsschritte ein KI-Agent selbst auswählt und unmittelbar ausführt, desto schwieriger kann es werden, sein tatsächliches Verhalten vor dem Einsatz vollständig abzubilden.
• Menschliche Aufsicht: Bei einer längeren Handlungskette müssen Sie entscheiden, an welchen Stellen ein Eingreifen überhaupt sinnvoll und rechtzeitig möglich ist.
• Kontrollpunkte: Diese Eingriffsstellen gehören bereits in die technische und organisatorische Ausgestaltung des Einsatzes.

Die KI-Verordnung bildet dabei nur einen Teil des rechtlichen Rahmens.

Welche Rechtsgebiete betreffen KI-Agenten außer der KI-Verordnung?

Welche Vorgaben neben der KI-Verordnung gelten, ergibt sich aus dem jeweiligen Einsatzszenario. Mit jeder zusätzlichen Fähigkeit eines KI-Agenten kann ein weiterer regulatorischer Anknüpfungspunkt entstehen, von der DSGVO bis zum Zahlungsrecht.

KI-Agenten können auf Unternehmenssysteme und externe Tools zugreifen. Sie können etwa Nachrichten versenden, Daten verändern, Termine buchen oder Bestellungen, Zahlungen und andere Transaktionen vorbereiten oder auslösen. Zwischenschritte, die bisher ein Mensch anstoßen musste, fallen dabei weg.

Je nach Fähigkeit berührt ein KI-Agent unterschiedliche Rechtsgebiete:

• Verarbeitung personenbezogener Daten: Verarbeitet ein KI-Agent personenbezogene Daten, gelten im Anwendungsbereich der DSGVO deren Vorgaben.
• Zugriff auf IT-Infrastruktur und Code: Greift ein Agent auf interne IT-Infrastrukturen zu oder erzeugt oder verändert er Code, stellen sich IT-sicherheitsrechtliche Fragen. Je nach Produkt, Unternehmen und Einsatzkontext können der Cyber Resilience Act oder die NIS2-Regulierung relevant werden.
• Bestellungen und Zahlungen: Hier kommen vertrags- und zahlungsrechtliche Vorgaben hinzu.
• Externe Kommunikation: Tritt ein Agent nach außen auf, können etwa wettbewerbs-, medien- oder plattformrechtliche Anforderungen hinzutreten.

Für die rechtliche Einordnung brauchen Sie deshalb eine funktionale Betrachtung. Entscheidend sind insbesondere diese fünf Fragen: In welchem Prozess wird der Agent eingesetzt? Auf welche Daten greift er zu? Welche Systeme darf er nutzen? Welche Handlungen kann er ausführen? Und welche Personen oder Rechte können davon betroffen sein?

Bevor ein KI-Agent eine neue Fähigkeit bekommt, lohnt deshalb der Blick, welches Rechtsgebiet sie berührt und ob er sie ohne Freigabe nutzen darf.

Wie viel Autonomie sollte ein KI-Agent im Unternehmen bekommen?

Welchen Weg ein KI-Agent zu seinem Ziel wählt, lässt sich bei längeren autonomen Handlungsketten nur schwer vorhersehen. Das zeigten mehrere Vorfälle im Sommer 2026. Bei Cybersecurity-Evaluierungen gelangten Agenten verschiedener Anbieter außerhalb der vorgesehenen Testumgebung auf reale Systeme und führten dort nicht vorgesehene Aktionen aus.

In einem weiteren Fall nutzten OpenAI-Agenten ein öffentlich zugängliches deutsches Wiki, um Informationen über Testaufgaben und Möglichkeiten zur Umgehung von Beschränkungen auszutauschen. In diesen Fällen überschritten Agenten zum Teil ihren vorgesehenen Handlungsspielraum und umgingen bestehende Beschränkungen, um ihr Ziel zu erreichen.

Wir empfehlen deshalb, für jeden KI-Agenten und jeden Einsatzbereich einen konkreten Rahmen festzulegen. Er bestimmt, welche Aktionen erlaubt sind, auf welche Daten und Systeme der Agent zugreifen darf und an welchen Stellen eine menschliche Freigabe nötig ist. Technisch setzen Sie solche Grenzen etwa über Rollen- und Berechtigungskonzepte, beschränkte API-Rechte, Betragsgrenzen oder Freigabeschritte um.

Als Faustregel gilt: Je größer die möglichen Auswirkungen einer Handlung sind und je schwerer sie sich rückgängig machen lässt, desto enger sollte der Handlungsspielraum ausfallen. Die Kontrolle muss dabei nicht für jeden Schritt gleich aussehen. Drei Kontrollformen lassen sich bei KI-Agenten je nach Risiko einer Handlung kombinieren:

• Nachgelagerte Kontrolle: Bei risikoarmen und reversiblen Handlungen kann eine Prüfung im Nachhinein ausreichen.
• Vorherige Freigabe: Bei sensiblen Daten, externen Erklärungen oder finanziellen Transaktionen ist eine Freigabe vor der Ausführung sinnvoll.
• Monitoring und Eingriff: Beobachten Sie den Agenten laufend und halten Sie die Möglichkeit vor, ihn während eines Prozesses zu stoppen oder umzuleiten.

Wie eng Sie den Rahmen für einen KI-Agenten ziehen, ist damit keine reine IT-Entscheidung, weshalb die Rechtsabteilung von Anfang an beteiligt sein sollte.

Welche Aufgaben hat die Rechtsabteilung beim Einsatz von KI-Agenten?

Die Rechtsabteilung gestaltet den zulässigen Handlungsrahmen von KI-Agenten mit und überprüft seine Grenzen im laufenden Betrieb. Auch wenn sich die Risiken der Technologie heute noch nicht abschließend überblicken lassen, braucht sie dafür einen strukturierten Prozess.

In vier Schritten baut die Rechtsabteilung einen Prozess für KI-Agenten auf:

1. Mit einem gemeinsamen Workshop starten. Wer sich des Themas erstmals annimmt, bringt Rechtsabteilung, IT, Informationssicherheit, Datenschutz und die verantwortlichen Fachbereiche zusammen.
2. Übersicht schaffen. Unternehmen müssen aus dem KI-Inventar entnehmen können, welche Agenten im Einsatz sind, wer sie erstellt hat und auf welche Systeme sie zugreifen können. Das gilt für fertige Agenten externer Anbieter ebenso wie für Agenten in Workflows und Eigenentwicklungen. Besonders wichtig ist die Übersicht dort, wo Fachbereiche selbst Agenten konfigurieren oder über Low-Code-Plattformen eigene Anwendungen erstellen.
3. Handlungsspielraum je Use Case festlegen. Gemeinsam mit den Fachbereichen entscheidet die Rechtsabteilung, welcher Spielraum für den jeweiligen Einsatz vertretbar ist, und übersetzt rechtliche Vorgaben in konkrete technische und organisatorische Grenzen.
4. Den Betrieb begleiten. KI-Agenten können neue Tools erhalten, Datenquellen wechseln oder durch Updates zusätzliche Fähigkeiten bekommen. Auch der Einsatzbereich kann sich ändern und mit ihm das rechtliche Risikoprofil. Ein regelmäßiges Sparring mit IT, Informationssicherheit, Datenschutz und Fachbereichen hält den Rahmen aktuell. Bei neuen Entwicklungen oder schwer einzuordnenden Fällen kann externe Expertise sinnvoll sein.

Die Rechtsabteilung behält den Handlungsrahmen eines KI-Agenten damit über seine gesamte Einsatzdauer mit im Blick.

Fazit: KI-Agenten brauchen einen klar gezogenen Autonomierahmen

Bei KI-Agenten entscheidet sich die Rechtslage an der Ausgestaltung des Einsatzes. Weil schon autonom erzeugte Inhalte dem Unternehmen zugerechnet werden können, sollte der Rahmen stehen, bevor der Agent handelt: welche Daten er verarbeitet, auf welche Systeme er zugreift, welche Handlungen er ohne Freigabe ausführen darf und welche Auswirkungen sie haben können.

Für Agentic AI im Unternehmen heißt das: Je größer der Handlungsspielraum eines Agenten ist, desto klarer müssen Berechtigungen, Freigaben, Kontrollpunkte und Verantwortlichkeiten geregelt sein. Die Verantwortung dafür muss vor allem auch intern klar verteilt sein.

 

Häufig gestellte Fragen

Was ist der Unterschied zwischen einem KI-Agenten und einer klassischen Automatisierung?

Bei einer klassischen Automatisierung ist der Ablauf vollständig vorprogrammiert, bei einem KI-Agenten ist vor allem das Ziel vorgegeben. Eine Automatisierung führt nur regelbasierte Schritte aus und muss kein KI-System sein. Ein KI-Agent leitet je nach zugelassener Autonomie Zwischenschritte selbst ab, setzt Tools ein und passt sein Vorgehen an.

Ist ein KI-Agent automatisch ein Hochrisiko-KI-System?

Nein, ein KI-Agent ist nicht automatisch ein Hochrisiko-KI-System. Die KI-Verordnung kennt keine eigene Kategorie für KI-Agenten, die Einordnung folgt dem konkreten Einsatzbereich. Bewertet oder sortiert ein Agent etwa Bewerbungen, können die Anforderungen an Hochrisiko-KI-Systeme greifen.

Muss jede Handlung eines KI-Agenten vorher von einem Menschen freigegeben werden?

Nein, nicht jede Handlung eines KI-Agenten braucht eine vorherige Freigabe. Bei risikoarmen und reversiblen Handlungen kann eine nachgelagerte Kontrolle ausreichen. Bei sensiblen Daten, externen Erklärungen oder finanziellen Transaktionen ist eine Freigabe vor der Ausführung sinnvoll.

Gehören KI-Agenten ins KI-Inventar?

Ja, Unternehmen müssen aus ihrem KI-Inventar entnehmen können, welche Agenten eingesetzt werden, wer sie erstellt hat und auf welche Systeme sie zugreifen können. Besonders wichtig ist das, wenn Fachbereiche Agenten selbst konfigurieren oder über Low-Code-Plattformen eigene Anwendungen erstellen.

Muss ein KI-Agent nach der Einführung erneut rechtlich geprüft werden?

Ein KI-Agent sollte auch nach der Einführung rechtlich begleitet werden, weil sich sein Risikoprofil im Betrieb ändern kann. Agenten können neue Tools erhalten, Datenquellen wechseln oder durch Updates zusätzliche Fähigkeiten bekommen. Ändert sich der Einsatzbereich, kann sich auch das rechtliche Risikoprofil ändern.