Künstliche Intelligenz (KI) – wer haftet, wenn ein Roboter versagt?

Stellen Sie sich vor, ein KI-basierter Roboter unterstützt Ärzt:innen bei einer OP und trifft die falsche Entscheidung. Die OP geht deshalb schief und der/die Patient:in kann Schadenersatz oder Schmerzensgeld geltend machen. Ein autonom fahrendes Auto entscheidet sich für ein Ausweichen auf den Fußweg anstatt in die Hecke und verletzt dabei Menschen. Auch hier muss der daraus entstandene Schaden ersetzt werden. Aber durch wen? Wer haftet hier? Ärzt:in oder Fahrer:in, die als Systemanwendende die künstliche Intelligenz für ihre Zwecke benutzen? Hersteller:innen? Oder kann sogar die künstliche Intelligenz selbst haften?

Haftungslücke bei KI-basierten Maschinen: Wer trägt die Verantwortung?

Diese Fragen sind rechtlich schwer zu beantworten. Grundlage des deutschen Haftungssystems ist immer ein Fehlverhalten, das zu einem Schaden führt. Ein Fehlverhalten, das rechtliche Konsequenzen nach sich zieht, kann aber nicht von jedem begangen werden. Nach deutschem Recht kann nur derjenige haften, dem per Gesetz eine Rechtspersönlichkeit zugesprochen wird. Dies ist bei Robotern und Maschinen bisher noch nicht der Fall, weshalb auf das Fehlverhalten eines Menschen hinter der künstlichen Intelligenz abzustellen ist. Kann jedoch diesem Menschen überhaupt ein Fehlverhalten vorgeworfen werden, wenn die KI-basierte Maschine verselbstständigt Entscheidungen trifft? Oder stehen wir einer großen Haftungslücke gegenüber, die rechtlich gesehen die Anwendung und Entwicklung von Robotern und künstlicher Intelligenz blockiert? 

Rechtliche Herausforderungen bei der Anwendung von Robotern und künstlicher Intelligenz: Lösungen und Chancen für Unternehmen

Angesichets dieser anspruchsvollen Fragen kann die Anwendung von Robotern und künstlicher Intelligenz für Unternehmen eine Vielzahl von Herausforderungen und Problemen mit sich bringen. Dazu gehören Fragen zur Datenverarbeitung und zum Datenschutz, zur Sicherheit und Zuverlässigkeit von Systemen sowie zur Einhaltung von ethischen Grundsätzen. In diesem Beitrag gehen wir auf die mögliche Lösung dieser Probleme ein und zeigen auf, wie Sie die Vorteile von Robotern und künstlicher Intelligenz voll ausschöpfen können, ohne dabei rechtliche Risiken einzugehen. 

KI-Whitepaper für Unternehmen

Haftung der Hersteller:innen bei KI-Robotern: Eine nähere Betrachtung 

Zunächst bietet es sich an, die Haftung der Hersteller:innen des KI-basierten Roboters unter die Lupe zu nehmen. Es liegt nahe, dass diese bei einem Fehlverhalten der Maschine haften könnten. Schließlich sind es die Hersteller:innen, die durch Entwicklung, Programmierung und Training der künstlichen Intelligenz ihrer Entscheidungsfindung noch am nächsten steht. Das deutsche Recht hat genau diesen Grundgedanken, dass Hersteller:innen „nah am Produkt“ sind, schon längst aufgegriffen, und zwar unabhängig von der Art des Produkts. Es mag zunächst verwirrend klingen, aber die Haftung der Hersteller:innen für Fehler des Produkts ist immer nach den gleichen Regelungen zu beurteilen, egal, ob das Produkt eine Wasserflasche oder ein hochkomplexes selbst fahrendes Auto ist. 

Produkthaftungsgesetz (ProdHaftG): Haftungsgrundlagen und Voraussetzungen für Hersteller:innen

Einerseits kann sich eine Haftung der Hersteller:innen aus den Regelungen über die Produkthaftung nach dem Produkthaftungsgesetz (ProdHaftG) ergeben. Dazu müssen folgende Voraussetzungen vorliegen (§ 1 Abs. 1 ProdHaftG): 

  1. Verletzung eines geschützten Rechtsguts (Tötung einer Person, Verletzung von Körper oder Gesundheit, Beschädigung einer Sache) 
  1. durch ein fehlerhaftes Produkt 
  1. mit daraus resultierendem (finanziellen) Schaden 
  1. sowie kein Vorliegen einer gesetzlichen Ausnahme aus § 1 Abs. 2, Abs. 3 ProdHaftG. 

Haftung der Hersteller:innen bei KI-Produkten: Schwierigkeiten bei der Fehlerfeststellung und Produkthaftung 

Wenn man sich diese Voraussetzungen anschaut, dann dürften die Hersteller:innen bei Rechtsgutsverletzungen, die durch die entwickelte künstliche Intelligenz hervorgerufen wurden, eigentlich immer haften. Dieser Anspruch ergibt sich vor allem aus dem Prinzip der sogenannten Gefährdungshaftung.. Bei der Gefährdungshaftung kommt es nicht darauf an, ob der Schädiger oder die Schädigende die Rechtsgutsverletzung zu verschulden hat. Das bedeutet konkret, dass es egal ist, ob er oder sie fahrlässig oder vorsätzlich gehandelt hat. Entscheidend für die Haftung ist einzig, dass er oder sie eine Gefahrenquelle geschaffen hat, indem er oder sie dieses fehlerhafte Produkt auf den Markt gebracht hat. Des Weiteren müssen Rechtsgutsverletzung und Schaden auf den Produktfehler zurückzuführen sein (Kausalität).

Haftung bei künstlicher Intelligenz: Schwierigkeiten bei der Fehlerfeststellung und Beweisführung

Verzwickt wird es jedoch in Hinblick auf das Vorliegen eines Fehlers, da die Vorgänge innerhalb der Entscheidungsfindung einer künstlichen Intelligenz schwer nachzuvollziehen sind (Stichwort: Blackbox) und daher auch ein Fehler in der Programmierung nicht immer leicht nachgewiesen werden kann.  Schwierig wird es insbesondere deshalb, weil der oder die Geschädigte den Fehler nachweisen muss. Im Zweifel sind es Laien, die von künstlicher Intelligenz und der dahinterstehenden Technik gar keine Ahnung haben und die auch nicht in den Produktionsprozess involviert waren. Meistens wird eine Haftung der Hersteller:innen über die Produkthaftung an dieser Voraussetzung scheitern. 

Newsletter

Abonnieren Sie unseren monatlichen Newsletter mit Infos zu Urteilen, Fachartikeln und Veranstaltungen.

Mit einem Klick auf „Abonnieren“ stimmen Sie dem Versand unseres monatlichen Newsletters (mit Infos zu Urteilen, Fachartikeln und Veranstaltungen) sowie der aggregierten Nutzungsanalyse (Messung der Öffnungsrate mittels Pixel, Messung der Klicks auf Links) in den E-Mails zu. Sie finden einen Abmeldelink in jedem Newsletter und können darüber Ihre Einwilligung widerrufen. Mehr Informationen erhalten Sie in unserer Datenschutzerklärung.

Produzentenhaftung nach § 823 BGB: Unterschiede, Beweislastumkehr und KI-Entwicklungsstand

Von der Produkthaftung unterschieden werden muss jedoch die sog. Produzentenhaftung. Diese richtet sich nicht nach dem ProdHaftG, sondern nach dem allgemeinen Schadenersatzanspruch des § 823 Abs. 1 BGB. Dieser Schadenersatzanspruch ist nicht speziell auf Produzent:innen eines Produkts zugeschnitten, sondern kann jeden treffen, der ein dort aufgezähltes Rechtsgut verletzt. Handelt es sich allerdings um einen oder eine Produzent:in, werden spezielle Kriterien innerhalb dieses Anspruchs angewendet. 

Verschuldenshaftung vs. Produkthaftung: Anforderungen an Hersteller:innen bei fehlerhaften Produkten

Hierbei handelt es sich um einen Anspruch, der auf der sogenannten Verschuldenshaftung beruht. Das bedeutet im Unterschied zur Produkthaftung, die zur Gefährdungshaftung zählt, dass der oder die Hersteller:in schuldhaft ein fehlerhaftes Produkt in den Verkehr gebracht haben muss, d.h. fahrlässig oder vorsätzlich. Fahrlässigkeit setzt voraus, dass die im Verkehr erforderliche Sorgfalt nicht beachtet wurde. Vorsätzlich handelt, wer wissentlich und willentlich ein fehlerhaftes Produkt in den Verkehr gebracht hat. 

Besonderheiten der Produzentenhaftung: Beweislastumkehr und Herausforderungen bei KI-Entwicklungsständen

Hier kommt eine Besonderheit der Produzentenhaftung ins Spiel: Normalerweise müsste der oder die Geschädigte nachweisen, dass der oder die Hersteller:in schuldhaft ein fehlerhaftes Produkt in den Verkehr gebracht hat. Anders als bei der Produkthaftung wird an dieser Stelle eine Beweislastumkehr vorgenommen: Die Hersteller:innen müssen sich entlasten, also beweisen, dass sie gerade kein fehlerhaftes Produkt in den Verkehr gebracht haben. Dies liegt darin begründet, dass der oder die Geschädigte nur selten Einblicke in den Produktionsprozess hat und aus diesem Grund auch selten schon einen Anspruch nach dem ProdHaftG gelten machen kann. Irgendwie muss er oder sie jedoch eine Chance haben, die Hersteller:innen für den Schaden aufkommen zu lassen. 

Die Frage ist jedoch, ab welchem Entwicklungsstand der Künstlichen Intelligenz die Hersteller:innen sagen können, dass der Fehler nicht mehr in ihrer Sphäre liegt, sondern sich erst viel später durch die selbstlernende Eigenschaft der Künstlichen Intelligenz entwickelt hat. Hier wird es sehr stark auf die Argumente im Einzelfall ankommen. 

Haftung des Anwendernden bei KI-Technologie: Verschuldensfrage und Herausforderungen in der Praxis

Beim Anwendenden bzw. Betreibenden der KI-gestützten Technik fallen Produkt- und Produzentenhaftung weg. Allerdings könnte eine Haftung aus § 823 Abs. 1 BGB in Betracht kommen – nur dieses Mal ohne die besonderen Voraussetzungen, die für Produzent:innen gelten. Stattdessen haftet der Anwendende, wenn durch das Betreiben der KI fahrlässig oder vorsätzlich eine Rechtsgutsverletzung (Leben, Körper, Gesundheit, Eigentum, sonstiges Recht) eingetreten ist, die zu einem Schaden geführt hat. 

Haftung bei KI-Einsatz in der medizinischen Diagnose: Schwierigkeiten bei der Beurteilung des Verschuldens

Der Knackpunkt wird hier häufig das Verschulden sein. Wie kann man beurteilen, ob beispielsweise ein/eine Ärzt:in, der/die sich bei der Diagnose hauptsächlich auf ein KI-gestütztes Diagnosesystem stützt, die im Verkehr erforderliche Sorgfalt beachtet hat? Schließlich kann auch der/die Ärzt:in nicht in den Entscheidungsprozess der KI-Einblick nehmen und beurteilen, ob und wo da etwas schiefgelaufen ist und ob er oder sie sich deshalb nicht auf die Entscheidung hätte verlassen können. Deshalb wird man meistens davon ausgehen können, dass in dem Fall, in dem der Betreibende den Roboter bzw. die Maschine richtig bedient hat, ihm/ihr auch kein Fehlerhalten zur Last gelegt werden darf. Insbesondere greifen hier nicht die Regeln der Produzentenhaftung. Die geschädigte Person müsste daher nachweisen, dass der KI-Betreibende die im Verkehr erforderliche Sorgfalt nicht beachtet hat. Das stellt sich in der Praxis meistens als schwierig heraus. 

Haftungsfragen beim autonomen Fahren: Besonderheiten im Straßenverkehrsgesetz (StVG)

Das wohl bekannteste Beispiel, wenn es um die Thematik Künstliche Intelligenz und Haftung geht, stellt vermutlich das autonome Fahren dar. Das liegt vor allem daran, dass stetig immer mehr automatische Systeme die Steuerung im Auto übernehmen und es nur noch eine Frage der Zeit ist, bis KI das Auto komplett übernehmen kann – zumindest technisch gesehen. Rechtlich stellen sich auch dann dieselben Haftungsfragen, wie bei allen anderen selbstständig handelnden auch. Eine Besonderheit liegt allerdings darin, dass die Haftung im Straßenverkehr spezialgesetzlich im Straßenverkehrsgesetz (StVG) geregelt ist. 

Haftung im autonomen Fahren: Unterschiede zwischen der Haftung des Führers und des Halters

Der Gesetzgeber hat sich 2017 daran gesetzt, das StVG auf die Zukunft des autonomen Fahrens anzupassen. Das Haftungsregime des StVG unterscheidet einmal die Haftung des Führers oder der Führerin des Kfz und die des Halters oder der Halterin. Der(die Führer:in haftet gem. § 18 StVG verschuldensabhängig. Der/die Halter:in jedoch haftet verschuldensunabhängig (§ 7 Abs. 1 StVG), also im Zweifel immer, wenn bei Betrieb eines Kfz ein Mensch getötet, der Körper oder die Gesundheit eines Menschen verletzt oder eine Sache beschädigt wird. 

Haftungsregelungen im autonomen Fahren: Wer gilt rechtlich als Fahrzeugführer:in?

Die Gesetzesänderung 2017 hat dazu geführt, dass zunächst einmal die hoch- oder vollautomatisierte Fahrfunktion als ausdrücklich zulässig erklärt wurde (§ 1a Abs. 1 StVG). Die für Haftungsfragen relevante Änderung besteht jedoch darin, dass klargestellt wird, dass ein/e Fahrzeugführer:in im Sinne des StVG auch der- oder diejenige ist, der/die die autonome Fahrfunktion aktiviert und verwendet. Insbesondere ist er oder sie auch dann als Fahrzeugführer:in anzusehen, wenn er/sie das Fahrzeug gerade nicht eigenhändig steuert.


Das könnte Sie auch interessieren:


Haftungsfolgen für Halter, Fahrer und Hersteller beim autonomen Fahren

Welche Folge hat diese Klarstellung nun für die Haftung? Zunächst einmal ist die Struktur der Halter- und Fahrerhaftung bestehen geblieben. Des Weiteren hat die Änderung zur Folge, dass auch der- oder diejenige, der/die sein/ihr Auto „fahren lässt“ als Führer:in im Sinne des § 7 Abs. 1 StVG anzusehen ist. Das heißt, er/sie haftet auch wie ein/e Fahrzeugführer:in, der/die kein autonomes Auto fährt. Hat er/sie den Unfall also zu verschulden, dann haftet er/sie. Im Umkehrschluss bedeutet das aber auch, dass der/die Halter:in des autonomen Autos verschuldensabhängig weiterhin immer haftet. Zudem ist auch der Herstellende des autonomen Autos nicht befreit. Er oder sie haftet zwar nicht über das StVG, aber neben dem StVG kommen das ProdHaftG sowie das BGB zur Anwendung. 

Die Änderung hat folglich klargestellt, dass der/die Fahrzeugführer:in unabhängig vom Automatisierungsgrad haftet, wenn ihn/sie ein Verschulden trifft. Die Frage ist jedoch, wann ihn/ihr wirklich ein Verschulden treffen kann. Fährt er/sie nicht selbst und beruht der Unfall auf einem Fehler der KI, dann wird er/sie von der Haftung befreit sein. Die Regel wird daher lauten, dass, wenn die KI das Auto steuert, die Haftung beim Herstellenden und dem/der Halter:in liegen wird. 

Reformierung des KI-Haftungsrechts: das plant die EU

In absehbarer Zukunft wird es im Haftungsrecht rund um KI einige Neuerungen geben. Denn auf EU-Ebene gibt es derzeit mehrere Gesetzgebungsbestrebungen, die die Regulierung von KI zum Gegenstand haben. Zum einen die KI-Verordnung, die der Grundstein für KI-Regulierung in der EU werden wird. Die Verordnung wird zwar ein haftungsbegründendes Schutzgesetz darstellen, sodass ein Verstoß dagegen einen Schadensersatzanspruch nach § 823 Abs. 2 BGB begründen kann, selbst enthält sie jedoch keine haftungsrechtlichen Regelungen. Daneben arbeitet die EU jedoch auch an zwei Richtlinien, die sich mit Haftungsfragen in Bezug auf KI beschäftigen. Damit sollen vor allem die bereits dargestellten Probleme adressiert werden. Zudem soll damit die Entwicklung und Verbreitung von KI gefördert werden, indem Rechtssicherheit geschaffen wird. Insbesondere auch, da Unternehmen ihr Haftungsrisiko so besser  einschätzen und versichern werden können. 

Anpassung der EU-Produkthaftungsrichtlinie an Künstliche Intelligenz

Zum einen soll die europäische Produkthaftungsrichtlinie überarbeitet und ersetzt werden, die auch die Grundlage für das deutsche Produkthaftungsgesetz bildet. Mit der Richtlinie, die schon 1985 in Kraft trat, soll im Rahmen der voranschreitenden Digitalisierung die Gefährdungshaftung umfassend modernisiert werden. Die neue Richtlinie wird etwa die Haftungstatbestände mit Blick auf Künstliche Intelligenz ausweiten. Zudem wird durch den Gesetzesvorschlag die Beweiserbringung für Geschädigte erleichtert. Zwar gibt wird es keine sogenannte Beweislastumkehr geben, sodass nach wie vor die geschädigte Person den Fehler in der Software und die Kausalität nachweisen muss, dieses soll jedoch wesentlich erleichtert werden. Beispielsweise soll dafür eine Kausalitätsvermutung eingeführt werden. Können Opfer nachweisen, dass jemand für die Nichteinhaltung einer schadensrelevanten Verpflichtung verantwortlich war und ist ein Zusammenhang zwischen Schaden und Nichteinhaltung nach vernünftigem Ermessen wahrscheinlich, so soll zukünftig die Kausalität zwischen beiden widerlegbar vermutet werden. Außerdem soll Opfern der Zugang zu relevanten Beweismitteln erleichtert werden, indem Beklagten eine Offenlegungspflicht auferlegt wird. Auf Antrag werden Gerichte danach die Offenlegung von bestimmten Informationen anordnen können. Betreffen diese Informationen Geschäftsgeheimnisse von Unternehmen, muss das Gericht Maßnahmen zur Vertraulichkeit treffen. Voraussetzung für die Offenlegung ist jedoch, dass die Klagenden genügend Tatsachen und Beweismittel vorgelegt haben, die einen Schadensersatzanspruch wahrscheinlich erscheinen lassen. Dies könnte sich im Einzelfall als schwierig erweisen, unter anderem da die Anforderungen an ein solches nicht klar formuliert sind. 

Die neue Richtlinie über KI-Haftung 

Zudem soll eine gänzliche neue Richtlinie geben, die die KI-spezifische Haftung regulieren soll. Anders als die Produkthaftungsrichtlinie soll diese jedoch keine verschuldensunabhängige Haftung zum Gegenstand haben, sondern Fälle regeln, in denen es aufgrund von Vorsatz oder Fahrlässigkeit zu Schäden durch KI kommt. Sie soll eine Vielzahl von Schäden umfasst sein, auch etwa Verletzungen von Privatsphäre durch Sicherheitsprobleme in KI. Ähnlich wie die neue Produkthaftungsrichtlinie wird auch sein eine Kausalitätsvermutung und eine Offenlegungspflicht beinhalten, um Geschädigten die Geltendmachung ihrer Ansprüche zu erleichtern. Sie nimmt dabei Bezug auf sogenannte Hochrisiko-KI, die von der KI-Verordnung reguliert wird. In gewisser Weise kann sie damit als Sanktionsregime für Schäden aufgrund der Nichteinhaltung der Vorgaben aus der Verordnung gesehen werden. 

Diskussionen um Rechtspersönlichkeit von KI: Hindernisse und praktische Herausforderungen 

Als nächstes stellt sich die Frage nach den praktischen Herausforderungen, die sich aus dieser Regulierung ergeben. 

Eine Künstliche Intelligenz verfügt zunächst weder über ein Bankkonto noch über eine Versicherung, was bei Verursachung eines Schadens problematisch ist. Die Einführung einer Art E-Person könnte dieses Problem lösen. Eine solche E-Person würde jedoch auch Grundrechte wie eine natürliche Person haben, was im Widerspruch zur EMRK und der EU-Grundrechtecharta stehen würde. Bisher besteht ein Haftungsregime durch Rückgriff auf die hinter der KI stehenden Personen. Daher wäre die Einführung einer E-Person unnötig. 

Künstliche Intelligenz und Haftung: Ein theoretisch lückenloses Haftungssystem

Theoretisch ist das deutsche Haftungssystem lückenlos. Es werden auch bei den neuen Herausforderungen, die Künstliche Intelligenz und Roboter mit sich bringen, immer passende Rechtsgrundlagen vorhanden sein. Hier die wichtigsten Fakten auf einen Blick: 

  1. Herstellerhaftung: Der/die Hersteller:in kann über Produkt- oder Produzentenhaftung zur Haftung herangezogen werden. In der Praxis wird der Anspruch aus Produkthaftung keine Chance haben, aus Produzentenhaftung allerdings schon. 
  1. Systembetreiberhaftung: Der Systembetreibende wird nur haften müssen, wenn ihn/sie ein Fehlverhalten zur Last gelegt werden kann. Hat er/sie den Roboter richtig bedient, dann wird er/sie auch nicht haften müssen. 
  1. Kfz-Halterhaftung: Im Sonderfall des autonomen Kfz kommt durch das StVG die verschuldensunabhängige Halterhaftung hinzu. Der/die Halter:in wird daher meistens haften müssen. 

Reformierung der Haftung auf EU-Ebene: Lösungen für rechtliche Fragen und Probleme im Zusammenhang mit KI und Robotik

Zwar gibt es mehrere Möglichkeiten, an verschiedene Personen heranzutreten und den entstandenen materiellen oder immateriellen Schaden ersetzt zu bekommen. In der Praxis schwer zu beantwortende Fragen wie die Abgrenzung eines fahrlässigen zu einem nicht fahrlässigen Verhalten lassen das Haftungssystem allerdings lückenhaft erscheinen. Etwaige Unklarheiten und Regelungslücken werden jedoch in absehbarer Zeit voraussichtlich durch eine Reformierung auf EU-Ebene ausgeräumt. Diese wird es für Geschädigte leichter machen, ihre Ansprüche geltend zu machen und Unternehmen eine bessere Einschätzung und Versicherbarkeit von Haftungsrisiken ermöglichen.  

Wir stehen Ihnen bei der Lösung der rechtlichen Fragen und Probleme im Zusammenhang mit künstlicher Intelligenz und Robotik zur Seite und helfen Ihnen dabei, die Haftungsrisiken bei der Anwendung von KI-basierten Systemen zu minimieren sowie die rechtlichen Rahmenbedingungen für Ihre Produkte und Dienstleistungen zu schaffen.  

Unsere Anwältinnen und Anwälte verfügen über langjährige Erfahrung im Technologierecht und sind stets auf dem neuesten Stand der Entwicklungen im Bereich Künstliche Intelligenz. Wir bieten Ihnen eine individuelle und praxisorientierte Beratung, die auf Ihre speziellen Bedürfnisse und Anforderungen zugeschnitten ist. Wir sind gerne für Sie da! 

Wir beraten Sie zu allen rechtlichen Aspekten des Einsatzes von KI in Ihrem Unternehmen.

Erfolg im digitalen Zeitalter: Der Data Act 2024 und seine Chancen für Ihr Unternehmen

Jetzt lesen

Newsletter

Abonnieren Sie unseren monatlichen Newsletter mit Infos zu Urteilen, Fachartikeln und Veranstaltungen.

Mit einem Klick auf "Abonnieren" stimmen Sie dem Versand unseres monatlichen Newsletters (mit Infos zu Urteilen, Fachartikeln und Veranstaltungen) sowie der aggregierten Nutzungsanalyse (Messung der Öffnungsrate mittels Pixel, Messung der Klicks auf Links) in den E-Mails zu. Sie finden einen Abmeldelink in jedem Newsletter und können darüber Ihre Einwilligung widerrufen. Mehr Informationen erhalten Sie in unserer Datenschutzerklärung.