Vorschlag der EU-Kommission: Eine eigene Verordnung für Künstliche Intelligenz

Als Alan Turing, einer der einflussreichsten Informatiker des vergangenen Jahrhunderts, 1950 seinen Turing-Test formulierte, waren die zugrundeliegenden Überlegungen noch rein theoretischer Natur: Eine Maschine, so Turing, sei dann intelligent, wenn im Rahmen einer elektronischen Kommunikation mit einem Menschen dieser nicht erkennen kann, ob am anderen Ende der Leitung ein Mensch oder eine Maschine sitzt. Heute können Unternehmen wie selbstverständlich auf intelligente Anwendungen wie beispielsweise Chatbots für den Kundenservice zurückgreifen. Manche Künstliche Intelligenz (KI) ist in der Lage, sich autonom an ihr Umfeld anzupassen und sogar menschliche Verhaltensweisen wie an der richtigen Stelle eingesetzte Pausen beim Tippen nachzuahmen.

Um von der Automatisierung von Arbeitsabläufen durch KI-Anwendungen zu profitieren, sollten die rechtlichen Rahmenbedingungen beachtet werden. Zusätzlich zu den bestehenden, insbesondere datenschutzrechtlichen Regelungen hat die EU-Kommission am 21. April 2021 einen Vorschlag für eine EU-Verordnung zur KI-Regulierung veröffentlicht. Wir geben Ihnen in diesem Beitrag einen Überblick über die aktuellen Gesetzesvorgaben und die geplanten Neuerungen.

Künstliche Intelligenz: Wovon genau ist die Rede?

Für den Begriff der Künstlichen Intelligenz existiert zwar keine einheitliche Definition, zu einem besseren Verständnis können allerdings einige maßgebende Eigenschaften benannt werden. Um als KI bezeichnet werden zu können, sollte eine Anwendung zu autonomem Handeln und eigenständigen Lernprozessen in der Lage sein, um einen bestimmten Output liefern oder Prognoseentscheiden treffen zu können. Zudem sollte sie eine Adaptionsfähigkeit gegenüber ihrer Umgebung aufweisen. Häufig trifft man auf die Unterscheidung zwischen starker und schwacher KI, wobei die erstere zu logisch-intellektuellem Denken und komplexen Abstraktionen fähig ist. Letztere zeichnet sich durch Mustererkennung und die Begabung, auf unbekannte Probleme zu reagieren, aus. Schwache KI kann jedoch nicht abstrahieren und ist nur in einem bestimmten Anwendungsfeld einsetzbar. In aller Regel stuft man die heutigen KI-Anwendungen als schwache Künstliche Intelligenz ein, die aber dennoch zu hohen technischen Leistungen fähig sein können. Neben den bereits genannten Chatbots können KI-Anwendungen vielfältige Anliegen aufnehmen und eigenständig bearbeiten. Beispielsweise gibt es Systeme, die anhand bildgebender Verfahren in der Medizin Tumorstrukturen erkennen und eine Erstdiagnose stellen können. Ebenfalls bereits möglich sind Verfahren, in denen eine Künstliche Intelligenz in Videosequenzen Personen am Gang identifizieren oder Lungenkrankheiten wie Covid-19 über das Atemgeräusch erkennen kann.

Newsletter

Abonnieren Sie unseren monatlichen Newsletter mit Infos zu Urteilen, Fachartikeln und Veranstaltungen.

Abmeldelink in jedem Newsletter. Mehr in der Datenschutzerklärung.

KI, Recht und Ethik

Da die Fähigkeiten von KI weiterhin stetig ansteigen, besteht auch ein erhöhter Bedarf an rechtlichen Vorgaben. Weil Künstliche Intelligenz vermehrt an Stellen eingesetzt wird, an denen sie Entscheidungen mit mittelbarer oder unmittelbarer Wirkung für Individuen trifft, bilden ethische Überlegungen die Grundlage der Regulierung. Es ist gerade die Stärke von KI, gleichartige Fälle sehr schnell, effizient und mit einer geringen Fehleranfälligkeit zu lösen. Auf der anderen Seite bedeutet das jedoch, dass teils komplexe moralische Fragestellungen übergangen und „auf die Schnelle“ entschieden werden. Den Ausgangspunkt einer ethischen Betrachtungsweise bildet Art. 1 Abs. 1 Grundgesetz (bzw. auf europäische Ebene Art. 1 Grundrechte-Charta), die Garantie der Menschenwürde. Demnach darf der Mensch nicht zum Objekt gemacht werden. Für KI bedeutet das insbesondere, dass Algorithmen, die Entscheidungen mit Wirkung für Einzelpersonen treffen, keine Grund- und Freiheitsrechte missachten dürfen. Eine solche Gefahr besteht beispielsweise in Situationen, in denen eine KI bei einem selbstfahrenden Fahrzeug in einer Unfallsituation über das Leben von Unfallbeteiligten entscheiden muss, und wenn sie über die Kreditwürdigkeit oder die Strafbarkeit einer Person befindet. Diese und viele weitere Fragen lassen sich rechtlich zwar nicht letztgültig regeln, ein gesetzlicher Rahmen kann aber dabei helfen, Grenzen zu ziehen und zu verhindern, dass KI missbräuchlich eingesetzt wird.

Zu diesem Zweck gibt es bislang kein einheitliches „KI-Recht“, daher finden sich Vorgaben an ganz unterschiedlichen Orten wie etwa dem Haftungs-, Urheber oder Leistungsschutzrecht. Das Allgemeine Gleichbehandlungsgesetz (AGG) verbietet Diskriminierungen und schließt Entscheidungen durch Künstliche Intelligenz mit ein. Auch besteht ein Grundrechtsschutz gegen bestimmte Einsatzformen von KI. Da Daten das Fundament für die Lernprozesse von KI-Anwendungen bilden, spielt das Datenschutzrecht mit der Datenschutz-Grundverordnung (DSGVO) eine zentrale Rolle.

Datenschutz bei Künstlicher Intelligenz

Die Datenschutzkonferenz (DSK), der Zusammenschluss der deutschen Aufsichtsbehörden, hat daher die Hambacher Erklärung verabschiedet, in der übergeordnete Leitlinien für die Entwicklung und den Einsatz von KI genannt werden. Das Verbot der Objektivierung des Menschen bildet auch hier die Grundlage, aus der sich weitere Ziele ergeben. Zu ihnen gehören Grundsätze wie Transparenz, Nachvollziehbarkeit und Datenminimierung. Ferner sollte der Einsatz von KI nur verfassungsgemäße Zwecke verfolgen, Diskriminierungen vermieden und Entwicklung sowie Nutzung von technisch-organisatorischen Schutzmaßnahmen begleitet werden.

Die rechtlich bindenden Vorgaben finden sich in der DSGVO. Sie müssen immer dann beachtet werden, wenn KI eingesetzt wird, die mit personenbezogenen Daten arbeitet. In den meisten Fällen wird das zutreffen, wenn nicht ausschließlich anonymisierte Daten verarbeitet werden. Das sind solche, bei denen der Bezug zu einer natürlichen Person zuvor vollständig entfernt wurde. Zum Anlernen einer KI werden zumeist große Mengen historischer Daten benötigt. Auf den Personenbezug im Datenpool kommt es für die Mustererkennung der meisten Anwendungen dabei gar nicht an. Da es sich aber häufig um historische Echtdaten handeln wird, die sich auf eine konkrete Person beziehen, wird zumindest eingangs ein Personenbezug bestehen. Die datenschutzrechtlichen Anforderungen sind daher bis zu einer effektiven Anonymisierung zu beachten. Kommt die KI dann im Produktivbetrieb wieder mit personenbezogenen Daten in Berührung, greift das Datenschutzrecht erneut. Dann müssen die datenschutzrechtlichen Grundsätze eingehalten werden: Vor allem muss die Datenverarbeitung einem legitimen Zweck dienen, transparent ausgestaltet und durch eine Rechtsgrundlage gedeckt sein. Zudem müssen angemessene technisch-organisatorische Maßnahmen getroffen und im Falle automatisierter Einzelfallentscheidungen gesonderte Regeln beachtet werden.


Mehr zum Thema

Vorsicht bei Chatbots: Die wichtigsten Voraussetzungen für den sicheren Einsatz
Künstliche Intelligenz – wer haftet, wenn ein Roboter versagt?
„Künstliche Kreativität“? – Schutz von KI und ihrer Werke durch Urheberrecht


Ein Europäischer Rechtsrahmen für Künstliche Intelligenz

Dabei soll es allerdings nicht bleiben: Die EU-Kommission hat den Entwurf einer Verordnung veröffentlicht, um europaweit eine einheitliche und verbindliche Regulierung zu gewährleisten. Die Verordnung wäre das weltweit erste Gesetz, das ausdrücklich und ausschließlich das Thema KI zum Gegenstand hat. Die Regelungen würden sowohl Entwickler als auch Unternehmen, die KI einsetzen oder importieren, betreffen. Mit dem Vorschlag versucht die EU den Spagat zwischen einer starken Förderung von KI-Technologien einerseits und der Regulierung zum Schutz der Bürger sowie ihr Vertrauen in KI-Anwendungen andererseits. Das, was bislang vor allem in unverbindlichen Leitlinien formuliert wurde, soll mit der Verordnung gesetzlich verpflichtend werden – insbesondere die Vorgabe, dass KI-Systeme in der EU sicher, transparent, ethisch und unter menschlicher Kontrolle agieren müssen. Um dieses Ziel zu erreichen, werden sie in verschiedene Risikoklassen eingeteilt, die vom minimalen Risiko über geringes und hohes bis hin zum unannehmbaren Risiko reichen. Systeme mit dem höchsten Risiko sollen grundsätzlich nicht verwendet werden dürfen. Als Beispiele nennt die EU-Kommission unter anderem Social Scoring durch Behörden oder Spielzeug, das mit einem Sprachassistenten versehen ist und Kinder zu riskantem Verhalten verleitet. KI-Anwendungen mit minimalem Risiko (die einen Großteil aller Systeme ausmachen dürften) hingegen sollen gar nicht weiter reguliert werden. Zu ihnen gehören zum Beispiel Spamfilter. Für Systeme mit einem nur begrenzten Risiko, wie etwa die eingangs erwähnten Chatbots, sollen geringe Transparenzverpflichtungen gelten, damit Nutzer eine informierte Entscheidung darüber treffen können, ob sie diese Systeme verwenden wollen.

Die eigentliche Regulierung ist für die KI-Systeme mit hohem Risiko gedacht. Unternehmen müssen vor dem Einbringen in den Verkehr darauf achten, dass im Rahmen einer Konformitätsbewertung die Einhaltung aller rechtlichen Anforderungen geprüft wird. Dafür ist es vor allem notwendig, dass die verwendeten Datensätze richtig sowie vollständig sind und die Datenverarbeitungen sorgfältig dokumentiert werden. Anschließend müssen die Anwendungen registriert und mit einer CE-Kennzeichnung versehen werden. Des Weiteren sollen Behörden die in den Verkehr gebrachten KI-Systeme stärker kontrollieren. Zu den Systemen mit hohem Risiko zählen unter anderem solche, die über den Zugang zu Bildungs- und Berufsangeboten entscheiden, im Rahmen der Strafverfolgung oder der Rechtspflege eingesetzt werden oder die Entscheidungen im Rahmen zentraler Dienstleistungen, wie etwa der Kreditvergabe, treffen.

Fazit

Da KI-Anwendungen inzwischen vielfältige Einsatzfelder gefunden haben und die technische Entwicklung weiter voranschreitet, sind eigene und einheitliche Regelungen grundsätzlich zu begrüßen. In ihrer Ausgestaltung könnte die geplante EU-Verordnung sicherstellen, dass die vielen Potenziale Künstlicher Intelligenz künftig weiter ausgeschöpft werden können, während zugleich der Schutz der Bürgerinnen und Bürger gestärkt wird. Ob bzw. wann die Verordnung in Kraft treten wird, lässt sich allerdings nur schwer absehen. Es folgen zunächst Verhandlungen im EU-Parlament und im Europäischen Rat. Doch schon jetzt ist der Vorschlag ein deutliches Zeichen, in welche Richtung die rechtliche Regulierung von KI-Anwendungen gehen wird. Und auch mit den bestehenden gesetzlichen Vorgaben wird ein hohes Schutzniveau erreicht. Einsatz und Entwicklung von KI benötigen klare Prozesse und die Verwendung von Daten, die durch sachgerechte Anonymisierung und ein überzeugendes Datennutzungskonzept sorgfältig nutzbar gemacht wurden. Die Regulierung sollte daher nicht als Hemmnis, sondern als Chance wahrgenommen werden, damit die KI-Anwendungen weiterhin mit einem hohen Vertrauen eingesetzt und weiterentwickelt werden können.

Kontakt

office@srd-rechtsanwaelte.de

Berlin

+49 (0)30 21 30 028-0

Düsseldorf

+49 (0)211 41 55 868-0

München

+49 (0)89 61 42 412-70

Newsletter

Abonnieren Sie unseren monatlichen Newsletter mit Infos zu Urteilen, Fachartikeln und Veranstaltungen.

Abmeldelink in jedem Newsletter. Mehr in der Datenschutzerklärung.