Künstliche Intelligenz & Ethik: zwischen Potenzial und Risiken

Die Nutzung und Weiterentwicklung von Künstlicher Intelligenz (KI) birgt großes Potenzial, welches zudem noch keineswegs erschöpft ist. Sie verspricht die Optimierung von Prozessen, eine schnellere Entscheidungsfindung und bedeutet dabei gleichzeitig auch Kontrollverlust.

Was von Unternehmen im Rahmen ihres unermüdlichen Wettstreits miteinander oftmals außer Acht gelassen wird, ist eine ethische Auseinandersetzung mit der Technologie, um das Vertrauen ihrer Kunden zu generieren.

Dieses Erfordernis belegt eine Studie des Capgemini Research Institute („Why addressing ethical Questions in AI will benefit Organisations”), wo 2019 über 4400 Verbraucher aus sechs Ländern (einschließlich Deutschland) zu ethischen Grundsätzen in der Wirtschaft befragt wurden.

Dabei gaben 62 Prozent der Befragten an, Unternehmen mehr zu vertrauen, wenn deren Nutzung von Künstlicher Intelligenz (KI) als ethisch betrachtet wird. Diese Erfahrungen würden 61 Prozent mit ihrer Familie und ihren Freunden teilen, 59 Prozent würde eine stärkere Loyalität zum Unternehmen empfinden und 55 Prozent daraufhin mehr Produkte kaufen und das Unternehmen online und in den sozialen Netzwerken positiv bewerten.

Daraus lässt sich ableiten, dass die Wirtschaft sich künstliche Intelligenz nur dann vollumfänglich zu Nutze machen kann, wenn sie auch aus ethischer Sicht Akzeptanz durch die Kunden erfährt.

Je mächtiger ein KI-System ist, desto größer ist auch die Verantwortung des Verwenders und auch wenn sich die Technologie stetig fortentwickelt, müssen einheitliche ethische Standards eingehalten werden, welche konstant bestehen bleiben, damit sich der Nutzer auf Neuerungen einlassen kann und keine damit einhergehenden Nachteile befürchten muss.

Im Folgenden wird aufgezeigt, welche Risiken sich im Hinblick auf die Ethik für die Nutzung künstlich intelligenter Systeme ergeben. Daran schließt sich die Beantwortung der Frage an, wie diesen durch den Verwender begegnet werden kann und sollte.

Ethische Risiken im Umgang mit Künstlicher Intelligenz

Nachteile spiegeln sich innerhalb von Bedenken hinsichtlich der Zuverlässigkeit und der daran oftmals anknüpfenden Unsicherheit von KI wider, was am Beispiel des von Kritikern beanstandeten und von Automobilkonzernen angestrebten vollautonomen Fahrens erkennbar wird.

Häufig befürchtet wird zudem ein Mangel an Kontrolle durch die Verwender bei zunehmend eigenständigem Handeln der künstlich intelligenten Systeme und die daran anknüpfende Frage nach der Verantwortlichkeit im Schadenseintritt.   

Da für die erfolgreiche Nutzung selbstlernender Algorithmen große Datenmassen für das Trainieren dieser benötigt werden, ergeben sich insbesondere auch Risiken hinsichtlich der Datensicherheit und Privatsphäre der Betroffenen, da ein Datengebrauch häufig auch einen Datenmissbrauch nach sich ziehen kann.

Eine weitere Problematik liegt innerhalb der Transparenz der Vorgehensweise von KI-Systemen. Ihre Entscheidungen sind meist nur schwer nachvollziehbar, da es sich bei Innovationen, die auf maschinellem Lernen basieren häufig um eine Black Box handelt. So wird von Kritikern lautstark die dadurch erhöhte Gefahr der Diskriminierung beanstandet, da Künstliche Intelligenz innerhalb von Daten nur Muster und Strukturen erkennen kann. Daher kann es beispielsweise bei der Beurteilung der Kreditwürdigkeit einer Person zu einer Ungleichbehandlung kommen, da sich aus den Informationen, mit denen die KI trainiert wird ergibt, dass weiße Männer im Durchschnitt ein höheres Einkommen haben als Frauen, Menschen mit Behinderung oder dunkelhäutige Personen.

Weiterhin besteht die Gefahr der Verwendung fehlerhafter oder veralteter Daten, auf Grundlage derer Entscheidungen getroffen werden, welche im Zweifel weitereichende und schwerwiegende Folgen nach sich ziehen können.

Newsletter

Abonnieren Sie unseren monatlichen Newsletter mit Infos zu Urteilen, Fachartikeln und Veranstaltungen.

Abmeldelink in jedem Newsletter. Mehr in der Datenschutzerklärung.

Ethische Leitlinien als vertrauensbildende Maßnahme

Den genannten Risiken kann mit Hilfe von ethischen Leitlinien begegnet werden, deren Implementierung unabkömmlich ist, um Akzeptanz und Vertrauen zu erzeugen.

Sie müssen unternehmensintern auf jeder Ebene Berücksichtigung finden, transparent für Kunden nach außen getragen werden und jederzeit für sie zugänglich sein.

Sie sollten folgende Aspekte beinhalten:

Ausreichende Qualitätssicherung im Hinblick auf die verarbeiteten Daten

Die Daten müssen eine ausreichende Integrität, Diversität und Repräsentativität aufweisen um einer möglichen Diskriminierung und Ungleichbehandlung entgegenzuwirken. Daher müssen bei der Konzeptionierung künstlich intelligenter Systeme etwa auch die Bedürfnisse von Menschen mit Behinderung berücksichtigt werden. Der Datensatz muss demnach die Unterschiedlichkeit der Menschen wiederspiegeln und regelmäßig auf seine Richtigkeit und Aktualität untersucht werden.  

Schutz der Privatsphäre der Betroffenen

Den Betroffenen der Verarbeitung personenbezogener Daten muss ein hohes Maß an Datensicherheit und Datenschutz garantiert werden und ihnen muss kommuniziert werden, welche Daten verarbeitet werden und welchen Umfang die Datensätze haben. Dieses Erfordernis steigt, wenn es sich bei den verarbeiteten Daten um sensible Daten handelt, weshalb Unternehmen die im Gesundheitsbereich tätig werden insbesondere darauf achten müssen.

Zuverlässigkeit der verwendeten Technologien

Die Sicherheit von KI-Systemen muss zudem gewährleistet sein. Dabei unterstützen kann die Einführung eines Risikomanagementsystems und die regelmäßige Durchführung von Risikoanalysen. Insbesondere müssen diese Tests beinhalten, welche verifizieren, wie sich die Künstliche Intelligenz in ihr bisher unbekannten Situationen und Umgebungen verhält.

Nachvollziehbarkeit der Ergebnisfindung und Ergebnisüberprüfung

Da das Ergebnis einer Künstlichen Intelligenz keiner möglichen Manipulierbarkeit oder algorithmischem Fehlverhalten entzogen ist, muss das Ergebnis stets erklärbar und die Ergebnisfindung transparent bleiben. Dabei förderlich ist die Nutzung einer „Explainable AI“, aus der hervorgeht, auf welche Haupteinflussfaktoren eine Entscheidung gestützt wird. Zudem muss das Ergebnis in letzter Instanz von einem Menschen überprüft werden.

Festlegung der Verantwortlichkeiten

Es muss den Betroffenen mitgeteilt werden, dass die Verantwortlichkeit hinsichtlich des Handelns von KI-Systemen in den Händen von Menschen liegt und sich diese nicht vollumfänglich auf die KI verlassen. Die Nutzer von KI unterliegen einer Rechenschaftspflicht, da die Entscheidungen der KI stets auf sie als Verwender rückführbar sind und sie sich nicht in ihrer menschlichen Autonomie in den Hintergrund drängen lassen dürfen.

Fazit

Eine ethische Betrachtungsweise ist mehr als nur einen Seitenblick wert, sondern muss im Fokus von Unternehmen stehen. Die Etablierung und Einhaltung moralischer Grundsätze wirkt sich positiv und vertrauensbildend auf die Kunden aus und begründet daher einen beachtlichen wirtschaftlichen Vorteil. Die eingangs genannten ethischen Risiken im Umgang mit KI-Systemen begründen als notwendige Maßnahme daher, dass der Einsatz unter Berücksichtigung ethischer Vorgaben erfolgen muss. Diese müssen dem Betroffenen transparent kommuniziert werden und dürfen nicht überschritten werden, da neben der Einhaltung eines rechtlichen Rahmens eine Nutzung von KI auch moralisch vertretbar sein muss.

Die beschriebenen Leitlinien sind als allgemeiner Maßstab zu verstehen, die jedes Unternehmen in Bezug auf ihr individuelles Tätigkeitsfeld anpassen muss.

Regelmäßig wird jedoch insbesondere das Vertrauen der Kunden in einen gewissenhaften Umgang mit personenbezogenen Daten generiert werden müssen, da Künstliche Intelligenz nur auf Basis großer Datenmassen funktionsfähig ist.

Die Anwälte der Kanzlei Schürmann Rosenthal Dreyer unterstützen Sie mit ihrer Expertise im Datenschutz gerne bei der Frage, wie sie insbesondere den Schutz der Privatsphäre der betroffenen Personen beim Einsatz von KI gewährleisten können.

Kontakt

office@srd-rechtsanwaelte.de

Berlin

+49 (0)30 21 30 028-0

Düsseldorf

+49 (0)211 41 55 868-0

München

+49 (0)89 61 42 412-70

Newsletter

Abonnieren Sie unseren monatlichen Newsletter mit Infos zu Urteilen, Fachartikeln und Veranstaltungen.

Abmeldelink in jedem Newsletter. Mehr in der Datenschutzerklärung.