Diskussion um die geplante KI-Verordnung

Vor etwas mehr als einem Jahr legte die EU-Kommission einen Vorschlag für eine Verordnung zur Regulierung von künstlicher Intelligenz (KI-VO) vor. Die geplante Verordnung ist ein Prestigeprojekt der EU und soll einen strengen Rechtsrahmen für die Entwicklung und den Einsatz von KI in Europa schaffen. Derzeit befindet sich die KI-VO noch im Entwurfsstadium und insbesondere ihr Anwendungsbereich wird diskutiert. Auch der EU-Ministerrat hat sich bereits mit dem Entwurf der Kommission beschäftigt und eigene Vorschläge in die Diskussion eingebracht.

Seit dem ersten Juli 2022 hat Tschechien die Präsidentschaft im Ministerrat inne. Und schon jetzt hat die tschechische Ratspräsidentschaft ein Diskussionspapier mit den anderen EU-Regierungen geteilt, in dem sie den Weg für die Diskussion um die geplante KI-VO vorgibt. Das Dokument liegt dem paneuropäischen Mediennetzwerk Euractiv vor. In dem Papier werden vier noch zu klärende Fragen aus dem Entwurf zur KI-VO identifiziert und die Regierungen werden gebeten, ihre Ansichten dazu zu teilen. Die Punkte umfassen die Definition von künstlicher Intelligenz, den sachlichen Anwendungsbereich von sog. Hochrisikosystemen, die Durchsetzungsmechanismen der geplanten Verordnung und eventuelle Ausnahmen für Systeme, die der nationalen Sicherheit dienen. Bis zum 20. Juli 2022 will der tschechische Ratsvorsitz einen überarbeiteten Kompromissvorschlag zum KI-VO-Entwurf vorlegen, den die Mitgliedsstaaten bis zum zweiten September kommentieren können. Der letzte Kompromissvorschlag wurde vom vorherigen französischen Ratsvorsitz ausgearbeitet und im Mai 2022 vorgelegt.

Definition von KI

Zunächst äußert die tschechische Ratspräsidentschaft ihre Bedenken hinsichtlich der Definition von KI aus Anhang I zur geplanten Verordnung. Viele Mitgliedsstaaten seien der Ansicht, sie sei zu weit und mehrdeutig gefasst, sodass auch einfache Software darunterfallen könnte. Zudem wird der Kommission die Befugnis übertragen, die Definition aus dem Anhang per delegiertem Rechtsakt an Marktentwicklungen und technischen Entwicklungen anzupassen.
Zum einen schlägt die tschechische Ratspräsidentschaft vor, den Kommissionsvorschlag schlicht beizubehalten oder die Formulierung des französischen Ratsvorsitzes zu übernehmen. Danach sollen Elemente zur Präzisierung der Definition hinzugefügt werden und die Kommission ihre Befugnisse behalten. Als andere Möglichkeit wird vorgeschlagen, den Anhang I gänzlich zu streichen und eine engere Definition im Verordnungstext selbst zu formulieren. Die Befugnis der Kommission, die Definition anzupassen, ginge dadurch verloren.

Hochrisikosysteme

Welche KI-Systeme als hochriskant anzusehen sind, wird durch eine Liste in Anhang III zur geplanten Verordnung geregelt. Einige Mitgliedsstaaten sehen den Anwendungsbereich als zu weit. Es wird befürchtet, dass auch Systeme umfasst werden könnten, die an sich unbedenklich seien, da von ihnen keine Grundrechtsverletzungen oder andere schwerwiegende Risiken ausgingen. Der tschechische Ratsvorsitz schlägt unterschiedliche Ansätze vor, mittels derer sich die Anwendungsfälle von hochriskanter KI eingrenzen ließen. Am einfachsten wäre unter diesen, den französischen Kompromissvorschlag beizubehalten. Dieser formuliert Art. 6 KI-VO, in dem Hochrisikosysteme klassifiziert werden, insofern um, als dass die Logik hinter der Einstufung von KI mit hohem Risiko und die Verbindung zu den Anhängen verdeutlicht wird. Zudem möchte der aktuelle Ratsvorsitz auch hier die Befugnisse der Kommission, auch zukünftig Änderungen an dem Anhang III vorzunehmen, diskutieren.

Durchsetzung

Der dritte Punkt, den die tschechische Ratspräsidentschaft anspricht, sind die Durchsetzungsmechanismen im KI-VO-Entwurf. Die Kommission schlägt vor, dass von jedem Mitgliedsstaat nationale Behörden eingerichtet werden, die Anwendung und Durchführung der Verordnung sicherstellen. Daraufhin haben mehrere Mitgliedsstaaten ihre Bedenken zum Ausdruck gebracht, dass diese übermäßige Dezentralisierung Schwierigkeiten für eine wirksame Durchsetzbarkeit der Verordnung bedeuten könnte. Insbesondere wird befürchtet, dass die Staaten nicht über die nötige Kapazität und Fachkenntnis verfügen. Die tschechische Ratspräsidentschaft merkt deshalb an, dass die Verordnung ein gewisses Maß an Flexibilität für nationale Gesetze und Besonderheiten bieten sollte. Auf der anderen Seite erfordere die Übertragung von Durchsetzungsbefugnissen auf eine zentralere Ebene sorgfältige Überlegungen zu praktischen und budgetären Auswirkungen.
Es wird vorgeschlagen, die Mitgliedsstaaten durch Schaffung einer EU-Prüfeinrichtung, eines Expertenpools und eines Notfallmechanismus zu entlasten. Zudem könne ein bereits geplanter KI-Ausschuss gestärkt werden, um die nationalen Behörden zu unterstützen. Auch könnte die Kommission die Befugnis erhalten, unter außergewöhnlichen Umständen direkte Untersuchungen einzuleiten.

Newsletter

Abonnieren Sie unseren monatlichen Newsletter mit Infos zu Urteilen, Fachartikeln und Veranstaltungen.

Mit einem Klick auf „Abonnieren“ stimmen Sie dem Versand unseres monatlichen Newsletters (mit Infos zu Urteilen, Fachartikeln und Veranstaltungen) sowie der aggregierten Nutzungsanalyse (Messung der Öffnungsrate mittels Pixel, Messung der Klicks auf Links) in den E-Mails zu. Sie finden einen Abmeldelink in jedem Newsletter und können darüber Ihre Einwilligung widerrufen. Mehr Informationen erhalten Sie in unserer Datenschutzerklärung.

Ausnahmen für nationale Sicherheit

Zuletzt spricht die tschechische Ratspräsidentschaft in ihrem Papier KI-Systeme an, die der nationalen Sicherheit und militärischen Zwecken dienen sollen. In dem Verordnungsentwurf der EU-Kommission ist bereits vorgesehen, dass Systeme, die ausschließlich für militärische Zwecke entwickelt oder verwendet werden, vom Anwendungsbereich der Verordnung ausgenommen werden sollen. In ihrem Kompromissvorschlag formulierte die französische Ratspräsidentschaft die Ausnahme dann insofern um, dass die Verordnung nicht für solche Systeme gelten solle, die „ausschließlich für militärische oder nationale Sicherheitszwecke entwickelt oder genutzt werden“. Laut der nun tschechischen Ratspräsidentschaft sei dies für viele Mitgliedsstaaten nach wie vor zu unpräzise. Es wird daher vorgeschlagen, das Wort „ausschließlich“ aus dem Text zu streichen. Auch wenn dabei bemerkt wird, dass auch dies zu Unklarheiten führen könnte.
Zudem wird vorgeschlagen, die Ausnahme nicht auf die Entwicklungsphase solcher Systeme zu beziehen.


Das könnte Sie auch interessieren:


Fazit

Es ist ersichtlich, dass die Diskussion zur geplanten KI-VO in vollem Gange ist. Wie der Vorschlag der tschechischen Ratspräsidentschaft zeigt , betreffen die Änderungen, die zwischen den EU-Gesetzgebungsorganen derzeit im Gespräch sind, vorrangig Details. Insbesondere wie weit der genaue sachliche Anwendungsbereich geht, wird noch von entscheidender Bedeutung für die möglicherweise betroffenen Unternehmen sein. Der grundlegende Regelungsansatz und die Struktur des Vorschlags der EU-Kommission werden jedoch wohl auch im kommenden Kompromissvorschlag des EU-Ministerrats unberührt bleiben. Auch wenn Details noch zu klären sind, zeichnet sich bereits jetzt ab, dass Kommission, Rat und Parlament von einem relativ weiten Verständnis von KI ausgehen und künftig nicht nur klassische Tech-Unternehmen von der KI-VO betroffen sein könnten.

Kontakt

office@srd-rechtsanwaelte.de

Berlin

+49 (0)30 21 30 028-0

Düsseldorf

+49 (0)211 41 55 868-0

München

+49 (0)89 61 42 412-70

Newsletter

Abonnieren Sie unseren monatlichen Newsletter mit Infos zu Urteilen, Fachartikeln und Veranstaltungen.

Mit einem Klick auf "Abonnieren" stimmen Sie dem Versand unseres monatlichen Newsletters (mit Infos zu Urteilen, Fachartikeln und Veranstaltungen) sowie der aggregierten Nutzungsanalyse (Messung der Öffnungsrate mittels Pixel, Messung der Klicks auf Links) in den E-Mails zu. Sie finden einen Abmeldelink in jedem Newsletter und können darüber Ihre Einwilligung widerrufen. Mehr Informationen erhalten Sie in unserer Datenschutzerklärung.