03.02.2025
KI-Verordnung: Neue Pflichten seit 2. Februar 2025
Kapitel I KI-VO: KI-Kompetenz muss gewährleistet werden
Unternehmen, die KI-Systeme anbieten und/oder betreiben, müssen seit dem 2. Februar 2025 sicherstellen, dass ihre mit KI befassten Mitarbeitenden über eine hinreichende KI-Kompetenz verfügen (Artikel 4 KI-VO).
In der Praxis bedeutet das, dass die betroffenen Beschäftigten hinsichtlich dreier Aspekte geschult werden müssen:
- Rechtliche Schulung zum AI Act: Mitarbeitende müssen sich mit den Rechten und Pflichten auskennen, die die Verordnung mit sich bringt.
- Technische Schulung: Mitarbeitende müssen sich mit dem sachgerechten Einsatz von KI-Systemen auskennen.
- Ethische Schulung: Mitarbeitende müssen über die sozialen und ethischen Chancen und Risiken der KI-Nutzung im Klaren sein.
Dabei ist besonders wichtig, dass die Schulungen auf die Vorkenntnisse der Mitarbeitenden und die Art des Einsatzes der KI abgestimmt werden.
Notwendige Maßnahmen zur Umsetzung der KI-Kompetenz
- Durchführung maßgeschneiderter Schulungen
- Entwicklung interner Richtlinien und Standards
- Angebot von Weiterbildungs- und Zertifizierungsprogrammen
- Einrichtung von Anlaufstellen, wie z.B. ein KI-Gremium oder ein KI-Beauftragter
Kapitel II KI-VO: Einstellen verbotener Praktiken
Die zweite wichtige Pflicht aus dem AI Act, die seit dem 2. Februar 2025 umgesetzt werden muss, ist das Einstellen verbotener Praktiken.
Der Artikel 5 des AI Act listet spezifische verbotene Praktiken auf, die als unannehmbares Risiko für die Sicherheit, die Rechte und die Freiheiten von Personen gelten.
Die 8 wichtigsten verbotenen KI-Praktiken nach AI Act
- Manipulative oder täuschende KI-Systeme: Der Einsatz von KI-Systemen, die unterschwellige oder absichtlich manipulative Techniken verwenden, um das Verhalten von Personen so zu beeinflussen, dass sie Entscheidungen treffen, die ihnen erheblichen Schaden zufügen können.
- Ausnutzung von Schwachstellen: KI-Systeme, die die Schwachstellen bestimmter Personengruppen aufgrund von Alter, Behinderung oder sozialer bzw. wirtschaftlicher Lage ausnutzen, um deren Verhalten in schädlicher Weise zu beeinflussen.
- Soziales Scoring: Systeme, die Personen über einen bestimmten Zeitraum basierend auf ihrem Verhalten oder persönlichen Merkmalen bewerten und diese Bewertungen zu ungerechtfertigter oder unverhältnismäßiger Benachteiligung in verschiedenen Lebensbereichen führen.
- Vorhersage von Straftaten: KI-Systeme, die ausschließlich auf Profiling basieren, um das Risiko vorherzusagen, dass eine Person eine Straftat begehen könnte, ohne objektive und überprüfbare Fakten.
- Erstellung von Gesichtserkennungsdatenbanken: Das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder Videoüberwachungsaufnahmen zur Erstellung oder Erweiterung von Datenbanken für die Gesichtserkennung.
- Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen: Der Einsatz von KI-Systemen zur Ableitung von Emotionen von Personen in Arbeits- oder Bildungskontexten, es sei denn, dies geschieht aus medizinischen oder sicherheitstechnischen Gründen.
- Biometrische Kategorisierung: KI-Systeme, die Personen basierend auf biometrischen Daten in Kategorien wie Ethnie, politische Meinungen, religiöse Überzeugungen oder sexuelle Orientierung einteilen.
- Biometrische Echtzeit-Fernidentifizierung: sofortige Erkennung und Identifizierung von Personen aus der Ferne anhand ihrer biometrischen Merkmale, wie z. B. Gesichtszügen, durch den Abgleich mit Referenzdatenbanken, ohne aktive Mitwirkung der betroffenen Person.
Bei Missachtung dieser Verbote können Geldbußen von bis zu 35 Millionen Euro oder – im Falle von Unternehmen – bis zu 7 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres verhängt werden, je nachdem, welcher Betrag höher ist.
Unsere KI-Beratung im Überblick
- Regulatory Mapping:
Identifikation relevanter rechtlicher Anforderungen durch detailliertes Mapping gemäß verschiedenen nationalen Vorgaben und EU-Datenregulierungen. - Data & AI Governance:
Entwicklung und Anpassung von Governance-Strukturen, Identifizierung der Anforderungen und Vorbereitungen für die KI-Verordnung. - Schulungen:
Workshops zur Reichweite und Umsetzung des Al Act, Vermittlung von Al-Kompetenz gem. Art. 4 Al Act für Führungskräfte, Produktteams und Entwickler. - AI Inventory:
Unterstützung bei der Erstellung einer Übersicht aller KI Systeme im Unternehmen, einschließlich der Bestimmung, ob ein System als KI-System definiert werden muss oder nicht. - Vertragsgestaltung:
Vertragsgestaltung im Zusammenhang mit Kl-Projekten, wie z.B. Entwicklungsverträge, KI-as-a-Service-Verträge (KIaaS) und weitere. - Beratung zu Externen Kl-Anwendungen:
Beratung und Anleitung zur Nutzung externer Kl-Anwendungen und Prüfung von Drittanwendungen. - Anonymisierung & Pseudonymisierung:
Ausgestaltung und Beratung zu Anonymisierungs- und Pseudonymisierungskonzepten - Risikobewertungen:
Beratung zu Risikobewertungen im Rahmen von Datenschutz- und Grundrechtefolgenabschätzungen in Bezug auf KI-Systeme. - Beratung zu Urheberrecht:
Beratung zu urheberrechtlichen Implikationen im Zusammenhang mit GenAl (z.B. Rechte am Dateninput, Schutzfähigkeit von Prompts und Output). - Rechtskonforme Datennutzung:
Beratung zu rechtskonformer Datennutzung von Big Data, maschinellem Lernen und generativer KI im Zusammenhang mit Datenschutzrecht, Geschäftsgeheimnissen und Datenbankrechten. - Beratung bei KI-Entwicklung:
Ganzheitliche Beratung bzgl. Vertragsmanagement, Compliance und weiteren rechtlichen Aspekten bei KI-Entwicklungsprojekten.