Dokumentationspflichten im EU AI Act: Was Anbieter und Betreiber jetzt wissen müssen

Technische Dokumentation bei KI-Systemen

Gemäß Artikel 11 des EU AI Act muss die technische Dokumentation vor dem Inverkehrbringen oder der Inbetriebnahme eines Hochrisiko-KI-Systems erstellt werden. Sie muss klar, verständlich und vollständig sein und mindestens die in Anhang IV der Verordnung genannten Angaben enthalten.

Die Dokumentation muss u. a. folgende Elemente umfassen, soweit sie für das betreffende KI-System von Belang sind:

1. Allgemeine Beschreibung des KI-Systems: Zweckbestimmung, Funktionalitäten und Einsatzbereich.
2. Technische Spezifikationen: Systemarchitektur, verwendete Algorithmen, Datenquellen und -verarbeitung.
3. Risikomanagementsystem: Identifikation potenzieller Risiken, getroffene Maßnahmen zur Risikominderung und Überwachung.
4. Test- und Validierungsergebnisse: Informationen zur Genauigkeit, Robustheit und Cybersicherheit des Systems.
5. Informationen zur menschlichen Aufsicht: Mechanismen zur Kontrolle und Eingriffsmöglichkeiten durch Menschen.
6. Protokollierungsfunktionen: Erfassung und Speicherung von Systemaktivitäten zur Nachvollziehbarkeit.

Kleine und mittlere Unternehmen (KMU), einschließlich Start-ups, können die in Anhang IV aufgeführten Elemente der technischen Dokumentation in vereinfachter Weise bereitstellen.

Dokumentation des Qualitätsmanagementsystems bei KI-Systemen

Gemäß Artikel 17 des EU AI Act sind Anbieter von Hochrisiko-KI-Systemen verpflichtet, ein Qualitätsmanagementsystem (QMS) einzurichten, das die Einhaltung der Verordnung sicherstellt. Dieses System muss systematisch und ordnungsgemäß in Form schriftlicher Regeln, Verfahren und Anweisungen dokumentiert werden. Die Dokumentation dient als Nachweis gegenüber den zuständigen Behörden und unterstützt die Transparenz und Nachvollziehbarkeit der Prozesse.

Aufbewahrungspflichten der Dokumentationen

Gemäß Artikel 18 des EU AI Act sind Anbieter von Hochrisiko-KI-Systemen verpflichtet, bestimmte Dokumentationen für einen Zeitraum von zehn Jahren nach dem Inverkehrbringen oder der Inbetriebnahme des Systems aufzubewahren:

• Technische Dokumentation (Art. 11 AI Act)
• Dokumentation des QMS (Art. 17 AI Act)
• Genehmigte Änderungen und Entscheidungen von notifizierten Stellen
• EU-Konformitätserklärung

Bei Insolvenz oder Betriebsaufgabe müssen Mitgliedstaaten sicherstellen, dass diese Unterlagen weiterhin zugänglich sind.

Dokumentationspflichten für Betreiber von KI-Systemen

Betreiber, also Unternehmen oder Organisationen, die ein Hochrisiko-KI-System in eigener Verantwortung einsetzen, haben ebenfalls bestimmte Dokumentationspflichten.

Gemäß Artikel 26 des EU AI Act müssen Betreiber geeignete technische und organisatorische Maßnahmen treffen, um sicherzustellen, dass sie das KI-System entsprechend der beigefügten Betriebsanleitung verwenden.

Sie sind verpflichtet, die vom KI-System automatisch erzeugten Protokolle für einen angemessenen Zeitraum von mindestens sechs Monaten aufzubewahren.

Zudem müssen Betreiber den Betrieb des Hochrisiko-KI-Systems überwachen und bei festgestellten Risiken oder schwerwiegenden Vorfällen den Anbieter und die zuständige Marktüberwachungsbehörde informieren.

Fristen und Übergangsregelungen

Die Dokumentationspflichten für Hochrisiko-KI-Systeme gelten ab dem 2. August 2026.

Konsequenzen bei Nichteinhaltung

Die Nichteinhaltung der Dokumentationspflichten kann zu signifikanten Bußgeldern führen, einschließlich des Verbots des Inverkehrbringens des KI-Systems. Es ist daher ratsam, frühzeitig mit der Erstellung der technischen Dokumentation zu beginnen und sicherzustellen, dass alle Anforderungen des EU AI Act erfüllt werden.

Fazit

Die Dokumentationspflichten im EU AI Act sind ein zentrales Element zur Regulierung von Hochrisiko-KI-Systemen. Anbieter und Betreiber sollten frühzeitig geeignete Prozesse etablieren oder auf bereits etablierten Prozessen aufsetzen, um die Anforderungen zu erfüllen. Eine saubere Dokumentation ist eine zentrale Voraussetzung für den Konformitätsnachweis Ihres Hochrisiko-Systems und damit des EU-Marktzugangs.

Unsere Leistungen zur Unterstützung Ihrer Dokumentationspflichten

Als spezialisierte Kanzlei für Technologie- und IT-Recht unterstützen wir Sie umfassend bei der Umsetzung der Dokumentationsanforderungen nach dem EU AI Act:

• Beratung zur Klassifikation von Hochrisiko-KI-Systemen und zur Anwendbarkeit der Verordnung
• Erstellung und Prüfung technischer Dokumentationen gemäß Art. 11 und Anhang IV EU AI Act
• Aufbau und rechtliche Begleitung von Qualitätsmanagementsystemen (QMS) für KI-Projekte
• Beratung zur rechtskonformen Protokollierung und Aufbewahrungspflicht für Anbieter und Betreiber
• Erstellung von Nutzungsrichtlinien für den internen Einsatz von KI-Systemen
• Rechtliche Unterstützung bei behördlichen Prüfungen oder Marktüberwachungsverfahren
• Schulung Ihrer Mitarbeitenden zu regulatorischen Anforderungen rund um den AI Act

Wir helfen Ihnen dabei, Ihre KI-Systeme rechtssicher zu gestalten – effizient, praxisnah und rechtskonform.

Erstgespräch kostenlos

In 30 Minuten zu klaren Prioritäten in der KI-Compliance

Erstgespräch vereinbaren

Sie sagen uns, was Sie vorhaben – wir sagen Ihnen klar, was möglich ist.

Philipp Müller-Peltzer
Rechtsanwalt, Partner | Berlin