Künstliche Intelligenz (KI) und Medizinprodukte: Regulatorische Anforderungen und Herausforderungen im Überblick 

Insbesondere stellt sich die Frage, wie die Verordnung (EU) 2017/745 über Medizinprodukte (MDR), Verordnung (EU) 2017/746 über In-vitro-Diagnostika (IVDR) und die künftige Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (KI-VO) miteinander korrelieren. Die KI-VO wird darüber hinaus um einen AI Liability Act (KI-Haftungsrichtlinie) ergänzt werden, für den ebenfalls ein erster Entwurf vorliegt. Letzteren kennzeichnet vor allem das neue Haftungsregime, welches eine Kausalitätsvermutung zugunsten der Betroffenen vorsieht. Ein umfassendes Verständnis und die korrekte Anwendung dieser Vorschriften sind für das erfolgreiche Inverkehrbringen KI-basierter Medizinprodukte unerlässlich – wir bieten Ihnen im Folgenden einen Überblick.

Die medizinische Zweckbestimmung von Medizinprodukten und ihre Einordnung

Medizinprodukte sind Produkte mit medizinischer Zweckbestimmung, die von Hersteller:innen:innen für die Anwendung am Menschen bestimmt sind. Im Gegensatz zu Arzneimitteln (die pharmakologisch, immunologisch oder metabolisch wirken), wird die bestimmungsgemäße Hauptwirkung bei Medizinprodukten primär auf physikalischem Weg erreicht. Nach der Definition gemäß Art. 2 Nr. 1 MDR können darunter u.a. Instrumente, Apparate, Geräte, Implantate aber auch Software fallen. Entscheidend ist die medizinische Zweckbestimmung. Mit der Zweckbestimmung drücken die Hersteller:innen:innen aus, ob und welche Krankheit oder Verletzung mit Hilfe des Produkts diagnostiziert, therapiert oder überwacht werden soll. Erfüllt ein KI-basiertes Softwareprodukt einen dieser Zwecke, kann es als Medizinprodukt eingestuft werden.

Die Bedeutung von künstlicher Intelligenz im Gesundheitswesen

Eine eindeutige Definition des KI-Begriffs gestaltet sich schwierig. Maßgeblich für die Annäherung an eine Definition sind zwei zentrale Aspekte: ein sich anpassender Verarbeitungsprozess des KI-Systems auf der einen und seine autonome Funktionsweise auf der anderen Seite. Die Definition des Begriffs im aktuellen Entwurf der KI-VO wird aufgrund des breiten Anwendungsbereichs, den sie eröffnen würde, stark kritisiert. Es ist absehbar, dass der Verordnung stattdessen die Begriffsdefinition zugrunde gelegt wird, die von der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) vorgeschlagen wird. Dieser zufolge handelt es sich bei KI um „maschinenbasiertes System, das so konzipiert ist, dass es mit unterschiedlichen Autonomiegraden arbeitet und das zu expliziten oder impliziten Zwecken Ergebnisse, wie Vorhersagen, Empfehlungen oder Entscheidungen erzeugen kann, die physische oder virtuelle Umgebungen beeinflussen“.

Regulatorische Anforderungen für KI-basierte Medizinprodukte

Die MDR betrifft alle Hersteller:innen, die Medizinprodukte in der EU in den Verkehr bringen wollen. Hersteller:innen müssen dabei sowohl produktübergreifenden als auch produktspezifischen Anforderungen gerecht werden. Beispielsweise müssen sie ein Qualitätsmanagementsystem (QMS) für die Entwicklung und Produktion ihrer Produkte erstellen und in einem Risikomanagementsystem kontinuierlich die Risiken des Produkts und dessen Nutzen gegeneinander abwägen. Die Medizinprodukte selbst müssen die Hersteller:innen einer Risikoklasse zuordnen und einer klinischen Bewertung unterziehen, in der sie laufend auf ihre Sicherheit und ihren Nutzen hin überprüft werden. Allerdings gibt der für die Klassifizierung von Medizinprodukten maßgebliche Anhang VIII der MDR (Regel 11) bereits vor, dass „Software, die dazu bestimmt ist, Informationen zu liefern, die zu Entscheidungen für diagnostische oder therapeutische Zwecke herangezogen werden“ zur Risikoklasse IIa gehört.

Welchen Einfluss hat die KI-Verordnung auf Medizinprodukte?

Die KI-VO gibt schließlich ebenfalls vor, dass Produkte, die in ihren Anwendungsbereich fallen, bestimmten Risikoklassen zugeordnet werden müssen. Dabei unterscheidet die KI-VO vier verschiedene Klassen. Während die höchste Risikoklasse ganz verboten ist, bringt die Einordnung einer Anwendung als Hochrisiko-KI-System besondere Vorgaben für Hersteller:innen mit sich. Hochrisiko-KI-Systeme sind nach Art. 6 Abs. 1 KI-VOE KI-Systeme, die entweder selbst unter eine im Anhang II der KI-VO aufgeführte Harmonisierungsrechtsvorschrift fallen, die eine „Sicherheitskomponente“ eines Produkts darstellen, das seinerseits unter den Geltungsbereich eines in Anhang II genannten Regelwerkes fällt oder aber die in Annex III KI-VO-E (Stand alone – AI) aufgeführt sind.

KI-basierte Medizinprodukte müssen außerdem bestimmte grundlegende Anforderungen zur Sicherheit und Leistungsfähigkeit erfüllen. Außerdem müssen Hersteller:innen die Grundsätze der Informationssicherheit oder des Software-Lebenszyklus berücksichtigen.

KI-basierte Medizinprodukte als Hochrisiko-KI-Systeme

Eine Vielzahl von KI-basierten Medizinprodukten wird nach der KI-VO als sogenannte „Hochrisiko-KI-Systeme“ im Sinne der KI-VO zu qualifizieren sein. Fallen Medizinprodukte in diese Kategorie, sind neben der MDR und ggf. der IVDR auch die umfangreichen Vorschriften der KI-VO zu erfüllen.  

In bestimmten Fällen fallen Medizinprodukte automatisch in den Anwendungsbereich der KI-VO. Das lässt sich anschaulich anhand der Klassifizierung von Hörgeräten erklären: Gemäß Art. 6 Abs. 1 lit. b. i.V.m. Anhang II Nr. 11 KI-VO-E sind solche Medizinprodukte Hochrisikosysteme, die nach der MDR einer Konformitätsbewertung durch “Benannte Stellen” im Hinblick auf das Inverkehrbringen oder die Inbetriebnahme dieses Produkts unterzogen werden müssen. Hörgeräte fallen unter die Risikoklasse IIa MDR. Nach Art. 52 VI MDR müssen solche Produkte (also auch  IIa) ein Konformitätsbewertungsverfahren durchlaufen (CE-Kennzeichnung). Damit fallen Hörgeräte als invasive Medizinprodukte auch in den Hochrisikobereich der KI-VO.

Voraussetzung ist, dass eine Konformitätsbewertung durch Dritte für das jeweilige Produkt nach den in der KI-VO aufgeführten Harmonisierungsrechtsvorschriften vorgeschrieben ist. MDR und IVDR stellen solche Harmonisierungsrechtsvorschriften dar.  

Folge dieser Überschneidung ist womöglich ein doppeltes Konformitätsverfahren, das die Hersteller:innen durchlaufen müssen. Damit besteht für Hersteller:innen ein weiterer Grund, frühzeitig eine Risikoprognose und Einordnung ihres Produkts vorzunehmen.

Was sind Beispiele für KI-basierte Medizinprodukte?

Die US-amerikanische Food and Drug Administration (FDA) hat eine umfangreiche Liste an KI-basierten Medizinprodukten veröffentlicht, die für Hersteller:innen nützlich sein kann. Auf der Liste sind etwa Uhren aufgeführt, die unregelmäßigen Puls überwachen, sowie Tools, um ortsunabhängig die eigenen Nierenwerte zu überprüfen. Viele Tools unterstützen auch bei der (radiologischen) Diagnostik durch die KI-gestützte Analyse von Bilddaten. Dabei gleicht die KI in wenigen Sekunden bis Minuten die Aufnahmen mit Tausenden schon gespeicherten Scans ab und generiert eine entsprechende Diagnose, die dann von Ärzten geprüft und ggf. korrigiert wird. KI kommt zudem als Assistenz bei Operationen zum Einsatz. Beispielsweise führen sterile Roboter einzelne Schritte der OP am Patienten aus und verringern damit das Infektionsrisiko, das durch die Arbeit menschlicher Operateure direkt am Patienten entsteht.  

Auch in der Nachsorge kann KI unterstützend eingesetzt werden. So können nach Transplantationen Gesundheitsdaten der Patient:innen über Handy-Apps mit Fachärzt:innen und Transplantationszentren ausgetauscht werden. Mithilfe von KI werden die Daten ausgewertet und der Gesundheitszustand der Patient:innen kontinuierlich überwacht. So wird schneller erkannt, wie der Körper auf das Implantat reagiert und ob es etwa zu einem Transplantatverlust kommt.  

Die Liste der Anwendungsbeispiele von KI im Gesundheitswesen ließe sich noch lange fortsetzen; und müsste angesichts der sich ständig weiterentwickelnden Innovationen wohl auch kontinuierlich erweitert werden. Hinsichtlich der Medizinprodukte, nicht nicht gleichzeitig in den Anwendungsbereich der KI-VO fallen (hierzu dürften auch digitale Gesundheitsanwendungen (DiGAs) zählen), eröffnet sich hingegen für Hersteller:innen:innen ein großer Handlungsspielraum, den sie bei der subjektiven Zweckbestimmung ihrer Produkte nutzen können.  

ChatGPT – ein Medizinprodukt?

Derzeit sorgt der Chatbot ChatGPT für Aufruhr; auch in der Gesundheitsbranche. So könnte ChatGPT z.B. Krankheitsdiagnosen stellen oder zumindest bei der Formulierung von Arztbriefen unterstützen. Folglich stellt sich die Frage, ob ChatGPT als Medizinprodukt im Sinne der MDR eingestuft werden muss. Wie oben erläutert, kann Software (und damit auch der Chatbot) ein Medizinprodukt sein. Entscheidend ist aber nicht die objektive, sondern die subjektive medizinische Zweckbestimmung. OpenAI, Hersteller:innen von ChatGPT, hat erkennbar keine Angaben dahingehend gemacht, dass der Bot einen medizinischen Zweck erfüllen soll. Der Hersteller:innen macht dagegen klar, dass ChatGPT zur Textproduktion eingesetzt werden kann und soll. Damit scheint die Klassifizierung von ChatGPT zunächst weithergeholt. Dennoch kann dieses Ergebnis nicht klar abgelehnt werden. Denn faktisch handelt es sich bei ChatGPT um eine sogenannte Allgemeinzweck-KI, bei der zum Teil bestritten wird, dass sie überhaupt einer subjektiven Zweckbestimmung des Hersteller:innens unterliegen kann. Wird eine solche KI dann zu medizinischen Zwecken eingesetzt, könnte sie nach dieser Auffassung durchaus als Medizinprodukt in Betracht kommen.

Regulatorische Herausforderungen bei KI-basierten Medizinprodukten: Expertise für Hersteller:innen

Die regulatorischen Herausforderungen für Hersteller:innen von KI-basierten Medizinprodukten sind unübersichtlich und komplex. Diesem Problem widmen sich immer mehr Leitfäden, die Hersteller:innen von KI-basierten Medizinprodukten auf eine Prüfung ihrer Produkte vorbereiten sollen. Allerdings lassen sich aus diesen Leitfäden größtenteils keine übereinstimmenden und allgemeingültigen Empfehlungen entnehmen.  

Obwohl sich die KI-VO noch in der Entwurfsphase befindet, sollten sich Hersteller:innen von KI-basierten Medizinprodukten bereits jetzt mit ihr vertraut machen und ihre internen Compliance-Strukturen anpassen. Hersteller:innen sollten prüfen, ob das Medizinprodukt neben den Anforderungen der MDR künftig auch der KI-VO unterliegt. Hierbei stehen wir mit unserem breiten Erfahrungsschatz gern zur Verfügung.