KI im Klinikalltag: Was medizinische Software à la ChatGPT erfüllen muss

© iStock.com/peshkov

Eine App, die mit generativer Künstlicher Intelligenz (KI) bei medizinischen Behandlungsentscheidungen mit evidenzbasiertem Wissen unterstützt und dabei auf Sprachbefehle reagiert: Das ist für manche vielleicht eine verlockende Idee. Allerdings handelt es sich dabei regulatorisch um ein Medizinprodukt, das zertifiziert werden muss, bevor es am Menschen angewendet werden darf. Im Unterschied zu einem Verbandmittel oder Herzschrittmacher lernen KI-unterstützte Systeme kontinuierlich und verändern sich dabei, was eine veritable Herausforderung für die Medizinproduktezertifizierung darstellt. Der VDE Verband der Elektrotechnik Elektronik Informationstechnik e. V. erklärt, was die Voraussetzungen für die Zertifizierung KI-basierter Medizinprodukte sind [1, 2]. 

Vor kurzem wurde in Europa das – nach eigenen Angaben – erste Medizinprodukt mit generativer KI-Technologie in der Risikoklasse IIb zertifiziert („zugelassen“). Dabei handelt es sich um ein sogenanntes Clinical Decision Support-System (System zur klinischen Entscheidungsunterstützung), das dem medizinischen Fachpersonal evidenzbasierte Empfehlungen zur Diagnostik und Therapie liefert. Die Software reagiert auf Sprachbefehle und – ähnlich wie ChatGPT – auf die Eingabe von „Prompts“ (Anweisungen) [2].

Warum ist diese Meldung offenbar etwas Besonderes? Weil auch KI-unterstützte Software-Systeme Medizinprodukte sind, die nur am Menschen angewendet werden dürfen, wenn sie die zahlreichen Voraussetzungen für eine Zertifizierung („Zulassung“) erfüllen. Der Technologie-Verband VDE hat dazu eine Übersicht erstellt, die zeigt, wie komplex und aufwändig das entsprechende Zertifizierungsverfahren ist. Hier einige Auszüge aus der langen Liste [1]:

1. KI-unterstützte Systeme müssen die Kriterien für ein Medizinprodukt im Sinne der Europäischen Verordnungen 2017/745 über Medizinprodukte (MDR) erfüllen – einschließlich spezieller Anforderungen für Software sowie der Zweckbestimmung und Risikoklassifizierung gemäß MDCG 2019-11 (MDCG: Medical Device Coordination Group).
   
   
2. Sie müssen verschiedenen europäischen Normen (EN) sowie den Normen internationaler Organisationen entsprechen – darunter International Organization for Standardization (ISO), International Electrotechnical Commission (IEC), Association for the Advancement of Medical Instrumentation (AAMI) und Institute of Electrical and Electronics Engineers (IEEE).
   
   
3. Die zugrunde liegenden Software-Bibliotheken müssen normgerecht validiert werden.
   
   
4. Sie müssen die Bestimmungen für Hoch-Risiko-Produkte in der Verordnung (EU) 2024/1689 (Artificial Intelligence Act, AIA) einhalten.
   
   
5. Da KI-unterstützte Systeme in der Regel personenbezogene Daten verarbeiten, gelten die Anforderungen der Europäische Datenschutzgrundverordnung (DSGVO), einschließlich der Notwendigkeit einer Datenschutzfolgenabschätzung. Wichtig ist dabei, dass laut Artikel 22 DSGVO die automatisierte Entscheidungsfindung eigentlich verboten ist. Daher müssen die Hersteller besondere Maßnahmen ergreifen, um die Rechte der Betroffenen zu wahren.

 
Es ist also ein langer, steiniger Weg, bis ChatGPT am Krankenbett über die Schulter schauen darf. Diese Liste ist allerdings nicht vollständig, denn bei einigen Aspekten wie der CE-Konformitätsbewertung kontinuierlich lernender KI-Systeme gibt es noch erhebliche Klärungsbedarfe [1]. 

Ihre Meinung ist gefragt!

Nehmen Sie jetzt an unserer Leserumfrage teil »

Referenzen

1. VDE Verband der Elektrotechnik Elektronik Informationstechnik e.V.: Zulassung von KI-basierten Medizinprodukten in Europa. Fachbeitrag. 10.12.2024. unter: https://www.vde.com/topics-de/health/beratung/zulassung-von-ki-basierten-medizinprodukten-in-europa (abgerufen: 14.04.2025)

2. VDE Verband der Elektrotechnik Elektronik Informationstechnik e.V.: Medizinischer Co-Pilot: Erstes KI-gestütztes Medizinprodukt zur Unterstützung klinischer Entscheidungen zugelassen. Pressemitteilung. 10.04.2025. unter: https://www.vde.com/resource/blob/2381406/47c6f05730ff85b3e7e5b4c19caf99a0/2025-03-27-vde-aiq-valmed-pm-pdf-data.pdf (abgerufen: 14.04.2025)