Im Lichte von Gesundheitsdatennutzungsgesetz und KI-Verordnung
Die möglichen Anwendungsfälle und Nutzungsmöglichkeiten Künstlicher Intelligenz (KI) scheinen unbegrenzt. In Krankenhäusern wird KI die Anwendung neuer Präventions-, Diagnose- und Behandlungsverfahren möglich machen. Besonderen Nutzen werden Lösungen erwarten lassen, die direkt auf die Daten aus den Krankenhausinformationssystemen zugreifen und anhand der vorhandenen Daten Wahrscheinlichkeiten für das Auftreten bestimmter unerwünschter Ereignisse berechnen können und Ärzte frühzeitig warnen, wenn ein Patient ein erhöhtes Risiko für unerwünschte Ereignisse wie Sepsis oder Niereninsuffizienz entwickelt, um dann entsprechende therapeutische Gegenmaßnahmen einleiten zu können.
Um das lebensrettende Potenzial von KI nutzen zu können, sind jedoch große Datenmengen erforderlich – denn eine KI ist nur so gut, wie die Daten, mit der sie trainiert wurde. Diese Daten sind in Krankenhäusern vorhanden. Sofern die Daten in ausreichend standardisierten Formaten vorliegen, unterliegen sie zudem auch dem Spannungsverhältnis der Vertraulichkeit der ärztlichen Behandlung. Denn nicht jeder Patient wird selbst von jener KI profitieren, die unter Umständen mit seinen Daten trainiert wurde. Es bedarf daher rechtlichen Voraussetzungen, um dieses Spannungsverhältnis zu lösen und die Gesundheitsdaten im Einklang mit der informationellen Selbstbestimmung nutzen zu dürfen.
Gesundheitsdatennutzungsgesetz schafft neue Möglichkeiten
Mit dem Gesundheitsdatennutzungsgesetz (GDNG) hat der Gesetzgeber rechtlich Möglichkeiten geschaffen, dass die in der Klinik vorliegenden Patientendaten unter bestimmten Voraussetzungen für andere Zwecke weiterverarbeitet werden dürfen; hierbei wird vor allem auch die Eigenforschung gestärkt. So, laut Gesetzesbegründung, soll auch das Training von KI-Modellen auf Grundlage der deutschen Bevölkerung repräsentativer und qualitativ hochwertiger strukturierter Datensätze gefördert werden.
§ 6 des GDNG macht es Krankenhäusern möglich, die rechtmäßig bei ihnen erhobenen Gesundheitsdaten ihrer Patienten zu Zwecken der Qualitätssicherung, Förderung der Patientensicherheit sowie zur medizinisch-pflegerischen Forschung weiterzuverarbeiten. Soweit der Einsatz einer KI also diesen Zwecken dient, dürfte hiermit eine Legitimationsgrundlage bestehen, krankenhauseigene Gesundheitsdaten der Patienten auch für das Training einer KI zu nutzen. Jedoch werden diese Möglichkeiten an technische und organisatorische Maßnahmen geknüpft. So fordert das Gesetz unter anderem die Umsetzung von Anonymisierungs-, Berechtigungs- und Löschkonzepten. Der Aufwand zur Planung und Implementation solcher Konzepte ist nicht zu unterschätzen.
KI-Verordnung bereits jetzt beachten
Am 12. Juli 2024 wurde zudem die KI-Verordnung der EU veröffentlicht. Die Verordnung wählt einen risikobasierten Ansatz. Das heißt, dass KI-Systeme, die ein besonderes Risiko für die Gesundheit, die Sicherheit oder die Ausübung von Grundrechten bedingen können – sogenannte Hochrisiko-Systeme – zum Teil kosten- und aufwandsintensive Compliance-Anforderungen erfüllen müssen.
Nicht als Hochrisikosysteme werden von der KI-Verordnung Lösungen erfasst, deren Einsatz medizinischen Zwecken, wie etwa der Diagnostik, dient. Hingegen sind jedoch Lösungen, die als Medizinprodukt gemäß der Medizinprodukterichtlinie 93/42/EWG (MDD) zu klassifizieren sind, als Hochrisiko-Systeme einzustufen. Kliniken, die KI-Systeme einsetzen oder planen, dies zu tun, sollten die Anforderungen der KI-Verordnung daher bereits mitdenken und in ihre Kalkulationen einbeziehen.
Fazit
Mit dem GDNG wurden neue Möglichkeiten geschaffen, die den Einsatz von KI-Systemen in Krankenhäusern fördern. Jedoch werden die Nutzungsmöglichkeiten auch die Umsetzung technischer und organisatorischer Maßnahmen gekoppelt, wie die wirksame Anonymisierung der Daten oder die Umsetzung eines Löschkonzepts. Der Datenschutzbeauftragte sollte daher von Beginn des Einführungsprozesses beteiligt werden.
Auch sind bereits frühzeitig die Anforderungen der KI-Verordnung mit zu berücksichtigen und die notwendigen finanziellen und organisatorischen Aufwände in der Projektplanung einzuplanen.
Autoren: David Große Dütting, Manager, Curacon GmbH Wirtschaftsprüfungsgesellschaft, und Sven Erz, Berater, Curacon GmbH Wirtschaftsprüfungsgesellschaft und Sanovis GmbH
Entdecken Sie weitere, spannende Artikel im KU-Archiv.
