Autor:
Prof. Roger Jaeckel, Honorarprofessor an der Fakultät Gesundheitsmanagement
an der Hochschule Neu-Ulm, Wileystraße. 1, 89231 Neu-Ulm

Lesedauer: 3 min
  

Die fortschreitende Digitalisierung kennt gegenwärtig nur ein Zauberwort: Künstliche Intelligenz oder auch kurz KI genannt. Auch die Gesundheitsversorgung ist von diesem tiefgreifenden technologischen Wandel ergriffen. In erster Linie geht es um die Sicherstellung effizienterer Behandlungsprozesse und die Entlastung des medizinischen Personals. Auch der 129. Deutsche Ärztetag hat sich in diesem Jahr dieses Themas angenommen. In einem Grundsatzbeschluss bekennt sich die Deutsche Ärzteschaft klar zu KI, allerdings unter Einhaltung strenger Regeln wie Datenschutz, ärztliche Schweigepflicht und einer sorgfältigen Validierung der Systeme.¹

Hervorgehoben wird in diesem Zusammenhang die Wichtigkeit der Arzt-Patienten-Beziehung. In diesem Zusammenhang müssen die zu nutzenden KI-Algorithmen mit „qualitativ hochwertigen, relevanten und repräsentativen Daten“ trainiert werden, um Fehldiagnosen sowie Diskriminierungen und Verzerrungen zu vermeiden. Aus diesen Ausführungen wird bereits deutlich, dass ein Ordnungsrahmen für die Nutzung und Anwendung von KI im Gesundheitswesen noch nicht existiert bzw. erst so allmählich am Entstehen ist. Was ist die Ursache für diese aktuelle Situation?

Entgegen sonstigen politischen Gepflogenheiten hat die EU mit Zustimmung der Mitgliedsstaaten sich schon vor Jahren ordnungspolitisch auf den Weg gemacht, dieser neuen technologischen Entwicklung einen Regulierungsrahmen aufzuerlegen, übrigens der erste KI-Regulierungsrahmen weltweit bisher. Dieser europäische Regulierungsansatz, der am 01. August 2024 in Kraft trat und allgemein als KI-Verordnung² umschrieben wird, ist ein branchenübergreifender Regulierungsansatz (horizontaler Regelungsansatz) und betrifft daher nicht nur das Gesundheitswesen im Besonderen. Die in der KI-VO enthaltenen sektorenübergreifenden Regelungen gelten für private und staatliche Akteure gleichermaßen.³

Die Konsequenz daraus ist, dass ein sektorenspezifisches Nachsteuern wie beispielsweise im Bereich der Gesundheitsversorgung von nationaler Seite initiiert werden muss, wenn sich ein entsprechender Handlungsbedarf aufgrund des Einsatzes von KI im Gesundheitswesen ergibt. Entsprechende Detailregelungen sind daher von dem europäischen Regulierungsansatz nicht abgedeckt.

Des Weiteren zeichnet sich die europäische KI-Verordnung durch einen risikobasierten Ansatz⁴ aus, d.h. die Einteilung von KI-Systemen erfolgt in vier Risikokategorien, die mit unterschiedlichen Rechtsfolgen einhergehen. Auf der untersten Ebene sind KI-Systeme zusammengefasst, bei deren Anwendung ein minimales Risiko besteht und deshalb keine detaillierten Vorgaben bei der Entwicklung und beim Betrieb zu beachten sind. Auf der nächsten Ebene handelt es sich um KI-Systeme mit einem begrenzten Risiko, die gewissen Transparenzpflichten unterliegen. In der nächsten Stufe werden KI-Systeme mit hohem Risiko zusammengefasst, die einer strengen Regulierung unterzogen werden. Auf der obersten Stufe sind KI-Systeme aufgeführt, die ein inakzeptables Risiko beinhalten und deshalb einem klaren Verbot ausgesetzt sind. Charakteristisch für diese KI-Verordnung ist, dass die einzelnen Risikostufen zu unterschiedlichen Zeitpunkten in Kraft treten und erst im August 2027 alle Risikostufen zur Anwendung gelangen. 

Eine Umfrage von Bitkom vom Oktober 2022 belegt das positive Stimmungsbild seitens der Ärzteschaft. So sehen 76% die Digitalisierung als Chance und nur 22% erachten diesen Megatrend als Risiko.⁵ Die Nutzung digitaler Angebote in den Arztpraxen ist bis dato eher von Zurückhaltung geprägt. Im Vordergrund stehen Video-Sprechstunden bzw. telemedizinische Überwachung des Gesundheitszustandes sowie die Bereitstellung von WLAN für Patienten. In diesem Zusammenhang wird eine stärkere Nutzung von Gesundheitsdaten gefordert, was auch als ethische Verpflichtung angesehen wird.⁶ Die Nutzung von KI spielte zu diesem Zeitpunkt noch keine Rolle.

In 2025 gibt es erste Berichte über den Einsatz von KI in der Hausarztpraxis.⁷ Zur Anwendung gelangt beispielsweise ein KI-Sprachmodell, mit dessen Einsatz Patientengespräche aufgezeichnet und sich auch intelligent zusammenfassen lassen. Des Weiteren kann die KI auf Patientendaten, Dauerdiagnosen und den Medikamentenplan aus dem Praxisverwaltungssystem (PVS) zugreifen und bereitet die Rezeptbestellung für den Arzt vor. Über eine App kann der Patient in Echtzeit jeden Prozessschritt in der Praxis verfolgen und den Stand der Rezeptbestellung aktuell verfolgen. Im Ergebnis übernimmt die KI in der Arztpraxis eine unterstützende Funktion in Bezug auf Anamnese und Dokumentationsverlauf. Aber auch für Patienten ergeben sich Mehrwerte wie eine schriftliche Zusammenfassung eines zuvor stattgefundenen Gesprächs in der Arztpraxis. Gleichzeitig bedeutet dies eine zeitliche Entlastung des behandelten Arztes und Patienten fühlen sich besser informiert. Die KI übernimmt so perspektivisch die Funktion eines virtuellen Praxismitarbeiters, eingebettet zwischen behandelten Ärzten, Physician Assistants, VERAHS und MFA, der eine vollständige Patientenakte mit minimalem Aufwand lesen und auch zusammenfassen kann.⁸ Wichtig beim Trainieren der KI ist die Verwendung von Open Source Daten, damit man weiß, woher die verwendeten Daten auch tatsächlich stammen. Eine gesicherte Grundlage der verwendeten Daten, was die Einbeziehung datenschutzrechtlicher Vorgaben einschließt, ist eine unabdingbare Voraussetzung. Dies fördert das Vertrauen in die KI sowohl in der Praxis als auch bei den Patienten. 

Für die Zukunft wird KI als unterstützendes Praxistool nicht mehr wegzudenken sein. So kann das Terminmanagement einer KI vollständig anvertraut werden, wenn beispielsweise die ärztliche Präsenz aufgrund eines Notfalleinsatzes oder Krankheit des Arztes neu organisiert werden muss und betroffene Patienten eine automatische Benachrichtigung erhält, veranlasst durch die KI. Alles in allem noch etwas Zukunftsmusik, aber die Zukunft beginnt bekanntlich bereits morgen.

Das deutsche Gesundheitssystem steht vor umfassenden Änderungen. Die ersten Erfahrungen im Umgang mit künstlicher Intelligenz zeichnen jedoch ein positives Bild, die mehr Vor- als Nachteile beim Einsatz von KI erkennen lassen. Die europäische KI-Verordnung schafft in diesem Zusammenhang jedoch nur einen branchenübergreifenden Rechtsrahmen, der in Bezug auf das Gesundheitswesen durch nationale Rechtsvorschriften ergänzt und teilweise auch präzisiert werden muss. Der deutsche Gesetzgeber ist daher an dieser Stelle gefordert, die Implementierung von KI-Anwendungen aktiv und vor allem rechtzeitig zu begleiten. In der ambulanten Versorgung bahnt sich die KI-Anwendung bereits heute ihren Weg. Was heute noch als Pionierleistung einzelner Vertragsärzte anzusehen ist, die eigene Praxisstruktur durch den Einsatz von KI zu optimieren, wird in naher Zukunft das Gesundheitssystem in Gänze erfassen. Der Trend zu effizienteren ambulanten Behandlungsstrukturen führt im Ergebnis zwangsläufig zu einem höheren Anwendungsbedarf von KI.

Diese Entwicklung hat jedoch auch ihren Preis. Ein Mehr an bürokratischen Vorgaben durchzunehmende Regulierungsvorschriften ist ein ernstzunehmendes Dilemma, das von medizinischer Seite bewältigt werden muss. Deswegen müssen von Beginn an bei der Implementierung von KI in Arztpraxen entsprechende Skalierungseffekte wie z.B. verbessertes Terminvergabemanagement oder Ressourcen einsparende Maßnahmen erkennbar sein, um den Einsatz von KI durch eine verbesserte Wirtschaftlichkeit begründen zu können.