Künstliche Intelligenz: Nutzen für die praktische Patientenversorgung?

Der Begriff Künstliche Intelligenz ist ein breiter Sammelbegriff für digitale Systeme, die Aufgaben übernehmen, für die normalerweise biologische Intelligenz erforderlich ist. Entsprechende Anwendungen gibt es zwar spätestens seit den 1950er-Jahren, bislang basierten diese jedoch auf von Menschen bzw. Experten erstellten Regeln (z. B. als sogenannte Expertensysteme). Die in den letzten Jahren in den Vordergrund gerückte neue Form künstlicher Intelligenz leitet hingegen aus umfangreichen Datensätzen („Big Data“) selbst Regeln in Form abstrakter Muster ab – das sogenannte maschinelle Lernen (ML). ML hat methodisch eine partikuläre Analogie zur biologischen bzw. menschlichen Intelligenz, die auch anhand von Beispielen und Beobachtungen Muster erlernen und erkennen kann, ohne dass die exakten Definitionen der Regeln zur Mustererkennung im Detail nachvollziehbar sind.

Die gesetzlichen Vorgaben fordern für ML-basierte Medizinprodukte eine hohe Transparenz, Erklärbarkeit, Konsistenz und Sicherheit. Um dies zu erreichen, gibt es aber für das maschinelle Lernen eine ganze Reihe an Limitationen und Herausforderungen, die insbesondere für die Anwendung in der Medizin teils zu schwierigen Hürden führen. Ursache hierfür ist die grundlegende Methodik des ML, die zwar teils zu in vielen Fällen gut funktionierenden Modellen führt, gleichzeitig aber stark von den zugrunde liegenden, oft nicht standardisierten Daten abhängt, woraus sich wiederum unterschiedlich relevante Verzerrungen und Fehler ergeben können. Eine weitere Voraussetzung ist die praktikable Integration in die bestehenden medizinischen Strukturen und Prozesse. Nur wenn diese Herausforderungen erfolgreich gelöst werden, kann sich ein Nutzen in Bezug auf Qualität oder Wirtschaftlichkeit ergeben.

Trotz der bestehenden Herausforderungen gibt es in den USA bereits mehr als 1.000 zugelassene ML-basierte Medizinprodukte für viele medizinische Felder. Für Deutschland ist von wenigen Dutzend Anwendungen auszugehen, von denen bislang aber nur wenige in der Routineversorgung verbreitet sind. Gleichzeitig wird in allen vorstellbaren medizinischen Anwendungsbereichen an Lösungen geforscht, die aber noch ihren Nutzen für die praktische Patien-tenversorgung zeigen müssen. Für einige Anwendungskategorien ist dabei zeitnah ein Nutzen zu erwarten, während andere Anwendungsfelder noch größere Hürden überwinden müssen. Für sämtliche in Deutschland zugelassene ML-basierte Medizinprodukte gilt, dass diese nur zur Entscheidungsunterstützung eingesetzt werden dürfen, d. h., die Verantwortung für die faktischen Behandlungsentscheidungen liegen bei den ärztlichen Behandlern.

Die Analyse medizinischer Bilddaten zur Erkennung auffälliger Strukturen macht den größten Teil der zugelassenen ML-basierten Medizinprodukte aus. Die dahinterstehenden Modelle basieren in der Regel auf überwachtem Lernen: (Ärztliche) Experten markieren relevante Entitäten (z. B. malignomsuspekte Strukturen) in großen Bilddatensätzen, um damit die Systeme zu trainieren. Die trainierten Systeme erkennen dann ähnlich verdächtige Strukturen in neuen Bildern. Zugelassene Anwendungen erkennen bereits in Echtzeit auffällige Polypen in der videobasierten Koloskopie oder identifizieren auffällige Befunde in der Mammografie. Die Leistung dieser Systeme ist oft mit der menschlicher Experten vergleichbar. Allerdings sind die Anwendungen bislang nur auf eine ausgewählte Anzahl von Entitäten trainiert, sodass insbesondere seltenere Auffälligkeiten nicht durch die Systeme erkannt werden. Sie sind also vor allem in medizinischen Bereichen sinnvoll, in denen der Fokus auf einer bestimmten Erkrankung liegt (z. B. Mammakarzinom). In der Umsetzung besteht zudem oft noch die Herausforderung, die KI-basierte Bildanalyse effizient in bestehende digitale Lösungen, z. B. zur radiologischen Befundung, zu integrieren.

Die Analyse strukturierter, monomodaler oder oligomodaler Messwerte im zeitlichen Verlauf gelingt ebenfalls bereits mit guten Ergebnissen. Auch hier wird von den zugelassenen Anwendungen primär das überwachte Lernen eingesetzt und so Modelle trainiert, die z. B. ausgewählte Auffälligkeiten wie eine Epilepsie im EEG oder Schlafphasen in der Polysomnografie erkennen. Besonders vielversprechend ist die ML-gestützte Analyse von EKG-Daten mit der vermutlich schon bald spezielle kardiologische EKG-Diagnostik in der Breite der medizinischen Versorgung sicher verfügbar sein wird. Für einige Anwendungen, wie beispielsweise der ML-basierten Steuerung der Insulingabe in Closed-Loop-Systemen, muss ein Versorgungsvorteil der ML-Technik gegenüber einem konventionellen regelbasierten Vorgehen aber noch durch Studien bewiesen werden – wenn dies gelingt, könnten sich hier die ersten vollautonom arbeitenden ML-Systeme durchsetzen.

Für die ML-basierte Analyse multimodaler Gesundheitsdaten, um bestimmte Krankheitsentitäten zu erkennen oder vorherzusagen, werden umfangreichere Trainingsdatensätze und performantere Systeme benötigt als dies für oligomodale Systeme nötig ist. Trotzdem gibt es in Deutschland bereits erste vielversprechende Zulassungen. Diese können beispielsweise auf Normal- oder Intensivstation im Krankenhaus auf Basis der verschiedenen strukturierten und unstrukturierten Informationen der digitalen Patientenakte kritische Ereignisse (z. B. Sepsis oder Sturzgefahr) erkennen oder vorhersagen. Der Mehrwert liegt nicht nur in dem Erkennen der kritischen Konstellationen im Einzelfall, sondern in der Rund-um-die-Uhr-Überwachung mit der Ärzte gezielt auf kritische Konstellationen über sämtliche Patienten einer Abteilung oder auch in telemedizinischen Settings hingewiesen werden können. Es ist davon auszugehen, dass Anwendungen dieser Art in den kommenden Jahren eine immer größere Vielzahl an klinischen Konstellationen erkennen können und so zunehmend an Bedeutung gewinnen.

Für die epidemiologische Überwachung werden ML-Systeme ebenfalls erprobt. Durch unüberwachtes Lernen könnten beispielsweise ungewöhnliche Muster in elektronischen Patientenakten identifiziert und mit demografischen Daten korreliert werden. Sollten sich diese Modelle wissenschaftlich bewähren, so könnten sie voraussichtlich ohne formale Zulassung als zusätzliches Warnsystem eingesetzt werden.

Die hohe Frequenz neuer wissenschaftlicher Erkenntnisse in der Medizin ist durch den einzelnen Arzt für das eigene Fachgebiet nur mit viel Aufwand zu bewältigen, erst recht aber in Bezug auf die interdisziplinären Komorbiditäten multimorbider Patienten. KI-basierte Systeme aus dem Bereich der Large-Language-Modelle (LLM) können auf den ersten Blick bereits ein breites Wissen darstellen. Da sie aber nach stochastischen Prinzipien arbeiten, scheitern sie bislang daran, die Relevanz insbesondere neuerer Studien wissenschaftlich einzuordnen. Hinzu kommt, dass LLMs aufgrund der zugrundeliegenden Methodik halluzinieren und damit sehr überzeugend auch fachlich inkorrekte Sachverhalte darstellen. Aktuell wird aber an LLMs gearbeitet, die auf den (durch Fachexperten) kuratierten evidenzbasierten Wissensdatenbanken von etablierten Anbietern aufbauen. Es ist davon auszugehen, dass die sich hieraus ergebenden Systeme sehr kurzfristig die Qualität der Medizin deutlich verbessern können. Anwendungen, die sich bereits in frühen Pilotierungsphasen befinden, können wie ein Fachkonsil genutzt werden und somit zielgerichtet Expertenmedizin innerhalb von Sekunden in jeden Winkel der Versorgung bringen.

Mehrere Hersteller arbeiten daran, die ärztliche Dokumentation und insbesondere die Erstellung von Behandlungsbriefen durch LLM-Generierung zu unterstützen. Die Grundlage dafür ist stets die digitale Patientendokumentation, damit die entsprechenden Daten digital bereitgestellt werden können. Die eigentlichen Herausforderungen bestehen aber darin, dass es LLM-Systemen schwerfällt, zwischen wichtigen und unwichtigen Inhalten zu unterscheiden und kompakte Briefe über komplexere Behandlungszusammenhänge zu erstellen. Hinzu kommt die für LLMs typische Eigenart, zu halluzinieren und damit Fehler einzubauen. Auch wenn die Systeme zwar formal nur einen Vorschlag generieren, den der Arzt prüfen muss, so wird dies in der Praxis durch Automation-Bias doch schnell zu unkritisch freigegebenen, fehlerhaften Briefen führen, egal ob diese für Fachkollegen oder Laien (Patientenbriefe) geschrieben werden. Die Hersteller arbeiten aber an Lösungen für diese Probleme und auch hier sind erste Anwendungen bereits in Pilotphasen im Einsatz und werden künftig hoffentlich die ärztliche Arbeitsbelastung reduzieren.

OP-Roboter nutzen aufgrund der hohen Sicherheitsanforderungen für den eigentlichen Operationsprozess bislang in der Regel kontrollierte Algorithmen, setzen also kein ML ein. Es gibt allerdings Entwicklungen, den Operateur durch ML-basierte teilautonome Ausführung von dezidierten Operationsschritten oder der Identifikation anatomischer Strukturen zu unterstützen, wobei Letztere auch für die KI-basierte OP-Berichterstellung genutzt werden sollen. In der digitalen Prothetik gibt es Entwicklungen, die Steuerung myoelektrischer Handprothesen durch adaptive Algorithmen zu unterstützen, die teils auch auf ML beruhen. Trotz großer Erwartungen an Pflegeroboter und entsprechenden Forschungs- und Entwicklungsprojekten, gibt es aber bislang keine kommerziellen praxistauglichen Produkte. Ungelöst sind vor allem die hygienischen Herausforderungen und die medizinisch und wirtschaftlich wertvolle Einbindung in die bestehenden Strukturen und Prozesse.

Stufenweise könnte sich in den kommenden Jahren ein KI-basiertes, evidenzbasiertes Patientenmanagement entwickeln, das multimodale Patientendaten mit aktuellem medizinischen Wissen verknüpft und daraus in Echtzeit Empfehlungen für den Behandlungsprozess ableitet. Das Potenzial in Bezug auf Unterstützung und Sicherung der medizinischen Behandlungsqualität und auch auf einen rationalen Ressourceneinsatz ist enorm. Auf dem Weg dorthin sind allerdings noch einige Hürden in Bezug auf die Sicherheit solcher Systeme zu nehmen.