Wann haften Ärzte beim Einsatz von KI? – Diese Neuregelungen sollten (Chef-)Ärzte im Auge haben

Wenn KI als Medizinprodukt eingesetzt wird, sind schon jetzt die geltenden Regelungen der KI-Verordnung (KI-VO) bzw. AI-Act (engl.) der EU zu beachten (CB 03/2025, Seite 10 ff.; online https://ai-act-law.eu/de/). Weitere Anforderungen stehen jedoch ins Haus, die in Brüssel schon verabschiedet sind, in Deutschland aber noch umgesetzt werden müssen, bevor sie tatsächlich gelten. Dabei geht es um die im Dezember 2024 in Kraft getretene neue EU-Produkthaftungsrichtlinie 2024/2853 (online unter iww.de/s12568). Sie wird die fast 40 Jahre alte Produkthaftungsrichtlinie der EU ersetzen, die aus dem Jahr 1985 stammt und auf der auch das deutsche Produkthaftungsgesetz beruht. Die einzelnen Mitgliedstaaten – auch Deutschland – müssen die neue EU-Produkthaftungsrichtlinie bis Dezember 2026 in nationales Recht umsetzen.

Die neue EU-Produkthaftungsrichtlinie legt den Haftungsrahmen fest, wann Unternehmen für Schäden haften, die durch einen Fehler ihres Produkts verursacht wurden. Es handelt sich dabei um eine verschuldensunabhängige Haftung, d. h., der geschädigte Verbraucher muss keine Fahrlässigkeit oder keinen Vorsatz des Unternehmens nachweisen.

Die Richtlinie betrifft alle Unternehmen, die Produkte in der EU herstellen oder in den Verkehr bringen. Dies betrifft in erster Linie die Hersteller von KI. Klinikträger können aber in die Haftung geraten, etwa wenn eine KI-Software – wie jedes andere Medizinprodukt auch – nicht bestimmungsgemäß eingesetzt oder falsch bedient wird.

Wichtig | Neben dem Klinikträger kann auch der Chefarzt haften, da er als medizinisch Gesamtverantwortlicher seiner Abteilung für den regelgerechten Einsatz von Medizinprodukten – auch von KI-Software – einzustehen hat. Eine sorgfältige Schulung ist daher entscheidend. Andernfalls können der Krankenhausträger oder der Chefarzt unter dem Aspekt des Organisationsverschuldens zur Verantwortung gezogen werden (CB 07/2024, Seite 9).

Wichtig | Der Gesetzgebungsprozess für eine Richtlinie speziell über KI-Haftung ist auf EU-Ebene ins Stocken geraten. Würde eine solche Richtlinie kommen, wäre sie neben der neuen Produkthaftungsrichtlinie der zweite Puzzlestein für die Haftungsregelungen und Anforderungen, betreffend den Einsatz von KI. Wer KI einsetzen möchte, sollte die EU-Pläne hierüber aber im Auge behalten, wobei eine EU-Richtlinie noch in deutsches Recht umzuwandeln wäre, z. B. durch ein noch zu verabschiedendes „KI-Haftungsgesetz“ in Deutschland. Spätestens die Beratung eines solchen Gesetzes im Deutschen Bundestag würde die mediale Berichterstattung auf den Plan rufen.

Schon länger und immer wieder mal wird für den Bereich der Arzthaftung generell die Einführung einer „Heilbehandlungsrisikoversicherung“ diskutiert. Hiernach würden sämtliche iatrogenen Schäden durch diese Versicherung abgedeckt – gleich ob ein Behandlungsfehler vorliegt oder nicht. Dieser Gedanke hat sich jedoch bisher politisch nicht durchgesetzt, vor allem weil die Risikoverteilung als ungerecht empfunden wird. Warum sollen am konkreten Behandlungsfall Unbeteiligte zahlen, die sich nichts haben „zuschulden“ kommen lassen?

Im Zusammenhang mit KI wiederum kommt eine solche Diskussion neu in Gang. Schließlich geht es bei KI um vernetzte Systeme, bei denen der Nachweis der Verursachung eines Schadens durch einen individuellen Akteur mit steigendem Grad der Vernetzung immer schwieriger wird. Dies könnte für die Einführung einer „KI-Heilbehandlungsrisikoversicherung“ sprechen, in die alle einzahlen müssten – ähnlich der gesetzlichen Unfallversicherung. Aktuell ist dies aber nur eine Diskussion unter Fachleuten und potenzielle Zukunftsmusik.

Möglich ist, dass sich Kliniken dem Einsatz von KI grundsätzlich verweigern, sei es aus mangelnden finanziellen Mitteln oder aufgrund einer generellen Ablehnung solcher Systeme. Dann stellt sich – unter der Prämisse der Verfügbarkeit eines technisch gut funktionierenden Systems – die Frage, ob ein robotisches oder KI-System bei der Behandlung eingesetzt werden muss, also ob der Nichteinsatz als haftungsbegründendes Zurückbleiben hinter dem gebotenen Behandlungsstandard anzusehen wäre.

Solange KI in der betreffenden Anwendung noch als Neulandmethode – und nicht als Standardmethode (CB 02/2025, Seite 14 f.) – anzusehen ist, darf es im Rahmen der Therapiefreiheit nach Abwägung und mit entsprechender Aufklärung eingesetzt werden. Eine Verpflichtung der Ärzte oder der Klinik, dies anzubieten, besteht aber nicht.

Wenn sich das KI-System in der Zukunft hingegen zur Standardmethode entwickelt haben sollte, bestimmen der Stand der medizinischen Wissenschaft und der daraus folgende Behandlungsstandard, ob es zum Einsatz kommen muss. Allgemein gilt für die Bestimmung des erforderlichen Standards: Die in der Klinik angebotenen Behandlungsmethoden und technischen Ausstattungen müssen das für eine Behandlung lege artis Mögliche und Zumutbare abbilden, nicht aber das weltweit verfügbare Optimum. Es muss nicht jedes neueste Therapiekonzept verfolgt oder jede neueste technische Ausstattung angeschafft werden.

Im Rahmen der Abrechenbarkeit wahlärztlicher Leistungen fordert die Rechtsprechung, dass die Chefärzte als Wahlärzte die sogenannten „Kernbereichsleistungen“ grundsätzlich selbst erbringen und diese Leistungen nicht delegieren. Bislang stellt sich in diesem Zusammenhang die Delegationsfrage beim Einsatz technischer Systeme nicht: Da der Arzt das technische System plant, auslöst, überwacht und damit beherrscht, liegt hierin keine Delegation ärztlicher Leistung.