„KI ist nicht das Wichtigste, um das sich Kliniken jetzt kümmern müssen!“

Antwort: KI kann in der Medizin an vielen Stellen helfen und ist überall dort dem Menschen überlegen, wo es um Klassifikationen geht. Die automatisierte Auswertung von Daten unterstützt bei der Symptombewertung, die Bilderkennung bei MRT, CT oder Röntgenbild sorgt für eine schnellere Einschätzung und Beurteilung. Allerdings ist das nur eine Seite der Medaille. Auf der anderen führt KI immer dann zu Problemen, wenn sie einfach ins Haus geholt wird, ohne einen konkreten Anwendungsfall zu bedienen.

Antwort: Ja, es gibt den falschen Ansatz zu sagen: Ich benutze jetzt KI, um der Digitalisierung in meinem Haus Vorschub zu leisten – das ist der größte Fehler, den man machen kann.

Antwort: KI ist aus IT-Sicht nicht das Wichtigste, um das sich Kliniken jetzt kümmern müssen. Das wäre fehlpriorisiert. Erst einmal geht es darum, die IT-Systeme à jour zu halten, dafür zu sorgen, dass Mitarbeitende nicht einfach einen USB-Stick, den sie auf dem Parkplatz finden, in den nächsten PC stecken. Neben dem fehlenden Bewusstsein der Belegschaft sind auch die vielen medizinischen Geräte problematisch, die ins Netzwerk integriert sind, aber eben nicht die besten Absicherungsmaßnahmen erlauben und sich nicht so gegen Angriffe härten lassen, wie das, was in einem Office steht.

Antwort: Getrennte Netzwerke wären natürlich möglich – und es gibt sie ja auch in Bereichen, wo es um Leben und Tod geht –, aber das führt immer zu Einschränkungen der Benutzerfreundlichkeit. Die Datenübertragung funktioniert dann nicht mehr per OneClick, und Menschen finden in solchen Situationen immer Wege, Hürden zu umgehen, etwa, indem sie ihr Handy anstöpseln und sich die Daten darauf ziehen – ein ungleich höheres Risiko als die Geräte gleich im Netzwerk zu belassen.

Antwort: Generell schaffe ich mir mit jeder zusätzlichen Applikation oder jedem zusätzlichen System auch eine zusätzliche Sicherheitsbaustelle, die zum Beispiel über unsichere Kanäle kommuniziert oder andere Schwachstellen hat. Das sind herkömmliche Probleme, die nicht auf die KI zurückzuführen sind. Bei der KI kommt aber nun hinzu, dass die Manipulation der Trainingsdaten dazu genutzt werden kann, um gezielt falsche Aussagen zu provozieren. Eine Validierung kann die KI ja nicht vornehmen. Hinzu kommt die Gefahr, die jeder Hype immer mit sich bringt: Anbieter von KI-Anwendungen befinden sich gerade in einem extremen Wettlauf um die erste Lösung für XY, was zulasten der Sicherheitsmechanismen gehen kann.

Antwort: Meine persönliche Meinung ist, dass Krankenhäuser noch nicht bereit für KI sind, zumindest aus Sicht der IT. Wenn ich noch nicht mal eine Passwortrichtlinie habe, brauche ich mir über KI keine Gedanken zu machen. Aber unabhängig davon: Grundsätzlich ist nicht die KI das Problem, sondern die Frage, wie ich sie einführe: Wofür brauche ich eine KI? Welche KI ist dafür sinnvoll? Wie muss ich meine Benutzer schulen? Werden meine Daten wieder als Trainingsdaten benutzt? Wer nun denkt, das sei kein Problem, da diese ja anonymisiert sind, der irrt. Denn es gibt Angriffe, die genau auf die Deanonymisierung zielen. Und Gesundheitsdaten werden im Darknet teurer gehandelt als Kreditkartendaten. Wer in der Klinik KI einführen will, sollte daher wirklich dringend einen Experten oder eine Expertin für Informationssicherheit und Datenschutz an Bord holen.