Keine Angst vor Dr. KI

Künstliche Intelligenz (KI) ist auf dem Vormarsch – auch im Gesundheitswesen. „Die KI hat bereits Einzug ins Gesundheits­wesen gehalten. Die Behörden haben bereits mehrere Medizinprodukte zugelassen, die auf Verfahren des ,Machine Learning‘ beruhen“, berichtet Prof. Dr. Christian Johner vom Johner Institut für IT im Gesundheitswesen. Der Experte für Informa­tionstechnik und künstliche Intelligenz in der Medizin beobachtet die Branche schon lange: „Die lernfähigen Programme – und damit auch die Anwendungen mit künstlicher Intelligenz – werden immer treffsicherer und genauer. Was heute oft noch im Hintergrund passiert, werden wir in den nächsten Jahren auch als Patientin oder Patient häufig erleben: nämlich dass die KI-basierten Technologien wichtige Aufgaben im Gesundheits­wesen übernehmen.“

Profitieren kann davon die gesamte Branche. „Von der Kommunikation über die Diagnostik bis hin zur Medikamentenentwicklung – überall, wo mit Daten gearbeitet wird, wird uns die KI das Leben erleichtern“, so Johner. „In der Erkennung von Mustern, etwa auf radiologischen Bildern oder Fotos von Gewebe oder Muttermalen, ist die KI mit am weitesten.“ Geeignetes Einsatzgebiet: die Früherkennung von Krebs. Aus Tausenden oder Hunderttausenden Scans können Algorithmen zuverlässig Auffälligkeiten heraus­filtern, die auf krebsartige Veränderungen hindeuten. Den Beweis dafür hat im vergangenen Jahr ein lernfähiges Programm geliefert, das ein sogenanntes Convolutional Neural Network (CNN) nutzt, entwickelt an der Universität Heidelberg.

Die Heidelberger Wissenschaftlerinnen und Wissenschaftler schränken aber sogleich ein: Der Algorithmus könne zwar die klinische Beurteilung von Hauttumoren sinnvoll ergänzen, allerdings kenne er bisher nur zwei Diagnosen: gesundes Muttermal oder schwarzen Hautkrebs. Zudem kann der Algorithmus bisher keinen weißen Hautkrebs erkennen, der in Deutschland aber etwa sechs Mal häufiger vorkommt als schwarzer Hautkrebs. So „schwarz-weiß“ wie der Versuch ist der klinische Alltag allerdings nicht. Unzählige Differenzialdiagnosen möglicher anderer Krankheitsbilder kann der Algorithmus nicht berücksichtigen. Dazu sind nämlich auch weitere Informationen wie Patientenaussagen oder Tasteindrücke notwendig, die eine Maschine nicht erfassen kann.

Deshalb liegt in dem Ergebnis noch eine weitere wichtige Erkenntnis: Gerade das Zusammenspiel zwischen Mensch und Maschine kann die Wahrscheinlichkeit korrekter Diagnosen stark verbessern. „Was das Programm leistet, ist eine Berechnung von Wahrscheinlichkeiten. Welche Rückschlüsse daraus zu ziehen sind, kann letztendlich immer nur eine Ärztin oder ein Arzt entscheiden“, so Johner und schließt an: „Es geht darum, eine sinnvolle und effiziente Unterstützung beispielsweise bei der Diagnostik zu etablieren – nicht darum, reihenweise Ärztinnen und Ärzte durch Maschinen zu ersetzen. Davor braucht niemand Angst zu haben.“

Vorbehalte gegenüber der Maschine

Die Skepsis gegenüber KI ist aber da. Fast die Hälfte der Patientinnen und Patienten lehnen die Diagnose durch einen Computer ab – das zeigen diverse Studien. Die Angst vor Datenmissbrauch durch Hacker-Angriffe oder dem Versagen der KI bei wichtigen Diagnosen gibt den Ausschlag für die Abwehrhaltung. Wird die KI jedoch nur unterstützend eingesetzt – etwa als Assistenz bei Arzt-Aufgaben –, steigt hingegen die Akzeptanz. „Der Arzt bleibt Vertrauensperson für die Patienten. Daran wird auch die künstliche Intelligenz nichts ändern“, sagt Johner. Zwar könne insbesondere die Diagnostik durch künstliche Intelligenz erheblich verbessert werden, die Wahl der „besten“ Behandlung bleibe aber bis auf Weiteres dem Menschen vorbehalten – auch unter Berücksichtigung individueller Präferenzen von Patienten.

Für Ärztinnen und Ärzte sowie für Patientinnen und Patienten sei es nun aber gleichermaßen wichtig, über die KI aufgeklärt zu werden. Was können KI-basierte Technologien leisten – und was nicht? Wie können Ergebnisse verschiedenster Algorithmen transparent gemacht werden? Johner: „Wir sprechen bei vielen Anwendungen vom ,Blackbox-Phänomen‘: Das Programm spuckt Zahlen aus – aber niemand kann nachvollziehen, wie diese zustande kommen. Transparenz hilft auch nur begrenzt weiter, denn dann habe ich zwar Einblick in den inneren Aufbau des Algorithmus, kann diesen als Anwender aber nicht interpretieren.“ Vielmehr müssen Anwender verstehen, wie der Algorithmus zu einem bestimmten Schluss kommt. Sie müssen verstehen, innerhalb welcher Grenzen den Ergebnissen vertraut werden kann. Ein Algorithmus zur Erkennung von Hautkrebs könnte zusätzlich zum Ergebnis sogenannte „Ensemble Trees“ – also Hunderte oder Tausende Entscheidungsbäume, die eben zu diesem Ergebnis führen – mit angeben: „Bei der Hautkrebs-Dia­gnose kann die Anwendung sagen, dass der Krebs wahrscheinlich ist, weil bestimmte Merkmale darauf hindeuten oder weil durch andere Merkmale Alternativen unwahrscheinlich sind.“

Wer haftet bei Fehlern?

Nur bei nachvollziehbaren Entscheidungen können auf KI basierende Anwendungen langfristig im Gesundheitswesen bestehen. Das Vertrauen in intransparente Systeme ist gering, und auch juristisch werden es solche Technologien schwer auf dem Markt haben. Gerade bei Fehlern – etwa bei Fehldiagnosen eines KI-Systems – muss die Nachvollziehbarkeit gegeben sein. „Fehler sind auch bei künstlicher Intelligenz systemimmanent“, so Johner. „Dass die Fehlerquote geringer als bei Menschen ist bzw. dass die Produkte ein besseres Nutzen-Risiko-Verhältnis haben, müssen die Hersteller nachweisen.“ Für KI-basierte Anwendungen gelten dieselben Kriterien wie für andere Medizinprodukte wie zum Beispiel Laborgeräte. Der Hersteller haftet für Produktfehler, der Endanwender für Kunstfehler, etwa wenn die Ärztin oder der Arzt eine falsche Therapieentscheidung nur auf Basis eines einzigen Parameters trifft.

Noch tun sich Deutschland und die EU schwer mit der Zulassung von KI-basierten Anwendungen. Weder auf Bundes- noch auf EU-Ebene gibt es einheitliche Kriterien spezifisch für Medizinprodukte, die auf KI-Technologien basieren. Die Konsequenz: Der Prozess der Zulassung droht länger und für die Hersteller teurer zu werden. In den Vereinigten Staaten hingegen hat die Gesundheitsbehörde (FDA) bereits den ersten Entwurf eines Leitfadens für den gesetzlichen Umgang mit künstlicher Intelligenz entwickelt. Wichtig für die Zukunft in Deutschland und Europa ist nun eine Balance zwischen realistischen Zulassungsanforderungen und dem unbedingten Willen zu Innovation unter passenden Rahmenbedingungen. Es muss außerdem darauf geachtet werden, dass die Innovationen im Bereich KI nicht zu Insellösungen führen. Hersteller und Anwender arbeiten noch zu häufig mit unstrukturierten Daten, die teilweise nicht austauschbar sind. Standardisierte Schnittstellen fehlen, und Dateninseln entstehen.

KI im Sinne der Patienten anwenden

Wie wichtig es ist, bestehende Versorgungsstrukturen in die Nutzung von digitalen Gesundheitsanwendungen einzubeziehen, zeigt ein Beispiel. Hierfür geht’s wieder zurück zum Anfang: ein verdächtiger Hautfleck. Die Hausärztin sollte mal einen Blick drauf werfen. Doch mit einer KI-unterstützten App können Patienten zukünftig selbst Analysen durchführen; die App entscheidet: Hautkrebs oder nicht – und lässt den Patienten mit der Diagnose allein. Ängste und Verunsicherungen entstehen, obwohl Hausärztin oder Hautarzt bereits Entwarnung geben oder zumindest den Patienten oder die Patientin unterstützen könnten. Gerade mit Blick auf die Skepsis gegenüber KI-Technologien sollte für künftige KI-Innovationen im Vordergrund stehen, Versorgungswege zu verbessern, bisherige Prozesse zu unterstützen und keine Umwege oder vermeintliche Abkürzungen zu nehmen, die sich für Patientinnen und Patienten letzten Endes als Sackgasse herausstellen.

_____

Von Luca Pot d'Or

Bildcredit Smartphone/FotoApp: © picture alliance/dpa/Daniel Naupold
Bildcredit Dermatologen bei der Diagnose : © picture alliance/dpa/Petra Steuer

Zurück zu Startseite