KI-Agenten: die nächste Stufe der KI in der Medizin

KI spielt im medizinischen Alltag eine immer wichtigere Rolle. Sie kann Therapiepläne erstellen, Diagnosen unterstützen oder bei der Krebserkennung assistieren. Die Medizin steht vor einem Wandel. Das birgt Chancen und Risiken.

Die heute vorherrschenden Formen der generativen KI wie etwa ChatGPT reagieren auf Anfragen und erzeugen entsprechende Inhalte. Sie handeln aber nicht eigenständig. KI-Agenten gehen einen entscheidenden Schritt weiter: Sie können nicht nur Informationen verarbeiten und Empfehlungen geben, sondern auch Entscheidungen treffen und diese autonom ausführen.

Derzeit werden weltweit zahlreiche klinische KI-Systeme erprobt oder zugelassen, darunter auch KI-Agenten. Was ist der aktuelle Stand dieser Systeme? Welche Zukunftsszenarien sind realistisch und wo liegen ihre Grenzen? Diese und weitere Fragen beleuchtet das Interview mit Prof. Dr. med. Jakob Nikolas Kather.

Jakob Nikolas Kather ist Arzt, Informatiker und Professor für Klinische Künstliche Intelligenz am Else Kröner Fresenius Zentrum (EKFZ) für Digitale Gesundheit an der Medizinischen Fakultät der TU Dresden. Seine Forschungsschwerpunkte liegen in der Anwendung von KI in der Medizin, insbesondere in der Präzisionsonkologie, einem personalisierten Ansatz in der Krebstherapie. Das von ihm geleitete „Kather Lab" ist ein interdisziplinäres Forschungsteam vorwiegend aus den Fachbereichen Informatik, Medizin, Biologie und Ingenieurwesen. Das Team erforscht und entwickelt Deep-Learning-Systeme, Grundlagenmodelle und KI-Agenten für die biomedizinische Forschung und das Gesundheitswesen.

Ein KI-Agent beruht auf generativer KI, geht aber deutlich darüber hinaus. Mit reinen Chatbots kann man sich unterhalten, sie beantworten Fragen und liefern Informationen. Ein Agent hingegen kann zusätzlich Handlungen ausführen. Agentische KI kann beispielsweise auf einem Computer eigenständig Programme öffnen, Texte eingeben oder Dateien verwalten. Sie revolutioniert bereits einige Bereiche der Softwareentwicklung: Agenten können heute Handy-Apps programmieren, diese anschließend überprüfen und selbstständig verbessern. All das geschieht nur auf Basis von generellen Zielen, die ein menschlicher Nutzer oder eine Nutzerin vorgibt. Der Agent entscheidet dann eigenständig, welche Schritte notwendig sind, um dieses Ziel zu erreichen.

Bisher gibt es noch keine zugelassenen KI-Agenten im medizinischen Bereich. Das bedeutet, dass noch kein solches System die erforderliche CE-Zertifizierung erhalten hat. Diese Zertifizierung ist in Europa Voraussetzung dafür, dass ein Medizinprodukt auf den Markt gebracht werden darf. Sie bestätigt, dass das Produkt den geltenden Sicherheits- und Leistungsanforderungen entspricht. Allerdings befinden sich derzeit viele KI-Agenten in der Entwicklung. Die Anwendungsfelder reichen von der Unterstützung bei der medizinischen Entscheidungsfindung über das Zusammentragen relevanter Informationen bis hin zur Vorbereitung von Besprechungen und der strukturierten Aufbereitung von medizinischem Wissen.

Wir haben einen sogenannten Tumor-Board-Agenten entwickelt. Ein Tumor-Board ist eine interdisziplinäre Konferenz, in der Ärzte und Ärztinnen verschiedener Fachrichtungen gemeinsam über die bestmögliche Behandlung von Krebspatienten beraten. Unser Agent ist im Kern ein Chatbot, verfügt aber über erweiterte Fähigkeiten. Er kann medizinische Bilder analysieren, im Internet nach aktuellen wissenschaftlichen Quellen suchen, in medizinischen Leitlinien recherchieren und auf dieser Grundlage Therapieempfehlungen formulieren. Damit unterstützt er die Ärzte und Ärztinnen bei der Vorbereitung und Durchführung dieser komplexen Fallbesprechungen.

Ein erheblicher Teil dessen, was wir Ärzte und Ärztinnen jeden Tag tun, hilft den Patienten und Patientinnen nicht unmittelbar. Dazu gehören beispielsweise die Recherche nach aktuellem medizinischem Wissen, die umfangreiche Dokumentation und administrative Aufgaben. All diese Tätigkeiten könnten in Zukunft durch KI-Agenten automatisiert werden. Das würde es uns Ärzten und Ärztinnen ermöglichen, uns stärker auf das zu konzentrieren, was wirklich zählt: die direkte Versorgung und Betreuung unserer Patienten und Patientinnen.

Ich bin überzeugt, dass wir den direkten Patientenkontakt immer den Menschen vorbehalten sollten. Die persönliche Begegnung zwischen Arzt oder Ärztin und Patient oder Patientin ist durch keine Technologie zu ersetzen. Das große Potenzial von KI-Agenten liegt vielmehr in allem, was ringsherum geschieht: Organisation, Vorbereitung, Planung, Koordination. In diesen Bereichen können Agenten für enorme Effizienzgewinne sorgen und so letztlich auch die Qualität der Patientenversorgung verbessern.

Die rechtliche Situation ist eindeutig: Am Ende liegt die Entscheidungsgewalt beim Menschen. Medizinische Entscheidungen werden gemeinsam zwischen Arzt oder Ärztin und Patient oder Patientin getroffen. Das bleibt auch mit KI so. Gleichzeitig ist unsere Medizin schon heute hoch technisiert. Wir nutzen täglich komplexe Geräte und Systeme, um Diagnosen zu stellen und Therapien durchzuführen. Es wäre ethisch nicht vertretbar, unseren Patienten und Patientinnen die Vorteile technischer Fortschritte vorzuenthalten, nur weil sie neu sind. Die Kunst liegt darin, die richtige Balance zu finden zwischen technologischer Unterstützung und menschlicher Verantwortung.

In Deutschland erleben wir hier eine sehr besorgniserregende Entwicklung. Die europäischen Regeln geben uns eigentlich gute, klare und vernünftige Datenschutzverordnungen vor. In anderen europäischen Ländern wie Spanien, den Niederlanden oder Dänemark gelten dieselben Regeln wie bei uns. Nur dort werden sie pragmatisch ausgelegt.

In Deutschland hingegen blockieren wir uns selbst durch Datenschutzanforderungen, die weit über die europäischen Vorgaben hinausgehen. Hinzu kommt, dass die Prozesse bei uns oft langsam und bürokratisch sind. Angesichts der globalen Situation können wir es uns nicht leisten, technologisch hinter die USA oder China zurückzufallen. Wir müssen gemeinsam in Europa arbeiten und alle darüber hinausgehenden Hindernisse abbauen. In dieser Hinsicht hat Deutschland einen gigantischen Nachholbedarf.

Ich persönlich möchte am Ende von einem menschlichen Arzt behandelt werden. Das ist mir wichtig, und ich glaube, den meisten Menschen geht es ähnlich. Gleichzeitig möchte ich aber auch eine medizinische Versorgung, die nicht in den 1990er Jahren stehengeblieben ist. Ich erwarte, dass alle technischen Mittel genutzt werden, die mir helfen können. In meinen Gesprächen mit Patienten und Patientinnen erlebe ich, dass es eigentlich allen genauso geht. Die Menschen wollen beides: die menschliche Zuwendung und die bestmögliche Technik.