Studie: Was Chatbots in Gesundheitsfragen leisten

Fragt ChatGPT ausreichend nach, um fehlende Informationen zu ergänzen?

Kopka: Eher nicht. In unseren Studien hat ChatGPT fast gar nicht von sich aus nachgefragt. Man gibt Informationen ein und bekommt daraus eine Empfehlung, egal wie detailliert die Angaben waren. Wenn fast alles fehlt, kommt vielleicht eine Rückfrage. Eine strukturierte Befragung, wie sie ein Arzt zur Krankengeschichte machen würde, findet fast nie statt. Technisch wäre das machbar. Nutzer könnten sogar selbst vorgeben: Stell mir erst Rückfragen, bevor du eine Empfehlung gibst. Wir haben das getestet und die Probanden fanden solche Rückfragen vertrauenswürdig. 

Warum ist ChatGPT für die Patientensteuerung nur eingeschränkt geeignet?

Kopka: Ich würde niemandem empfehlen, ChatGPT einfach zu fragen: Ich habe diese Symptome, muss ich damit zum Arzt? Die Empfehlung ist fast immer, das lieber abzuklären. Das hat wenig Mehrwert. Das heißt aber nicht, dass ChatGPT generell nicht nützlich ist. Wenn jemand nach dem Sport Knieschmerzen hat, kann es helfen zu verstehen, dass eine Überlastung als plausible Erklärung infrage kommt. ChatGPT kann also Sinn aus Symptomen und Informationen machen und das Verständnis fördern. Aber für die konkrete Entscheidung, was man jetzt tun sollte, würde ich mich nicht darauf verlassen.

Kann ChatGPT zumindest zur passenden ärztlichen Fachrichtung lotsen oder den richtigen Zeitpunkt empfehlen?

Kopka: Den Zeitpunkt schon, wobei die Empfehlungen meist eher zu dringlich sind. Sie lauten häufig „morgen“ oder „in den nächsten Tagen“. Dass etwas nicht akut ist und auch in den nächsten Wochen oder sogar gar nicht abgeklärt werden muss, kommt meiner Erfahrung nach in den Antworten der Chatbots fast nie vor. Die Fachrichtung wird manchmal genannt, manchmal nicht. Man kann aber explizit fragen: Zu welcher Fachrichtung soll ich damit gehen? 

Wie bewerten Patientinnen und Patienten die Antworten?

Kopka: Wir haben sehr unterschiedliche Reaktionen gesehen. Manche sagten, die Antwort passe überhaupt nicht zu ihrer Situation – etwa, wenn ChatGPT Hinweise für Beschwerden seit zwei Monaten gab, obwohl die Symptome erst seit einem Tag bestanden. Dann sank das Vertrauen. Andere sahen ihre eigene Einschätzung bestätigt oder lernten etwas Neues, das plausibel klang, und fanden die Antwort hilfreich. Eine dritte Gruppe wurde verunsichert. Vorher hielten sie ihre Beschwerden für harmlos, dann sahen sie viele Warnsignale oder schwierige medizinische Begriffe und wollten deshalb doch lieber zum Arzt.

Ihre Studie zur Eignung von ChatGPT in der Patientensteuerung nennt eine Treffergenauigkeit von 74 Prozent. Was bedeutet das?

Kopka: Das ist die Genauigkeit über alle Fälle hinweg: Wie oft entsprach die Empfehlung der vorher von Expertinnen und Experten festgelegten besten Lösung? Wir hatten typische Fälle für unterschiedliche Versorgungsstufen zusammengestellt – also Notfall, ärztliche Abklärung oder Selbstversorgung. Ein Ärztepanel hat bewertet, was jeweils angemessen wäre. Das war unser Goldstandard. Dann haben wir die verfügbaren Modelle automatisiert mit denselben Fällen abgefragt und verglichen. Ein großes Problem war, dass neuere Modelle zwar häufig richtig dazu rieten, zum Arzt zu gehen, aber viel seltener korrekt erkannten, wann Selbstversorgung ausgereicht hätte. Weil solche Fälle häufig sind, drückt das die Genauigkeit.

Können Sie einen typischen Fall nennen, in dem Selbstversorgung gereicht hätte?

Kopka: Ein Beispiel war: „Ich habe seit einem Tag ein bisschen Bauchschmerzen und Durchfall, kein Fieber und sonst nichts.“ Natürlich kann man damit zum Arzt gehen, etwa für eine Krankschreibung. Nach Einschätzung unseres Ärztepanels musste das aber nicht sofort ärztlich abgeklärt werden, sondern der Patient hätte ein oder zwei Tage abwarten können, ob Besserung eintritt. ChatGPT verwies dagegen auf mögliche Gefahren oder eine Infektion und empfahl, lieber einen Mediziner aufzusuchen und das abklären zu lassen.

Wie problematisch sind die inkonsistenten Antworten von ChatGPT?

Kopka: Das ist ein grundsätzliches Problem probabilistischer Systeme – also von Systemen, die Antworten auf Wahrscheinlichkeitsbasis erzeugen. Klassische zertifizierte Apps arbeiteten zumindest vor dem Einsatz großer Sprachmodelle häufig mit festen Entscheidungsbäumen und transparenten Algorithmen. Dieselbe Eingabe führte dabei zur selben Ausgabe und war nachvollziehbar. Bei Sprachmodellen ist das schon vom Design her anders. Dieselbe Eingabe kann unterschiedliche Antworten erzeugen. Besonders problematisch war, dass der Grad der Schwankung je nach Fall variierte. Einen Notfall erkannte das System fast immer, einen anderen nur ungefähr in der Hälfte der Abfragen. Dann weiß man nicht, was ein Patient am Ende empfohlen bekommt.

Wie könnte KI in der Patientensteuerung dennoch Nutzen bringen?

Kopka: Ich halte eine Kombination für sinnvoll: Im Hintergrund arbeitet ein zertifiziertes, nachvollziehbares System für die medizinische Ersteinschätzung, ein sogenannter Symptomchecker. Ein großes Sprachmodell wie ChatGPT sitzt als zusätzliche Schicht darüber und erklärt das Ergebnis laienverständlich. Das Grundproblem probabilistischer Antworten – unterschiedliche Ausgaben bei derselben Eingabe – wird sich bei Sprachmodellen nicht einfach auflösen. Deshalb sollte die eigentliche Entscheidung aus einem nachvollziehbaren Verfahren kommen. Das Sprachmodell kann dann beim Erklären helfen.