Der Red-Queen-Effekt im Gesundheitssystem: zur Entwicklung, Regulierung und Realität von KI

Im populären KI-Diskurs dominiert das Rennen um die Zukunftstechnologie, und auch vor dem Gesundheitssystem und der medizinischen Versorgung macht der Hype nicht Halt. Seit August 2024 ist die europäische KI-Verordnung Einige Leistungen der gesetzlichen Krankenversicherung bedürfen einer schriftlichen Anweisung durch… – der EU AI Act – in Kraft. Sie soll den sicheren und vertrauenswürdigen Einsatz künstlicher Intelligenz in der EU regeln, insbesondere medizinische Produkte gelten als Hochrisiko-Anwendungen.

In ihrem Vortrag erklärt Prof. Dr. Petra Ritter, wo wir uns derzeit im Bereich der digitalen Transformation im Gesundheitssystem befinden und welche Herausforderungen im Zertifizierungsprozess von KI-Anwendungen bestehen. Denn neben einer zentralen KI-Aufsichtsbehörde fehlen bislang standardisierte Prozesse und eine verlässliche Infrastruktur, um KI-gestützte Gesundheitsanwendungen auf ihre Zuverlässigkeit, Sicherheit und Nützlichkeit zu prüfen.
Das am Berlin Institute of Health (BIH) koordinierte EU-Projekt TEF-Health – Testing and Experimentation Facility for Health AI and Robotics erprobt, wie ein standardisierter Prozess für KI-Anwendungen aussehen könnte, der Bias, Sicherheit, Fairness und Transparenz prüft und anpasst.

Diese Dynamik greifen auch kennedy+swan im Werk „The Red Queen Effect“ auf: Künstliche Intelligenz verspricht medizinischen Fortschritt und neue Erkenntnisse, aber zugleich wächst der Druck, mit diesen Entwicklungen Schritt zu halten. In der Videoarbeit lernen wir Individuen kennen, die sich als Testpersonen für eine klinische Studie bewerben, um unter anderem an den neuesten Entwicklungen teilhaben zu können. Im anschließenden Gespräch zwischen Prof. Dr. Petra Ritter und kennedy+swan wollen wir uns diesem Spannungsfeld zwischen technologischem Fortschritt, regulatorischer Realität und ethischen Fragestellungen widmen.

Weitere Informationen folgen.