KI in der Medizin: Große Chancen und hohe Risiken

Künstliche Intelligenz (KI) wird in der Medizin bereits für eng umrissene Aufgaben eingesetzt, etwa bei der Auswertung medizinischer Bilder, der Dokumentation oder der Analyse großer Datenmengen. Ob ein System die Versorgung tatsächlich verbessert, hängt von Datenqualität, klinischer Prüfung, Zulassung, Einbindung in Arbeitsabläufe und menschlicher Kontrolle ab.

KI kann medizinisches Personal unterstützen, ersetzt aber weder automatisch eine Diagnose noch die Verantwortung qualifizierter Fachpersonen. Chancen und Risiken müssen deshalb für den jeweiligen Anwendungsfall getrennt bewertet werden.

Was verstehen wir unter KI?

KI ist ein Sammelbegriff für Computersysteme, die aus Daten Muster ableiten und daraus Vorhersagen, Empfehlungen oder Inhalte erzeugen. Nicht jedes System lernt nach der Inbetriebnahme fortlaufend weiter, und nicht jede Gesundheits-App verwendet KI. Umgekehrt kann eine App KI enthalten und zugleich als Medizinprodukt besonderen regulatorischen Anforderungen unterliegen.

Medizinische KI ist meist kein universelles Diagnosesystem, sondern für eine definierte Aufgabe, Zielgruppe und Datengrundlage entwickelt. Leistungswerte aus einer Studie lassen sich daher nicht ohne Weiteres auf andere Kliniken, Geräte oder Patientengruppen übertragen.

MediBot als Gedankenexperiment

Der im Folgenden verwendete „MediBot“ ist ein rein hypothetisches Beispiel. Er ist weder ein existierendes Produkt noch eine Beschreibung dessen, was ein heute zugelassenes System selbstständig tun darf.

Gedacht ist MediBot als Plattform, die Patientendaten zusammenführt, medizinische Bilder analysiert und Fachpersonen Hinweise gibt. Gerade dieses Szenario zeigt die zentralen Fragen: Woher stammen die Daten? Für welche Patientengruppen wurde das System geprüft? Wer kontrolliert Ergebnisse? Wie werden Fehler erkannt und wer trägt Verantwortung?

Chancen von KI in der Medizin

Unterstützung bei Diagnostik und Priorisierung

KI kann Auffälligkeiten in Bild- oder Messdaten markieren, Fälle vorsortieren und Ärztinnen und Ärzte auf mögliche Befunde hinweisen. Das kann Arbeitsabläufe beschleunigen. Eine bessere Diagnosequalität ist aber nicht automatisch garantiert und muss klinisch nachgewiesen werden.

Personalisierte Behandlung und Forschung

Durch die gemeinsame Analyse klinischer, bildgebender oder molekularer Daten können Systeme helfen, Patientengruppen zu unterscheiden oder Therapieentscheidungen vorzubereiten. Solche Empfehlungen benötigen nachvollziehbare Daten, geeignete Studien und fachliche Bewertung.

Dokumentation und Organisation

Spracherkennung, strukturierte Dokumentation und Termin- oder Kapazitätsplanung können Beschäftigte entlasten. Der Nutzen entsteht nur, wenn Ergebnisse geprüft werden und neue Kontrollaufgaben den Zeitgewinn nicht wieder aufheben.

Zugang zu Versorgung

Digitale Systeme können Informationen bereitstellen, Verlaufskontrollen unterstützen und Fachwissen ortsunabhängig nutzbar machen. Sie schließen eine Versorgungslücke jedoch nicht allein: Für Untersuchung, Einordnung, Behandlung und Notfälle bleiben erreichbare Fachpersonen und funktionierende Versorgungsstrukturen notwendig.

Risiken von KI in der Medizin

Fehler und Verzerrungen

Unvollständige oder einseitige Trainingsdaten können dazu führen, dass ein System bei bestimmten Altersgruppen, Hauttypen, Geschlechtern oder seltenen Erkrankungen schlechter arbeitet. Auch technisch richtige Modelle können im falschen klinischen Kontext irreführende Ergebnisse liefern.

Mangelnde Nachvollziehbarkeit und Übervertrauen

Wenn Empfehlungen nicht ausreichend erklärt werden, ist eine fachliche Kontrolle erschwert. Ebenso riskant ist ein „Automation Bias“: Menschen können einer plausibel wirkenden Ausgabe zu viel vertrauen oder eigene Beobachtungen zu wenig gewichten.

Datenschutz und IT-Sicherheit

Gesundheitsdaten sind besonders sensibel. Große Datenbestände und vernetzte Systeme erhöhen die Anforderungen an Zugriffsschutz, Zweckbindung, Datenminimierung, Protokollierung und Schutz vor Cyberangriffen.

Verantwortung und Beziehung

Patientinnen und Patienten müssen verstehen können, wann KI an einer Entscheidung beteiligt ist und an wen sie sich bei Fragen wenden können. Empathie, gemeinsame Entscheidungsfindung und die Verantwortung für die konkrete Behandlung dürfen nicht an ein technisches System ausgelagert werden.

Regulierung und sichere Einführung

KI-Systeme können – abhängig von ihrem Zweck – unter das europäische Medizinprodukterecht und den EU AI Act fallen. Medizinische Hochrisiko-Anwendungen unterliegen Anforderungen unter anderem an Risikomanagement, Datenqualität, Dokumentation, menschliche Aufsicht und Überwachung nach dem Inverkehrbringen. Die Pflichten gelten gestaffelt; deshalb muss für jedes Produkt geprüft werden, welche Regeln zum jeweiligen Zeitpunkt greifen.

• Klarer Einsatzzweck: Das System darf nur für die geprüfte Aufgabe und Zielgruppe verwendet werden.
• Klinische Evidenz: Nutzen und Risiken müssen mit geeigneten Daten belegt und im realen Betrieb überwacht werden.
• Menschliche Aufsicht: Fachpersonen brauchen Zeit, Kompetenz und Befugnis, Ausgaben zu prüfen und zu verwerfen.
• Transparenz: Einrichtungen sollten Verantwortlichkeiten, Datenwege, Grenzen und Störungsprozesse dokumentieren.

Fazit: Chancen nutzen, Grenzen ernst nehmen

KI kann Diagnostik, Forschung und Organisation unterstützen. Ihr Wert entsteht nicht durch das Etikett „KI“, sondern durch einen nachgewiesenen Nutzen im konkreten Versorgungskontext. Gute Daten, klinische Prüfung, Datenschutz, IT-Sicherheit und wirksame menschliche Kontrolle sind die Voraussetzung dafür, dass technische Unterstützung Patientinnen und Patienten tatsächlich zugutekommt.