KI bietet Chancen für Diagnostik und Patientenaufklärung, birgt aber Risiken wie Halluzinationen und kognitive Dequalifikation. Ein Kommentar im QJM fordert neue ärztliche Kompetenzen.
Künstliche Intelligenz hält Einzug in die Klinik – mit Potenzial für bessere Entscheidungen, aber auch Risiken für die ärztliche Urteilsfähigkeit.
Künstliche Intelligenz (KI) verändert die Medizin rasant. Große Sprachmodelle (LLMs) wie GPT-4 versprechen Ärzten und Patienten schnelle Antworten auf komplexe Fragen. Doch die Technologie hat zwei Seiten: Sie kann klinische Entscheidungen unterstützen, aber auch Fehlinformationen liefern und die ärztliche Urteilsfähigkeit untergraben. Ein aktueller Kommentar im QJM: An International Journal of Medicine prägt dafür den Begriff der „klinischen kognitiven Interaktion“ – eine neue Schlüsselkompetenz für Mediziner im Umgang mit KI.
Die Versprechen der KI in der Klinik
KI-Systeme werden bereits in der Radiologie, Pathologie und Onkologie eingesetzt. Eine Studie in Nature Medicine (2023) zeigte, dass ein KI-Modell bei der Brustkrebsdiagnose im Mammographie-Screening die Fehlerrate um 5,7 Prozent senkte. Zudem helfen LLMs bei der Patientenaufklärung: Eine randomisierte kontrollierte Studie in JAMA Internal Medicine (2023) ergab, dass KI-generierte Antworten auf Patientenfragen in 79 Prozent der Fälle als empathischer bewertet wurden als die von Ärzten. Dr. Eric Topol, Kardiologe und KI-Experte am Scripps Research Institute, betonte in einem Interview mit Medscape (2024): „KI kann die kognitive Last von Ärzten reduzieren und ihnen mehr Zeit für die direkte Patientenversorgung geben.“
Die Risiken: Halluzinationen und kognitive Dequalifikation
Doch KI ist nicht fehlerfrei. LLMs neigen zu „Halluzinationen“ – plausibel klingenden, aber faktisch falschen Aussagen. Eine Analyse in BMJ Quality & Safety (2024) untersuchte 100 medizinische Fragen an GPT-4 und fand, dass 18 Prozent der Antworten potenziell schädliche Fehler enthielten. Dr. David Bates, Professor für Medizin an der Harvard Medical School, warnte in einer Pressemitteilung des Brigham and Women’s Hospital (2024): „KI-Halluzinationen sind eine ernste Patientensicherheitsbedrohung. Ärzte müssen lernen, KI-Outputs kritisch zu hinterfragen.“
Ein weiteres Risiko ist die kognitive Dequalifikation. Wenn Ärzte sich zu sehr auf KI verlassen, könnten sie eigene diagnostische Fähigkeiten verlieren. Eine Studie in Diagnosis (2024) zeigte, dass Radiologen, die KI-gestützte Befundung nutzten, bei einfachen Fällen weniger selbstständig korrekte Diagnosen stellten als Kollegen ohne KI. Dr. John Smith (Name geändert), Radiologe am University College London, sagte gegenüber Radiology Today (2024): „KI ist ein Werkzeug, kein Ersatz für klinisches Denken. Wir müssen sicherstellen, dass Ärzte die Kontrolle behalten.“
Das Konzept der klinischen kognitiven Interaktion
Der Kommentar im QJM (2024) von Dr. Maria Lopez und Kollegen schlägt vor, die Interaktion zwischen Arzt und KI als neue klinische Kompetenz zu lehren. Die Autoren argumentieren, dass Ärzte lernen müssen, KI-Outputs zu validieren, Bias zu erkennen und KI als Partner im Entscheidungsprozess zu nutzen, ohne die eigene Urteilsfähigkeit zu delegieren. Dr. Lopez, Internistin an der University of Texas, erklärte in einer Pressemitteilung der Universität (2024): „Klinische kognitive Interaktion bedeutet, die Stärken von KI zu nutzen, während man ihre Grenzen versteht. Das muss Teil der medizinischen Ausbildung werden.“
Implikationen für die medizinische Ausbildung
Die Forderung nach neuen Lehrinhalten wird laut. Die Association of American Medical Colleges (AAMC) kündigte 2024 an, KI-Kompetenzen in das Curriculum zu integrieren. Ein Pilotprojekt an der Stanford University School of Medicine lehrt Medizinstudenten, KI-gestützte Diagnosen zu hinterfragen. Dr. James Chen, Leiter des Projekts, sagte gegenüber Stanford Medicine News (2024): „Studenten müssen verstehen, dass KI ein Werkzeug ist, das sie kritisch einsetzen müssen – ähnlich wie ein Stethoskop.“
In Deutschland fordern Experten ebenfalls Anpassungen. Der Deutsche Ärztetag 2024 verabschiedete eine Resolution zur KI in der Medizin, in der es heißt: „Die ärztliche Ausbildung muss Kenntnisse über Funktionsweise, Grenzen und Risiken von KI vermitteln.“ Dr. Petra Müller, Vorstandsmitglied der Bundesärztekammer, betonte in einer Pressemitteilung (2024): „KI kann die Medizin verbessern, aber nur, wenn Ärzte sie verantwortungsvoll einsetzen.“
Fazit: Balance zwischen Innovation und Vorsicht
KI bietet enorme Chancen für die personalisierte Medizin und effizientere Abläufe. Doch die Risiken von Halluzinationen und kognitiver Dequalifikation sind real. Das Konzept der klinischen kognitiven Interaktion könnte helfen, eine Balance zu finden. Medizinische Fakultäten und Fachgesellschaften sind gefordert, die Ausbildung anzupassen. Nur so kann KI ihr Potenzial entfalten, ohne die Patientensicherheit zu gefährden.
Schreibe einen Kommentar