Vortrag Dr. Katerina Rigana
SAoO Light am 2. Mai 2026, Zürich

Relevanz und Einordnung von KI im Gesundheitswesen

Künstliche Intelligenz wird im Vortrag als bereits etablierter Bestandteil des Gesundheitswesens dargestellt. Ausgangspunkt ist die Beobachtung, dass mehrere systemische Entwicklungen gleichzeitig auftreten: zunehmende Komplexität medizinischer Entscheidungen, steigender Kostendruck, ein ausgeprägter Fachkräftemangel sowie eine massive Zunahme verfügbarer Daten. Diese Daten entstehen insbesondere durch Digitalisierung, elektronische Patientendossiers, Bildgebung, Laborwerte und zunehmend auch durch kontinuierliche Datenerfassung über Wearables.
Die Referentin betont explizit, dass sich die Fragestellung grundlegend verschoben hat. Es geht nicht mehr darum, ob KI eingesetzt wird, sondern wie sie eingesetzt werden soll. Damit wird KI zu einem Thema, mit dem sich medizinische Fachpersonen zunehmend aktiv auseinandersetzen müssen.
 
Zentral ist die Definition von Intelligenz als Fähigkeit, Techniken zu erlernen und kontextabhängig anzuwenden, um Probleme zu lösen und Ziele zu erreichen. KI wird entsprechend als Simulation dieser Fähigkeit verstanden. Dabei wird jedoch klar gemacht, dass es sich um Simulation handelt und nicht um echtes Verständnis oder Bewusstsein.
Ein wichtiger Aspekt ist die Wahrnehmung: Systeme wirken intelligent, wenn ihre Ergebnisse überzeugend sind. Das Verhalten von Nutzern orientiert sich daher häufig nicht an der tatsächlichen Funktionsweise, sondern an der erlebten Qualität der Ergebnisse.

• KI ist bereits im klinischen Alltag angekommen
• Treiber sind Komplexität, Kosten, Fachkräftemangel und Daten
• Fragestellung verschiebt sich von ’ob’ zu ’wie’
• KI simuliert Intelligenz, besitzt aber kein echtes Verständnis
• Wahrnehmung von Intelligenz basiert auf Output, nicht auf innerer Logik

Zwischenfazit: KI ist ein datengetriebenes Werkzeug, dessen Einsatz unausweichlich ist. Die zentrale Herausforderung liegt nicht in der Existenz der Technologie, sondern in ihrer korrekten Anwendung und Einbettung in klinische Prozesse.

Technische Grundlagen und Funktionsweise

Der Vortrag unterscheidet zwischen klassischer Programmierung und maschinellem Lernen. Während klassische Programme auf vorab definierten Regeln beruhen, lernen Modelle des maschinellen Lernens aus Beispieldaten. Sie erkennen Muster in diesen Daten und übertragen diese auf neue Fälle.
Dabei wird hervorgehoben, dass KI-Systeme im Gegensatz zum Menschen sehr grosse Datenmengen benötigen. Der Fortschritt der letzten Jahre ist eng gekoppelt an die Verfügbarkeit dieser Daten sowie an steigende Rechenleistung.
Neuronale Netze werden als mathematische Optimierungssysteme beschrieben, die Verbindungen gewichten und durch Training anpassen. Obwohl die Struktur bekannt ist, ist die praktische Interpretierbarkeit stark eingeschränkt.
Es werden drei Lernformen unterschieden: überwachtes Lernen mit beschrifteten Daten, unüberwachtes Lernen zur Mustererkennung und Reinforcement Learning basierend auf Feedback. Im medizinischen Kontext dominiert überwachtes Lernen.
Generative KI und grosse Sprachmodelle funktionieren durch Wahrscheinlichkeitsberechnungen. Texte werden in Tokens zerlegt, numerisch verarbeitet und als wahrscheinlichste Fortsetzung generiert. Ein zentraler Satz des Vortrags lautet sinngemäss: ’Klingt richtig ist nicht gleich ist richtig.’
Der Kontext spielt eine entscheidende Rolle. Die gleiche Anfrage kann je nach Kontext zu völlig unterschiedlichen Ergebnissen führen. Deshalb ist die Qualität der Eingabe entscheidend.

• Maschinelles Lernen funktioniert anders als regelbasierte Programmierung
• Viele KI-Systeme benötigen grosse und qualitativ gute Datenmengen
• Neuronale Netze sind leistungsfähig, aber oft schwer interpretierbar
• Überwachtes Lernen spielt im Gesundheitswesen eine besonders wichtige Rolle
• LLMs generieren plausible Fortsetzungen, nicht automatisch wahre Aussagen
• Kontext und Eingabequalität beeinflussen das Ergebnis massgeblich

Zwischenfazit: Viele KI-Systeme sind leistungsstarke Mustererkenner, besitzen aber nicht automatisch ein kausales Verständnis. Ihre Ergebnisse hängen stark von Datenqualität, Modellkontext und Eingabe ab, was im medizinischen Einsatz eine kritische Prüfung besonders wichtig macht.

Konkrete Anwendungen im Gesundheitswesen

Der Vortrag beschreibt eine breite Palette konkreter Anwendungen. Im klinischen Bereich stehen diagnostische Anwendungen im Vordergrund, insbesondere die Bildanalyse.
Ein Beispiel ist ein FDA-zugelassenes autonomes KI-System zur Erkennung diabetischer Retinopathie anhand von Fundusbildern, das in einem klar definierten Screening-Setting ohne vorgängige ophthalmologische Bildbefundung eine automatisierte Triageentscheidung treffen kann.
Neben der Diagnostik werden zahlreiche weitere Einsatzbereiche genannt: Analyse von Symptombeschreibungen, Unterstützung bei Differentialdiagnosen, Triage sowie administrative Aufgaben wie Dokumentation und Berichtserstellung.
Ein weiterer Schwerpunkt liegt auf patientennahen Anwendungen, darunter Monitoring über Wearables, digitale Betreuung und personalisierte Empfehlungen. Besonders betont wird der Trend von reiner Diagnostik hin zu Frühdiagnose und Prävention.
Im Bereich Kommunikation zeigt sich ein überraschender Befund: KI-generierte Antworten werden häufig als empathischer wahrgenommen als ärztliche Antworten. Dies birgt Chancen, aber auch Risiken hinsichtlich Vertrauen und Erwartungshaltung.

• Bildanalyse ist zentraler klinischer Anwendungsbereich
• KI unterstützt Diagnostik, ersetzt sie aber nicht
• Grosse Bedeutung in Dokumentation und Administration
• Wachsende Rolle in Monitoring und Prävention
• KI kann Kommunikation verbessern
• Trend: Diagnose → Frühdiagnose → Prävention

Zwischenfazit: KI bietet erhebliche Effizienz- und Skalierungspotenziale, insbesondere in datenintensiven Fachgebieten wie der Ophthalmologie. Gleichzeitig bleibt sie ein unterstützendes Instrument.

Grenzen, Risiken und verantwortungsvoller Einsatz

Ein zentraler Teil des Vortrags widmet sich den Limitationen. KI-Systeme können falsche Inhalte erzeugen und dabei sehr überzeugend wirken. In Studien zeigt sich, dass KI-Systeme im medizinischen Kontext falsche oder potenziell problematische Empfehlungen geben können. Besonders problematisch ist, dass solche Fehler teilweise mit korrekten Informationen vermischt werden und dadurch schwerer erkennbar sind (Chen et al., 2023). Eine systematische Übersicht zu 137 Studien über Chatbots für Gesundheitsberatung zeigt zudem, dass die Studienlage methodisch heterogen ist und ethische, regulatorische sowie patientensicherheitsbezogene Fragen nicht immer ausreichend adressiert werden (Huo et al., 2025).
Ein grundlegendes Problem ist die fehlende Fähigkeit, Kausalität zu verstehen. Systeme erkennen Korrelationen, was zu Fehlinterpretationen führen kann. Zusätzlich bestehen Risiken durch verzerrte Trainingsdaten.
Neben technischen Risiken werden menschliche Faktoren hervorgehoben. Dazu gehören Automation Bias und Anchoring, also die Tendenz, KI-Ergebnisse unkritisch zu übernehmen.
Auch regulatorische und ethische Fragen werden angesprochen, insbesondere Datenschutz, Datensicherheit und Haftungsfragen.
Für den praktischen Einsatz werden klare Prinzipien formuliert: KI muss verstanden werden, ihre Grenzen müssen bekannt sein, und sie muss in bestehende klinische Workflows integriert werden. Die Verantwortung bleibt immer beim Arzt.

• KI kann überzeugend falsche Ergebnisse liefern
• Kein kausales Verständnis, nur Mustererkennung
• Abhängigkeit von Trainingsdaten
• Risiko von Bias und Verzerrungen
• Gefahr von Automation Bias
• Ärztliche Verantwortung bleibt unverändert

Zwischenfazit: Die grösste Gefahr liegt nicht in der KI selbst, sondern im unkritischen Vertrauen in ihre Ergebnisse.

Executive Summary (10 Sätze)

1. KI ist in vielen Bereichen des Gesundheitswesens bereits angekommen und gewinnt zunehmend an praktischer Bedeutung.
2. Sie basiert auf Mustererkennung in grossen Datenmengen.
3. Neuronale Netze ermöglichen hohe Leistung bei geringer Transparenz.
4. Generative KI arbeitet probabilistisch und nicht faktisch.
5. Klinische Anwendungen umfassen insbesondere Bildanalyse und Diagnostik.
6. Auch administrative Prozesse werden zunehmend durch KI unterstützt.
7. Ein wichtiger Trend ist die Verschiebung hin zu Prävention.
8. KI hat relevante Limitationen wie Halluzinationen und Bias.
9. Ein zentrales Risiko ist das übermässige Vertrauen in KI.
10. Die Verantwortung für medizinische Entscheidungen bleibt vollständig beim Arzt.

_{Quellen:
Chen, S., Kann, B. H., Foote, M. B., Aerts, H. J. W. L., Savova, G. K., Mak, R. H., & Bitterman, D. S. (2023). Use of artificial intelligence chatbots for cancer treatment information. JAMA Oncology, 9(10), 1459–1462. https://doi.org/10.1001/jamaoncol.2023.2954
Huo, B., Boyle, A., Marfo, N., et al. (2025). Large language models for chatbot health advice studies: A systematic review. JAMA Network Open, 8(2), e2457879. https://doi.org/10.1001/jamanetworkopen.2024.57879}