Künstliche Intelligenz in der Medizin: Warum der Fortschritt jetzt Verantwortung braucht

Am 20. April 2026 brachte der MetropolenDialog Hamburg Entscheiderinnen, Expertinnen und Gäste aus Wissenschaft, Politik, Medizin und Gesellschaft zusammen. Das Thema des Abends: „Künstliche Intelligenz in der Medizin – Chancen und Risiken“. Auf der Bühne standen unter anderem Maryam Blumenthal, Senatorin für Wissenschaft, Forschung und Gleichstellung, Prof. Dr. Alena Buyx, Medizinerin und Expertin für Gesundheitstechnologien, Dirk Schrödter, Minister für Digitalisierung und Medienpolitik sowie Chef der Staatskanzlei Schleswig-Holstein, und Prof. Dr. Christian Gerloff, Ärztlicher Direktor und Vorstandsvorsitzender des Universitätsklinikums Hamburg-Eppendorf.

Der Abend zeigte eindrucksvoll: Künstliche Intelligenz ist nicht mehr nur ein technisches Experiment. Sie ist bereits Teil unseres Alltags, unserer Arbeitswelt und zunehmend auch unserer Gesundheitsversorgung. Viele Menschen nutzen generative KI bereits privat oder beruflich. Die Technologie ist schnell, leistungsfähig und in vielen Bereichen beeindruckend präzise. Doch gerade weil sie so überzeugend wirkt, braucht es einen klaren Blick auf ihre Grenzen.

Eine zentrale Aussage des Vortrags war: KI ist ein starkes Instrument – aber sie denkt nicht im menschlichen Sinne. Sie besitzt kein eigenes Weltverständnis, keine moralische Urteilskraft und keine Verantwortung. Genau deshalb darf die Kontrolle über wichtige medizinische Entscheidungen nicht an Maschinen abgegeben werden. KI kann helfen, entlasten und Prozesse verbessern. Die Verantwortung muss jedoch beim Menschen bleiben. 

Entlastung für ein Gesundheitssystem unter Druck

Besonders deutlich wurde, wie groß das Potenzial von KI im Gesundheitswesen ist. Der Vortrag benannte zentrale Herausforderungen: demografischer Wandel, Fachkräftemangel, steigender medizinischer Bedarf und ein ohnehin stark belastetes System. Gerade deshalb braucht die Medizin Technologien, die sinnvoll unterstützen und wertvolle Zeit zurückgeben.

Ein besonders starkes Beispiel ist die Entlastung von Ärztinnen, Ärzten und Pflegekräften bei Dokumentation und administrativen Aufgaben. Heute verbringen medizinische Fachkräfte einen erheblichen Teil ihrer Arbeitszeit vor digitalen Endgeräten. Wenn KI hier nur einen Teil dieser Zeit zurückgewinnt, entsteht Raum für das, was im Gesundheitswesen oft zu kurz kommt: persönliche Zuwendung, Gespräch, Aufmerksamkeit und echte Fürsorge.

Der Vortrag beschrieb konkrete Anwendungsszenarien: Transkriptionssysteme, die Arzt-Patienten-Gespräche in Echtzeit erfassen, daraus strukturierte Arztbriefe erstellen und Folgeprozesse vorbereiten können. Richtig eingebunden, datenschutzkonform und medizinisch geprüft, könnten solche Systeme nicht nur die Dokumentation verbessern, sondern auch die Qualität der Versorgung steigern. 

Digitale Zwillinge und personalisierte Medizin

Ein weiteres Beispiel mit großer Strahlkraft ist der digitale Zwilling. Dabei werden personalisierte Modelle einzelner Menschen entwickelt, an denen sich Behandlungen, Medikamente oder Therapieverläufe simulieren lassen. Gerade bei schweren Erkrankungen wie Krebs könnte das künftig helfen, Therapien individueller, wirksamer und nebenwirkungsärmer zu gestalten.

Diese Vision zeigt, wie groß der medizinische Nutzen von KI sein kann: weg von pauschalen Behandlungsansätzen, hin zu einer stärker personalisierten Medizin. KI kann große Datenmengen verarbeiten, Muster erkennen und Entscheidungsgrundlagen liefern, die für Menschen allein kaum in dieser Geschwindigkeit zugänglich wären. 

Die Risiken: Wenn Technik zu überzeugend wirkt

Doch der Abend war kein unkritischer Technologieoptimismus. Im Gegenteil: Die Risiken wurden klar benannt. KI-Systeme können Fehler machen – und zwar Fehler, die Menschen in dieser Form nicht machen würden. Besonders große Sprachmodelle können überzeugend formulieren, auch wenn Inhalte falsch, unvollständig oder gefährlich sind. 

Ein prägnantes Beispiel aus dem Vortrag zeigte, wie problematisch es werden kann, wenn Menschen KI-Antworten im Gesundheitskontext ungeprüft vertrauen. Der Fall machte deutlich: In der Medizin können falsche Empfehlungen gravierende Folgen haben. Deshalb reicht es nicht, KI-Systeme einfach einzusetzen. Sie müssen geprüft, eingeordnet und verantwortungsvoll begleitet werden. 

Besonders relevant ist dabei der sogenannte Automation Bias: Menschen neigen dazu, technischen Systemen zu vertrauen, weil sie neutral, datenbasiert und kompetent wirken. Gerade in der Medizin ist das gefährlich. Denn eine überzeugende Antwort ist nicht automatisch eine richtige Antwort. 

Menschliche Fürsorge bleibt unersetzlich

Eine der stärksten Botschaften des Vortrags war die Bedeutung menschlicher Fürsorge. KI-Systeme haben Zeit, sie antworten sofort, sie wirken geduldig und zugewandt. Genau das kann für Patientinnen und Patienten attraktiv sein – besonders in einem Gesundheitssystem, in dem persönliche Gesprächszeit oft knapp ist.

Doch Medizin ist mehr als Diagnose, Daten und Therapieempfehlung. Menschen kommen nicht nur mit einer Erkrankung in die Praxis oder Klinik. Sie kommen mit Ängsten, Lebensgeschichten, Unsicherheiten und Hoffnungen. Diese menschliche Dimension darf durch KI nicht verdrängt werden. Vielmehr sollte KI helfen, wieder mehr Raum dafür zu schaffen.

Der Vortrag formulierte deshalb eine entscheidende Frage: Was kann KI besser – und was wollen wir ihr wirklich überlassen? Nicht alles, was technisch möglich ist, sollte automatisch delegiert werden. Jede medizinische Fachrichtung muss sorgfältig prüfen, welche Aufgaben KI übernehmen kann, wo menschliche Kontrolle notwendig bleibt und welche Bereiche untrennbar mit Verantwortung und Beziehung verbunden sind. 

Europa braucht eigene, verantwortungsvolle KI-Lösungen

Zum Abschluss wurde auch die europäische Perspektive betont. Zwar haben die USA und China in vielen Bereichen größere Skalierungsmöglichkeiten und starke technologische Plattformen. Doch Europa hat die Chance, KI anders zu gestalten: verantwortungsvoll, patientenzentriert, datenschutzbewusst und orientiert am Gemeinwohl.

Gerade in der Medizin braucht es eigene Lösungen, die zu unseren Werten, unseren Datenstandards und unserem Gesundheitswesen passen. Der europäische Rahmen kann dabei helfen, Innovation nicht zu bremsen, sondern in die richtige Richtung zu lenken: zum Wohl der Patientinnen und Patienten und zum Wohl der Gesellschaft. 

Fazit: KI wird die Medizin verändern – aber der Mensch muss der Maßstab bleiben

Der MetropolenDialog Hamburg machte deutlich: Künstliche Intelligenz kann die Medizin grundlegend verbessern. Sie kann Fachkräfte entlasten, Diagnosen unterstützen, Therapien personalisieren und Patientinnen mehr Orientierung geben. Doch ihr Einsatz verlangt Sorgfalt, Kontrolle und ethische Klarheit.

Die stärkste Botschaft des Abends lautet daher: KI darf nicht zum Ersatz für menschliche Verantwortung werden. Sie muss ein Werkzeug bleiben, das Menschen stärkt.

Wenn das gelingt, entsteht eine Medizin, die technologisch leistungsfähiger und zugleich menschlicher werden kann. Genau darin liegt die eigentliche Chance.

Möchten Sie Künstliche Intelligenz verantwortungsvoll, sicher und wirksam in Ihrer Organisation einsetzen? FUSE unterstützt Sie dabei, passende KI-Potenziale zu identifizieren, konkrete Anwendungsfälle zu entwickeln und Lösungen umzusetzen, die echten Mehrwert schaffen – strategisch, datenschutzbewusst und mit dem Menschen im Mittelpunkt. Lassen Sie uns gemeinsam darüber sprechen, wie KI Ihre Prozesse sinnvoll entlasten und Ihre Organisation zukunftsfähig stärken kann.

Matthias Steffen
matthias.steffen@fuse.de
+49 40 450 318 - 0