Überleben in der Zwischenwelt: Dialog Kontrovers

Die Ausgaben 5 und 6 der siebenteiligen Reihe „Dialog Kontrovers“ unter dem Motto „Zwischenwelten“ an der Hochschule Mittweida (HSMW) nahmen bzw. nehmen den Menschen in den Mittelpunkt der hybriden Wirklichkeit zwischen physischer und digitaler Realität. Die für den 28. April vorgesehene Ausgabe 4 musste krankheitsbedingt abgesagt werden.

Der Dialog Kontrovers am 2. Juni, 17:30 Uhr im Studio B der HSMW, beschäftigt sich mit der alten und durch KI und andere Technologien neu befeuerten Sehnsucht nach Unsterblichkeit: Unter der Überschrift „Das ewige (hybride) Leben. Unsterblichkeit zwischen Technologie, Religion und Gesellschaft“ diskutieren die Theologin Nina-Maria Mixtacki, der Politikwissenschaftler Christopher Coenen und der Molekularbiologe Professor Röbbe Wünschiers – miteinander und mit dem Publikum. Der Dialog Kontrovers richtet sich sowohl an Hochschulangehörige als auch an interessierte Bürgerinnen und Bürger. Das komplette Programm und Zusatzmaterial zu jedem Abend finden sich auf der Veranstaltungsseite.

Der fünfte Abend am 12. Mai mit der Überschrift „Heilen in der Hybridität. Die Rolle des Menschen im Kl-gestützten Gesundheitswesen“ gab Antworten auf die Frage, wie künstliche Intelligenz (KI) das Gesundheitswesen verändert und wo die Grenzen der technologischen Unterstützung in der sensiblen Beziehung zwischen Ärzt:innen und Patient:innen liegen. Das Podium war interdisziplinär mit Forscher:innen aus Mathematik, Medizin und Psychologie besetzt.

Die Mathematikern Dr. Marika Kaden, wissenschaftliche Mitarbeiterin an der HSMW und Forscherin im Projekt „KI Med“, moderierte den Abend. Sie schlug die Brücke zwischen technischer Präzision und ethischer Verantwortung. Kaden mahnte zur begrifflichen Schärfe: Statt von einer vermeintlich „denkenden“ KI solle man besser von „maschinellem Lernen“ sprechen, um falsche Erwartungshaltungen zu vermeiden. Besonders kritisch hinterfragte sie die verbleibende Fehlerquote von Sprachmodellen: Bei einer Genauigkeit von 97 Prozent seien die restlichen 3 Prozent im medizinischen Kontext ein hohes Risiko.

Kadens Kollege Professor Thomas Villmann von der HSMW forderte, KI-Systeme nur für ihren eigentlichen Zweck einzusetzen und ihre Grenzen klar zu kommunizieren. Er hob hervor, dass maschinelles Lernen in Bereichen wie der Karzinomerkennung bereits heute dem Menschen überlegen sei. Er wies aber auch darauf hin, dass die menschliche Stimme ein biometrischer Fingerabdruck ist, was eine vollständige Anonymisierung bei Sprachaufnahmen technisch erschwere. Villmann ist Professor für Technomathematik und Computational Intelligence sowie Direktor des Sächsischen Instituts für Computational Intelligence und maschinelles Lernen (SICIM) an der HSMW.

Die Medizinerin Professorin Christine Rummel-Kluge ist Oberärztin an der Klinik für Psychiatrie und Psychotherapie am Universitätsklinikum Leipzig sowie Leiterin der dortigen Psychiatrischen Institutsambulanz. Sie brachte die klinische Erfahrung ein und bezeichnete KI als „Fluch und Segen zugleich“. Während sie in der automatisierten Dokumentation (Speech-to-Text) eine notwendige Entlastung für das Personal sieht, warnte sie vor dem „gläsernen Patienten“ und dem Verlust des therapeutischen Schutzraums. Auch sprach sie die veränderte Anspruchshaltung von Patient:innen an, die mit ChatGPT-Vorabdiagnosen in die Sprechstunde kommen.

Dr. Maximilian Bretschneider, Sozialwissenschaftler und Psychologe an der TU Chemnitz, erforscht dort die „Verschmelzung“ von Mensch und Technik. Er warnte davor, den Einsatz von KI in der Psychotherapie als „technokratische Lösung“ zu begreifen, die menschliche Beziehungen auf ein „lösbares Datenproblem“ reduziert. Bretschneider betonte das Risiko eines übersteigerten Vertrauens, in dem Nutzer:innen die Limitationen der Systeme nicht mehr realistisch einschätzen. Er verwies auf das Phänomen der „Cyberchondrie“, bei dem die übermäßige Beschäftigung mit Symptomen, insbesondere durch die gegenwärtig bestätigende Tendenz der KI-Tools, eher zu Verunsicherung bzw. zu falscher Souveränität führen kann. Überdies machte er deutlich, dass diese Tendenz zur Bestärkung die im therapeutischen Kontext oft notwendige Differenziertheit und Konfrontation vermissen lässt.

Ein zentraler Streitpunkt des Abends war die Frage der Messbarkeit. Dr. Kaden verdeutlichte dies am Beispiel der „empathischen Konfrontation“: Während eine KI statistisch wahrscheinlich antwortet, fehlt ihr das Verständnis für den lebensweltlichen Kontext. Rummel-Kluge ergänzte, dass Parameter wie eine erhöhte Herzfrequenz für eine KI zwar messbar seien, diese aber nicht zwischen einer emotionalen Krise und körperlicher Anstrengung, wie einem Sprint zum Bus, unterscheiden könne. Die Expert:innen waren sich einig, dass in Krisenmomenten weiterhin der Mensch übernehmen müsse. Denn bei speziellen Anwendungsfällen in der Suizidprävention, so Villmann, sei die Entwicklung verlässlicher Systeme zeitlich und finanziell extrem aufwendig.

In der Diskussion mit dem Publikum kamen weitere gesellschaftliche Aspekte von KI zur Sprache – zum Beispiel der Fokus auf generative Sprachmodelle und die Feststellung, dass die anderen Potenziale der KI im öffentlichen Diskurs oft überlagert würden. Villmann machte deutlich, dass diese aktuelle Fixierung den Blick auf die bereits existierenden und verlässlicheren Anwendungen im Gesundheitswesen verstelle, so zum Beispiel die seit vielen Jahren erfolgreich praktizierte Bildauswertung bei MRT- und CT-Verfahren sowie die Potentiale der KI-gestützten Medikamentenforschung und Datenanalytik.

Medienkompetenz bei Jugendlichen und die psychische Belastung junger Menschen durch soziale Medien waren weitere Aspekte, die das Publikum beschäftigte. Rummel-Kluge sprach sich für die Stärkung analoger Räume und Fächer wie „Resilienz und Persönlichkeitsentwicklung“ an Schulen aus. Villmann ergänzte, dass Schüler:innen sensibilisiert werden müssten, KI-Antworten durch das Finden von Gegenbeispielen kritisch zu hinterfragen.

Der Abend verdeutlichte, dass KI im Gesundheitswesen eine Chance zur Entlastung bietet, solange sie als Werkzeug verstanden wird, das kritisch kuratiert werden muss. Wegweisende Projekte wie der Leipziger KI-Chatbot „Emotionslotse“ oder die Forschung zu interpretierbaren Modellen am SICIM markieren den Weg für eine Medizin, die technologisch innovativ bleibt und dabei den Menschen im Zentrum behält.

_{Text: Babette Nimschowski, Helmut Hammer
Fotos: Helmut Hammer}