Podcast Ethik Digital | Arne Manzeschke: Werden uns künftig Roboter pflegen?

Werden denn ethische Fragen bei der Entwicklung mitgedacht? Ist es nicht eher so, dass viele Firmen Ethikwashing betreiben – auch im Gesundheitswesen?

Bei Forschungsprojekten, die etwa von einem Bundesministerium gefördert werden, gibt es die Verpflichtung, sich mit ethischen Fragen zu beschäftigen. Das steht in den Forschungsunterlagen und in der Ausschreibung, und in dem Projekt muss auch darauf geantwortet werden, sonst fließen die Fördergelder nicht. Wenn es um reine Industrieprodukte geht, sieht es unter Umständen ganz anders aus.

Im Gesundheitswesen kommen wir um ethische Fragen nicht herum: Wie helfen wir dem Menschen, wie wenden wir Schaden von ihm ab? Viele diakonische Einrichtungen beschäftigen sich gerade mit der digitalen Transformation, dazu gehören dann auch Roboter, und auch die denken diese ethischen Fragen von Anfang an mit.

Digitale Ethik in Krankenhäusern

In den Krankenhäusern gibt es einen enormen ökonomischen Druck, werden dort robotische Geräte schneller eingesetzt?

Ein Operations-Roboter ist nicht zum Nulltarif zu haben, sprich, das Krankenhaus muss sich sehr gut überlegen, wofür es das Geld einsetzt, auch müssen sie sich fragen, ob es überhaupt die Räume dafür gibt. Dann gibt es einen Fachkräftemangel, der in den Krankenhäusern sehr stark zu spüren ist, der auch einen Druck erzeugt. Denn wenn ich das Personal nicht habe, um eine Station aufrecht zu erhalten, dann nutzt mir auch ein OP-Roboter nichts. Die Einrichtungen müssen also immer mehrdimensional denken.

In der Studie "Digitale Gesundheit 2025" der Bundesregierung wird gefordert, den Datenschatz des Gesundheitswesens künftig besser zu nutzen – wie umstritten ist das aus ethischer Sicht?

Hier geht es überwiegend um personenbezogene Daten. Diese können mit einem entsprechenden Datenmanagement anonymisiert werden und genutzt werden, um Vergleichsstudien zu machen oder eine KI zu trainieren. Daten sind ein Schatz, mit dem nicht nur Geld verdient, sondern auch die Versorgung verbessert werden könnte. Das ist ein richtiger Punkt. Und in Deutschland und in der EU wird überlegt, wie regulieren wir den Umgang mit diesen Daten. Zu sagen, wir wollen mit diesen Daten gar nichts machen oder gar nichts zu tun haben, ist nicht sinnvoll, da würden wir viele Möglichkeiten und viel Wissen verschenken. Fragwürdig ist allerdings, wenn Menschen ihre Daten zur Verfügung stellen und andere ungefragt damit Geschäfte machen.

Künstliche Intelligenz im Gesundheitswesen

Wird die KI künftig die Entscheidungen der Ärzte übernehmen?

Der Algorithmus oder die KI entscheidet nicht, sondern liefert Rechenergebnisse. Wir müssen uns fragen, was wir Menschen damit machen. Künftig kann der Arzt auf der Basis einer größeren Datenmenge die Wahrscheinlichkeit für eine Therapieoption ziemlich genau errechnen. Und dann muss der Arzt sein Erfahrungswissen einbringen und eine Entscheidung oder Empfehlung aussprechen. Aber es wird schon so sein, dass es zunehmend schwieriger werden dürfte, eine Entscheidung nicht ausschließlich an der KI auszurichten, denn das hat rechtliche Folgen. Wer von einer Standardempfehlung abweicht, wird das begründen müssen, und wenn es schief geht und Regressansprüche geltend gemacht werden, wird man das teuer zahlen müssen.

Dennoch soll der Mensch die Letztverantwortung haben.

Als Ethiker versuchen wir, Verantwortung aufzugliedern. Der Arzt kann keine Verantwortung dafür tragen, dass in dem Algorithmus vielleicht ein Fehler drin ist. Ärzte werden sich aber mehr und mehr auf die Systeme verlassen, sollten sie aber auch verstehen. Ich vergleiche das mit einem Piloten, der sich auf den Autopiloten verlässt, aber in der Lage sein muss, das Flugzeug ohne Unterstützung dieses Systems sicher wieder zu landen.

Wichtig ist die Frage, wie die Ausbildung von Ärztinnen und Ärzten sich verändert. Sie müssen künftig in der Lage sein, die Plausibilität einer KI-Empfehlungen zu prüfen und trotzdem eigene Entscheidungen zu treffen.

Wie muss sich die Forschung zur digitalen Ethik im Gesundheitswesen verändern?

Wir müssen integrierter forschen, also viel stärker die verschiedenen Perspektiven zusammenbringen, und die technische Entwicklung mit den Menschen verbinden, die mit diesen Maschinen umgehen. Und wir brauchen Lernprozesse und Bildung, damit Menschen intelligent mit diesen Maschinen umgehen können.

Die Einführung der elektronischen Patientenakte stößt bei Datenschützern auf Kritik. Ist diese Kritik berechtigt?

Ich halte das zum Teil für eine Doppelmoral. Die meisten Bürger gehen mit ihren Daten im Netz äußerst freigebig um, klicken Cookies weg oder bestätigen AGBs, ohne sie zu lesen. Und auf der anderen Seite wird aus den Daten fast schon eine Geheimwissenschaft gemacht. Das halte ich für wenig zielführend.

Es gibt einige Länder, die mit der elektronischen Gesundheitsakte durchaus gute Erfahrungen gemacht haben. Wir sollten den Schritt in die digitale Transformation wagen. Ich würde mir mehr Aufklärungskampagnen wünschen, damit die Menschen verstehen, worauf sie sich einlassen und dass sie mit einer gewissen Gelassenheit und Souveränität mit ihren Daten umgehen und wichtige Daten für die Wissenschaft freigeben.

Viel problematischer sind die vielen Portale im Netz zum Thema Gesundheit, verbunden mit dem Phänomen, dass viele Leute sich selber diagnostizieren und selber therapieren. Das hat vielerorts ganz problematische Züge der Quacksalberei angenommen. Hier müssen wir genauer hinschauen und Bildungsprozesse auf den Weg bringen. Die Menschen müssen wissen, was kann ich über mich erfahren, und wo suche ich mir Unterstützung von Experten.

Dieser Artikel ist eine redigierte und gekürzte Version des Live-Gesprächs mit Arne Manzeschke in der Evangelischen Stadtakademie München.