Ethik Digital: Wie Jaana Müller-Brehm vertrauenswürdige Künstliche Intelligenz fördern will

Was ist denn vertrauenswürdige Intelligenz für Sie?

Müller-Brehm: Der Begriff ist abgeleitet aus wissenschaftlich-politischen Auseinandersetzungen. Da gab es eine Gruppe, die hat sich im Auftrag der EU die Frage gestellt, was vertrauenswürdige Künstliche Intelligenz ausmacht. Sie haben bestimmte Kriterien aufgestellt, die eigentlich erfüllt sein müssten, dafür, dass man sagt: Okay, dieses Modell oder diese Anwendung kann man als vertrauenswürdig ansehen. Dazu gehören etwa Maßnahmen der Nachvollziehbarkeit oder Transparenz. Oder das Kriterium der Verlässlichkeit.

Wir versuchen mit Veröffentlichungen, Veranstaltungen und anderen Auseinandersetzungen dieses Thema genauer in den Blick zu nehmen und zu fragen, wie, wie setzen wir das jetzt eigentlich um? Wir meinen damit kein blindes Vertrauen, also dass wir sagen, dass KI-Modell und Anwendungen pauschal Vertrauen verdienen, sondern wir müssen uns damit auseinandersetzen, wie wir auf Basis einer bestimmten Informations- und Wissensgrundlage und bestimmten Prozessen wie zum Beispiel Prüfungen, Dokumentationen und Kompetenzvermittlung dahin gehen oder dahin kommen, dass einzelne Nutzerin, Verbraucherin, Bürgerinnen sagen können: Okay, hier ist die Vertrauenswürdigkeit gegeben.

Denn wir können es nicht an die Nutzerinnen und Verbraucherinnen auslagern, dass die alle möglichen Informationen in ihre Bewertung einbeziehen und diese ganzen komplexen Vorgänge reflektieren und dann zu einer Entscheidung kommen. Das ist in unserem Alltag faktisch einfach nicht möglich. Aber die Frage ist, welche Prüfprozesse oder Vermittler dazwischen geschaltet werden können, die sagen, okay, hier sind bestimmte Kriterien der Vertrauenswürdigkeit erfüllt.

Können Sie ein konkretes Beispiel dafür nennen?

Müller-Brehm: Es gibt etwa die Idee, in KI-Modellen bestimmte Punkte zu definieren, die Fairness bedeuten. Also dort wird definiert, welche Datenpunkte wie behandelt werden müssen. Bei einer Anwendung im medizinischen Bereich, die für Frauen und Männer gleichermaßen funktionieren sollte, müssen wir schauen, dass die Datengrundlage ausgewogen ist, also dass mögliche Verzerrungen, die zur Benachteiligung führen könnten, ausgeglichen werden. Und dann geht das natürlich weiter, denn wir leben nicht in einem binären System, es gibt Transgender, die würden bei einem solchen Konzept durchfallen und weiterhin unfair behandelt werden.

Hier geht es also darum, schon in den Entwicklungsprozess zu schauen und zu erkennen, welche Sichtweise und Annahmen hier zugrunde gelegt werden.  Wie können Prüfebenen und Testebenen eingebaut werden, wie können wir erreichen, dass es keine Benachteiligung gibt. Oder dann eben im Einsatz, hier müsste es Möglichkeiten geben, dem System noch Feedback zu geben.

Gleichzeitig ist es wichtig, den Menschen Kompetenzen zu vermitteln. Wenn ich im medizinischen Bereich KI-Modelle einsetze, dann müssen die Menschen, die die Systeme  anwenden, auch über die Begrenzungen und Limitationen dieses Systems Bescheid wissen und verstehen, wie es funkioniert.

Wichtig ist es, zu erkennen, dass die Technik eben mit unserem gesellschaftlichen Leben zusammenhängt. KI-Modelle und Anwendungen können nicht losgelöst von uns Menschen und unseren Strukturen existieren.

Was wollen Sie mit Ihrer Arbeit erreichen?

Müller-Brehm: Unsere Aufgabe ist es, sachliches Wissen strukturiert weiterzugeben, also aufzubereiten und Multiplikator*Innen in politischen Prozessen oder in der Wissenschaft zur Verfügung zu stellen. Es ist der Versuch, nicht zu stark auf eine Perspektive zu fokussieren, deshalb arbeiten wir interdisziplinär, und ich arbeite nicht alleine, sondern dann schaut auch ein Kollege, der Jurist ist, auch über das Thema.

Die meisten Prozesse sind sehr stark wirtschaftlich geprägt. Sehr viel Kapital ist in die Forschung geflossen, und die Wirtschaft ist Treiber dieser Entwicklung.

Deswegen ist es wichtig, dass man andere Perspektiven wie die aus der Wissenschaft stärkt und die Meinungen von zivilgesellschaftlichen Akteurinnen und Organisationen, die wiederum Vertreterinnen von uns Bürgerinnen sind, oder Menschen, die von Diskriminierung betroffen sind, sichtbar macht. Was sind deren Perspektiven? Welche strukturellen Diskriminierungsformen erfahren sie im Alltag, und welche erfahren sie in Bezug auf Technik? Wie können wir mit Wissenschaftler*innen in den Austausch gehen über Fragen wie Fairness?

Wie gehen wir um mit der Wirtschaftsmacht? Was muss und was kann der Staat dafür tun, dass sich da etwas verändert?

Müller-Brehm:  Unternehmen treiben hauptsächlich Entwicklungen voran, die ihrem Unternehmen weiterhelfen. Soziale Netzwerke sind meist so ausgelegt, dass sie die Nutzer möglichst lange auf der Plattform halten wollen, es geht ihnen nicht darum, die Menschen ausgewogen zu informieren. Aber ich möchte da keinen Pauschalverdacht in den Raum stellen, denn es gibt durchaus Ansätze, das anders zu machen.

Die Entwicklung von guten oder gut funktionierenden Modellen und Anwendungen steht stark in Verbindung mit der Menge der Daten, mit Wissen, Expertise und Kompetenz. Hier geht es darum, wirkungsvolle Alternativen anzubieten und den Konzernen entgegenzusetzen.

Und was ist dafür nötig?

Müller-Brehm: Es wäre wichtig, die unabhängige Forschung weiter zu fordern, um unabhängige Erkenntnisse zur Verfügung zu stellen. Das findet statt, aber nicht in ausreichendem Maße. Besonders wichtig ist auch die Kompetenz, hier braucht es Ausbildung in allen Bereichen – in Arbeitskontexten ebenso wie im Bildungskontext.

Und dann müssen wir dafür sorgen, dass Menschen an die Informationen herankommen. Wir müssen eine kritische Reflexion ermöglichen und niederschwellig die Lust wecken, sich mit diesen Themen auseinander zu setzen.

Es gibt öffentliche Meinungsbildungsprozesse, aber hier braucht es sehr viel Zeit, sich hier in Gesetzgebungsprozesse einzubringen. Die meisten Menschen haben nicht die Zeit, sich so tief damit auseinanderzusetzen, ihre Positionen zu überlegen und Zeit zu investieren. Dazu gehören auch journalistisch aufbereitete Informationen.

Kommen wir überhaupt noch hinterher?

Müller-Brehm:  Was fatal wäre, wäre, wenn wir jetzt den Kopf in den Sand stecken und einfach sagen, wir lassen das jetzt halt mal so weiterlaufen. Wir versorgen die Menschen ja mit Informationen. Wir publizieren ein Magazin, Journalist*innen haben viele Möglichkeiten, Aufklärungsarbeit zu leisten. Sicherlich ist die Geschwindigkeit der technischen Entwicklungen hier ein Problem, aber auch die Geschwindigkeit der Medienberichterstattung. Wir müssen schauen, dass wir sachlich informieren, ohne dabei total langweilig zu werden.

Wenn Sie in die Zukunft schauen, worauf freuen Sie sich, und wovor fürchten Sie sich in Sachen KI?

Müller-Brehm: Ich freue mich darauf, dass sich bestimmte Regeln etablieren werden, und es dann auch ein bisschen weniger Wildwuchs geben wird und wir uns bestimmte Kompetenzen aneignen. Das sehen wir ja im Umgang mit sozialen Medien, hier gibt es einen viel reflektierteren Umgang mit den Inhalten als noch vor einigen Jahren. Ich glaube, wir können auch ein Stück Vertrauen haben in unsere demokratischen Prozesse. Wir können alle darauf einwirken – in Diskussionen, in Unternehmen. Solche Dinge müssen wir fördern.

Unsere große Herausforderung ist es, die Vorherrschaft großer Konzerne aufzubrechen und die unabhängige Forschung voranzutreiben. Da gibt es gute Ansätze in der EU, aber das wird eine große Herausforderung. Und dann müssen wir viel Aufklärungsarbeit leisten.

Wünschen würde ich mir, dass wir das Zusammenwirken von gesellschaftlichen Strukturen, Infrastrukturen und Technik stärker in den Blick nehmen. Wenn wir einen Hammer oder einen Aufzug nutzen, dann müssen wir uns vorher überlegen, wie wir diese einsetzen. Bei einem KI-Modell ist das viel komplexer. Wenn wir glauben, wir können mit Technik gesellschaftliche Probleme lösen und wiederum mit Technik Probleme der Technik, dann müssen wir hier einen anderen Ansatz finden.

Schließlich haben wir einen sehr "westlich" orientierten Blick auf KI-Modelle und Anwendungen. Diese sind mit Beschränkungen behaftet und bedienen eine bestimmte Gesellschaftsstruktur. Es gibt aber ganz viele Menschen auf der Welt, deren Perspektive wir da nicht mit einbeziehen und die dann aber am Ende diese KI-Anwendungen auch nutzen sollten oder könnten. Und es wäre wichtig, deren Perspektive in den Blick zu nehmen und zu berücksichtigen.

(Der Text ist eine stark gekürzte Version des Gesprächs)