Philosoph Thomas Metzinger über die Klimakrise und die Erforschung unseres Bewusstseins

Thomas Metzinger über Künstliches Bewusstsein

Inwiefern sind Erkenntnisse aus Hirnforschung und Philosophie wichtig für die Entwicklung eines künstlichen Bewusstseins?

Metzinger: 2022 habe ich ein Paper veröffentlicht, in dem ich ein Moratorium für synthetische Phänomenologie bis 2050 fordere. Die Synthetische Phänomenologie ist ein ähnlicher Fachbegriff wie die Synthetische Biologie, bei der Leute versuchen, künstliche Lebewesen zu bauen. Ich habe vor 28 Jahren die Association for the Scientific Study of Consciousness mitgegründet. Was mich beunruhigt, ist zu sehen, dass es jetzt mindestens vier Labore gibt auf der Welt, mit erstklassigen Forschern, die sagen: Wenn wir künstliches Bewusstsein machen können, werden wir es sofort tun. Ich finde, da sollten wir ganz vorsichtig sein.

Was man verstehen muss: Künstliche Intelligenz und künstliches Bewusstsein sind zwei ganz verschiedene Sachen. Es kann Systeme geben, die viel intelligenter sind als wir. Diese gibt es in manchen Bereichen schon, und sie haben keinerlei Empfindungen und Gefühle. Es könnte andererseits einfache Lebewesen geben, die nicht besonders intelligent sind, aber ganz tief empfinden können und intensive bewusste Erlebnisse haben.

Wir könnten hier an eine historische Scheidelinie kommen. Die Philosophen haben lange darüber diskutiert, ob Geist und Bewusstsein hardwareunabhängige Phänomene sind. Diese Zoom-Software, die wir hier gerade benutzen, kann genauso gut auf einem Rechner laufen, der Drähte aus Gold anstatt aus Kupfer hat. Es gibt starke philosophische Argumente dafür, dass die physikalische Realisierung für geistige Eigenschaften keine Rolle spielt oder nur in bestimmten Fällen. Wenn dem so ist, dann können auch Geist, Intelligenz, phänomenales Erleben auf nicht-biologischen Trägersystemen erzeugt werden.

Genau das schwant jetzt der allgemeinen Öffentlichkeit, die gerade von Chat-GPT beeindruckt ist: Da kommt etwas auf uns zu, von dem viele Leute gedacht haben, wenn man nur lange genug wegguckt, dann geht das von selber wieder weg. Und jetzt werden wir von den Folgen des technologischen Fortschritts überrollt.

Was genau ist ihr Unbehagen bei dieser Entwicklung?

Metzinger: In einem normalen menschlichen Leben gibt es deutlich mehr bewusstes Leiden als bewusste Freude. Wir haben zwar von der Evolution eingebaute Selbsttäuschungsmechanismen und Verdrängungsmechanismen, doch die biologische Evolution hat bei unseren Vorfahren oder Tieren wesentlich mehr Leiden erzeugt als Glück, Zufriedenheit oder Liebe.

Diese Form von Bewusstsein, die wir haben, von innen kennen und von außen modellieren, ist aus verschiedenen Gründen hochproblematisch und sollte nicht leichtfertig vermehrt werden. Wenn wir nichts haben als unseren eigenen Geist, der von Gier, Neid, Dominanzstreben geprägt ist und in dem es so viel Schmerz und Kummer gibt, dann ist die Gefahr groß, dass wir das auf künstlichen Systemen wiederholen und so die Gesamtmenge des Leidens im Universum womöglich dramatisch vergrößern.

Wir sollten ganz vorsichtig sein damit, unsere Form von bewusster Intelligenz leichtfertig weiterzukopieren in Systeme, die vielleicht viel effektiver sind und Kaskaden von selbstbewussten Individuen erzeugen, in virtuellen Räumen. Als Bewusstseinsforscher glaube ich zwar nicht, dass das morgen oder übermorgen passiert. Es ist aber egal, was ich glaube – in der Wissenschaftsgeschichte gibt es genügend Fälle, wo die beteiligten Forscher sagten, das kriegen wir nie hin, etwa bei der Kernspaltung. Und dann waren sie selber überrascht, wie schnell sie die Technologie hatten. Sowas sollte uns in diesem Bereich nicht passieren.

Wie vermeiden wir diese Entwicklung?

Metzinger: Konkret sollte die EU keine Forschungsvorhaben fördern, die die Erzeugung von künstlichen bewussten Erlebnissen zum Ziel haben oder zumindest leichtfertig riskieren. Doch so etwas interessiert nicht viele Leute auf der Welt. Die 52-köpfige Expertengruppe der EU, in der ich in Brüssel zwei Jahre an den Ethikrichtlinien für künstliche Intelligenz mitgearbeitet habe, hat sich dafür überhaupt nicht interessiert. Die einen dachten, das sei Science-Fiction. Und die anderen fürchteten sich davor, dass es die Zukunftsmärkte der Industrie verderben könne.

Wir sollten also kein künstliches Bewusstsein entwickeln, um das Leiden in der Welt nicht leichtfertig zu vermehren?

Metzinger: Wir sollten die Aufmerksamkeit erstmal unserem eigenen Geist zuwenden und der Frage, warum dieser so viel Leiden in diese Welt bringt. Das müssen wir erstmal verstehen. Es gibt andere transhumanistische Bewegungen aus Kalifornien, die sagen: Nein, wir müssen sogenannte bliss machines erschaffen, ich nenne sie Glückseligkeitsmaschinen, und das Universum damit überfluten.

Die Dominanz von leidvollen Zuständen in dem Teil der Welt, den wir kennen, ist so deutlich, dass die Priorität auf der Verminderung und der Verhinderung von Leiden liegen muss. In allen Kulturkreisen gibt es eine Grundintuition, dass es viel wichtiger ist, einem leidenden Menschen zu helfen, als einen glücklichen Menschen noch glücklicher zu machen. Ich finde, so sollten wir es auch angehen.

Thomas Metzinger: Warum wir eine Bewusstseinskultur brauchen

Sie schreiben in Ihrem Buch "Bewusstseinskultur – Spiritualität, intellektuelle Redlichkeit und die planetare Krise", dass die Menschheit in der Klimakatastrophe versagt, und fordern eine neue Bewusstseinskultur. Wie soll diese aussehen?

Wir sind in eine neue historische Epoche eingetreten. Die Vorstellung, dass wir das 1,5- oder 2-Grad-Ziel noch erreichen könnten, ist intellektuell unredlich geworden, also unehrlich. Viele Leute spüren das, trauen sich aber nicht, es zu sagen, weil sie das Gefühl haben, es gäbe eine Verpflichtung zum Zweckoptimismus. Natürlich werden wir lokale Klimaziele erreichen, in Schweden, Dänemark oder auch Marokko. Es ist auch nicht ausgeschlossen, dass wir Deutschen die Energiewende wider Erwarten doch noch schaffen.

Aber wenn man sieht, was die großen Klima-Schurkenstaaten wie Russland, Iran oder Saudi-Arabien tun oder in die USA blicken, wo nur 56 Prozent der Bevölkerung den Klimawandel als Problem akzeptieren, die aber einen viermal so hohen Pro-Kopf-CO2-Ausstoß haben wie wir, und dann noch Daten über die Trägheit physikalischer Systeme dazunimmt, dann schaut es überhaupt nicht gut aus. Und das verdrängen wir. Daraus entsteht für diejenigen von uns, die gern Teil der Lösung sein wollen, ein sich verschärfendes Problem. 

Die Frage ist: Wenn die Menschheit gerade als Ganzes ihre Würde verliert, wie bewahre ich dann noch meine Selbstachtung? Oder einfacher: Wie schafft man es, nicht verrückt zu werden? Das alles ist eine Herausforderung für unsere geistige Gesundheit.

Wir erkennen gerade, dass nicht nur die physikalischen Systeme, sondern auch unsere politischen Institutionen sehr träge sind und das nötige Tempo nicht aufbringen, und dass dies aus der Trägheit unseres eigenen Geistes resultiert. Politik ist notwendig, Aktivismus ist notwendig, aber das wird nicht reichen. Wir brauchen im Grunde einen neuen kulturellen Kontext für die Schadensbegrenzung und für das intelligente Katastrophenmanagement. Wir müssen lernen, in Würde zu scheitern und trotzdem weiterhin das tun, was das Richtige ist, aber vielleicht ohne Hoffnung auf Erfolg. Und die Frage ist, welcher kulturelle Kontext das sein könnte. 

Ich denke, wir sollten uns genauer mit unserem eigenen Geist beschäftigen, eben in einer neuen Art von Bewusstseinskultur. Wir sollten uns fragen, was sind gute Bewusstseinszustände? In welchen wollen wir sterben, welche wollen wir unseren Kindern zeigen? Was könnte so attraktiv sein, dass es uns erlaubt, aus dem Wachstumsmodell, aus dieser giergetriebenen Konsumgesellschaft, tatsächlich auszusteigen?

Und wie kommen wir zu dieser neuen Bewusstseinskultur?

Metzinger: Wir müssen fragen: Was sind die wertvollsten Bewusstseinszustände, die wir haben können, die nichts kosten und keinen Konsum erfordern? Das wird dann sehr persönlich. Für mich ist das eine systematische und dauerhafte Meditationspraxis. Auch könnte ein kontrollierter Umgang mit psychoaktiven Substanzen Teil einer rationalen Bewusstseinskultur sein. Andere Leute werden vielleicht sagen, nein, wir brauchen eine hedonistische Bewusstseinskultur und unendlich viel Spaß, um aus dem Wachstumsmodell aussteigen zu können. 

Dann stellt sich die tiefere Frage, ob eine säkulare Spiritualität denkbar ist. In der Meditation gibt es Formen von Erkennen ohne Worte, ohne Sprache, ohne Begriffe. Diese Form des Erkennens zu kultivieren fehlt uns in der westlichen Gesellschaft. Und jetzt, wo wir in diese selbstverursachte globale Krise hineinlaufen - die Jahrhunderte dauern wird - müssen wir uns aus allen spirituellen Menschheitstraditionen das Beste nehmen, und schauen, ob uns das irgendwie helfen kann. 

Eine bestimmte Form von Achtsamkeit ist zum Trend geworden. Worin liegt die Kraft der Meditation für Sie persönlich?

Metzinger: Achtsamkeit, sati ist ein Pali-Begriff. Er ist über 2500 Jahre alt und bedeutet eigentlich "sich erinnern". Bei der Meditation geht es darum, immer wieder in den aktuellen Moment zurückzukehren, in eine reine Bewusstheit, die nicht urteilend und nicht wertend ist. Es geht um die Kultivierung einer bestimmten Form von Bewusstheit, bei der man zum Beispiel das eigene Leiden anschaut: etwa den Neid, der in einem entsteht, aufsteigt und verschwindet. Die eigene Gier, die Vorurteile, das Abgestoßensein von jemandem, dem man gerade begegnet und wie man versucht, es sich nicht anmerken zu lassen. 

Was man in der Meditation genauer erforschen kann, ist das spontane Entstehen und das Verschwinden von Gedanken. Sie zu beobachten – ohne sie sich zu eigen zu machen und auszuagieren. Und dann kann man Empfindungen anschauen, die wehtun, wo man ganz automatisch lieber schnell in eine Fantasie flüchtet, wie Trauer, Verlustangst, Unsicherheit. Dadurch kann man sich klarer werden über die eigenen Motive und muss diese nicht immer automatisch ausagieren, wie die meisten von uns das tun. Die meisten von uns denken den ganzen Tag, ohne zu merken, dass sie denken.

Wie der Mensch mit Leiden umgeht

Leben wir nicht ohnehin schon in einer viel zu egozentrischen Gesellschaft? 

Metzinger: Wenn man wirklich hinschaut, dann merkt man, dass man anderen Leuten nicht gut zuhören kann oder abdriftet. Man muss ja zuerst den eigenen Egozentrismus wirklich annehmen, bevor man Kritik üben kann. Man merkt, dass es neben der meditativen Geistesgegenwart auch so etwas gibt wie Herzensgegenwart, also eine gewisse Offenheit dafür, überhaupt zu spüren, dass jemand leidet oder einen inneren Konflikt hat. Achtsamkeit geht im Alltag weiter. 

Ohne die Radikalität eines echten ethischen Kontexts wird Meditation zu McMindfulness, zu einer kapitalistischen Form von Selbstoptimierung. Genau da setzen die Tech-Konzerne ja ein. Darum interessiert sich die Industrie dafür. Aber welches Geschäftsmodell steht dahinter? Ist es gemeinwohlorientiert oder nicht? Was ist der ernstgemeinte ethische Kontext, wenn es denn überhaupt einen gibt? Auch das meine ich auch mit Bewusstseinskultur, nämlich "Bewusstseinsethik": Wir müssen uns auf die Suche machen nach guten, wertvollen Bewusstseinszuständen.

Was macht die Digitalisierung mit unserem Bewusstsein?

Metzinger: Die Aufmerksamkeitsökonomie ist eine Gefahr für unsere Demokratie. Die Technologie ist schon lange dabei, unseren Geist zu verändern. Das weiß jeder, der unterrichtet und mit Kindern und Jugendlichen zu tun hat. Was viele Leute noch nicht in seiner gesamten Schärfe verstanden haben, ist, wie amerikanische oder chinesische Plattformen die menschliche Aufmerksamkeit monetarisieren.

Wir haben eine begrenzte Ressource in unserem Gehirn. Unsere Aufmerksamkeit brauchen wir, um ein glückliches Leben zu leben, um anderen Leuten zuzuhören oder im Wald spazieren zu gehen. 

Das Ziel der Tech-Konzerne heißt maximales Engagement: Man soll immer länger dran kleben bleiben, als man vorhatte, immer länger verweilen, sich verlaufen, in einer Nebengasse landen, Suchtverhalten entwickeln. Das ist mittlerweile eine Riesenindustrie und ein Kampf um mehr als drei Milliarden User auf der Welt. Das Spiel, das mit uns gespielt wird, ist schon lange nicht mehr, wer der Schachweltmeister oder Go-Weltmeister ist, sondern wer unsere Aufmerksamkeit kontrolliert, die knappe Ressource in unserem biologischen Gehirm. Und die Konzerne gewinnen.

Es gibt viele psychiatrische Daten zu Kindern und Jugendlichen, die zeigen, dass längst eine andere Generation herangewachsen ist, von denen viele Schwierigkeiten haben, Bücher zu lesen. Die klassische 90-minütige Universitätsvorlesung, mit der ich noch aufgewachsen bin, geht schon lange nicht mehr. Studierende brauchen nach 25 Minuten ein Video, damit wenigstens die Hälfte derer, die dauernd an ihrem Telefon unterm Tisch hängen, kurz aufschaut.

Ich denke, wir haben da möglicherweise schon mehrere Generationen verheizt.

Natürlich gibt es in jeder Generation acht bis zwölf Prozent, die sind fantastisch, autonom und schwimmen im Internet wie Fische im Wasser. Aber die Frage ist, wie die Mehrheit der jungen Leute mit ihren zerstörten Aufmerksamkeitsmechanismen mit den Krisen der Zukunft umgehen sollen – wenn sie auf einmal merken, sie können doch nicht mehr ausweichen in eine virtuelle Virtualität.

Kann so ein System der Jagd nach Aufmerksamkeit auch wieder zusammenbrechen?

Metzinger: Bei Twitter haben Sie die Situation, dass viele Millionen weltweit gerade das Folgende gesehen haben: OK, das ist ein verrückter Republikaner, ein kalifornischer Milliardär, der Trump wählt - ich gehe jetzt rüber zu Mastodon. Aber dort ist es irgendwie langweilig. Das ist zwar nett und gut für meine geistige Gesundheit, aber es kickt nicht so wie Twitter. Die Journalisten wissen nicht, was sie machen sollen, weil sie das Medium brauchen. Und das ist ein Riesenproblem.

Infrastrukturen wie Straßen, Wasser, Luft müssen öffentliche Güter sein. Aber wir haben Infrastrukturen, die von nicht am Gemeinwohl orientierten Großunternehmen aufgebaut wurden. Wir müssten Twitter und Facebook im Grunde aus Europa herausschmeißen, wir bräuchten attraktive, werbefreie "öffentlich-rechtliche" soziale Netzwerke - aber das werden wir nicht hinbekommen.

Wir sind, was die Infrastruktur angeht, schon in der Hand dieser Großkonzerne. Wir sind durchkolonisiert. Die Geschichte mit dem russischen Gas ist beileibe nicht das einzige Problem, das wir haben.

Ein amerikanischer Forscher sagte neulich: "Wir haben Kühe gezüchtet, die so viel Milch geben, dass sie morgens vor Schmerzen schreien, wenn sie nicht gemolken werden. Und wir züchten gerade ganz viele junge Menschen, die werden schreien vor Schmerz, wenn ihnen nicht ihre Aufmerksamkeit dauernd gespalten und abgemolken wird durch diese Systeme." Das fand ich eine interessante Analogie. Auch das ist gemeint mit Bewusstseinskultur: Wir müssen verhindern, dass immer besser werdende Algorithmen den Geist unserer Kinder und Jugendlichen zerstören. Oder unseren eigenen.

Blicken Sie pessimistisch oder optimistisch in die Zukunft?

Metzinger: Wir müssen eine Einstellung finden jenseits von Optimismus und Pessimismus, nämlich den Realismus auf eine neue Ebene heben. Ich bin in manchen Gebieten sehr pessimistisch – eta, dass wir noch verhindern könnten, dass die Klimakatastrophe einen völlig unkontrollierten Verlauf nimmt. In dem Buch sage ich:

Es wird einen "Panikpunkt" geben in der Zukunft, nach dem die normalen Leute zwei Sachen verstehen. Erstens: Was mir 40 Jahre lang alle gesagt haben, das hat tatsächlich gestimmt. Zweitens: Jetzt ist es zu spät. Und dann wird ganz viel Bewegung entstehen auf dem Planeten. 

Welche Rolle spielen dabei die Religionen?

Metzinger: Ich bin Mitglied der Giordano-Bruno-Stiftung und stehe der organisierten Religion sehr skeptisch gegenüber. Vielleicht gibt es in manchen Formen der organisierten Religion aber ja doch noch so etwas wie spirituelle Widerstandsnester oder auch vorsichtige Tastbewegungen nach etwas ganz Neuem, das vielleicht helfen könnte. Vielleicht können die religiösen Menschheitstraditionen am Ende doch einen Beitrag zum Projekt eine Bewusstseinskultur leisten? Ich bin da mehr als skeptisch, aber das wäre vielleicht noch eine interessante Frage. 

Das Problem der organisierten Religion ist, dass sie so zutiefst unspirituell ist. Was wir aber eigentlich brauchen, ist das, was ich im Buch eine "säkulare Spiritualität" nenne. Aber vielleicht ist es gar nicht so, wie ich sage – vielleicht sehe ich Vieles ganz falsch. So etwas könnte ein unerwarteter Beitrag sein zu der neuen Bewusstseinskultur, von der ich glaube, dass wir sie in der Phase der Schadensbegrenzung und bei einem intelligenten Katastrophenmanagement brauchen werden.

Der Text ist eine gekürzte und bearbeitete Version des Video-Podcasts.