Irreverend: Warum Maschinen niemals die Welt beherrschen werden

veröffentllicht am 29.11.2022

Jamie Franklin (JF): Herzlich willkommen zu dieser ganz besonderen Folge von “Irreverend: Faith and Current Affairs”. Ich bin sehr erfreut, heute zwei herausragende Denker begrüßen zu dürfen, Prof. Barry Smith und Dr. Jobst Landgrebe, die Autoren des fabelhaften Buches mit dem Titel “Why Machines Will Never Rule the World: Artificial Intelligence without Fear”. Ich habe mich mit diesem Buch in den letzten Tagen beschäftigt und denke, dass es für viele der Themen hoch relevant ist, die wir auch in dieser Sendung diskutieren wie etwa Transhumanismus, Künstliche Intelligenz (KI) und wie Technologie zur Herrschaftsausübung eingesetzt werden kann. Heute haben wir die Ehre, zwei brillante Denker zu Gast bei uns zu haben, deren Leistungen und Interessen so vielfältig sind, dass sie sich am besten selbst vorstellen. Kommen wir zuerst zu Ihnen, Jobst. Erzählen Sie unseren Zuhörern doch ein wenig darüber, wer Sie sind, über Ihren Hintergrund und Ihre Beteiligung an diesem Buch.

Jobst Landgrebe (JL): Zunächst möchte ich mich bei Ihnen, Jamie, für die Einladung bedanken. Ich fühle mich wirklich geehrt. Vielleicht ist es für dieses besondere Publikum hier von Interesse, dass ich Sohn zweier Theologen bin. Meine Mutter stammt aus einer der ältesten und produktivsten Familien evangelischer Theologen, den Hochstetters, aus der viele Geistliche hervorgegangen sind. Von meiner Ausbildung her bin ich Arzt, Biochemiker und Mathematiker. Ich wurde in Zellbiologie promoviert, habe dann Mathematik studiert und wurde Biomathematiker. Meinen Ko-Autor Barry Smith habe ich im Zuge meiner Arbeiten im Bereich medizinischer Ontologie kennengelernt. Im Bereich der KI bin ich theoretisch und praktisch seit mehr als 20 Jahren tätig, nämlich seit 1998, und in den letzten Jahren habe ich die Notwendigkeit gesehen, dieses Buch zu schreiben.

JF: Vielen Dank, Jobst. Und Sie, Barry, könnten Sie uns ein bisschen über sich und Ihren Hintergrund erzählen

Barry Smith (BS): Ich bin in England geboren und habe in Oxford und Manchester Philosophie studiert. Promoviert wurde ich mit einer Arbeit zu Deutscher und Österreichischer Philosophie. Allerdings habe ich nach und nach erkannt, dass die von mir entwickelten philosophischen Gedanken auch für einen weiteren Kreis nützlich sein können. Daher habe ich begonnen, einige dieser Ideen in der Medizin und Biologie anzuwenden, und so bin ich auch mit Jobst in Kontakt gekommen. In den letzten 20 Jahren habe ich mit vielen Wissenschaftlern außerhalb der Philosophie zusammengearbeitet, etwa beim Militär, in der Industrie und auch weiter in der Biologie und Medizin, um zu zeigen, wie philosophische Ideen diese Arbeiten unterstützen können. Das neueste Gebiet, in dem ich mich auf diese Weise engagiere, ist die Künstliche Intelligenz, über die wir nun sprechen werden.

JF: Gut, vielen Dank. Ich denke, wir sollten nun loslegen. Jobst, Sie haben die Notwendigkeit für dieses Buch erwähnt. Ich finde, dass dieses Buch wirklich gut ist, denn es ist zwar ein wissenschaftliches Buch, aber dennoch knüpfen Sie immer wieder an Themen aus der Populärkultur an, beispielsweise wenn Sie Elon Musk zitieren, der von Maschinen spricht, die uns als Overlords beherrschen und bestimmte Fähigkeiten und Neigungen besitzen werden. Also gibt es in unserer Kultur offenbar etwas, das solche Ideen nahelegt. Wir alle kennen diese Gedankenexperimente von Maschinen, die die Macht übernehmen, aus dem Science-Fiction-Genre, aus Filmen wie “Matrix” oder “Terminator”. Das sind Dinge, an die ich denken musste, als ich das Buch gelesen habe. Es ist natürlich nicht mein Fachgebiet, aber es scheint mir, dass es im akademischen Betrieb Strömungen gibt, die eine Entwicklung der Wissenschaft in diese Richtung für realistisch halten. Jobst, sehen Sie das auch so und könnten Sie uns mehr über die Notwendigkeit Ihres Buches erzählen?

JL: Ich denke, dass wir in einem Abschnitt unserer Kultur leben, der mit einem massiven Glaubensverlust verbunden ist, den wir bereits seit mehr als 200 Jahren beobachten können. Denker wie Stirner und Nietzsche, aber auch Auguste Comte haben bereits erkannt, dass es zum Aufstieg einer neuen säkularen Pseudo-Religion kommen wird. Transhumanismus und der Glaube an KI sind Bestandteile einer in der positivistischen Tradition entstandenen säkularen Pseudoreligion. Wir haben nun eine Pseudoreligion, die für viele unserer Zeitgenossen den christlichen Glauben ersetzt hat. Ein Teil davon ist der Glaube an einen nie endenden technologischen Fortschritt und eine eschatologische Sicht von Technologie. Das sehen wir auch im Bereich der KI und des Transhumanismus, nämlich der Glaube, dass wir unser eigener Gott sein können – wie Stirner und Nietzsche es ausdrücken – und zwar durch die Nutzung von Technologie. Unser Buch widerlegt diesen Anspruch, allerdings nicht mit theologischen, sondern rein wissenschaftlichen Argumenten.

JF: Das ist sehr interessant. Ich betone nochmals, dass das nicht mein Fachgebiet ist, aber ich bin mir darüber im Klaren, dass es in der modernen protestantisch-liberalen Theologie manchmal die Vorstellung gibt, dass das Eschaton oder die generelle Auferstehung am Ende der Zeit durch menschliche Technologie in Form des Transhumanismus herbeigeführt wird.

JL: Das ist natürlich eine Perversion der christlichen Religion. Nirgendwo in der Bibel kann man so etwas finden. Im Johannes-Evangelium gibt es die präsentische Eschatologie, wie Bultmann sie nennt, das heißt, dass man Gott bereits im Hier und Jetzt in anderen Menschen begegnen kann, aber das hat nichts mit uns, dem Ruf zum Jüngsten Gericht zu tun. Das ist Unsinn, aber es ist der kulturelle Hintergrund, vor dem wir die Behauptungen von Leuten wie Musk oder Martine Rothblatt verstehen müssen, die an den Transhumanismus glauben und daran, dass Maschinen intelligenter als Menschen werden, eine Annahme, die auch Singularität genannt wird.

JF: Lassen Sie uns das ein bisschen ausführen. Würden Sie sagen, dass das Fehlen christlicher Eschatologie dazu führt, dass Menschen ihr Bedürfnis nach Hoffnung auf ewiges Leben -sei es für das Individuum oder die Spezies – anders ausrichten? In der Populärkultur gibt es diese Ideen von Kryokonservierung. Wir haben in dieser Sendung vor etwa einem Jahr darüber gesprochen. Beispielsweise investiert Jeff Bezos in die Erforschung der Kryonik, um einen Teil seines Körpers zu konservieren und so Unsterblichkeit zu erlangen. Sehen Sie das so? Ist es der Versuch der Menschen, die Hoffnung einer christlichen Eschatologie durch etwas zu ersetzen, das durch Technologie herbeigeführt wird?

JL: Schleiermacher hat zu Beginn des 19. Jahrhunderts das religiöse Bedürfnis beschrieben, das er als existentielle Konstante annahm. Das heißt, es ist eine fundamentale Eigenschaft des Menschen, dass er ein religiöses Bedürfnis hat. Ich glaube, dass das richtig ist. Es gibt Menschen, die ohne Glauben und ohne Religion leben können, aber auf die meisten Menschen trifft es zu, dass sie dieses starke Bedürfnis haben. Wenn man nun den traditionellen christlichen Glauben verliert – oder in anderen Teilen der Welt andere Religionen – dann verschwindet das religiöse Bedürfnis nicht einfach. Daher muss der Mensch, wenn er von diesem Bedürfnis überwältigt wird, andere Wege finden, es zu realisieren. Die Idee der Unsterblichkeit, sei sie als biochemisch oder digital realisierbar angenommen – letzteres ist auch ein populäre Vorstellung in diesen Kreisen, ist eine Spielart dieses Pseudo-Glaubens, der die wirkliche Religion ersetzt. Barry Smith und ich haben einen Aufsatz “Unsterblichkeit 2.0: Eine kalifornische Illusion” (in: Seele Digital, Regensburg, 2022) darüber geschrieben. Aber wir haben auch in unserem Buch darüber geschrieben. In Kapitel 12 finden sich Teile der Argumente, die wir auch in diesem Aufsatz anführen.

JF: Ich denke, dass dies ein wirklich wichtiges Thema ist, die Annahme, dass hier eine Art pseudo-religiöse Empfindung im Spiel ist. Es ist nicht vollständig kohärent, aber bei all den sozialen Themen, über die wir hier sprechen, ist es immer auch im Spiel, sei es die Covid-Situation, sei es der Klimawandel oder eben Fragen, die mit dem Transhumanismus oder KI zusammenhängen. In gewissem Sinne wird hier Rationalität überschritten, wenn ich das so ausdrücken darf. Ich sage nicht, dass es vollkommen irrational ist, aber es gibt da ein irrationales Moment, bei dem sich die Menschen in eine Art spirituelle Rage begeben. Und es gibt auch Kategorien, die eindeutig religiös sind wie Orthodoxie und Häresie. Wenn man von der Orthodoxie zur Häresie abweicht, dann geht es nicht mehr darum, ob das, was man vertritt, rational schlüssig ist oder ob es empirische Belege dafür gibt. Das eigentliche Vergehen ist, dass man es gewagt hat, eine Grenze zu überschreiten, deren Überschreitung nach allgemeinem Dafürhalten inakzeptabel ist. Wir sollten auf jeden Fall im Laufe der Diskussion noch darauf zu sprechen kommen, aber zunächst sollten wir über Ihr Hauptargument sprechen, denn – wie Sie sagen – ist Ihr Hauptargument kein theologisches Argument. Es basiert auf rein empirischen und logischen Erwägungen. Wie ich es verstehe, sagen Sie in Ihrem Buch, dass – wie Sie es nennen – Artificial General Intelligence (AGI, “Starke Künstliche Intelligenz”) logisch unmöglich ist. AGI ist KI, die menschlicher Intelligenz gleichkommt oder ihr sogar überlegen ist. Teil der Annahme von AGI ist das Auftreten der sogenannten Singularität. An diesem Punkt können sich die Maschinen selbst reproduzieren und Maschinen herstellen, die intelligenter sind als diejenigen, die sie selbst erschaffen haben, nämlich die Menschen. Damit wird eine Kette von Ereignissen ausgelöst, in deren Folge die Maschinen immer intelligenter werden und eines Tages die Weltherrschaft übernehmen. Ist das etwas, was Sie unter AGI und Singularität verstehen?

JL: Das ist das, was Anhänger der Singularität – wie etwa Ray Kurzweil – unter Singularität verstehen. Wir halten dies natürlich für schieren Unsinn. Sie haben auch AGI richtig definiert.

JF: Ich nehme an, dass in dieser Ereigniskette als nächster Schritt etwas folgt, was vermutlich noch fabulöser ist, nämlich, dass diese Maschinen eine Art totalitäres oder bösartiges Bedürfnis entwickeln, sich die Menschen Untertan zu machen und eín matrix-artiges Szenario zu erschaffen. Allerdings sagen Sie, dass dies nicht möglich ist, denn um dies zu erreichen, müsste man das menschliche neurokognitive System nachahmen, bei dem es sich um ein komplexes System handelt, das man unmöglich nachbilden kann. Daher kann man keine KI erschaffen, die der menschlichen Intelligenz ebenbürtig ist oder die menschliche Intelligenz nachahmen kann. Ist das richtig?

JL: Man braucht ein Modell, dass die neurokognitiven Fähigkeiten des Leib-Geist-Kontinuums emulieren kann. Man muss nicht dasselbe oder etwas sehr ähnliches erreichen, aber man müsste in der Lage sein, dieselben Input-Output-Muster zu erzeugen. Es könnte ganz anders aussehen als das menschliche Gehirn, aber es müsste fähig sein, dasselbe Verhalten bei bestimmten Inputs zu zeigen wie ein Mensch, um es einmal behavioristisch zu beschreiben. Das bedeutet, wir brauchen eine Nachbildung des menschlichen Geistes beziehungsweise des Leib-Geist-Kontinuums, wie wir in unserem Buch betonen. Um dies zu tun, braucht man zunächst ein Modell davon, wie man dies tut. Wir argumentieren vor allem gegen die Realisierbarkeit maschineller KI. Für maschinelle KI muss man ein technisches Gerät entwickeln und dafür braucht man ein mathematisches Modell. Jeder technisch entwickelte Gegenstand basiert in gewissem Maße auf einem mathematischen Modell. Es gibt auch Aspekte bei der technischen Entwicklung, bei denen man etwas ausprobiert, aber im Kern benötigt man ein mathematisches Verständnis der Welt, indem man sich der Physik oder einer anderen Disziplin angewandter Mathematik bedient. Wenn man nun kein solches mathematisches Modell hat, dann kann man auch Intelligenz nicht technisch entwickeln. Unser Hauptargument ist folgendes: Weil es sich bei dem Körper-Geist-Kontinuum um ein komplexes System handelt, kann man kein mathematisches Modell aufstellen, das gut genug wäre, eine solche Abbildung oder Simulation zu ermöglichen.

JF: Können Sie mir erklären, was Sie meinen, wenn Sie von einem komplexen System sprechen, denn viele Zuhörer wissen bestimmt nicht, was sie sich darunter vorzustellen haben.

JL: Beinahe alle natürlichen Systeme sind komplex und nur ganz wenige lassen sich als einfache logische Systeme modellieren. Lassen Sie uns mit einem natürlichen logischen System beginnen, dem Sonnensystem als Gravitationssystem. Da ist die Sonne in der Mitte und die Planeten, die die Sonne umkreisen, deren Bewegungen von ihrem Impuls und dem Gravitationsfeld der Sonne bestimmt werden. Dieses System, das von Kepler, Kopernikus und Galileo entdeckt und von Newton vollständig formalisiert beschrieben wurde, ist ein logisches System, da sich sein Verhalten durch die Anwendung einfacher linearer Differentialgleichungen fast vollständig vorhersagen lässt. Wir können also genau berechnen, was in diesem System vor sich geht. Das ist ein logisches System und solche Systeme sind großartig für uns, da die mathematischen Fähigkeiten des menschlichen Geistes auf solche System angewandt werden können, um sie zu beschreiben, zu erklären, und Vorhersagen über sie zu treffen. Außerdem dienen sie als Vorbild, um neue technische Systeme zu entwickeln, wie die Dampfmaschine, den Computer oder die Internet-Technologie, über die wir gerade kommunizieren. Das sind logische Systeme, von denen es in der Natur nur sehr wenige gibt. Wenn man allerdings etwas näher hinschaut, dann erweisen sich alle natürlichen Systeme als komplex und die logischen Systeme, die wir mit Fug und Recht so bezeichnen können, sind ausschließlich diejenigen, die wir selbst geschaffen haben.

Was sind nun die Eigenschaften eines komplexen Systems? Ich werde hier nicht auf alle Eigenschaften eingehen, sondern nur die drei wichtigsten nennen:

(1) Das erste Charakteristikum ist, dass komplexe Systeme evolutionäre Eigenschaften besitzen, das heißt, dass sie sich jederzeit ändern können. Sie können neue Elemente hervorbringen, die Elemente können auf neue Art miteinander interagieren. Man kann das ganz gut bei uns Menschen nachvollziehen, wenn man sich die Entwicklung natürlicher Sprache anschaut. Natürliche Sprache zeigt ein typisches Phänomen eines komplexen Systems, weil neue Wörter jederzeit zum Inventar hinzugefügt werden können, sich der Gebrauch dieser Wörter verändern kann, neue Nominal- und Verbalphrase auftreten usw. Die natürliche Sprache des Menschen ist ein sehr gutes Beispiel für ein evolutionäres System.

(2) Die zweite Eigenschaft, die ich erwähnen möchte, ist die Nicht-Ergodizität komplexer Systeme. Mathematisch gesprochen bedeutet das, dass das Koordinatensystem, in dem Ereignisse modelliert werden, keine Regelhaftigkeit besitzt. Wenn Sie sich vorstellen, was in einem komplexen System vor sich geht, dann ist es wie mit Punkten im Koordinatensystem, deren Muster immer unterschiedlich aussehen und unvorhersehbar sein werden. Da gibt es niemals eine gleiche oder wiederholte Verteilung der Punkte und auch die Koordinaten eines solchen Koordinatensystems können sich ändern. Wenn man daher eines der Muster oder auch eine Zeitreihe aus diesem Koordinatensystem heranzieht und denkt, man könne nun ein System schaffen, dass dieses Muster emuliert, dann wird man beim nächsten Mal, wenn man mit der Realität konfrontiert ist, feststellen, dass das Muster wieder anders ist und zwar aufgrund des nicht-ergodischen Charakters des Systems. Ich denke, das ist eine Gegebenheit, die nur ganz wenige Menschen verstehen. Es ist auch nicht leicht zu verstehen, aber es bedeutet eben, dass, ganz gleich, was man versucht, es aufgrund der Nicht-Ergodizität komplexer Systeme niemals gelingen kann, ein echtes KI-System zu erschaffen. Es gibt keine sich wiederholenden Muster. Um ein einfaches Beispiel zu geben: Jede Welle, die an Englands Küste brandet, ist einzigartig, seit es Englands Küste gibt und seit an dieser Stelle Wellen branden. Keine Welle gleicht der anderen auf molekularer Ebene, sie sind alle verschieden. Wenn man Filme von diesen Wellen machte, würde man nie Wellen nachbilden können, die dem natürlichen Phänomen entsprechen, denn es ist nicht-ergodisch. Das ist nur ein recht einfaches komplexes System, und dasselbe gilt natürlich auch für weit komplexere Systeme.

(3) Ich möchte noch auf eine dritte Eigenschaft komplexer Systeme eingehen und dann bin ich mit dem akademischen Teil fertig. Die dritte Eigenschaft komplexer Systeme ist Getriebenheit. Ein komplexes System ist ein getriebenes System, was bedeutet, dass ständig Energie durch ein solches System fließt. Das ist so, da aufgrund der Energiekonservierung die Energie, die durch das System fließt, sich in verschiedene Energieformen umwandelt, was zu Vorgängen wie der Dissipation führt. Wenn ich beispielsweise Wasser in ein Glas schütte, dann erzeuge ich mechanische Energie, die zu Turbulenzen in dem Glas führt. Die Turbulenzen in dem Glas sind eine Art der Energietransformation, mechanische Energie wird hier in Wärme umgewandelt. Das nennt man Dissipation und dieser Prozess ist chaotisch und kann mathematisch nicht modelliert werden. Turbulenzen in einem Glas Wasser, Schneeverwehungen oder Rauch, der von einer Zigarre aufsteigt, all das sind Turbulenzphänomene, die mathematisch nicht abbildbar sind. Das sind wieder nur sehr einfache Beispiele getriebener Systeme, wenn man sie mit dem Antrieb oder der Entelechie von Tieren oder Menschen vergleicht, wie man die Getriebenheit lebender Systeme bezeichnet. Denn dieser Antrieb ist charakteristisch für alle lebenden System wie Getriebenheit für viele nicht-lebende Systeme wie das Klimasystem, für dessen Modellierung uns die mathematischen Werkzeuge fehlen und das daher nicht vorhersagbar ist. Daher sind auch die globalen Klimamodelle, die uns zur Verfügung stehen, völliger Unsinn.

JF: Genau darüber wollte ich mit Ihnen sprechen, denn als ich das Buch gelesen habe, dachte ich über die Themen nach, über die wir in diesem Podcast sprechen wie Klimawandel und Modelle zur Beschreibung des Ausbruchsgeschehens von Covid 19. Es scheint mir, dass das Wetter ein komplexes System ist, aber bei Viren bin ich mir nicht sicher. Wie sieht es mit Viren aus?

JL: Lassen Sie uns mit Viren beginnen und schauen uns Ebola an. Ebola ist ein Virus, das etwa 70 Prozent der infizierten Menschen tötet und über das Blut oder andere Körperflüssigkeiten übertragen wird. Es ist nicht sehr ansteckend, aber wenn man es bekommt, besteht eine 70-prozentige Wahrscheinlichkeit, an der Infektion zu sterben. Aufgrund dieser starken Eigenschaften kann die Verbreitung des Virus in einer Population mittels partieller Differentialgleichungen ziemlich gut modelliert werden. Daher gibt es epidemiologische Modelle, die so zutreffend sind, dass ein Ebola-Ausbruch irgendwo in Afrika adäquat modelliert werden kann, ebenso wie dessen Eindämmung. Obwohl das Virus und dessen Ausbreitung in einer menschlichen Population ein komplexes Phänomen eines komplexen Systems darstellt, treten so starke Effekte auf, die eine adäquate mathematische Modellierung zulassen. Das funktioniert bei SARS-Cov-2 nicht, da das Virus ganz andere Muster der Ausbreitung hat und eine Infektion in der Regel asymptomatisch ist. Daher können die Modelle, die bei Ebola oder Tollwut gut für Vorhersagen nutzbar sind, auf Covid nicht angewandt werden. Die Muster, nach denen sich Viren in Populationen ausbreiten, sind komplex. Dennoch haben wir für einige Viren sehr gute epidemiologische Modelle aufgrund der starken Eigenschaften, nach denen sich diese Viren ausbreiten.

Für das Klima haben wir das nicht. Das Klima ist ein komplexes System, das wir überhaupt nicht verstehen. Wir verstehen einige Teilaspekte und können, wie bei allen komplexen Systemen, bestimmte Teile davon modellieren, also Teilmodelle aufstellen. Wir haben beispielsweise sehr gute Teilmodelle des menschlichen Schlaf-Wach-Rhythmus oder des Menstruationszyklus. Das sind nahezu perfekte Modelle, aber es sind Teilmodelle. Auch für das Klima gibt es Teilmodelle wie die Modellierung bestimmter Windmuster, die immer wiederkehrend sind, oder der jährliche Klimawandel, den wir in bestimmten Regionen der Welt beobachten können. Es gibt also Teilmodelle des Klimas, aber keine überzeugenden oder adäquaten Modelle, die dazu geeignet sind, die Zukunft des globalen Klimas zu beschreiben. Der Grund dafür ist, dass wir die Kausalität des Klimas nicht verstehen, da das Klima ein komplexes System ist. Wir müssen daher eingestehen, dass wir aus strukturellen Gründen nie in der Lage waren, noch jemals dazu in der Lage sein werden, das Klima zu modellieren.

JF: Das hier ist keine Sendung über den Klimawandel, aber es scheint mir sehr wichtig an dieser Stelle. Ich bin kein Experte auf diesem Gebiet, aber von den Politikern wird uns immer wieder gesagt, dass wir nur die Menge des von uns ausgestoßenen CO2 reduzieren müssen und dann die Temperatur weltweit sinken würde. Das hört sich sehr vereinfachend an und scheint mir nicht vereinbar zu sein mit dem, was Sie sagen.

JL: Ich werde hier kein politisches Statement abgeben. Ich kann nur als Wissenschaftler mit Ihnen sprechen und finde, dass die Annahme eines monokausalen Systems, das sich in dieser Weise beeinflussen lässt, kartesianisch und zu vereinfachend ist. Natürlich ist CO2 ein Treibhausgas, aber das wichtigste Treibhausgas in der Erdatmosphäre ist Wasserdampf. CO2 spielt hier nur eine untergeordnete Rolle. Es ist ein Treibhausgas unter vielen anderen. Und auch Treibhausgase können nicht als alleiniger Faktor für das derzeitige Klima ausgemacht werden, das sich übrigens kaum gewandelt hat. Es gab kleinere Klimaveränderungen im Mittelalter während der Kleinen Eiszeit, aber seitdem ist kein wesentlicher Wandel zu beobachten. Wenn man sich die langfristige Entwicklung des Klimas anschaut, dann hat der letzte radikale Klimawandel etwa 10.000 v.Chr. stattgefunden, als die letzte Eiszeit beendet war. Das war die letzte Phase eines wirklichen Klimawandels. Seitdem können wir nur unwesentliche Veränderungen des Klimas feststellen. Die These, dass die Reduktion des CO2-Ausstoßes das Klima verändert, ist wissenschaftlich unhaltbar. Wir wissen nicht, ob das passieren würde. Wir haben keine Ahnung und es gibt auch keine Möglichkeit, es zu zeigen oder auszuprobieren. Es gibt andere, sehr gute Gründe, warum man den Verbrauch fossiler Energieträger reduzieren sollte. Es ist nämlich total dämlich, sie zu verbrennen, weil sie großartig sind. Sie sind die Basis vieler chemischen Syntheseprozesse, die wir durchführen. Wenn wir all die schönen Benzolringe verbrennen, können wir sie nicht mehr für die chemische Synthese nutzen. Darunter leide ich seit ich 12 oder 13 Jahre alt bin und begonnen habe, Syntheseprozesse in der Chemie zu verstehen und was für Eigenschaften diese Rohstoffe haben. Wir sollten sie nicht verbrennen, aber der eigentliche Grund dafür ist, dass sie zu wertvoll sind.

JF: Danke, Jobst, ich verspreche Ihnen, dass ich keine Fragen mehr zum Klimawandel stellen werde. Ich habe eine weitere Frage zu komplexen Systemen. Wenn wir Menschen sehr viel intelligenter wären und viel mehr Erkenntnisse hätten, wäre es dann rein theoretisch möglich, komplexe Systeme abzubilden? Und wenn es auch theoretisch nicht möglich ist, diese abzubilden, wie können wir etwas erklären, was man sich als eine Art völlig zufälliges System vorstellen muss?

JL: Es gibt einen sehr wesentlichen Unterschied zwischen Kausalität und der Beschreibung von Kausalität. In unserem Buch, das ohne theologischen Inhalt auskommt, beschreiben wir eine rein materialistische Weltsicht. Nach dieser rein materialistischen Weltsicht, wie etwa der modernen Physik, hat alles, was in dieser Welt geschieht, Ursachen. Alles wird durch vier fundamentale Wechselwirkungen verursacht: die schwache Kraft, die starke Kraft, die elektromagnetische Wechselwirkung und die Gravitation. Diese Grundkräfte wirken auf die Teilchen, aus denen unsere Welt besteht, und sie bewirken alles. Die Theorie komplexer Systeme bestreitet keine Kausalzusammenhänge. Es wird lediglich gesagt, dass wir in vielen Situationen nicht beschreiben können, wie Kausalität funktioniert. Ich glaube an die kausale Struktur des Universums, aber ich bin mir auch bewusst, dass wir mit unseren mathematischen Fähigkeiten nur einen kleinen Teil davon abbilden können.

Was wäre nun, wenn wir – sagen wir – hundertfach bessere mathematische Fähigkeiten hätten als jetzt, mit denen wir in der Lage wären, ein klein wenig mehr zu modellieren. Warum nur ein klein wenig mehr? Weil die echte Welt extrem komplex ist. Auch wenn unsere Fähigkeiten zur Modellbildung hundertfach besser wären und wir partielle Differentialgleichungen mit Hunderten von Variablen analytisch lösen könnten – derzeit dürfen nur wenige Variablen in solchen Gleichungen vorkommen – dann wäre das immer noch völlig unzureichend. Das menschliche Gehirn besteht aus etwa 100 Milliarden Nervenzellen, in denen ein um Millionen Vielfaches an Molekülen miteinander interagiert. Wir haben also viel mehr Variablen und selbst wenn wir hundertfach bessere mathematische Fähigkeiten hätten, könnten wir dies nicht modellieren. Ich denke schon, dass die Funktionsweise des menschlichen Gehirns auf kausalen Zusammenhängen beruht. Es gibt kausale Zusammenhänge, aber aufgrund der Komplexität der realen Welt können wir sie nicht abbilden, selbst wenn wir außerirdische Superintelligenz besäßen. Auch solch eine Superintelligenz würde nicht ausreichen, um die komplexen Systeme zu modellieren, mit denen wir es hier zu tun haben.

JF: Sie sagen, dass das menschliche Gehirn ein komplexes System ist. Es müsste als Modell nachgebildet werden, um eine AGI zu erschaffen, also eine KI, die der menschlichen Intelligenz ebenbürtig oder sogar überlegen ist. Da das aber nicht möglich ist, kann es niemals eine AGI geben. So würde ich Ihre Argumentation zusammenfassen. Das menschliche Gehirn ist also ein komplexes System. Es ist so komplex, dass wir, selbst wenn wir hundert- oder gar tausendfach mehr intellektuelle Kapazitäten zur Verfügung hätten, meilenweit davon entfernt wären, so etwas zustande zu bringen. Es ist mathematisch einfach unmöglich. Ist das korrekt?

JL: Ja, sofern man davon ausgeht, dass unsere mathematischen Fähigkeiten auch Grenzen haben. Wenn man glaubt, dass sich diese Fähigkeiten ständig weiterentwickeln und sich unbegrenzt verbessern können, dann trifft das nicht zu. Allerdings ist solch ein Glaube meiner Ansicht nach naiv, denn die Mathematik ist ganz offensichtlich begrenzt. Jeder ernstzunehmende Physiker, jeder Mathematiker, der etwas von seinem Fach versteht, weiß sehr wohl von diesen Begrenzungen. Sie alle haben dazu publiziert. Einstein, Newton, Planck, Hamilton, alle großen Mathematiker haben über die Grenzen der Mathematik geschrieben. Feynman gibt ein sehr gutes Beispiel in Kapitel 9 des zweiten Bandes seiner großartigen “Vorlesungen über Physik”. Er beschreibt dort einen Plattenkondensator und gibt als Gegenbeispiel eine Wolke, die einige Eigenschaften des Kondensators besitzt, aber bei der wir nicht verstehen, wie Blitze verursacht werden. Wir haben nur ein sehr grobes Verständnis davon. Er betont das ganz ausdrücklich. Jeder professionelle Mathematiker oder Physiker kennt diese Grenzen. Es gibt da diesen Witz, den Heisenberg erzählt haben soll, dass er nach seinem Tod, wenn er Gott begegnet, nachfragen wird, erstens, was der wesentliche Grund der Relativität sei und zweitens, wie Turbulenzen funktionieren. Heisenberg glaubt, dass Gott eine Antwort auf die erste Frage haben wird, nicht aber auf die zweite. Das zeigt, dass die echten Wissenschaftler wahrhaft demütig sind.

Wer glaubt also dann an KI? Es sind Ingenieure, die nichts von der Mathematik verstehen, die hinter dem steht, was sie tun. Die glauben an so etwas. Wie Ray Kurzweil oder Elon Musk, der auch einen Bachelor-Abschluss in Ingenieurwissenschaften hat. Solche Leute haben nur so viel Verständnis von Technologie, dass sie überschätzen, was möglich ist. Aber sie haben kein hinreichendes Verständnis davon, um zu begreifen, wie begrenzt Technologie ist.

JF: Ja, das ergibt Sinn. Wenden wir uns nun unseren Hörern zu, die besorgt darüber sind, dass eine AGI auftreten könnte, die die Weltherrschaft übernimmt, oder dass für diesen Zweck optimierte Menschen erschaffen werden, die für eine globale Armee zur Verfügung stünden. Sie wissen, dass sich die Menschen darüber Sorgen machen und eine globale Regierung befürchten, die Technologie nutzt, um jeden Menschen mit einer digitalen ID auszustatten und nachverfolgen zu können. Sind solche Ideen technisch umsetzbar?

JL: Lassen Sie uns mit dem letzten Punkt beginnen. Bereits in den 1970er Jahren, als die Trilaterale Kommission gegründet wurde, haben westliche Eliten entdeckt, dass man das digitale Zeitalter nutzen kann, um eine viel bessere bürokratische Kontrolle über die Bevölkerung auszuüben. Bereits im 11. Jahrhundert wurde die Bürokratie in Europa von den Saliern aufgebaut. Sie haben damit begonnen, die Menschen zu registrieren, um Steuern zu erheben. Das ist also ein Prozess, der in Europa bereits seit 1000 Jahren im Gange ist. Es ist ein Prozess, bei dem alles immer detaillierter verwaltet wird. Natürlich können Computer und Digitalisierung dazu beitragen, dass die Verwaltung noch allumfassender und gründlicher wird. Dieser Trend setzt sich sicherlich fort, hat aber mit KI nichts zu tun. Menschen zu zwingen, Computer zu nutzen, sich mittels Computer zu registrieren, ständig Computer in ihren Taschen bei sich zu tragen, all das sind natürlich enorme Hebel zum Ausbau der Macht. Aber es hat – wie gesagt – wenig mit KI zu tun. KI kann hier nur wenig unterstützen. KI kann zur Gesichtserkennung genutzt werden, sie kann Personen identifizieren, sie kann auch ein grobes Filtern sprachlicher Äußerungen leisten. Da KI Sprache aber nicht versteht, ist es ausgesprochen leicht, sich so zu äußern, dass die KI nicht entschlüsseln kann, was gesagt oder geschrieben wurde. Die Mittel zur Machtausübung kommen also nicht durch KI, sondern durch Digitalisierung.

Der Rest, den Sie angeführt haben, Cyborgs und Klonarmeen, ist reine Science Fiction. Das ist technisch nicht umsetzbar und wir gehen darauf im 12. Kapitel unseres Buches detailliert ein. Ich möchte hier nur auf die zwei wesentlichen Gründe eingehen, warum so etwas technisch nicht umsetzbar ist. Beginnen wir mit den Cyborgs. Wenn man einen Cyborg schaffen möchte, wenn man also einen Menschen durch das Hinzufügen von Technologie zum menschlichen Körper optimieren möchte, dann muss man die Technologie mit dem zentralen Nervensystem verbinden. Das Problem mit unserem zentralen Nervensystem ist, dass es mit den sensorischen Organen des Körpers fest verdrahtet ist – von dem Augenblick an, in dem beispielsweise Licht auf unsere Netzhaut trifft, bis zur abschließenden Verarbeitung des Signals im Gehirn. Alles ist fest verdrahtet. Es ist eine evolutionäre Anpassung, die man nicht ändern kann. Selbst wenn man die Netzhaut verändern würde, indem man ein Stück Technologie hinzufügt, müsste man die Neuronen einbinden, die mit der Netzhaut verbunden sind, und denselben neuronalen Schaltkreis benutzen. Das kann man technologisch nicht verändern, denn es ist ein hochkomplexes biologisches System, das fest verdrahtet und genetisch festgeschrieben ist. Was man hingegen machen kann, ist, Werkzeuge zu schaffen, die unsere Sinne optimieren. Man kann etwa eine Brille konstruieren, durch die Radioaktivität sichtbar wird. Aber was würde man hier machen? Man würde Radioaktivität lediglich übersetzen, vielleicht in eine rote Ansicht der Umgebung, die sich intensiver rot färben würde, je stärker die radioaktive Strahlung ist. Aber man würde weiterhin den genetisch festgeschriebenen neuronalen Schaltkreis des Gehirns nutzen. Cyborgisierung ist technisch deshalb nicht möglich, weil wir nicht ändern können, wie unsere Neuronen verdrahtet sind.

Der andere Punkt hier ist die genetische Veränderung von Menschen. Warum ist das nicht möglich? Weil sogar eine ganz einfache Eigenschaft wie Körpergröße durch mehr als 80.000 Genloci kodiert ist. Es gibt so viele Teile des Genoms, die an der Ausprägung selbst grundlegender Eigenschaften beteiligt sind, dass wir überhaupt nicht verstehen, wie das funktioniert. Wenn man das genetisch verändern wollte, um etwa intelligentere Menschen oder folgsamere Untertanen zu erschaffen, müsste man verstehen, wie das Genom diese Eigenschaften kodiert. Wir haben hier aber nicht die leiseste Ahnung und werden sie nie haben. Wir haben ein gewisses Verständnis, wie seltene monogenetische Erkrankungen verursacht werden, weil hier nur ein Genlocus beteiligt ist. Man könnte also tatsächlich darüber nachdenken, solche Krankheiten durch genetische Eingriffe zu heilen. Ob das erstrebenswert ist, sei dahingestellt. Aber es ist zumindest technisch vorstellbar. Aber zu glauben, dass man Eigenschaften des menschlichen Geistes, die durch zehn- oder gar hunderttausende Genloci kodiert sind, beeinflussen kann, zeugt nur von mangelnder Qualifikation und Wissen.

JF: Jobst, auf Twitter habe ich mal ein Video des Weltwirtschaftsforums gesehen. Da saß Klaus Schwab auf dem Podium und erklärte, wie in der Zukunft sein Hirn mit dem Internet verbunden werden könne und wie es ihm dann durch die digitale Verbindung möglich wäre, über die Gefühle anderer Menschen Bescheid zu wissen. Das hört sich für mich unsinnig an. Und nachdem, was Sie uns erklärt haben, würde ich sagen, dass daraus ziemlich klar abgeleitet werden kann, dass es auch wirklich Unsinn ist. Würden Sie das in der Art interpretieren, wenn Leute so daherreden?

JL: Klaus Schwabs Buch “Die Vierte Industrielle Revolution”, das wir auch in unserem Buch zitieren, ist eine Ansammlung schieren Unsinns. Es enthält wirklich nichts als Unsinn. Dieser Mann hat nie in ein Lehrbuch der Biologie, der Neurowissenschaft, der Medizin oder Physik hineingeschaut. Er hat keine Ahnung und fabuliert beispielsweise über Nano-Roboter, die Krebszellen aus unserem Körper herausschneiden könnten. Er berücksichtigt nicht einmal die basalsten Dinge, etwa dass so ein Roboter gar nicht in der Lage wäre, sich im Interzellulärraum fortzubewegen. Das besagt das Scallop-Theorem in der Physik. In unserem Buch erklären wir basale Grundsätze der Physik, die nachweisen, wie falsch Schwab liegt. Es ist irre, dass er die einfachsten Sachverhalte nicht kennt und wie ein Verrückter Märchen erzählt. Ich verstehe nicht, wie er damit durchkommen kann. Noch vor einer Generation wäre das unmöglich gewesen. Ich denke, der Grund dafür ist, dass es heutzutage auch vielen Journalisten an Bildung mangelt. Die Qualität des Bildungssystems ist gesunken und nun haben wir auch viele Journalisten mit enormen Bildungsdefiziten. Daher verbreiten sie so etwas kritiklos, da sie intellektuell unfähig sind, zu verstehen, dass das Unsinn ist.

JF: Ich denke, das sollte die Leute beruhigen, denn viele haben sich diese Sendung angehört und diese Ideen vernommen, die Klaus Schwab in “Die Vierte Industrielle Revolution” und in verschiedenen öffentlichen Äußerungen verbreitet. Sie klingen ganz schön furchterregend, denn es hört sich an, als würde diese Technologie eingesetzt, um Menschen zu kontrollieren, um Menschen zu tracken, um Menschen zu optimieren und all diese Dinge, die normalen Menschen nicht geheuer sind.

JL: Er erinnert mich an Dostojewskis Großinquisitor in “Die Brüder Karamasow”. Auch er argumentiert dafür, dass man die Menschen durch Angst kontrollieren müsse. Ich denke, das ist es, was hier vor sich geht. Wenn er so gut wie der Großinquisitor ist, dann glaubt er selbst nicht daran. Aber vielleicht ist er nicht so gut. Vielleicht glaubt er selbst daran. Das kann ich nicht beurteilen.

JF: Ich denke, dass die Kritik des Großinquisitors an Christus ist, dass Christus den Menschen die Freiheit gibt, für sich Entscheidungen zu treffen. Aber diese Freiheit bringt wiederum Furcht mit sich. Was also der Großinquisitor aus Herzensgüte vollbringt, ist, dass er den Menschen die Freiheit zur Entscheidung nimmt und sie kontrolliert. Es scheint mir, dass eine ganze Reihe dieser technokratischen Anstöße so funktionieren. Sie verstehen, die Menschen seien zu dumm, um Entscheidungen zu treffen, das mache ihnen Angst, also übernehmen wir lieber die Kontrolle. Und dabei spielt Technologie eine enorme Rolle.

JL: Aber noch ein anderer Aspekt ist hier wichtig. Im Mittelalter waren die Ablassgeschichten, die Luther kritisierte, genauso irrational. Sogar aus der Perspektive mittelalterlicher Überlegungen heraus waren diese Geschichten falsch und die vernünftigen Leute wussten das auch. Aber für diesen Zweck, nämlich die Menschen in Angst und Schrecken zu halten, wurden sie weiterhin erzählt. Und ich vermute, dass all die Geschichten um “Die Vierte Industrielle Revolution” mit einer ähnlichen Motivation erzählt werden. Wissenschaftlich betrachtet ist es kompletter Blödsinn. Sie werden aus einem anderen Grund erzählt und nicht, weil sie auf wissenschaftlichen Erkenntnissen beruhen.

JF: Lassen Sie uns nochmal auf die Argumentation in Ihrem Buch zurückkommen. Was mich überrascht hat, war die offensichtliche Notwendigkeit, eine Analogie zwischen Maschinen und Menschen aufzuzeigen, um konzeptuell nachvollziehen zu können, was KI oder AGI tatsächlich ist. Es scheint, dass das Buch in diesem Sinne ebenso eine Anthropologie ist, wie es ein Buch über Maschinen ist. Um an AGI zu glauben, bedarf es eines grundsätzlich deterministischen Menschenbildes, da Maschinen in erster Linie auf Algorithmen beruhen. Man steckt etwas rein und bekommt etwas heraus, auch wenn der Output unglaublich komplex ist, es bleibt ein Output. Eine Maschine hat keinen Willen. Eine Maschine kann nichts wollen, es sei denn, sie ist so programmiert. In der Philosophie bezeichnet man als Kompatibilisten, wer einen freien Willen annimmt, und als Determinist, wer das nicht tut. Wenn man sich in diesem Sinne als Kompatibilist versteht, kann man niemals eine AGI annehmen, die dem Menschen gleicht, denn eine Maschine kann keinen Willen haben, den der Kompatibilist dem Menschen zuschreibt. Wir sind nicht vorprogrammiert, die Dinge zu tun, die wir tun. Wir sind nicht festgelegt, sondern es gibt etwas im Menschen, das frei ist, zu wählen. Bin ich da auf dem richtigen Weg mit meinen Überlegungen?

JL: In unserem Buch kommen wir bei der Argumentation gegen die Möglichkeit einer AGI ohne die Annahme des freien Willens aus. Wir haben uns etwas vor dieser Frage gedrückt, aber wir haben sehr gute philosophische Gründe dafür. Barry und ich haben etwas unterschiedliche Gründe. Barry kann gleich etwas dazu sagen, aber mein Grund dafür ist, dass ich auf dem Standpunkt stehe, dass sich die Frage, ob es einen freien Willen gibt, philosophisch nicht beantworten lässt. Kant weist das wirklich sehr elegant in seiner Antinomienlehre in der “Kritik der reinen Vernunft” nach. In dieser Passage führt er das sehr überzeugend aus. Ich möchte keine wissenschaftliche Argumentation auf eine Frage aufbauen, die sich nicht beantworten lässt. Aber auch wenn die gesamte Welt letztendlich irgendwie determiniert wäre in einer Art und Weise, die wir nicht verstehen, dann müssten wir, um den Willen, so wie wir ihn subjektiv wahrnehmen, zu emulieren, in der Lage sein, ihn mathematisch abzubilden. Weil wir dazu nicht in der Lage sind, können wir den Willen auch nicht in Maschinen abbilden. Selbst wenn der Wille nicht frei ist und die Wahrnehmung unseres eigenen Willens nur eine Illusion darstellt, können wir keine Maschine mit einem Willen konstruieren. Und ich finde es wirklich gut, dass wir nicht einmal den freien Willen annehmen müssen, um sagen zu können, dass man keine Maschine mit einem Willen schaffen kann. Wenn es zudem erlaubt wäre, theologische Argumente heranzuziehen, dann wäre es natürlich noch einfacher, gegen Maschinen mit einem Willen zu argumentieren. Positivisten würden so eine Argumentation allerdings nicht gelten lassen. Barry und ich haben ein wissenschaftliches Buch geschrieben und somit führen wir nur Argumente an, die in einem wissenschaftlichen Kontext geltend gemacht werden können.

JF: Möchten Sie etwas ergänzen, Barry?

BS: Tatsächlich finde ich, dass wir zu wenig über den freien Willen in unserem Buch sagen. Ich stimme Jobst zu, dass die Frage, ob der Wille frei ist, offen ist. Vermutlich werden wir sie nie beantworten können. Ich würde allerdings gerne noch ein wenig mehr von Jobst erfahren, warum man den Willen nicht modellieren kann. Ich habe ihm heute Morgen eine Pressemitteilung zugeschickt, in der steht, dass es KI-Ingenieuren endlich gelungen ist, das Spiel Diplomacy zu schlagen. In dem Spiel gibt es auch Aufgaben, die einen Willen erfordern, etwa, dass man Bündnisse mit anderen Spielern eingeht. Jetzt kann eine KI menschliche Spieler bei Diplomacy besiegen. Vielleicht kann Jobst ein paar Worte dazu sagen.

JL: Danke, Barry, dass Du mich darauf aufmerksam gemacht hast. KI gehört nun zu den zehn Prozent der besten Diplomacy-Spieler. Das ist ziemlich bemerkenswert. Warum funktioniert das, obwohl die Maschine keinen Willen hat? Es funktioniert folgendermaßen: Wissen Sie, als Jugendlicher habe ich Diplomacy ziemlich oft gespielt, und in dem Spiel geht es darum, möglichst viele Punkte für die Züge zu bekommen, die man ausführt. Wir haben hier die Situation einer geschlossenen Welt, in der man Verhalten und Anreize, sich in einer bestimmten Weise zu verhalten, durch ein Punkte-basiertes System abbilden kann. Mathematisch gesprochen sind die Dimensionen, in denen sich das Spiel entfaltet, unveränderlich. In dieser Hinsicht ist es begrenzt, eine geschlossene Welt. Wenn man solche Bedingungen wie in Diplomacy vorfindet, dann kann so ein Spiel mittels neuronaler Netze und maschinellen Lernens, genauer Reinforcement Learning, emuliert werden. Das haben die KI-Ingenieure im Falle von Diplomacy gemacht und es ist ein beeindruckendes Ergebnis moderner Technologieentwicklung. Ich sage nicht, dass es einfach ist, so etwas zu entwickeln, oder dass es nicht wirklich beachtenswert ist, aber es hat nichts mit dem freien Willen zu tun. Allein durch abermillionen Durchläufe durch das Spiel kann die Maschine lernen, wie sie sich verbessern und die maximale Anzahl an Punkten erreichen kann. Immer, wenn man eine Situation mit einfachen, utilitaristische Rahmenbedingungen gegeben hat, das heißt eine Situation mit einer begrenzten Anzahl von Variablen und Dimensionen, unveränderlichen Elementen und unveränderlichen Beziehungen zwischen diesen Elementen, dann hat man es nicht mehr mit einem komplexen System zu tun. Dann hat man ein einfacheres System, eine geschlossene Welt. Ein solches System und die Möglichkeit, die Maschine durch Punkte zu “belohnen”, erlauben es, einen Optimierungsalgorithmus für Reinforcement Learning aufzustellen. Und so funktioniert das wie übrigens auch bei anderen Spielen wie Go, bei denen die Maschine ebenso gut oder noch besser als menschliche Spieler werden kann. Aber das ist keine Situation einer offenen Welt. In einer offenen Welt verändern sich Umgebungen und Umstände und es werden auch keine Punkte als Ergebnisse verteilt. In einer Offenen-Welt-Situation kann man Reinforcement Learning nicht nutzen, um die Maschine dazu zu bringen, Verhaltensweisen zu erlernen. Das ist von vornherein zum Scheitern verurteilt. Wir widmen dem Willen kein langes Kapitel in unserem Buch, aber das generelle Problem ist, dass wir nicht wissen, wie der Wille funktioniert. Wir können der Maschine einfache Ziele vorgeben, die benötigt werden, um etwa Spiele wie Go oder Diplomacy zu gewinnen, aber wir können nicht den Willen mathematisch abbilden.

JF: Können wir noch ein wenig mehr über Anthropologie erfahren? Es gibt da ein weiteres Thema, das sehr prominent in Ihrem Buch auftritt. Sie greifen auf verschiedene Bereiche der Anthropologie zurück oder Disziplinen, die beschreiben, was ein menschliches Wesen ausmacht oder was ein Mensch wahrnimmt. Sie gehen beispielsweise auf die Phänomenologie ein, bei der es darum geht, wie Menschen die Welt wahrnehmen und wie sie ihre Wahrnehmung interpretieren. Sie gehen auf die Strömung der ökologischen Psychologie ein, nach der Menschen intrinsisch mit ihrer Umwelt verbunden sind und nur unter Berücksichtigung ihrer Umwelt verstanden werden können. Sie berühren Themen der Soziologie und sozialen Ontologie und auch hier geht es wieder darum, dass man Menschen nur durch ihre Beziehungen zueinander verstehen kann. Für den Versuch, das zu modellieren, was den Menschen ausmacht, bedeutet das meines Erachtens, dass diese komplexen Faktoren es noch schwieriger machen, sich überhaupt nur vorzustellen, wie all dies in einer Maschine auch nur theoretisch umgesetzt werden soll. Verstehe ich das richtig?

JL: Wir beziehen uns vor allem auf den Phänomenologen Max Scheler und seinen Schüler Arnold Gehlen, der als einer der Väter der philosophischen Anthropologie gilt. In den ersten Kapiteln des Buches nutzen wir diese Philosophen, um unser Bild vom Menschen zu erklären. Wir ziehen diese geistige Strömung heran, um Intelligenz, aber auch den grundsätzlichen Antrieb menschlicher Daseinsform zu definieren. Einerseits ist der Mensch immer eine soziale Entität. Er kann nicht wachsen, nicht erwachsen werden ohne soziale Interaktion. Er braucht während seines gesamten Lebens. Andererseits gibt es die westliche Fiktion des Menschen als bloßes Individuum, was ein großes Thema seit der Klassik der griechischen Antike in unserer Kultur ist. Aber selbst wenn man den Menschen als Individuum annimmt, ist das System sehr komplex. Wenn es dann aber noch mit anderen komplexen Systemen interagiert, entsteht daraus ein System komplexer Systeme, was jederzeit Innovationen ermöglicht. Ich denke, dass die Spannung zwischen Menschen als Individuen, die sich durch Rationalität, Autonomie und die subjektive Entscheidungsfreiheit auszeichnen, und ihrem sozialen Charakter die unglaubliche Dynamik und Entwicklung westlicher Zivilisation hervorgebracht hat. So hat die westliche Zivilisation die Welt vollständig verändert. Das ist nur ein Beispiel für die unglaubliche Komplexität des Systems, das unsere Spezies bildet.

JF: Noch etwas, worauf Sie eingehen, ist wirklich interessant. Sie sagen, dass es keine neurowissenschaftlichen Modelle für Schäden bei Hirnfunktionen gibt, die zu Krankheiten wie Autismus oder Schizophrenie führen. Bei dieser Wissenschaft geht es darum, Sachverhalte zu beschreiben, zu erklären und vorherzusagen, insbesondere in den Bereichen, in denen das Hirn nicht richtig funktioniert, aber wir wissen nicht wirklich, was das ist.

JL: Man kann auch einfachere Krankheiten heranziehen wie Alzheimer oder Parkinson, die lediglich neurodegenerative Erkrankungen sind, bei denen im Wesentlichen Nervenzellen absterben. Selbst für diese Krankheiten haben wir kein adäquates Modell. Über die Entstehung von Schizophrenie, chronischer Depression oder schwerwiegenden Persönlichkeitsstörungen wissen wir überhaupt nichts. Wir können versuchen, solche Krankheiten besser zu verstehen, aber es gibt eine ganz grundsätzliche Beschränkung, sie zu erklären und zu behandeln. Das müssen wir akzeptieren. Das Gleiche gilt für bestimmte Krebsarten. Ich denke, dass diese Träumereien, die moderne Medizin könne den Krieg gegen Krebs gewinnen oder ein Heilmittel gegen Alzheimer entwickeln, aufgrund der frühen Erfolge der Cartesianischen Medizin aufgekommen sind. Die Entdeckung von Insulin, Schmerzmitteln, synthetischen Morphinen, synthetischen Hormonen und vieles andere mehr, das alles war ein gewaltiger Fortschritt der Medizin, den wir zwischen 1900 und 1980 beobachten konnten. Das war eine Zeit, in der mono- oder oligokausale Aspekte des menschlichen Körpers zur Entwicklung von Technologien ausgenutzt wurden. Da gibt es einige, die man wirklich gut nutzen kann. Das haben die Leute extrapoliert und angenommen, dass der medizinische Fortschritt weiter linear vorangeht. Sie haben aber nicht verstanden, dass, sobald einmal bestimmte Früchte geerntet wurden, es systematisch immer schwieriger wird und zukünftig weniger Fortschritt in der Medizin zu erwarten ist. Damit müssen wir leben.

JF: Jobst, Sie beschreiben das als Cartesianische Medizin. Ich nehme an, dass Sie hier auf Descartes dualistisches Menschenbild anspielen?

JL: Es geht hierbei eher um seine vereinfachende Sicht auf Kausalzusammenhänge. Descartes ist der Ansicht, dass sich letztendlich alles, was im menschlichen Körper vor sich geht, mathematisch beschreiben lässt. Das ist eine französische Tradition, die sich später mit Laplace und La Mettrie fortsetzt. Sie glaubten, dass man mit recht einfachen Gesetzmäßigkeiten letztendlich alle Vorgänge im menschlichen Körper erklären und dann willentlich ändern könne. Das findet sich auch in August Comtes Positivismus wieder, aus dem sich wiederum der Neopositivismus und der heutige postmoderne Positivismus herleiten. Diese Cartesianische Idee, dass wir willentlich alles beeinflussen können, weil sich letztendlich für alles eine mechanische Erklärung finden lässt, ist Unsinn. Ich meine, natürlich ist alles durch irgendetwas verursacht, aber man kann es nicht so vereinfachen. Die Annahme, der Fortschritt in der Medizin sei grenzenlos wegen dieses Cartesianischen Verständnisses der Medizin, zeigt nur, dass man die Komplexität dieser Organismen nicht verstanden hat.

JF: Da bleibt noch die Frage, was der Geist in Beziehung zum Körper tatsächlich ist. Im Buch argumentieren Sie heftig gegen den Cartesianischen Dualismus, der Körper und Seele voneinander trennt, also die Idee, dass der Körper nur eine Maschine ist und der Geist eine Art spiritueller Homunculus, ein kleines spirituelles Männlein, das mit dem Körper interagiert. Davon möchten Sie wegkommen und Sie sagen, dass sich Körper und Geist in einer Art Kontinuum befinden. Darüber würde ich gerne mehr erfahren. Als Christ interessiert mich insbesondere, wie Ideen von Seele und Spiritualität mit diesem Menschenbild zusammenpassen.

JL: Lassen Sie mich schnell auf die erste Frage eingehen. In unserem Buch rekurrieren wir auf einen materialistischen Monismus, der besagt, dass unsere Körper aus Materie bestehen und alle Prozesse in unserem Körper auf Wechselwirkungen zwischen den Partikeln dieser Materie beruhen, die den Gesetzen der vier Grundkräfte folgen, wie sie in der Physik beschrieben sind. Damit habe ich die These des Buchs grob zusammengefasst. In dieser Argumentation gibt es keine Seele. Es ist eine rein wissenschaftliche Ansicht, das ist meine Auffassung als Wissenschaftler. Als Privatperson bin ich Christ. Als Christ und Privatperson habe ich eine andere Auffassung. Ich glaube, dass Gott uns geschaffen hat und dass wir die Schöpfung nicht vollständig erfassen können. Aber als Teil unseres Glaubens haben wir es hinzunehmen, dass wir mit einem Leib-Geist-Kontinuum und einer Seele geschaffen wurden. In diesem Sinne bin ich tatsächlich Dualist. Ich glaube, dass es eine Seele einerseits und ein Körper-Geist-Kontinuum andererseits gibt. Scheler nimmt auch einen Dualismus an, da er als Philosoph wissenschaftliche und theologische Ansichten miteinander vermischt hat, was ich nicht mache. Aber persönlich glaube ich an den Dualismus zwischen Seele und Körper-Geist-Kontinuum, den auch Scheler beschreibt. Daher ist die Seele auch unsterblich, da sie losgelöst ist vom Körper-Geist-Kontinuum. Wie es in der Bibel steht, ist die Seele dem Körper hinzugefügt.

JF: Ich verstehe, was Sie sagen, aber die Eigenschaften der Seele müssen doch so etwas enthalten wie einen Willen, ein Verstehen und Dinge, die man eigentlich mit dem Geist in Verbindung bringt.

JL: Die größten Denker, die über den Begriff der Person nachgedacht haben, sind meiner Ansicht nach Duns Scotus und vor ihm Boethius. Sie schreiben nicht so sehr darüber, wo die Eigenschaften der Person zu verorten sind. Sie gehen einfach davon aus, dass wir von Gott geschaffen wurden und nun existieren. Und dann stellen sie die Frage, was uns als Menschen ausmacht und führen Autonomie, Intelligenz, Individualität, Selbstbewusstsein, Verantwortung und Sozialität an. Das ist im Wesentlichen, was Boethius als Eigenschaften der Person aufführt, aber er versucht nicht, diese mit einem bestimmten Ort zu verbinden. Und auch ich neige nicht dazu, dies zu tun. Ich denke, wir sollten diese Frage besser offenlassen. Die Schrift zwingt uns auch nicht, diese Eigenschaften irgendwo zu verorten. Wir können einfach annehmen, dass wir mit ihnen geschaffen wurden.

JF: Gut, auf der einen Seite haben wir das Körper-Geist-Kontinuum, auf der anderen die Seele. Mir scheint es, dass man annehmen muss, dass Seele und Geist eine Art Kontinuum bilden, damit das Sinn ergibt. Die Seele überlebt den Tod, aber das muss doch bedeuten, dass auch die Person, die wir tatsächlich sind, den Tod überlebt mit all ihrem Wollen, ihrer Liebe, ihren Gedanken und Erinnerungen.

JL: Dafür bin ich kein Experte. Ich bin kein Theologe. Ich glaube an das ewige Leben und dass die Seele Träger des ewigen Lebens ist. Aber wie das konkret geschieht, ist reine Spekulation. Ich bin für Spekulation nicht so sehr zu haben. Daher werde ich hier nicht ins Detail gehen. Was mir aber wichtig zu erwähnen ist, dass es als erster Duns Scotus war, der die Sozialität der Person hervorgehoben hat. Er schreibt, “quamvis in re non sit persona, nisi quae est ad alterum”. Das heißt, wir müssen uns darüber bewusst sein, dass die Substanz der Person ohne andere Menschen unmöglich ist. Das ist eine unglaublich wichtige Erkenntnis. Er war wirklich einer der Genies mittelalterlicher Theologie und Philosophie. Weiter können wir nicht gehen. Das ist der Kern. Die moderne Soziologie hat das nur in eine neue Sprache gehüllt, aber sie wiederholt nur, was er sagt. Wir können ohne den anderen nicht leben. Und er sagt das auf eine so schöne Art, weil er sagt, es gebe keine Substanz der Person ohne den anderen. Ich wollte das nur erwähnen, weil viele Hörer vielleicht nicht wissen, von wem dieser Gedanke stammt. Das ist wirklich wunderschön.

JF: Ja, tatsächlich. Ich möchte Sie jetzt gar nicht weiter in diese Richtung drängen. Allerdings interessiert mich Ihre Meinung zu dämonischer Besessenheit. Die Frage kam mir, als ich etwas über Hirnfunktionen und Schizophrenie gelesen habe. Haben Sie dazu eine Meinung? Ich weiß, dass das eher in die Kategorie privater Ansichten gehört. Als Wissenschaftler ist man wohl eher geneigt, bei Schizophrenie von einer physischen Störung des Gehirns auszugehen. Aber in den Evangelien werden Menschen als von Dämonen besessen beschrieben. Was denken Sie darüber?

JL: Dazu habe ich tatsächlich eine ganz klare Meinung. Ich denke, dass Schizophrenie ein biochemischer Prozess ist und Besessenheit etwas ganz anderes. Wenn man sich schizophrene Patienten anschaut, entdeckt man biochemische Störungen ihrer Neuronen, die Schizophrenie auslösen. Auch wenn die Patienten etwas anderes glauben. Als junger Psychiater habe ich einmal eine junge Frau in Behandlung gehabt, die glaubte, vom Teufel besessen zu sein. Sie hörte, wie er mit ihr sprach. Das waren aber nur kaputte Neuronen. Sie war nicht besessen. An so etwas glaube ich überhaupt nicht.

Woran ich allerdings glaube, ist das Böse. Was also ist das Böse? Was bedeutet es, vom Bösen besessen zu sein? Bultmann, einer der bedeutendsten Theologen, meinte, dass die Sünde, die eine fundamentale Bedingung unserer Existenz darstellt, dem Bösen das Tor öffnet. Wenn man einmal etwas wirklich Böses begangen hat, besteht die Gefahr, in einen Kreislauf des Sündigens, zu geraten, so dass man über alle Maße sündigt. Wir alle sind Sünder. Andernfalls bedürften wir nicht der Gnade, wir bräuchten weder Gott noch Christus. Wenn man aber böse ist und – um einen archaischen Begriff zu verwenden – “besessen” ist, dann ist man in einem Kreislauf maßlosen Sündigens. Man vergisst Gott, entflieht Gott, verspottet Gott, leugnet Gott. Das ist, so meine ich, das Böse. Ich denke, was in der Zeit, als die Evangelien geschrieben wurden, als Besessenheit bezeichnet wird, ist die Hingabe an die Sünde. Es gibt solche Menschen, aber es ist nicht meine Aufgabe, sie zu verurteilen, wie in Matthäus 7 geschrieben steht. Es gibt tatsächlich Menschen, die gerne sündigen. Das ist das Böse.

JF: Wenn Christus nach den Evangelien einen Dämon austreibt, wie interpretieren Sie das, zum Beispiel den Dämon Legion, der in eine Schweineherde ausfährt?

JL: Für mich zeigt diese Geschichte, dass Gott durch seinen eingeborenen Sohn Jesus Christus die Macht hat, uns vom Bösen zu erlösen, sogar vom Bösen in seiner schlimmsten und furchtbarsten Gestalt. Die Art, wie der Dämon im Markus-Evangelium spricht, ist eine der besten Passagen des Neuen Testaments. Der Dämon sagt, Legion heiße ich, denn wir sind viele. Er spricht von sich im Plural. Wenn Jesus ihn austreibt, bedeutet das, dass Gott die Macht hat, uns vom Bösen, vom Kreislauf der Sünde zu erlösen, sogar in seiner verborgensten und furchterregendsten Gestalt. Davon erzählt uns diese Geschichte, und ich glaube, dass das wahr ist. Das ist es, was Luther mit der Freiheit eines Christenmenschen meint. Wir erhalten diese Freiheit, da Gott uns von der Sünde erlöst, aber nicht nur von der Sünde, die wir täglich begehen, da Sündigen nur Gottvergessenheit bedeutet, sondern von der schlimmsten Form der Sünde, die in dem maßlosen Leugnen Gottes besteht. Diese Geschichten des Neuen Testaments zeigen, dass Gott dies überwindet und das ist es, was diese Geschichten so machtvoll werden lässt und zum Kern unseres Glaubens macht.

JF: Das ist ein interessanter Punkt. Ich habe viel darüber nachgedacht und höre jetzt nur zu. Ich werte hier nichts. Aber lassen Sie mich eine weitere Frage stellen. Die Diskussion bringt so viele unglaublich wichtige Dinge auf. Sie sagen, dass Menschen unglaublich komplex sind. Von einem theologischen Standpunkt aus könnte man nun behaupten, dass dies spiegele die mannigfaltige Weisheit Gottes wieder bei der Schöpfung nicht nur der Menschen, sondern auch der Welt, des Universums und aller Geschöpfe, so dass wir all diesem wirklich mit Demut entgegentreten müssten. Aber wenn wir gleichzeitig sagen, dass alles den Gesetzen der Kausalität unterworfen ist und zumindest theoretisch erklärt werden könnte, dann frage ich mich, ob es nicht auch Aspekte des Menschen gibt, die wissenschaftlich einfach nicht fassbar sind, zum Beispiel Gefühle. Sind Gefühle einfach chemische Prozesse? Haben sie etwas mit unserer Seele oder unserem Geist zu tun?

JL: Ich denke, das ist der wesentliche Punkt unserer Diskussion. Das treibt mich schon mein ganzes Leben um. Wie kann ich Christ sein und an das Wunder der Erlösung und an die Auferstehung glauben und gleichzeitig daran, dass die Welt aus Materie besteht und von den vier fundamentalen Wechselwirkungen beherrscht wird, die die Physik beschreibt. Die einzige Möglichkeit, die wir haben, ist es, hinzunehmen, dass es drei Arten von Wissen gibt. Das erste Wissen ist das positive Wissen, das wir von der empirischen Welt haben. Für Positivisten ist es das einzige Wissen, das wir haben können. Die zweite Art des Wissens ist das Bildungswissen, das Wissen über Kultur und sozio-kulturelle Normen, das etwa durch die Lektüre von Büchern, das Betrachten von Kunstwerken entsteht. Dazu gehört auch die Philosophie. Die dritte Art des Wissens ist das Erlösungswissen, das Wissen, von dem die Theologie handelt. Ich lebe mit der Tatsache, dass sich nur die ersten beiden Wissenstypen miteinander verbinden lassen. Das Buch, das Barry und ich geschrieben haben, verbindet diese beiden Arten des Wissens miteinander. Der dritte Wissenstyp kann mit den anderen nicht verbunden werden. Damit muss man leben und ich finde das nicht schlimm. Der Versuch, den Thomas von Aquin unternimmt, diese Wissenstypen in einem widerspruchsfreien System zu vereinen, ist unmöglich. Wir müssen das akzeptieren und damit leben. Rudolf Bultmann nennt dies die Entscheidung zum Glauben, die Entscheidung, gläubig zu sein. Der Glaube kommt aus unserem Inneren durch Offenbarung. Aber man kann akzeptieren, dass er unvereinbar ist mit der wissenschaftlichen Sicht der Welt und hinnehmen, dass es so ist. Genau das mache ich.

JF: Das mag für das Individuum funktionieren, aber was ist, wenn man mit einem Atheisten spricht, der einem sagt, die Welt sei aus Materie und er habe keinen Grund, ein weiteres erklärendes Phänomen anzunehmen. Warum sollte er also an die Seele oder etwas Spirituelles glauben.

JL: Grundsätzlich läuft es auf die Frage hinaus, warum man gläubig sein soll. Die einzige Theologie, von der ich etwas verstehe, ist die protestantische. Es gibt die Offenbarung, die uns die Anwesenheit Gottes enthüllt und wir sind dazu aufgerufen, diese Offenbarung zu hören. Das ist das eine starke Argument. Das andere Argument ist, dass ich keinen Sinn in meinem Leben sehen würde, wenn ich vollkommener Materialist wäre, wenn ich Atheist wäre. Denn ich könnte das Leiden und die Schwierigkeiten, in dieser Welt zu leben, nicht begreifen. Ich würde meinem Leben keinen Sinn in dieser Welt geben können, ohne an Gott zu glauben. Ich wäre überwältigt von der Verantwortung, die ich trage, insbesondere von meiner eigenen Unzulänglichkeit und Fehlern, was Luther Sünde nennt. Damit würde ich nicht zurechtkommen. Ein Materialist mag nun sagen, dass ich dann eben ein Waschlappen sei. Aber das stört mich nicht. Man muss niemanden überzeugen, der sich dazu entschlossen hat, ein Atheist zu sein. Da kann ich nur auf Psalm 14 verweisen, der von Ungläubigen handelt. Es ist ihr Problem.

JF: Es ist nur, wenn ich über den Menschen nachdenke, dann verweigere ich mich der Annahme, dass die Sprache der Kausalität erschöpfend ist. Ich würde behaupten, dass es Dinge gibt, etwa bestimmte Emotionen, spirituelle Erfahrungen oder spirituelle Gefühle, die ganz prinzipiell nicht mit der Sprache physikalischer Gesetzmäßigkeiten beschrieben werden können. Da gibt es eine esoterische Komponente, die sich dieser Sprache entzieht.

JL: Ich denke, wie wir unsere Emotionen im Inneren wahrnehmen, kann nicht mittels der Physik beschrieben werden.

JF: In Ordnung. Aber dann würden einige Leute doch sagen, dass es nur chemische Reaktionen sind und selbst wenn wir sie jetzt noch nicht verstehen, dann könnten wir das grundsätzlich eines Tages.

JL: Das sagen wir auch in unserem Buch und das ist meine Sicht der Welt als Wissenschaftler. Aber, wie ich bereits gesagt habe, habe ich auch teil an der Erlösungsgewissheit, wie Scheler es nennt. In diesem Teil meiner Existenz glaube ich, dass die Erklärungen der Physik nicht ausreichend sind. Ich muss damit leben, dass man diese beiden Welten nicht zusammenbringen kann. Das ist ja gerade die Herausforderung des Glaubens. Man muss akzeptieren, dass man nicht alle Aspekte verstehen und widerspruchsfrei zusammenführen kann, wie Spinoza oder Thomas von Aquin es vorhatten. Sie wollten den Glauben rational und widerspruchsfrei machen. Sie wollten ein perfektes dogmatisches Gedankengebäude errichten. Das wird man nicht schaffen und so steht es auch geschrieben in der Bibel, in den Psalmen, in der jüdischen Tradition und im gesamten Neuen Testament. Man sieht es überall. Darum ist es auch Glauben und nicht Vernunft.

JF: Das ist wirklich interessant und ich denke, wir müssen das in einer anderen Folge aufgreifen. Wir nähern uns dem Ende der Sendung. Ich schlage vor, wir öffnen die Diskussion und fragen Sie, Jobst oder Barry, haben Sie noch etwas auf dem Herzen, worüber wir noch nicht gesprochen haben und was Sie noch am Ende der Diskussion vorbringen möchten.

BS: Ich denke, dass ein Aspekt des Buches in der vorangegangenen Diskussion unberührt geblieben ist. In dem Buch sprechen wir vom Gehirn als physikalisches Objekt, das aus physikalischen Teilchen besteht, die den Gesetzen der Physik unterliegen. Aber was wir auch sagen ist, dass wir ganz wenig darüber wissen, wie diese Gesetze funktionieren, da es keinen Weg gibt, die notwendige Information über das Verhalten der Teilchen im Gehirn zu gewinnen. Auch ist es ein komplexes System und wir können die Physik nicht nutzen, um Vorhersagen darüber zu treffen, wie das Gehirn funktioniert. Jobst hat vor Kurzem eine 16-stündige Vorlesung über Quantenphysik an der University of Buffalo gehalten. Eine Erkenntnis, die ich aus dieser Veranstaltung mitgenommen habe, ist, dass die Physik nicht wirklich alles weiß, was es braucht, um zu verstehen, wie die Physik funktioniert. Es scheint so, dass wir keine klare Vorstellung davon haben, was zum Beispiel ein physikalisches Teilchen ist. Das heißt, die Annahme in unserem Buch, dass die Welt aus Teilchen besteht und den Gesetzmäßigkeiten der vier Grundkräfte folgt, ist cum grano salis zu verstehen, wenn wir die Quantenphysik ernst nehmen.

JL: Wenn wir die Quantenfeldtheorie ernst nehmen, dann haben wir in der Physik ein großes Problem damit, Materie zu verstehen. Ich denke, das ist ein gutes Thema, um diese Diskussion zu beenden, wenn ich auch nicht allzu sehr ins Detail gehen kann. Das wäre dann eine dritte Folge der Sendereihe, in der wir über Quantenfeldtheorie und deren philosophischen und theologischen Implikationen sprechen könnten. Sicherlich ist die Quantenfeldtheorie die beste mathematische Beschreibung der Natur, die wir haben – neben der allgemeinen Relativitätstheorie, die wir hier mal beiseite lassen. Die Quantenfeldtheorie zeigt uns, dass wir nicht wirklich verstehen, wie Materie funktioniert. Die positivistische Sicht der Natur ist also sehr oberflächlich und je mehr man von wirklicher Physik versteht und deren Ergebnisse kennt, die wir daraus ableiten können, desto demütiger wird man. Das eröffnet aber auch mehr Raum für den Glauben oder alternative Sichtweisen auf die Welt oder philosophische Ansichten der Welt, die nicht rein materialistisch und auf einer vereinfachenden Vorstellung von Kausalitätszusammenhängen beruht. Mein eigentliches Vorhaben, das ich mit dem Buch verfolge, ist, die Grenzen der Wissenschaft, der Technologie und der Mathematik aufzuzeigen und hervorzuheben, dass wir in einem Zeitalter leben, in dem völlig überschätzt wird, was man damit verwirklichen kann. Es ist die Religion unserer Zeit, die Reichweite von Technologie und Wissenschaft zu überschätzen

Ich denke, je bewusster man sich dessen wird, desto demütiger wird man und desto klarer wird es, dass viele Phänomene unseres Lebens damit nicht erklärbar sind.

JF: Das ist ein hervorragendes Schlusswort. Ich würde gerne noch weiter diskutieren und dieses Thema ausführen, denn es wirft viele Fragen auf. Ich denke, dass wir mit einer faszinierenden Anmerkung das Gespräch abschließen. Ich danke Ihnen, Jobst Landgrebe und Barry Smith, für das Gespräch in dieser Folge von Irreverend.

Cognotekt_RGB_Türkis

Vor welcher Herausforderung
stehen Sie? Schreiben Sie uns.

Dr. Raija Kramer
info@cognotekt.com
+49 221-643065-10