Silke Schröder (Politicum – TV.Berlin) im Gespräch mit dem Unternehmer, Wissenschaftler und Autor Dr. Jobst Landgrebe (Cognotekt)

Sendetermin am 06.01.2023

Silke Schröder: Sehr geehrte Zuschauer, ich wünsche Ihnen ein frohes neues Jahr und begrüße Sie zu einer neuen Ausgabe von Politikum hier bei TV.Berlin. Unser heutiger Gast ist der Wissenschaftler, Unternehmer und Autor Dr. Jobst Landgrebe, den ich ganz herzlich zu unserer ersten Sendung in diesem Jahr begrüßen möchte. 

Jobst Landgrebe: Guten Tag und vielen herzlichen Dank für die Einladung. 

Schröder: Ich möchte Ihnen unseren Gast zunächst einmal vorstellen. Jobst Landgrebe kommt ursprünglich aus Bergisch Gladbach. Er studierte zunächst Philosophie und klassische Philologie, wandte sich dann der Medizin, Biochemie und Mathematik zu und studierte unter anderem an den Universitäten Heidelberg, Göttingen und Basel. Er absolvierte sein medizinisches Staatsexamen in Göttingen, wo er auch in Biochemie promoviert wurde, und war dann zunächst für einige Jahre in der Wissenschaft tätig, bevor er in die Wirtschaft ging und als Strategieberater im Bereich Künstliche Intelligenzforschung und -entwicklung tätig wurde. Er war dann auch Software-Architekt für Künstliche Intelligenz und Leiter unter anderem der Abteilung für Künstliche Intelligenz und Data Science bei der Allianz Private Krankenversicherung. 2013 machte er sich selbstständig und gründete das Unternehmen Cognotekt, eine Firma, die sich mit Künstlicher Intelligenz und dem Schwerpunkt Verarbeitung natürlicher Sprache befasst und Kunden dazu berät.

Vor einigen Monaten veröffentlichte er zusammen mit dem britischen Philosophen Barry Smith das Buch “Why Machines Will Never Rule the World”, zu Deutsch “Warum uns Maschinen nie beherrschen werden”. Darüber unter anderem wollen wir heute sprechen. Er ist aus Köln zu uns gekommen. Noch einmal ganz herzlich willkommen, Herr Dr. Landgrebe. 

Ihr Thema ist die Künstliche Intelligenz. Sie haben das gerade besprochene Buch “Why Machines Will Never Rule the World” vor einigen Monaten veröffentlicht und Sie bringen eine gute Nachricht mit. Darüber haben wir im Vorfeld gesprochen, was die Botschaften zum Thema Künstliche Intelligenz sind. Man muss dazu sagen, dass Sie mit diesem Buch auch Neuland betreten haben, weil eigentlich die Botschaft, was Künstliche Intelligenz angeht, doch immer lautet, dass wir in der Zukunft von Computern beherrscht werden. Sie sagen in Ihrem Buch eigentlich das Gegenteil. Können Sie uns das erläutern? 

Landgrebe: Die Idee ist nicht absolut neu. Hubert Dreyfus ist ein Philosoph, der 1973 diese These auch schon vertreten hatte. Allerdings hat er sie damals ganz anders begründet. Und dann gibt es noch ein paar andere, die wir im Buch auch erwähnen und die auch sagen, dass Maschinen niemals intelligent werden können. Ich glaube aber, dass unser Buch wirklich neuartig ist, weil wir eine neue Theorie vortragen, warum das so ist. Diese Theorie beruht letztlich auf der thermodynamischen Theorie komplexer Systeme. Wir sagen im Wesentlichen, dass tierische und menschliche Intelligenz – da unterscheiden wir, aber Tiere sind auch intelligent – nicht durch eine Maschine modelliert werden kann und dass wir keine Maschinen bauen können, die eine derartige Intelligenz haben, weil wir die Komplexität der Systeme, die Intelligenz hervorbringen, nicht mathematisch abbilden können. Das ist die Grundthese des Buches.

Schröder: Mathematisch und was die Sprachsteuerung angeht, richtig? Sie unterscheiden ja zwischen diesen beiden Dimensionen, die mathematische Modellierung und was das Thema Spracherkennung angeht, die ja auch mit in die Entwicklung Künstlicher Intelligenz einfließt. Da sagen Sie hinsichtlich beider Dimensionen, dass es nicht möglich ist, das adäquat abzubilden. 

Landgrebe: Ja, das stimmt. Die Unfähigkeit, sprachliche Modelle zu bauen oder zu erzeugen, die etwas verstehen, hängt auch mit der mathematischen Nicht-Modellierbarkeit zusammen. Aber das ist nur eine der vielen Anwendungen von Künstlicher Intelligenz, also die Fähigkeit, zu sprechen, zuzuhören, zu verstehen und zu antworten oder selber etwas zu sagen. Die Unfähigkeit, das zu modellieren, hängt letztlich auch an der Unfähigkeit, mathematische Modelle komplexer Systeme aufzustellen. Das ist das fundamentale Problem. Daraus folgen dann viele verschiedene Unmöglichkeiten von Anwendungen, unter anderem die nicht Möglichkeit der Anwendung im sprachlichen Bereich beziehungsweise die sehr eingeschränkte Möglichkeit der Anwendung im sprachlichen Bereich. 

Schröder: Warum erzählt uns dann eigentlich ein großer Teil der Wissenschaft genau das Gegenteil? Wir hören ja immer wieder, dass sich die Wissenschaft und die Künstliche Intelligenzforschung so weiterentwickelt, dass es eigentlich nur noch eine Frage der Zeit ist, bis Mensch und Maschine zu einer Gesamteinheit verschmelzen können, bis wir den Menschen dank Computerunterstützung optimieren können. Warum vertreten Sie eine Meinung, die offenkundig nicht landläufig ist in der ganzen Künstlichen Intelligenzforschung?

Landgrebe: Das hat sehr komplizierte historische Gründe. Aber ganz vereinfacht gesagt sind die Leute, die wirklich Mathematik und Physik verstehen –  bis auf Stephen Hawking, der schon tot ist und der sich mit Künstlicher Intelligenz meiner Ansicht nach nie richtig beschäftigt hat und auch einen Hang zum Boulevard hatte – haben alle großen Physiker und Mathematiker der letzten 100 Jahre immer darauf hingewiesen, dass die Möglichkeiten der mathematischen Modellierung in der Physik, aber auch in sonstigen Anwendungen der Mathematik sehr begrenzt sind. Wenn man selber Mathematik betreibt, wie ich das viele Jahre meines Lebens gemacht habe, dann sieht man das sofort. Die Leute, die an eine Starke Künstliche Intelligenz glauben, die mit Hilfe von Maschinen erzeugbar ist, sind eigentlich Ingenieure, die keine Ahnung von Mathematik haben –  wie Elon Musk. Elon Musk hat einen Bachelor in Ingenieurwissenschaften, Ray Kurzweil hat einen Master in Ingenieurwissenschaften. Das sind Ingenieure. Ray Kurzweil ist der Ex-Technologiechef von  Google, der ständig von der Singularität spricht. Elon Musk kennt, glaube ich, jeder. Beide sind halt Ingenieure mit sehr beschränkter intellektueller Vorstellungskraft für dieses extrem abstrakte Problem. Denn man muss ja nicht nur die Mathematik und Physik verstehen, sondern auch den menschlichen Geist. Man muss ja auch philosophisch und neurowissenschaftlich argumentieren – was wir auch in unserem Buch machen – um überhaupt zu verstehen, wie komplex das Ganze ist, um dann sagen zu können, warum die Eigenschaften der Mathematik, wie wir sie kennen, das nicht modellieren können. Das erfordert einfach eine Bildung, die diese Leute nicht haben. Es ist halt gerade in Mode und man kann damit Geld verdienen. Also wird es behauptet. 

Schröder: Verstehe ich Sie da richtig, dass das, was uns landläufig als Künstliche Intelligenzforschung und Wissenschaft verkauft wird, eigentlich mit Menschen besetzt ist, die nicht wissenschaftlich adäquat ausgebildet sind, um diese Prognosen überhaupt abgeben zu können. 

Landgrebe: Es kommt immer auf die einzelnen Individuen an. Es gibt in diesem Bereich natürlich Mathematiker und auch Informatiker, die ja Ingenieure sind, die erstklassig sind und die das auch durchschauen. Im Buch führen wir in der Einleitung die ganzen anderen auf, die das auch alle so sehen wie wir. Das sind gar nicht so wenige, auch sehr prominente. 

Schröder: Aber die finden kein Gehör oder werden nicht publiziert?

Landgrebe: Die werden schon publiziert, aber sie finden kein Gehör oder man macht sich über sie lustig. Aber der Mainstream wird letztlich von Leuten besetzt, die das nicht richtig beurteilen können oder es nicht richtig beurteilen wollen oder lieber schweigen. Dadurch ergibt sich eben ein verzerrtes Bild in der Öffentlichkeit.

Was kann man dagegen tun? Es gibt immer solche Phasen. Denken Sie daran, dass, bis Kepler und Galileo Galilei kamen, alle Leute dachten, dass sich die Sonne um die Erde dreht. Dann muss man nur geduldig genug zeigen, dass es nicht so ist, und irgendwann ist das dann umgekippt und dann war man ein Idiot, wenn man glaubte, dass die Sonne sich um die Erde dreht. Und dann hat jeder geglaubt, dass sich die Erde um die Sonne dreht. Das wird halt eine Zeitlang dauern und dann wird sich das durchsetzen.

Schröder: ist das ein ähnlich gelagertes Problem, das wir in anderen Feldern der Wissenschaft sehen, wie zum Beispiel in der Klimaforschung oder in der Medizinforschung? Zum Beispiel das Stichwort Pandemie, wo es ja auch doch sehr gespaltene, um nicht zu sagen, sich diametral gegenüberstehende wissenschaftliche Einschätzung gibt. Ist das vergleichbar?

Landgrebe: Wir haben so einen Trend zur Lyssenkoisierung der Wissenschaft. Lyssenko war ein sowjetischer Genetiker, der behauptet hat, man könnte das Genom durch Umwelteinflüsse in ganz kurzer Zeit verändern. Stalin hat dann auch Biologen, die vernünftig waren und diesen lamarckistischen Unsinn abgelehnt haben, teilweise in Gulags sperren lassen und sie unterdrückt. Lyssenko hat sich dann eine Zeit lang durchgesetzt. Das war eine Politisierung der Biologie in der Sowjetunion. Etwas Ähnliches beobachten wir jetzt im Westen – oder auch international -, dass in immer mehr Wissenschaftsfeldern politische Vorgaben gemacht werden, was die Ergebnisse der Forschung zu sein haben. Und das wird dann auch behauptet. Das heißt, wir haben einen Abschied vom Rationalismus und auch von der empirischen Wissenschaft, und den haben wir eben in immer mehr Feldern, unter anderem in der Künstlichen Intelligenzforschung – zumindest teilweise. 

Schröder: Ist Ihre Hoffnung mit dem Buch, was Sie jetzt geschrieben haben, ein Gegenexempel setzen zu können, das vielleicht für eine neue Blickrichtung, eine neue Fokussierung in der Wissenschaft sorgen kann? 

Landgrebe: Genau. Meine Absicht bei dem Buch war zweierlei. Einerseits wollte ich als Unternehmer letztlich das Grundmaterial dafür bilden, warum ich meinen Kunden bestimmte Versprechungen nicht mache, die andere machen. Da haben sich Kunden immer wieder beschwert und gesagt, aber der und der hat doch behauptet, das geht. Und dann habe ich immer gesagt, nein, das geht nicht. Jetzt kann ich Ihnen sagen, komm, du kannst das, wenn du willst, sogar nachlesen. Das war der eine Grund, warum ich das gemacht habe. 

Der andere Grund ist sicherlich auch, dass ich zu einer Renaissance des Rationalismus beitragen will. Letztlich ist das Buch in der klassischen aristotelischen, kantischen, rationalistischen Tradition geschrieben. Wir greifen sehr stark auf die Phänomenologie zurück. Das war meiner Ansicht nach der Gipfel der philosophischen Entwicklung im Abendland, eine rationalistische Schule des philosophischen Denkens der Zehner- und Zwanzigerjahre des letzten Jahrhunderts als Grundlage für unsere Argumentation. Ich hoffe einfach, dass das wieder Schule macht und dass sich wieder mehr Leute dem Rationalismus zuwenden.

Schröder: Vielleicht nochmal zur Gesamteinordnung für die Zuschauer, weil wir heutzutage immer wieder mit den Begriffen der Digitalisierung, der Künstlichen Intelligenz, des Transhumanismus konfrontiert werden: Können Sie das einmal als Begrifflichkeiten einordnen? Wie hängt das eine vom anderen ab? Und was ist die Grundlage dessen, was wir gesamtgesellschaftlich als Prozess erleben? 

Landgrebe: Künstliche Intelligenz ist ja einfach nur angewandte Mathematik. Das sind eigentlich Algorithmen, die nützlich sind. Ich lebe ja auch davon als Unternehmer. Damit kann man unheimlich viele nützliche Sachen tun. Das ist Teil der industriellen Revolution.

Transhumanismus hingegen ist viel komplizierter. Das ist eine eher metaphysische Bewegung, die davon ausgeht, der Mensch sei mit verschiedenen Mitteln verbesserbar bis hin zur digitalen Unsterblichkeit. Das fängt an mit dem Glauben, man könne das Geschlecht umwandeln, was man natürlich nicht kann. Man kann zwar äußerlich den Körper verändern, aber die Chromosomen der Zellen bleiben natürlich dieselben. Die ganzen Geschlechtsumwandlungsoperationen waren der Ausgangspunkt des Transhumanismus in den 60er und 70er Jahren. Und dann geht das eben in immer mehr Bereiche, dass man nicht nur glaubt, das Geschlecht ändern zu können, sondern auch Eigenschaften des Menschen optimieren zu können, zum Beispiel, Intelligenz durch genetische Manipulation zu verbessern oder andere Eigenschaften zu verbessern. Man glaubt auch, dass man Chips in den Menschen einbauen kann, um die kognitive Leistung zu verbessern. Das ist alles unwissenschaftlich und wenn man auf die einzelnen Fragestellungen schaut, und das tun wir auch im 12. Kapitel des Buches, sieht man, dass das einfach fast alles Schwachsinn und wissenschaftlich unhaltbar ist. 

Schröder: Sie sagen, dass das jeder Grundlage entbehrt, aber auf der anderen Seite ist Künstliche Intelligenz und Digitalisierung doch etwas, was in unseren menschlichen Alltag massiv Einzug gehalten hat. Wenn wir jetzt in andere Länder blicken wie z.B China, wo es Social Scoring-Systeme gibt, wo per Retinal Scan, also Netzhautdurchleuchtung, bei Bürgern entschieden wird, ob sie bestimmte gesellschaftliche Privilegien wie das Nutzen eines öffentlichen Verkehrsmittels genießen dürfen oder nicht, da muss man doch festhalten, dass es als Instrument der Machtausübung über Menschen durch Regierungen oder durch Unternehmen schon in vollem Gange und stark zunehmend ist – egal, wie die wissenschaftliche Grundlage beurteilt wird. Und gleichzeitig haben Sie mal in einem Interview gesagt, Künstliche Intelligenz sei eine Blase, die bald platzen wird. Sie gehen also davon aus, dass sich diese Entwicklung totläuft oder zumindest nicht das Maß an totaler Überwachung und Kontrolle der Menschheit erreichen wird, wie es derzeit den Anschein hat. 

Landgrebe: Die Entwicklung, die Sie beschreiben, ist zu 99% Digitalisierung und der Anteil der Künstlichen Intelligenz ist ganz klein. Also der Anteil der Künstlichen Intelligenz besteht beispielsweise in der Gesichtserkennung. Das ist eine Künstliche Intelligenzleistung. Retina-Identifikation kann man auch unter Künstliche Intelligenz subsumieren. Das sind Anwendungen, wo Künstliche Intelligenz, also angewandte Mathematik, funktioniert. Man kann diese angewandte Mathematik natürlich als Herrschaftsmittel einsetzen. Da gibt es viele Möglichkeiten. Diese Art der Herrschaftsausübung haben wir im Westen übrigens auch, nämlich über die ESG-Vorgaben der Vereinten Nationen, die Sustainable Development Goals und die Agenda 2030 der Vereinten Nationen, die ja auch ein Social Credit-System für Unternehmen  erzeugen. Während das chinesische Social Credit-System sehr stark auf Individuen ausgerichtet ist, wird im Westen jetzt ja gerade das ESG-System auf Unternehmen angewandt, was ja auch ein Social Credit-System ist und auch Überwachungs- und Enforcement-Möglichkeiten bietet. Das ist aber alles sehr stark digitalisierungsbasiert. Warum? Weil die Interpretation der Handlungen und Äußerungen der Menschen nach wie vor von Menschen vollzogen werden muss. Das ist auch nicht dabei, sich zu ändern, ganz und gar nicht. Das heißt – und das ist ja das entscheidende, wenn man Macht ausüben will, muss man ja interpretieren, was ein Individuum jetzt eigentlich will. Und dabei kann ein Computer nicht helfen. Das wird sich auch nicht ändern. Deswegen ist Künstliche Intelligenz wichtig als Herrschaftsinstrument – zum Beispiel auch bei Waffensystemen, die ganze Kriegsführung verändert sich gerade massiv durch den Einsatz Künstlicher Intelligenz -, aber es ist eben nicht so, dass man die Herrschaftsausübung ganz an die Künstliche Intelligenz delegiert, weil die einen eigenen Willen hätte. Es ist einfach nur Technik. Und natürlich wird sich diese Technik nicht totlaufen. Die wird immer mehr eingesetzt werden, auch zu Überwachungszwecken, aber man muss sich ein realistisches Bild davon machen. Das wird nicht autonom sein, sondern das wird immer Menschen erfordern. Wenn man sich die Stasi in der DDR anguckt und sich überlegt, wie eine moderne Stasi heute aussehen würde, wie man sie in China hat, dann braucht man immer noch ganz viele Menschen, um die Menschen zu beobachten. Man kann das jetzt nur viel effizienter machen durch die Digitalisierung. Aber die letztliche Interpretationsleistung müssen nach wie vor Menschen erbringen. 

Schröder: Aber ist es dann wirklich eine gute Nachricht? Sie sagen ja, Künstliche Intelligenz hat ihre Grenzen, aber mit den Mitteln der Digitalisierung stehen wir in Hinblick auf die Nutzbarkeiten noch am Anfang. 

Landgrebe: Die gute Nachricht des Buches ist, dass Maschinen keinen Willen entwickeln werden, nicht wirklich intelligent und daher keine Akteure werden. Aber die schlechte Nachricht – und diese schlechte Nachricht kennen wir schon sehr lange – ist natürlich, dass der technologische Fortschritt die Möglichkeiten der Machtausübung multipliziert oder exponentiell verbessert. Wenn man in der Steinzeit nur Steine und Stöcke als Waffen hat, kann ein Individuum viel weniger anrichten als eines, das eine Atombombe abwerfen kann. So ist es hier halt auch. Die Technik, die wir jetzt haben, ermöglicht viel breitere und tiefere Herrschaftsmöglichkeiten. Das negieren wir in dem Buch auch gar nicht. Das Buch spricht auch gar nicht von Herrschaft und Macht. Aber wir negieren die Möglichkeit, dass Maschinen autonom werden. Und davor haben ja viele Menschen Angst. Elon Musk etwa behauptet die ganze Zeit – das hat er jetzt wieder vor Weihnachten gesagt -, wir müssen Brain Chips haben, um mit den Maschinen konkurrieren zu können. Das ist natürlich absoluter Schwachsinn und da sieht man, wie so ein Schwachsinnsnarrativ dazu benutzt wird, um ökonomische Einzelinteressen zu bedienen.

Schröder: Was ist mit ökonomischen, volkswirtschaftlichen Interessen? Die Digitalisierung und auch die Entwicklung Künstlicher Intelligenz haben ja unter anderem dazu geführt, dass sowohl der amerikanische als auch der chinesische Wirtschaftsraum sich stark weiterentwickelt haben. Und wir in Europa sind hinsichtlich der Gesamtwirtschaftsleistung – bis in die 2000er waren wir als europäische Volkswirtschaft noch auf Platz 1 in der Welt – hinten abgefallen. Haben da nicht die Digitalisierung und auch das Thema Künstliche Intelligenz ganz stark dazu beigetragen? 

Landgrebe: Künstliche Intelligenz hat gesamtwirtschaftlich noch fast keine Bedeutung. Für das Bruttosozialprodukt und die Produktivität hat sie noch kaum Bedeutung. Das sieht man an der Produktivitätsentwicklung. Wir haben jetzt zehn, 15 Jahre der dritten Welle der Künstliche Intelligenz anzuführen, aber die Produktivität sinkt weltweit. Sie sinkt auch aus anderen Gründen, aber Künstliche Intelligenz kann gar nicht so einen großen Einfluss haben. Wenn man durch die einzelnen Anwendungsfälle der Künstlichen Intelligenz in den wichtigen Wirtschaftszweigen durchgeht, sieht man das. Ich glaube, dass der Rückfall Europas in wirtschaftlicher Hinsicht ganz andere Gründe hat. Es gibt auch Digitalisierungsdefizite, aber letztlich hängt das sehr stark damit zusammen, dass wir zum Beispiel darauf verzichten, effiziente Energiequellen zu nutzen. 

Schröder: Also, das Stichwort Atomenergie? 

Landgrebe: Die Dekarbonisierungsagenda, die China und Amerika nicht machen, schwächt uns wirtschaftlich. Die einzigen, die dekarbonisieren wollen beziehungsweise versuchen, zu dekarbonisieren, sind die Europäer. Und das ist ein riesiger Wettbewerbsnachteil, ganz gleich, wie man jetzt zur Dekarbonisierung steht. Das machen halt nur die drei-, vierhundert Millionen Menschen in Europa und die haben dadurch einen riesigen Wettbewerbsnachteil. Es gibt auch Digitalisierungsdefizite, aber die sehe ich nicht als so entscheidend an – jedenfalls noch nicht. Ich sehe eher die anderen Wettbewerbsnachteile, die wir selbst politisch gewollt eingeführt haben, als wichtiger an. 

Schröder: Wo kann denn das Thema Künstliche Intelligenz zu unserem Vorteil dienen? 

Landgrebe: Bei allen repetitiven Tätigkeiten, die Menschen vollbringen, kann man mit Künstlicher Intelligenz Automatisierungserfolge erzielen. Die Tätigkeiten müssen aber sehr stark repetitiv sein und sie müssen auch relativ einfach mathematisierbar sein. Dann kann man hervorragende Erfolge erzielen, auch in der Produktion von Industriegütern, in der Logistik. Es gibt ganz viele Anwendungsbereiche. Die Künstliche Intelligenz wird als Verstärkung der Industriellen Revolution in all diesen Bereichen schrittweise eingesetzt werden und wird auch zu Produktivitätszuwachs führen, aber längst nicht so großen Produktivitätszuwachs wie andere große Veränderungen der letzten 150 Jahre, beispielsweise die Elektrifizierung, die Telekommunikation, das Internet oder die Einführung des Automobils. Das sind viel bedeutendere Produktivitätsfaktoren. Die Künstliche Intelligenz ist auch ein wichtiger Produktivitätsfaktor, aber sie ist derzeit meiner Ansicht nach in ihren Auswirkungen auf die Produktivität überschätzt. 

Schröder: Sie sind ja selbst Unternehmer und mit Ihrer Firma Cognotekt verdienen sie damit Geld, dass sie ihre Kunden dahingehend beraten, wie sie Prozesse optimieren können, zum Beispiel bei Versicherungen. Was würden Sie sagen, ist das Hauptverkaufsargument bei Ihrer Kundschaft? Wo können Sie Ihren Kunden am besten helfen? 

Landgrebe: Die beiden wichtigen Bereiche sind Rationalisierung einerseits und Mustererkennung andererseits. Das sind die Großen, da kann Künstliche Intelligenz wirklich viel leisten. Im Versicherungsbereich kann man zum Beispiel die Begutachtung von Schadensfällen durch den Innendienst automatisieren oder teil-automatisieren. Das geht auch in der Krankenversicherung. Man kann auch ähnliche routinemäßige Prozesse automatisieren, zum Beispiel Kundenkorrespondenz kann man teil-automatisch beantworten mit solchen Verfahren. Da gibt es noch viele andere Beispiele. Das ist der Bereich Rationalisierung. 

Dann gibt es den Bereich Mustererkennung. Man kann mit Künstlicher Intelligenz Muster abstrahieren und erkennen, die man mit bloßem Auge nicht sehen kann. So, wie man mit dem Teleskop halt auch Galaxien sehen kann, die das bloße Auge nicht sehen kann. Zum Beispiel in der ganzen Lageerfassung in der Militärtechnik kann man ohne Künstliche Intelligenz eigentlich gar nicht mehr arbeiten, weil so viele Modalitäten von Sensoren existieren, die gleichzeitig Informationen hervorbringen. Das kann ein Mensch gar nicht mehr übersehen. Das heißt, da braucht man Künstliche Intelligenz, um daraus Muster herauszudestillieren, die ein Mensch dann wieder beurteilen kann. Es gibt ganz viele Anwendungsfälle, wo man das erstklassig einsetzen kann und wir machen das für unsere Kunden, dass wir den Kunden sagen, das ist eine Sackgasse oder hier kannst du aber wirklich, wenn du investierst, richtig große Erfolge erzielen. 

Schröder: Aber es führt ja sicherlich in der Arbeitswelt auch dazu, dass man einen bestimmten Prozentsatz an Personal zukünftig oder vielleicht auch schon aktuell durch KI-Prozesse einsparen kann. Was würden Sie perspektivisch sagen, wie hoch – prozentual gesehen – ist es ein Sparpotential? 

Landgrebe: Das ist unheimlich schwer zu sagen. Vor fünf Jahren dachte ich noch, das Sparpotential wäre viel höher. Ich glaube mittlerweile, dass es doch gar nicht so groß ist und dass es vielleicht gerade so ausreicht, um den demographischen Wandel abzupuffern. Wir haben hier in Deutschland das riesige Problem, dass wir durch den demographischen Wandel und auch durch die Form der Bevölkerungsveränderung, die wir jetzt sehen, Schwierigkeiten haben, hoch- oder mittelqualifizierte Stellen in der ganzen Industrie zu besetzen. Und da kann Künstliche Intelligenz eine Hilfe sein, das Defizit an Personal abzupuffern, aber es wird alleine nicht ausreichen. Das heißt, ich glaube, der demographische Wandel ist stärker als das einfache Potential durch die Künstliche Intelligenz.

Schröder: Sind das denn wirklich mittel- bis hochqualifizierte Jobs, die durch Künstliche Intelligenz ersetzbar sind? Oder sind das eher die ganz einfachen Jobs? 

Landgrebe: Es sind eher die einfachen Jobs. Die ganze Managementschicht in Großunternehmen kann man dadurch ersetzen oder reduzieren, dass man den wirtschaftlichen Fokus verändert. Da gibt es ja sehr sehr viel Potential, wo man einsparen kann. Man sieht das jetzt bei Firmen, die Mittelmanagement-Positionen einsparen, wie etwa salesforce.com. Da gibt es halt doch sehr viele Möglichkeiten, ohne dass es dem Unternehmen wirklich schadet. Das hat aber nichts mit Künstlicher Intelligenz zu tun. 

Die Idee, man könnte wirklich denkende Berufe, kognitive Berufe durch Künstliche Intelligenz ersetzen, ist falsch. Das gilt übrigens auch für Berufe wie Simultandolmetscher, Übersetzer. All das ist überhaupt nicht gefährdet. Schauen Sie sich die Übersetzungsleistung der Software an. Das ist für den professionellen Bereich vollkommen unzureichend.

Schröder: Wobei das im Internet, gerade was Echtzeit-Übersetzung von Videomaterial angeht, schon relativ viel genutzt wird.

Landgrebe: Natürlich kann man das benutzen, aber es hängt vom Kontext ab, in dem Sie das einsetzen. Wenn das für den Endkonsumenten gemacht wird, der ein ungefähres Verständnis entwickeln soll, geht das. Aber wenn Sie das jetzt zum Beispiel bei einer UNO-Tagung oder vor Gericht einsetzen wollen, also in einem kritischen institutionellen Rahmen oder bei Verhandlungen in der EU, wenn Sie da eine Maschine einsetzen, dann kann der Zuhörer, für den das übersetzt wird, den Sinn nicht gut genug erkennen, um verhandlungssicher zu antworten. Das heißt, wenn es wirklich darauf ankommt, den Sinn exakt abzubilden und vor allem den Kontext richtig abzubilden, versagen die Maschinen völlig. Darum geht es auch bei der Übersetzung. Wenn ich jetzt ein literarisches oder wissenschaftliches Buch übersetzen muss und ich stecke das in DeepL, dann kriege ich eine grobe Übersetzung, aber die ist so fehlerhaft, dass der Sinn des Buches völlig verzerrt wird. Um das dann richtig zu bekommen, muss der Mensch noch den Feinschliff machen. 

Schröder: Das heißt die Sorge, die viele Menschen haben, dass die Künstliche Intelligenz uns wirklich direkt als Menschen in unserer Denk- und Produktionsleistung Konkurrenz machen könnte, da würden Sie sagen…

Landgrebe: … das ist Unfug.

Schröder: Das ist zum jetzigen Stand Unfug und Sie sagen ja auch, es ist perspektivisch gesehen Unfug.

Landgrebe: Das ist jetzt ein sehr wichtiger Punkt und das sage ich. Da wird ja dann immer gesagt, ja, aber vor 1900 haben die auch alle gesagt, wir können niemals fliegen, und Einstein hat gesagt, es gibt niemals Atomspaltung und die lagen ja auch falsch. Aber ich glaube, hier ist es wirklich anders. Ich glaube, wir kommen hier an die kognitiven Grundlagen oder biologischen Grundlagen des mathematischen Denkens. Das, was wir in der Mathematik leisten können, hängt ja letztlich mit der Struktur unseres Gehirns zusammen und die können wir eben nicht verändern. 

Schröder: Was macht Sie da so sicher, dass das auch perspektivisch nicht möglich sein wird?

Landgrebe: Dass wir die Strukturen des Gehirns nicht verändern können? Oder dass die Mathematik sich nicht fundamental verändert?

Schröder: Dass die Mathematik nicht ausreichen wird. 

Landgrebe: Wenn man die Mathematik kennt, sieht man eben, dass die Modellierungsmöglichkeiten ganz beschränkt sind. Sehen Sie, wenn ich jetzt in dieses Glas Wasser schütte, dann entsteht Turbulenz. Nicht einmal das kann ich mathematisch modellieren, so ein einfaches Phänomen. Da hat Heisenberg gesagt, wenn er nach dem Tod zum lieben Gott kommt, dann wird der liebe Gott ihm wohl sagen, wie die Relativität funktioniert, aber nicht wie Turbulenz funktioniert. Das heißt, das sind einfach Probleme, die sich der mathematischen Modellierbarkeit entziehen. Jeder Mathematiker weiß, dass die Mathematik hölzern ist in der Anwendung auf die reale Welt. Ich kenne keinen ernstzunehmenden Physiker oder Mathematiker, der behauptet, dass man komplexe Systeme perfekt mathematisch abbilden kann. Das ist die eine Frage. 

Die andere Frage: können wir unser eigenes Gehirn verändern, können wir sozusagen die Strukturen unseres Denkens so verbessern, dass wir eine andere Mathematik bekommen? Nein, weil wir dafür das Gehirn zu wenig verstehen und nicht verstehen, wie die einzelnen Gene und Genloci und auch die nicht-kodierenden Abschnitte der DNA letztlich die Intelligenz hervorbringen. 

Schröder: Ist es dann vielleicht dieses populärwissenschaftliche Angstpotential, das mit dieser möglichen Bedrohung einhergeht? Ich hatte mich letztens mal mit dem Buch “Homo Deus” von Yuval Harari beschäftigt. Das hat ja auch eine große Leserschaft bekommen. Und da ist ja die These, die moderne Medizin wird uns perspektivisch unsterblich machen. Ist es letztlich dieses Angstpotential, was die Leute an die Möglichkeiten von Transhumanismus glauben lässt und letztlich auch die Künstliche Intelligenz überschätzen lässt? 

Landgrebe: Das ist das religiöse Bedürfnis, das Schleiermacher beschrieben hat. Der Mensch hat ein religiöses Bedürfnis und das wird in traditionellen Gesellschaften durch die großen Religionen gestillt. Und wenn die traditionellen Gesellschaften die Religion aufgeben, wie das der Westen im Wesentlichen getan hat, muss das religiöse Bedürfnis, das laut Schleiermacher ein biologisches Bedürfnis wie Atmen ist, anders gestillt werden. Wir stillen das jetzt durch solche Narrative wie die von Harari. Harai ist nichts anderes als ein Pseudo-Theologe dieser neuen Religion und er hat so viele Anhänger, weil er das religiöse Bedürfnis anspricht. Die wissenschaftliche Stichhaltigkeit von dem, was er sagt, ist gleich null. Der Mann ist ja auch Historiker. Der hat keine Ahnung von dem, was er spricht. Für mich ist es eine Qual, diese Texte zu lesen, weil sie auch unglaublich arrogant, vermessen und voller Hybris geschrieben sind. Ein Punkt blähte sich auf, da wurde er eine Null. 

Schröder: Was würden Sie denn sagen, könnte geschehen, um die Menschen wieder zu einem echten Glauben hinzuführen? Sie haben in mehreren Interviews gesagt, wie wichtig der Glaube letztlich ist und ohne den Glauben – egal durch welche Religion dieser gedeckt wird – sind wir als Menschheit anfällig für populärwissenschaftliche Irrwege. Wir sehen ja eine immer weitere Abkehr der Menschen von organisierten Religionen, insbesondere vom Christentum. Die Frage ist, was kann perspektivisch die Lösung sein? 

Landgrebe: Erstmal muss man festhalten, dass auch in Gesellschaften, die sehr starken Glauben haben, sich Irrlehren verbreiten können. Denken Sie an die Hexenverbrennung, die religiös begründet und verehrend war. Religiosität schützt nicht prinzipiell davor,  dass sich Massenhysterien in Gesellschaften vollziehen. Das will ich nur mal vorwegnehmen. Bultmann beantwortet Ihre Frage mit dem großartigen Begriff von der Entscheidung zum Glauben. Als moderner rationaler Mensch muss ich mir einfach eingestehen, dass der Rationalismus nicht alle Lebensbereiche abdecken kann. Dann kann ich mich für den Glauben und für die Offenbarung entscheiden, wie Bultmann das sagt, und dann Christ werden. Und das ist, was ich empfehlen kann. Das ist aber kein Rezept, wie man Massen dazu bringen kann, sondern Bultmann sagt – wie auch viele andere Theologen dieser Zeit – dass eben die Christen wieder zu einer Minderheit werden, wie sie es am Anfang auch waren. Matthäus sagt, sie sind das Salz der Erde, und ich glaube, so ist es auch. Die Vorstellung, man könnte jetzt die Massen wieder zum Christentum bekehren, halte ich leider für illusorisch.

Schröder: Das heißt, gesamtgesellschaftlich sind wir eher noch in einer Phase, wo wir uns zu einer Art nietzscheanischen Nihilismus hinbewegen und wo wir durch diese Art der Selbstermächtigung oder zumindest durch den Wunsch nach Selbstermächtigung den Abfall von Glauben uns selbst ein Bein stellen was unsere Entwicklung angeht?

Landgrebe: Ich glaube tatsächlich, dass dieses Programm, was die Junghegelianer beschrieben haben, also Feuerbach und auch Max Stirner ist sehr wichtig hier, er ist ja der direkte Vorläufer von Nietzsche, “Der Einzige und sein Eigentum”, dass das weiter wirksam ist und dass das sich sicherlich in unserer Gesellschaft weiter ausbreitet. Das ist wie eine Welle und irgendwann wird es auch wieder eine Gegenbewegung geben. Aber wie die aussieht, weiß man noch nicht. 

Schröder: Und wir wissen auch nicht, wann sie kommen wird. Vielleicht noch etwas mit aktuellem Bezug: Sie sind ja auch Mediziner und der Präsident der Bundesärztekammer sagte vor einiger Zeit, wir bräuchten Flohmärkte für Medikamente wegen der Lieferengpässe und der Produktionskapazitäten, die nicht ausreichen. Sie haben da ja letztens auch mal Stellung dazu bezogen und gesagt, Sie gehen davon aus, dass sich die Situation der Medikamentenversorgung noch weiter verschärfen wird. Vielleicht noch ein kurzes Statement dazu: Wie glauben Sie, wird sich das weiterentwickeln und was sind auch Lösungssätze? 

Landgrebe: Die Ursachen sind ganz einfach, das hat jetzt auch das Bundesgesundheitsministerium erkannt. Die Ursache ist, dass die Generika, die 80% der verschiedenen Dosen in Deutschland ausmachen, also die nicht unter Patentschutz stehenden Arzneimittel, alle in Asien produziert werden. Die Kosten für die Produktion und für den Transport hierher sind jetzt so hoch, dass die Preise nicht mehr ausreichen, um die Produktion zu rechtfertigen. Das heißt, die Hersteller stellen dann einzelne Klassen von Arzneimitteln oder einzelne Arzneimittel ein, bei denen sie Verlust machen würden. Weil die Preise reguliert sind. Das heißt, der Preis der Generika muss steigen, damit es sich wieder lohnt, sie zu produzieren. Dann kann das Problem auch gelöst werden. Es gibt ja nicht zu wenig Gas und Öl auf der Welt, sondern es gibt geopolitische Konstellationen, die die Preise haben steigen lassen. Das heißt, die Produktion ist weiter möglich, sie ist halt teurer und sie wird auch passieren, wenn man zulässt, dass die Preise wieder steigen. Das heißt, die Preise für Generika müssen steigen. Die Arzneimittelkosten pendeln immer zwischen 11 und 13% der gesamten Versorgungskosten. Die werden dann einen höheren Anteil kriegen und können auf 15 oder 20% steigen. Dann muss man halt im Gesundheitssystem anderswo einsparen. Das Einsparpotential im Gesundheitssystem ist riesig. 

Schröder: Wo sehen Sie das in erster Linie?

Landgrebe: Man muss es leider ganz hart sagen. Das habe ich schon als Student in der fachmedizinischen Soziologie gelernt, 40% der der medizinischen Gesamtversorgungskosten fallen im letzten Lebensjahr an. Da muss man leider einsparen. Die Engländer machen das schon seit 25 Jahren. Das ist einfach so, dass man bestimmte medizinische Maßnahmen bei alten Menschen nicht mehr erbringen kann. Das klingt hart, aber am Ende des Tages rettet man dadurch dann 20-jährige. Wenn ein 20-Jähriger ein Antibiotikum nicht bekommen kann und daran stirbt, dann hat man eben 50 bis 60 Jahre Lebenszeit verschenkt und wenn ein 84-Jähriger eine bestimmte Behandlung nicht bekommt, die sehr teuer ist, dann hat man vielleicht ein oder zwei Jahre Lebenszeit aufgegeben. Solche Abwägungen werden jetzt leider ganz von alleine notwendig werden in einer Zeit der Mittelverknappung. 

Schröder: Und in einer Zeit der überalterten Gesellschaft? 

Landgrebe: Die Überalterung führt ja nur dazu, dass das Einsparpotential höher ist, um es mal ganz nüchtern zu sagen. 

Schröder: Das klingt natürlich sehr hart. 

Landgrebe: Ja, das ist hart, aber so ist die Realität. Die Medizin ist ja immer so. Wenn Sie eine Karambolage auf der Autobahn mit 20 Opfern haben und da kommen die Notärzte hin, was meinen Sie, was die da machen? Sie triagieren. Ich habe als junger Notarzt selbst triagiert. Man triagiert in der Medizin jeden Tag. Darüber wird nur nicht geredet. Aber natürlich müssen sie das. Und das kann auch fast jeder Arzt gut machen, weil er fachlich kompetent ist, wenn er Notarzt ist und weil die meisten Ärzte auch letztlich einen guten moralischen Instinkt haben, dass sie die Triagierung richtig machen, dass sie eben nicht die 86-jährige Omi als Erste retten, sondern die Kinder und jungen Erwachsenen. Das ist einfach so. In der Medizin wird ständig priorisiert und triagiert. Wenn man nun das ganze Gesundheitssystem anpassen muss auf so eine Krise, dann muss man darüber gesellschaftlich reden. Das ist auch nichts Schlimmes. Letztlich tut man damit ja etwas moralisch Richtiges.

Schröder: Unter den Themen, über die wir gesellschaftlich reden, ist das Thema Digitalisierung und das Thema Künstliche Intelligenz, wo Sie ja ein Vordenker sind, sicherlich ein ganz wichtiges. Was würden Sie denn abschließend sagen, was Sie als gesellschaftlich gelingenden Weg in die Zukunft wahrnehmen, der unseren technischen Möglichkeiten Rechenschaft trägt, uns aber nicht entmenschlicht? Das kann man ja auf alle Felder anwenden, ob es jetzt die Medizin ist, die wir kurz gestreift haben, oder alle anderen Bereiche, wo digitalisierte Prozesse einfließen.

Landgrebe: Letztlich geht es immer um Machtkontrolle. Kann eine Gesellschaft die notwendige Macht, die notwendigerweise auch vom Staat monopolisiert werden muss – in allen urbanen Gesellschaft ist das so – kann dieses Gewaltmonopol gut kontrolliert werden? Das ist die erste Voraussetzung. Die Zweite ist, ob es Partizipation der gesellschaftlichen Gruppen gibt. Diese Partizipation kann ganz unterschiedlich organisiert werden. Wir bevorzugen das Modell der Demokratie. Das halte ich auch für das Beste, aber es gibt auch andere Modelle der Partizipation. Wir brauchen einfach eine Gesellschaft, die Machtkontrolle und Partizipation ermöglicht. Dann können wir auch den ganzen technischen Fortschritt sinnvoll und zum Wohl der Menschen einsetzen. 

Schröder: Und würden Sie sagen, wir sind da in guter Verfassung, was die Machtkontrolle und Partizipation in Form von demokratischen Prozessen angeht? 

Landgrebe: Wir beobachten in den OECD-Ländern seit Jahrzehnten einen Niedergang der Partizipation und auch der Gewaltkontrolle. Wir können nur hoffen, dass das irgendwann gestoppt wird und der Trend sich wieder umkehrt. Letztlich ist das Ausmaß der Legitimität in den westlichen Gesellschaften seit den 70er Jahren gesunken. Die Partizipation, die Rechtsstaatlichkeit, die Normenkontrolle, die Gewaltkontrolle waren in den 70er und 80er Jahren deutlich besser als heute. Aber das kann sich auch wieder ändern. 

Schröder: Wäre das auch Ihr Wunsch für das neue Jahr 2023? 

Landgrebe: Selbstverständlich.

Schröder: Oder haben Sie noch einen anderen Wunsch, der sich aufgrund ihrer Forschungs- und Rechercheaktivität ergibt? 

Landgrebe: Das ist mein größter Wunsch, dass sich Partizipation und Machtkontrolle wieder verbessern. Der andere ist einfach, dass die Leute, die Macht haben, die schlimmsten Missbrauchsarten der Macht selbst erkennen und davor zurückschrecken. Das haben wir in den letzten Jahren gesehen, dass auch das nicht mehr gut funktioniert hat, und ich hoffe, dass sich das jetzt wieder ändert. 

Schröder: Also eine Rückkehr zu mehr Menschlichkeit. 

Landgrebe: Richtig. 

Schröder: Lieber Herr Dr. Landgrebe, vielen Dank, dass Sie da waren.