“Plug & Pray” (2010)

Ein hervorragender Film über die neuen Entwicklungen im Bereich der “Künstlichen Intelligenz” (Englisch: kurz AI = Artificial Intelligence) im Zusammenhang mit einem der prominentesten Kritiker des heutigen Computerfetischismus, dem vor ungefähr drei Jahren verstorbenen Joseph Weizenbaum, ist “Plug & Pray” von Jens Schanze aus dem Jahre 2010. Es gibt einen vernünftigen Wikipedia-Eintrag zu diesem Film, der einige Grundinformationen enthält.

Wer war Joseph Weizenbaum? Joseph Weizenbaum (* 8. Januar 1923 in Berlin; † 5. März 2008 in Gröben bei Berlin) war ein deutsch-US-amerikanischer Informatiker sowie Wissenschafts- und Gesellschaftskritiker. Weizenbaum bezeichnete sich selbst als Dissidenten und Ketzer der Informatik.

Joseph Weizenbaum entstammte einer jüdischen Berliner Familie, die 1936 in die U.S.A. emigrierte. In den U.S.A studierte er Mathematik, wurde dann Systemingenieur und landete schließlich beim M.I.T (Massachussetts Institute for Technology), erst als Associate Professor, dann als regulärer Professor für “Computer Science“.

1966 veröffentlichte er das Computerprogramm ELIZA. Eliza wurde als Meilenstein der Künstlichen Intelligenz gefeiert, seine Variante Doctor simulierte das Gespräch mit einem Psychologen. Weizenbaum war entsetzt, wie ernst viele Menschen dieses relativ einfache Programm nahmen, indem sie im Dialog intimste Details von sich preisgaben. Dabei war das Programm nie daraufhin konzipiert, einen menschlichen Therapeuten zu ersetzen. Durch dieses Schlüsselerlebnis wurde Weizenbaum zum Kritiker der gedankenlosen Computergläubigkeit. Noch heute gilt Eliza als Prototyp für moderne Chatbots.

Seit dieser Zeit mahnte Weizenbaum den kritischen Umgang mit Computern und die Verantwortung des Wissenschaftlers für sein Tun an. Besonders betonte er, die eigentliche Entscheidungsgewalt müsse immer in menschlicher Hand bleiben, auch wenn künstliche intelligente Systeme als Hilfsmittel zur Informationsbeschaffung herangezogen werden. Er war Mitbegründer der Computer Professionals for Social Responsibility in den USA und Beirat des Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung in Deutschland und Vorsitzender des Wissenschaftlichen Rates am Institute of Electronic Business in Berlin. Während seiner Zeit am MIT verweigerte Weizenbaum die Mitarbeit an der Entwicklung von Waffen und Waffensystemen für den Vietnamkrieg, engagierte sich als kritischer Aufklärer und beteiligte sich an Demonstrationen.

Ab 1996 lebte Weizenbaum wieder in Berlin-Mitte, in der Nähe seiner Tochter Naomi, unweit der ehemaligen elterlichen Wohnung.

Weizenbaum starb im Alter von 85 Jahren an den Folgen eines Schlaganfalls. Mit seiner Ehefrau Ruth hatte er vier Töchter. Er wurde auf dem Jüdischen Friedhof Berlin-Weißensee begraben.

Der Film “Plug & Pray” ist nun geschickt zusammenmontiert aus den kritischen Kommentaren von Joseph Weizenbaum zu den neuen Entwicklungen in der Computertechnologie und im Bereich der Künstlichen Intelligenz und den Interviews mit prominenten Entwicklern und Bildern aus den Laboratorien der Künstlichen Intelligenz.

Joseph Weizenbaum nimmt hier einen dezidiert humanistischen und jeden Größenwahn verneinenden Standpunkt ein, während manche der portraitierten Entwickler von Künstlicher Intelligenz sich an Visionen unbegrenzter technischer Machbarkeit berauschen. Besonders infantil und größenwahnsinnig wirkt hier vor allem der mit unzähligen Preisen und Ehrungen überhäufte Erfinder und Entwickler Raymond Kurzweil.

Raymond “Ray” Kurzweil (* 12. Februar 1948 in Queens, New York City) ist ein US-amerikanischer Pionier der optischen Texterkennung (OCR), Sprachsynthese (computervorgelesene Texte), Spracherkennung, Flachbettscannertechnologie und im Bereich elektronischer Musikinstrumente, insbesondere den Keyboards.

Außerdem ist er ein bekannter Sachbuch-Autor über Themen wie Gesundheit, Transhumanismus, Technologische Singularität und Zukunftsforschung. Kurzweil gilt als einer der bedeutendsten Visionäre der Künstlichen Intelligenz. Im Jahr 2002 schloss er mit der so genannten Long Bet One eine Wette über 20.000 US-Dollar ab, dass im Jahr 2029 ein Computer oder eine „maschinelle Intelligenz“ den Turing-Test bestehen werde.

Raymond Kurzweil, Sohn einer jüdischen Familie aus dem New Yorker Stadtteil Queens, studierte am Massachusetts Institute of Technology Informatik und Literatur und schloss sein Studium 1970 ab. Er wurde für seine Leistungen 2002 in die National Inventors Hall of Fame aufgenommen und erhielt außerdem von Präsident Clinton die National Medal of Technology. Bill Gates spricht von ihm als „führendem Experten im Bereich der Künstlichen Intelligenz“. Die Liste der Ehrungen von Kurzweil ist ellenlang.

In diesem Film allerdings überschlägt er sich in technischen Phantasien, redet von Nanorobotern, die in zwanzig Jahren in den Arterien und Venen des Menschen jede Zellveränderung stoppen oder rückgängig machen können, nicht nur jede Krankheit besiegen, sondern sogar den Alterungsprozess rückgängig machen können, kurz: In wenigen Jahrzehnten, so Kurzweil, wird der Mensch unsterblich sein.

Sein Gehirn kann er in einigen Jahrzehnten Dank der fortgeschrittenen Computertechnologie entsprechend aufmotzen, er wird daher unendlich viel intelligenter als der Mensch heute sein, er wird sein Gehirn komplett per Abspeicherung verwalten und upgraden können, so Kurzweil in durchaus ernsthaftem Ton.

Schon jetzt verkauft Kurzweil Nahrungsmittelzusätze, von denen er behauptet, dass sie Krankheiten verhindern und den Alterungsprozess verlangsamen können, und stellt den Konsumenten dieser Nahrungsmittelzusätze in Aussicht, dass sie dann vielleicht sogar den Zeitpunkt erreichen, an dem der Mensch Dank fortgeschrittener Technologie unsterblich wird.

Ich will hier in diesem Blogeintrag die Verdienste des genialen Erfinders Kurzweil nicht schmälern, aber seine Visionen wirken in diesem Film ebenso verstiegen wie maßlos und letztendlich pubertär.

Wer glaubt, durch technischen Fortschritt allein alle Menschheitsprobleme lösen zu können, macht sich offensichtlich nicht klar, dass der Mensch ihm eigene Begrenzungen und Defekte hat, nicht nur im körperlichen, sondern gerade auch im Geistigen, Psychologischen und letztlich Philosophischen, Begrenzungen und Defekte, die selbst mit noch so viel Technologie kaum zu überwinden sind.

Doch gerade dieser technische Machbarkeitswahn scheint für die Menschheit eines der Hauptprobleme seit Beginn der Aufklärung zu sein. Das Versprechen eines künstlichen, technisch gestalteten Paradieses ist eine Vision, von der sich viele Menschen bis heute verleiten und blenden lassen. Sie machen sich dabei nicht klar, dass sich die Technik immer dialektisch entfaltet.

Im Klartext: Die Atomspaltung kann sowohl der friedlichen Nutzung der Kerntechnik als auch dem Bau von Atombomben dienen, ein Computer kann in der Hand eines Mediziners Menschen heilen, in der Hand von Militärs menschliches Leben vernichten. Ob die Technik uns letztendlich von unserer eigenen Unzulänglichkeit befreien kann, sei hiermit bezweifelt. Vielmehr schafft sie Instrumente, die manchmal dienlich sind und unser Leben verbessern, aber machmal eben auch Instrumente, die uns alle bedrohen (man denke nur an die jahrzehntelange Gefahr eines globalen Atomkrieges während des Kalten Krieges).

Und was wäre auch gewonnen, wenn wir ewig leben würden? Joseph Weizenbaum selbst hielt den Tod, auch seinen eigenen, für notwendig, als ein unumgänglicher Dienst an den kommenden Generationen, die vom Ballast der vorhergegangenen Generationen befreit werden müssen und ihren eigenen Weg, ihre eigene Gesellschaft gestalten müssen, jede Generation zu ihrer Zeit.

Würden die Menschen ewig leben, so würde dies in einer gesellschaftlichen Stagnation enden, denn verändern und neu gestalten tun die Welt immer die jüngeren, nachfolgenden Generationen, während die alten die beharrenden und etablierten Schichten repräsentieren, die ihren Weg schon gemacht und gefunden haben.

So ist der Tod letztendlich Teil des Lebens. Der Mensch überlebt eben nicht als Individuum, sondern als Gattung, wer ewig leben will, kann dies nur über seine Nachkommen tun, das ist die Ordnung der Natur, von der Kurzweil in diesem Film überheblich meint, dass sie auf den Menschen nicht zutreffen müsse, da der Mensch das Lebewesen sei, das sich seit jeher über die Grenzen der Natur hinwegsetzt. Ob sich der Mensch allerdings damit einen Gefallen tut, sei hier eindeutig bezweifelt.

Auch sonst zeigt der Film interessante Bilder aus den Laboratorien der Robotik und Künstlichen Intelligenz. Sicher, es gibt hier interessante, neue Entwicklungen und die Roboter wirken heute schon stellenweise beseelt, intelligent, in gewisser Weise menschlich, auch wenn sie weit entfernt sind von der Leistungsfähigkeit intelligenter Menschen.

Doch selbst wenn die versprochenen leistungsfähigen, mithin menschlichen Roboter kommen sollten, darf man sich mit Weizenbaum fragen, ob wir das überhaupt so wollen. Weizenbaum hat sich immer gegen die Verschmelzung des Bereichs des Menschlichen mit dem Bereich der Maschinen gewehrt, dass heißt gegen den Glauben, der Mensch sei einem Computer vergleichbar, also eine Art Maschine, bzw. der Computer sei einem Menschen vergleichbar, könne also jemals tatsächlich denken oder fühlen wie ein Mensch. Daher aus sein Entsetzen, als er bemerkte, dass viele Menschen Eliza wie eine Art menschlichen Therapeuten behandelten und mit diesem Programm redeten, als sei es ein Mensch.

Es war vor allem sein Anliegen in seinem ersten, kritischen Buch zur Computertechnologie, Die Macht der Computer und die Ohnmacht der Vernunft von 1977, auf die eindeutigen Unterschiede zwischen der Denkweise des Menschen und dem “Denken” des Computers (das nichts mit dem menschlichen Denken zu tun hat, sondern nur auf reinen Rechenoperationen beruht) hinzuweisen und davor zu warnen, dem Computer menschliche Aufgaben zu übertragen (wie zum Beispiel die für die ganze Menschheit damals vitale Entscheidung zwischen Krieg und Frieden während des Kalten Krieges. Weizenbaum gesteht in diesem Buch zu, dass solche eine Entscheidung computergestützt gefällt werden kann, aber die letztendliche Entscheidung nie der Computer fällen darf, sondern nur die Generäle, bzw. der Präsident der Vereinigten Staaten).

Insofern müssen wir uns fragen, ob wir “menschliche” Roboter haben wollen oder eben Wissenschaften, die uns einreden wollen, wir Menschen seien in gewisser Weise nur eine Art Maschine.

Der Film also als Ganzes, und nicht nur Weizenbaums Kommentare, regt zum Nachdenken an und ist mit Recht mit zahlreichen Preisen ausgezeichnet worden.

Man kann den Film unter anderem bei amazon.de kaufen.

Creative Commons Lizenzvertrag“Plug & Pray” (2010)Klaus Gauger steht unter einer Creative Commons Namensnennung-NichtKommerziell-KeineBearbeitung 3.0 Unported Lizenz.

5 thoughts on ““Plug & Pray” (2010)

  1. Was Herr Weizenbaum mit seiner ELIZA entwickelt hat, war ein toller Fortschritt. Nur die Gesellschaft kann damit nicht umgehen. Heute wird diese Entwicklung in der Cyberworld verwendet und führt dazu, daß viele Menschen lieber in dieser Welt aktiv sind als in der Realität.

    Like

    • Liebe Henriette,

      das hast Du völlig Recht. Die heutigen Chat-Bots funktionieren im Prinzip nach dem gleichen Prinzip wie ELIZA (http://en.wikipedia.org/wiki/Chatterbot).
      Aber ich will lieber mit echten Menschen sprechen anstatt mit Maschinen. Selbst wenn man einen perfekten Therapie-Bot programmieren könnte, wäre mir ein Mensch lieber. Deinen Blog habe ich mir auch schon angeschaut, sehr interessant.

      Dir noch eine gute Zeit, ich habe mich über Deinen Kommentar gefreut.

      Like

  2. Hi Henriette,

    Deinen Artikel über die Computer-Nanny finde ich auch gut. Wie gesagt, ich habe Deinen Blog mit meinem verlinkt. Wir haben anscheinend teilweise ähnliche Themen.

    Like

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Change )

Twitter picture

You are commenting using your Twitter account. Log Out / Change )

Facebook photo

You are commenting using your Facebook account. Log Out / Change )

Google+ photo

You are commenting using your Google+ account. Log Out / Change )

Connecting to %s