Yuval Noah Harari (geboren 1976) ist ein israelischer Historiker. Er hat 2011 seine Vorlesungen an der Hebräischen Universität von Jerusalem zu einem Buch zusammengefasst, in Hebräisch, unter dem Titel «Sapiens. Eine kurze Geschichte der Menschheit». 2014 wurde es zuerst auf Englisch und dann in alle möglichen Sprachen übersetzt zu einem Bestseller. Seither ist Harari eine Art Untergangsprophet der Menschheit. Das liegt an seiner Kernthese, die er in späteren Büchern nicht wesentlich variierte.

Sie geht so: Ungefähr vor 70000 Jahren vollzog sich beim Homo sapiens, der damals von Afrika aus unterwegs nach Europa und Asien war, eine Veränderung, die Harari «kognitive Revolution» nannte. Vielleicht war es eine Mutation, Archäologen berichten von einer Veränderung der Schädelform, ein runderer Hinterkopf mit entsprechender Vergrösserung des Hirnvolumens, aber sie führte auf jeden Fall dazu, dass Homo sapiens begann, sich mit Fiktionen zu beschäftigen.

Diese Fiktionen waren auf jeden Fall «grösser» als die Wesen, die sie produzierten oder ihnen lauschten – und sie glaubten. Und sie verhalfen diesem Affennachfahren zu einer markanten Verbesserung seiner Kooperationsfähigkeit. Dank Arbeitsteilung und umfassender sozialer Organisation schuf er um sich herum eine immer perfektere technische Umwelt. Im Lauf der Jahrtausende trieb er es so weit damit, dass er heute die Fortdauer seiner Spezies und des von ihr bewohnten Planeten gefährdet.

Natürlich sind wir heute viel schlauer als früher und wissen viel mehr. Aber was wir nicht gelernt haben, ist die Fähigkeit, damit verantwortungsvoll umzugehen. Wie Goethes Zauberlehrling haben wir Kräfte heraufbeschworen, die wir nicht kontrollieren konnten. Harari nennt dieses fehlende Vermögen «Weisheit». Dass es der Menschheit an ihr gebricht, die Klage ist natürlich nicht neu.

Neu ist, wie Yuval Harari die Sache dreht, damit wir die neuste Bedrohung durch die destruktive Seite einer neuen Technologie besser verstehen. Sein neustes Buch trägt den Titel «Nexus». Und darunter versteht er den Ort, «wo die Informationskanäle zusammenlaufen». «Das Computernetzwerk ist zum Nexus, zum Dreh- und Angelpunkt der meisten menschlichen Aktivitäten geworden.» Es geht um die neuste technologische Innovation: die künstliche Intelligenz.

Künstliche Intelligenz wird gemeinhin mit «AI» (artificial intelligence) abgekürzt. Harari schlägt vor, man könnte dies gerade so gut als «Alien Intelligence» bezeichnen. Denn anders, als viele meinen, bewegt sich die künstliche Intelligenz nicht auf die menschliche Intelligenz zu, sondern ist möglicherweise etwas ganz anderes. Mit «Intelligenz» bezeichnen wir gemeinhin die Fähigkeit, Probleme zu lösen. Und das tut die AI natürlich auch. Aber in vielen Fällen können wir nicht nachvollziehen, wie sie es tut. Und wir rechnen ja auch damit, dass sie irgendwie «mehr» kann als wir.

Harari hat grösste Bedenken, ob das gut gehen wird. «KI hat das Zeug, nicht nur den Lauf der Geschichte unserer Spezies zu verändern, sondern die Evolution des gesamten Lebens», schreibt er. Wie kommt er dazu? Indem er das «Storytelling» der Steinzeitler zu einem ersten «Informationsnetzwerk» umfirmiert. Menschen schufen sich immer wieder andere Informationsnetzwerke. Das waren und sind nicht nur gemeinsam geteilte Erzählungen.

Was Harari mit dem Begriff «Information» anstellt, dürfte für einige Leser etwas abenteuerlich anmuten. Aber vielleicht geht es nicht gut anders. Und man versteht schon einigermassen, was er meint. «Information», sagt er, kann zu «Wahrheit» führen. «Information» wäre dann etwas wie «Erkenntnis», ein Wissen über die Wirklichkeit. Damit beschäftigt sich vor allem die Wissenschaft. Information kann durchaus auch falsch sein. Das Informationsnetzwerk der Wissenschaft berücksichtigt das, indem es ein mächtiges «Selbstkorrekturprogramm» installiert hat. Fehler werden aktiv gesucht, eingestanden und nach Möglichkeit sofort korrigiert.

Alle Informationsnetzwerke tendieren dazu, ein Gleichgewicht zwischen Wahrheit und Ordnung zu finden. Mythologie und Bürokratie sind Zivilisations-Informationsnetzwerke, die gesellschaftliche Ordnung befördern. Mythen weisen dem einzelnen Menschen oder Gruppen einen Platz im Kosmos zu. Mächtige Netzwerke wie der Nationalsozialismus oder der Stalinismus haben so funktioniert. Und die Bürokratie teilt die Menschen ein, indem sie selbst gewählte Kriterien anwendet – zum Beispiel teilt sie die Bevölkerung ein in Menschen, welche die Steuern bezahlt haben, und in die, welche sie noch schulden.

Bisher standen Menschen am Anfang und am Ende von Informationsnetzwerken. Medien wie Schrift, Tontäfelchen, Zeitungen oder Bücher, Radio oder Fernsehen, haben nur den Zweck, die Mitglieder zu verbinden. Mit dem Computer ist das anders geworden. Computer können menschlichen Mitgliedern auch helfen, sich miteinander zu verbinden, aber sie können auch selber Mitglieder sein. Und sie können sogar nichtmenschliche Informationsnetzwerke bilden.

Was bedeutet das für unsere Zukunft? (Massen-)Demokratie, so viel ist klar, gibt es nicht ohne Massenmedien. Denn Demokratie bedeutet «Gespräch». Die Bürger tauschen sich aus über die Dinge, die alle angehen. Das funktioniert nur, wenn die Information frei fliesst. Totalitäre Regimes wollen das verhindern. Diskutieren mit einem Computer, mit einem Bot, bringt nichts. Man kann ihn nicht überzeugen. Je länger man mit ihm spricht, desto besser versteht er mich und kann mich noch besser manipulieren.

Harari schlägt vier Grundsätze vor, die eingehalten werden müssen, damit die Demokratie mit den Informationsnetzwerken des 21. Jahrhunderts kompatibel ist: Fürsorge, das Netzwerk darf nur Daten sammeln, die mir helfen; Dezentralisierung, damit kein totalitärer Überwachungsstaat möglich ist; Gegenseitigkeit, wenn das Netzwerk viel über mich weiss, muss ich ebenso viel wissen, zum Beispiel, wie Google funktioniert; und die Systeme müssen Raum für Veränderungen und Ruhe lassen.

Was haben wir für Möglichkeiten, die IT-Netze einzuschränken? Können wir ihnen «höchste Ziele» – moralische oder soziale – einprogrammieren? Das geht nicht, weil die Computer nicht in unsere Lebenswelt «eingebettet» sind. Man kann zum Beispiel Facebook programmieren: Maximiere den User-Nutzen! Und landet dann in einem Sumpf von Hass und Rassismus. Das liegt daran, dass wir bei der Programmierung im Dilemma zwischen universalen Werten und Utilitarismus landen. Es gibt keine in sich selbstverständlichen Werte, sie müssen gerechtfertigt werden, das lässt sich nur machen, wenn man zeigt, dass sie besser als andere sind. Und zu behaupten, dass etwas zum grösstmöglichen Glück führt, blendet mit Sicherheit wichtige Nebenfolgen aus.

Harari hat ein anregendes Buch geschrieben. Anschaulich, mit vielen Beispielen, nicht nur historischen. Die Argumentation mag nicht immer auf der subtilsten begrifflichen Schärfe fundieren, aber sie liefert genug brauchbare Hinweise, damit man sich ein vertieftes Bild machen kann, wie wir uns den Superintelligenzen nähern sollen. Und vor allem: Das Bild ist nicht per se apokalyptisch. Wir können es schaffen. Aber einfach wird es nicht.