Yuval Noah Harari: “Die Wahrheit wird unter einer Flut von Fantasie, Wahn und Fiktion zu Grunde gehen”

Ist die künstliche Intelligenz der Anfang vom Ende? In der “STERN STUNDE” warnt Yuval Noah Harari vor den Gefahren – und erklärt, wieso Diktatoren am meisten Angst vor ihr haben.

Historikern haftet mitunter ein dröges Image an, bei Yuval Noah Harari ist das anders: Der israelische Historiker und Schriftsteller legte 2011 mit “Sapiens” ein Buch über die Geschichte der Menschheit vor, das weltweit mehr als zehn Millionen mal verkauft wurde. Nun erschien sein Buch “Nexus”, in dem Harari, einer der bedeutendsten Intellektuellen unserer Zeit, vor den Gefahren der künstlichen Intelligenz warnt.

Auf der Frankfurter Buchmesse sprach Yuval Noah Harari am Donnerstagnachmittag bei der “STERN STUNDE” mit stern-Chefredakteur Gregor Peter Schmitz. Lesen Sie in dieser Zusammenfassung die wichtigsten Aussagen:

Das sagte Yuval Noah Harari über …

• … die Gefahren der künstlichen Intelligenz (KI): “Das schlimmstmögliche Ergebnis ist, dass wir die Kontrolle über die Welt, über unser Leben, über unsere Zukunft verlieren. Die künstliche Intelligenz ist die erste Technologie in der Geschichte, die kein Werkzeug, sondern ein Agent ist. Jede frühere Technologie in der Geschichte, die Druckerpresse, das Radio, die Atombombe, sie waren Werkzeuge in unseren Händen. Wir haben entschieden, was wir mit ihnen machen wollen. Eine Druckerpresse konnte sich nicht entscheiden, ob sie ein weiteres Exemplar der Bibel druckt oder ob sie Kopernikus oder Darwin druckt. Es war ein Mensch, der entschied. KI ist anders. Sie kann auch selbst neue Dinge erfinden, von neuen Medikamenten bis hin zu neuen Waffen.”
• … die digitale Evolution: “So wie wir mit dem Evolutionsprozess organischer Wesen vertraut sind, stehen wir jetzt am Anfang eines ähnlichen evolutionären Prozesses für nicht-organische Wesen, nicht-organische Intelligenz. Und weil es nicht biologisch ist, bewegt es sich viel, viel, viel schneller. Die digitale Evolution ist millionenfach schneller als die organische Evolution. Wenn ChatGPT die Amöbe ist, wie würde KI-Tyrannosaurus Rex aussehen? Es wird passieren. Nicht in vier Milliarden Jahren. Es wird hier sein, in 20 oder 40 Jahren.”

STERN PAID 37_24 Yuval Noah Harari 05.53

• … den schweren Stand der Wahrheit: “Die meisten Informationen sind nicht die Wahrheit. Die Wahrheit ist eine sehr seltene und kleine Teilmenge von Informationen in der Welt, weil die Wahrheit teuer ist. Man muss Zeit, Mühe und Geld investieren, um die Wahrheit zu finden, während Fiktion, Fantasien und Lügen sehr billig sind. Die Wahrheit neigt dazu, kompliziert zu sein, weil die Realität kompliziert ist. Fiktion kann so einfach gemacht werden, wie man es gerne hätte. Die Wahrheit neigt dazu, manchmal schmerzhaft und unattraktiv zu sein. Es gibt Dinge, die wir nicht über uns selbst wissen wollen, über die Welt, über unser Land. Die Wahrheit zwingt uns, uns mit manchmal schmerzhaften Dingen auseinanderzusetzen, während Fiktion so angenehm und attraktiv gestaltet werden kann, wie man es gerne hätte. In einer Art völlig freiem Informationsmarkt wird die Wahrheit unter einer Flut von Fantasie, Wahn und Fiktion zu Grunde gehen.”
• … die Angst der Diktatoren: “Diktatoren haben viel mehr Angst vor Chatbots als Demokratien, weil sie nicht wissen, wie sie sie kontrollieren können. Sie können die besten russischen Ingenieure einen Chatbot entwerfen lassen, der das Putin-Regime unterstützt. Sobald man ihn in die Welt entlässt, in den Cyberspace, beginnt er zu interagieren. Der springende Punkt der KI ist, dass sie von selbst lernen und sich verändern kann. Wie stellen Sie sicher, dass der Putin-Chatbot nicht anfängt, Dinge zu lernen und Dinge zu sagen, die er nicht sagen soll? Wenn man sagt, dass der Krieg in der Ukraine ein Krieg ist, kommt man nach russischem Recht ins Gefängnis, weil es kein Krieg ist, sondern eine “militärische Spezialoperation”. Was passiert nun, wenn der Chatbot, der von Putins Ingenieur entworfen wurde, ein paar Tage im Internet verbringt, in einem russischen Wörterbuch die Definition von Krieg liest, und dann anfängt, den Leuten zu erzählen, dass dies ein Krieg ist? Was tut man dann? Schickt man den Chatbot in den Gulag?”

Künstliche Intelligenz 11.00

• … den russischen Angriffskrieg: “Ich werde oft gefragt, was der Unterschied zwischen dem Krieg in der Ukraine und dem Krieg im Nahen Osten, im Sudan und in Myanmar ist. Es gibt einen großen Unterschied. Das größte Tabu des internationalen Systems war, dass man ein unabhängiges Land nicht zerstören kann, nur weil man stärker ist. Selbst wenn du die militärische Fähigkeit hast, darfst du es nicht einfach erobern. Es gab viele andere Kriege, Revolten, Aufstände, Bürgerkriege, mit Millionen von Toten. Aber dieses Tabu hielt sich – und das ist es, was jetzt in der Ukraine bedroht wird. Das ist der alte Imperialismus, der zurückkommt.”
• … die westliche Unterstützung für die Ukraine: “Wenn genügend Länder die Ukraine weiterhin unterstützen und nicht nur Putin, sondern auch anderen Diktatoren auf der ganzen Welt die Botschaft vermitteln, dass man nicht einfach ein anderes Land erobern kann, weil man stärker ist, dann wird das die Ordnung aufrechterhalten. Aber wenn wir schwanken, ist es wie auf einem Schulhof: Wenn irgendein Tyrann auf einem kleinen Kind herumhackt und anfängt, es zu verprügeln, schauen alle Kinder zu, um zu sehen, was passiert. Wenn der Mobber damit durchkommt, dann ist das die neue Norm der Schule. Wenn der Mobber gestoppt wird, wissen die Kinder, dass man das nicht tun kann.”

STERN PAID 42_24 Ökobilanz_1345

• … den Krieg im Nahen Osten: “Das grundlegendste Prinzip der modernen Kriegstheorie, das von Karl von Clausewitz geprägt wurde, ist, dass Krieg die Fortsetzung der Politik mit anderen Mitteln ist. Man kann alle Siege auf dem Schlachtfeld gewinnen. Wenn man das nicht in eine politische Lösung umsetzen kann, hat man nichts erreicht. Es gibt zwei Optionen, beide sehr schlecht. Eine davon ist, dass die israelische Regierung einfach keine politische Vision hat. Sie managt den täglichen Krieg, aber sie hat keinen Plan, wie sie das in eine Art politische Vision umsetzen kann. Was wird hier in fünf Jahren, in zehn Jahren und in 20 Jahren sein? Die andere Möglichkeit ist, dass sie eine politische Vision hat, die so schlimm ist, dass sie sich weigert, sie auszusprechen.”
• … den Einfluss von künstlicher Intelligenz auf Religionen: “KI kann alle Religionen verändern. Was die Juden im Grunde 2000 Jahre lang getan haben, ist, Texte über Texte zu schreiben. Kein jüdischer Rabbiner war jemals in der Lage, alle Texte zu lesen. Das war einfach menschlich unmöglich. Sie lasen die Bibel und den Talmud und einige Interpretationen, aber nicht alles. Künstliche Intelligenz ist das erste Ding in der Geschichte, das jeden einzelnen jüdischen Text lesen kann, der jemals geschaffen wurde. Und sich alles perfekt merken und Muster im Text finden kann, die alle Rabbiner übersehen haben. Was passiert mit der Autorität im Judentum, wenn man eine nicht-menschliche Intelligenz hat, die textlich tatsächlich mehr Autorität hat als die größten Rabbiner?”