Des médias français ont un peu rapidement présenté Nexus (Albin Michel) comme un livre sur l’intelligence artificielle. C’est comme réduire le Nouveau Testament au Livre de l’Apocalypse. Car dans cette fresque vertigineuse, dix ans après Sapiens, Yuval Noah Harari revient une nouvelle fois sur l’histoire de l’humanité, mais à travers les réseaux d’information. Des mythes anciens jusqu’à l’IA en passant par la Bible, l’imprimerie et les médias de masse, l’historien israélien, professeur à l’université hébraïque de Jérusalem, montre comment chaque révolution technologique a entraîné de profonds bouleversements politiques, économiques et sociaux, pour le meilleur comme le pire.
Considéré comme l’un des intellectuels les plus influents de la planète, l’homme aux 45 millions d’ouvrages vendus livre à L’Express ses analyses percutantes sur la technologie, les religions, les mythes nationaux et le monde de demain. Un an après le 7 octobre, il se confie aussi comme jamais sur le conflit au Moyen-Orient, et exprime le désarroi des progressistes israéliens laïcs qui doivent aujourd’hui se battre “sur trois fronts” : contre le Hamas et le Hezbollah, contre le Premier ministre Benyamin Netanyahou et contre une partie des progressistes occidentaux qui appellent à boycotter tout ce qui vient d’Israël…
L’Express : Pourquoi vouliez-vous retracer l’histoire des réseaux d’information ?
Yuval Noah Harari : En tant qu’historien, je pense que vous ne pouvez vraiment comprendre une révolution, surtout si vous êtes en plein dedans, qu’en faisant un retour dans le passé. J’ai rencontré récemment en Californie l’une des personnes les plus importantes de l’IA. Il m’a dit que tout était si lent, et qu’il ne comprenait pas les craintes au sujet de cette technologie. ChatGPT a été lancé il y a deux ans et cela n’a pas changé le monde. Du point de vue de la Silicon Valley, quelques mois sont donc une éternité. Mais la première ligne ferroviaire avec passagers a été ouverte en 1830. C’est comme si nous étions aujourd’hui en 1832, et que des entrepreneurs ferroviaires disaient “le train n’a vraiment rien changé” [Rires.].
Il y a selon vous deux visions dominantes sur l’information : la vision naïve qui considère que plus d’information ne peut que nous rendre plus intelligents et sages, et la vision populiste qui conçoit l’information comme une arme et une lutte de pouvoir…
La vision naïve, c’est l’idée que l’information correspond à la vérité. Plus vous avez d’information, plus vous accumulez du savoir et de la sagesse. C’est le cas parfois ! Mais la majorité de l’information ne cherche nullement la vérité. Car la vérité est compliquée, demande beaucoup d’énergie et de temps. Vous êtes journaliste, je suis un historien, nous savons que si nous voulons écrire quelque chose de vrai sur un sujet, il faut passer beaucoup de temps à faire des recherches et des vérifications. Raconter une fiction est bien plus facile.
Cela s’est vérifié maintes fois dans l’histoire. L’invention de l’imprimerie en 1450 n’a pas mené à la révolution scientifique, comme on le pense souvent. Il y a eu presque deux cents ans entre Gutenberg et Newton ! Entre-temps, il y a eu une vague de guerres de Religions et de chasses aux sorcières, en grande partie alimentée par l’imprimerie. L’un des plus grands best-sellers du début de l’époque moderne n’a pas été Des révolutions des orbes célestes de Copernic, dont le premier tirage de 400 exemplaires en 1543 ne fut même pas épuisé, mais Le Marteau des sorcières, sorte de manuel des techniques à utiliser pour démasquer les sorcières et les mettre à mort, et qui décrit une conspiration mondiale.
A l’inverse, la vision populiste nous explique qu’il n’y a rien de tel que la vérité, et que tout ce qui compte, c’est une lutte de pouvoir. Quand des personnes prennent la parole ou écrivent, elles ne chercheraient même pas à dire la vérité, simplement à manipuler les opinions pour gagner plus de pouvoir. Cette vision est défendue par des populistes de droite, mais aussi par la gauche radicale. Donald Trump et Karl Marx sont d’accord sur ce point. Cette vision est profondément antidémocratique, car elle détruit toute confiance sociale dans les institutions – médias, science, justice… – qui ne seraient que des instruments d’un complot pour gagner du pouvoir.
Mais sur le long terme, les “naïfs” n’ont-ils pas raison ? L’humanité a fait des progrès inouïs en termes d’espérance de vie, et nous avons découvert les origines de l’univers…
Les humains ont effectivement appris de nombreuses choses sur l’univers, la médecine ou la physique. Mais ils restent très vulnérables aux désillusions de masse, au pouvoir des mythologies ou des idéologies. Vous noterez que les scientifiques sont très souvent commandés par des experts en mythologies, et non l’inverse. En Iran comme en Israël, les physiciens nucléaires reçoivent des ordres d’experts en théologie chiite ou juive qui sont au pouvoir. Alors certes nous avons plus de connaissances, mais celles-ci sont mises au service d’idéologies et de mythologies parfois délirantes.
Les vrais auteurs de la Bible ne sont pas ceux qui l’ont écrite, mais ceux qui ont décidé quels textes y figurent ou non.
Les mythologies et la bureaucratie sont selon vous les deux piliers de chaque société humaine à grande échelle. Pourquoi ?
Pour gérer une société complexe, il faut les deux. Si vous avez une tribu de vingt personnes, vous pouvez vous en passer. Mais si avez une population de 20 millions de personnes, vous avez besoin de listes – budgets, salaires, factures, prêts… -, mais aussi de justifications à cet appareil bureaucratique. Vous ne pouvez pas simplement taxer les personnes. C’est là qu’intervient la mythologie. Listes et histoires sont donc complémentaires. Les mythes nationaux donnent de la légitimité à la bureaucratie, tandis que cette dernière permet de mettre en œuvre les grandes visions véhiculées par ces fictions.
On voit, encore aujourd’hui, que des Etats peuvent être incroyablement sophistiqués et rationnels dans leurs fonctionnements, mais que leurs dirigeants peuvent être influencés par les mythologies les plus étranges. Regardez le conflit au Moyen-Orient. Mon pays, Israël, a été capable de faire exploser des bipers du Hezbollah. Imaginez la rationalité qu’il a fallu pour mettre en œuvre un plan si complexe ! Mais, très souvent, cette rationalité est mise en service de mythologies folles venant de la théologie juive.
Les religions associent des dogmes supposés infaillibles à des institutions humaines qui ne peuvent être que faillibles…
Les religions assurent avoir accès à des sources infaillibles de vérités et de connaissances, qui proviennent d’intelligences divines. Mais à la fin, le pouvoir se retrouve toujours entre les mains d’institutions humaines. Car les textes sacrés, comme la Bible ou le Coran, peuvent être interprétés de bien des façons. C’est une institution humaine qui décrète qu’elle est la bonne interprétation. Mais, même avant ça, il a fallu choisir quoi mettre dans ces livres saints. Là encore, ce sont des humains qui ont fait des sélections. La Bible ne provient pas des cieux. Jésus n’a pas écrit le Nouveau Testament. Pendant plus de trois siècles, il y a eu de nombreux évangiles, épîtres, prophéties et paraboles en circulation. Face à cet afflux de textes se contredisant, l’Eglise a réalisé qu’il fallait une liste recommandant les textes à lire. Les conciles d’Hippone et de Carthage, à la fin du IVe siècle, ont canonisé cette liste de recommandations, passée à la postérité sous le nom de Nouveau Testament. Ces choix faits par des éditeurs ont eu une portée considérable, notamment pour le rôle des femmes dans l’Eglise. Mais le même phénomène s’était déjà produit avec l’Ancien Testament, dont les textes ont été sélectionnés par des rabbins. Les vrais auteurs de la Bible ne sont donc pas ceux qui l’ont écrit, mais ceux qui ont décidé quels textes y figurent ou non.
Ce pouvoir immense des éditeurs, on peut toujours l’observer dans le monde moderne. Dans un journal imprimé, vous écrivez un article, mais c’est l’éditeur qui, en décidant de le mettre en Une ou de l’écarter, a le vrai pouvoir. Or, aujourd’hui, le travail d’éditeur n’est déjà plus le fait des humains. Le premier emploi à avoir été automatisé par la technologie numérique n’est pas chauffeur de taxi, mais éditeur. Les plus importants médias actuels – Google, Facebook, X, TikTok…- ont des éditeurs non-humains. Qui décide de ce qui sera mis en avant ? Des algorithmes. L’une des plus importantes fonctions dans le monde a déjà été complètement automatisée.
Chaque révolution technologique a bouleversé les sociétés existantes. Mais les médias de masse ont par exemple permis les démocraties à grande échelle, tout comme les totalitarismes…
Avant l’émergence des médias de masse, il n’y avait aucun moyen pour des millions de personnes dispersées sur un territoire vaste de tenir un débat public. La démocratie, c’est essentiellement une conversation. Mais il y a une difficulté technique : comment autant de personnes peuvent-elles se parler entre elles en temps réel ? Dans le monde antique, seules des petites cités comme Athènes ou la République romaine pouvaient donc le faire. Une partie importante des citoyens se rassemblaient sur une place, agora ou forum. Mais il n’y a eu aucun exemple d’une démocratie à grande échelle.
Avec les médias de masse – d’abord les journaux, puis le télégraphe, la radio, la télévision…-, cela rend possible les démocraties à grande échelle. Mais ils permettent aussi les régimes totalitaires à grande échelle. Dans un régime autoritaire, une personne ou un petit nombre détient le pouvoir politique. Mais ils n’essaient pas de micro-manager la vie quotidienne de la population. A l’inverse, les régimes totalitaires tentent de tout dicter. Dans l’Union soviétique, même si vous viviez dans une ferme éloignée de Moscou, c’est l’autorité centrale qui décidait si vous deviez cultiver des choux ou des céréales. Là encore, dans le monde antique, seules des petites cités comme Sparte ont pu tenter de créer un tel régime. Mais l’Empire romain n’était nullement totalitaire.
Nombre des peurs au sujet des technologies étaient en réalité justifiées!
La même technologie a ainsi permis des démocraties comme des régimes totalitaires de masse. C’est toute l’ironie de la technologie. Elle débouche sur des résultats souvent contradictoires et paradoxaux.
Vous semblez penser que la révolution numérique est la principale cause de la radicalisation du paysage politique depuis les années 2010. Vraiment ?
Prenez la France. Pour expliquer la radicalisation de votre vie politique, on peut avancer des explications locales, comme l’histoire française, l’immigration… Mais vous voyez les mêmes phénomènes se reproduire dans des sociétés avec des cultures et des histoires très différentes. La même chose s’est passée au Brésil, en Israël, en Inde, aux Etats-Unis… J’étais récemment à Toronto. Je pensais que le pacifique Canada échappait à cela. Mais les gens sur place m’ont dit que c’était devenu aussi fou que partout ailleurs. Il se passe donc quelque chose de manière simultanée au niveau mondial. L’explication la plus plausible, c’est la technologie. Et cela fait sens, car une fois que vous prenez conscience du fait que la démocratie s’est fondée sur la technologie de l’information, vous comprenez qu’une nouvelle révolution comme le numérique représente un vrai séisme.
Aujourd’hui, les réseaux sociaux sont le premier moyen de s’informer. Et ces réseaux sont dirigés par des algorithmes qui ont une mission très claire : augmenter l’engagement des consommateurs. Or le meilleur moyen pour cela, c’est de diffuser de l’indignation, de la haine, de la peur, de la colère. Souvenez-vous des années 1960. Sur le fond, les oppositions idéologiques étaient alors bien plus fortes qu’aujourd’hui. Mais le niveau actuel d’animosité et de colère est, lui, inédit.
Pourquoi l’IA est-elle une technologie sans précédent dans l’histoire ?
C’est la première technologie de l’histoire qui peut prendre des décisions et créer de nouvelles idées par elle-même. L’imprimerie ne pouvait pas écrire des livres ni décider quel livre copier. Les humains prenaient toutes les décisions cruciales. De la même façon, les bombes atomiques ne décident pas quelles villes elles doivent détruire. Et les bombes atomiques ne peuvent pas inventer de nouvelles bombes. L’IA, elle, peut faire tout ça ! Elle est son propre agent. Les algorithmes des réseaux sociaux sont des IA très primitives, mais ils prennent déjà des décisions par eux-mêmes. Ils ont un objectif fixé par des humains, mais quand les personnes postent une vidéo conspirationniste ou un cours de biologie, c’est l’algorithme qui décide de promouvoir le contenu conspirationniste.
Le problème, c’est que nous submergeons le monde avec des millions d’agents indépendants. Il est très difficile de réguler, car nous n’avons jamais connu cela dans l’histoire. Toutes les technologies précédentes renforçaient nos pouvoirs, car nous, humains, restions les décideurs. Mais aujourd’hui, les IA peuvent décider du destin d’un humain. Bénéficier d’un prêt dans une banque relève de plus en plus d’une décision d’une IA. Dans la guerre actuelle à Gaza et au Liban, l’IA est employée pour décider de quelle cible frapper. Dans les films de SF, vous voyez des robots tueurs contrôlés par des humains. Mais c’est l’exact inverse qui se produit ! Ce sont les humains qui tirent, mais l’IA qui donne de plus en plus les ordres en identifiant des immeubles ou des personnes. Cela révolutionne les guerres d’une façon inattendue.
Toute nouvelle technologie n’a-t-elle pas créé des paniques morales ridicules a posteriori ? Des médias ont craint que la voiture ne transforme les cerveaux des humains du fait de la vitesse. A la fin du XIXe siècle, le New York Times a prédit que le téléphone à fil signifiait la fin de nos vies privées…
Nombre de ces peurs étaient en réalité justifiées ! Quand on considère les révolutions technologiques, on se focalise souvent sur le début et la fin. Prenez la révolution industrielle. Si on compare la fin du XVIIIe siècle à celle du début des années 2000, il ne fait aucun doute que l’existence de la majorité des habitants de cette planète a été améliorée de manière spectaculaire. Les humains vivent plus longtemps, ont plus de nourriture, plus de médicaments. Mais le chemin entre les deux n’a pas été une ligne droite, ce sont plutôt des montagnes russes. Prendre un train à vapeur n’a bien sûr pas transformé votre cerveau. Le problème, c’est que même des technologies très bonnes créent des bouleversements politiques, sociaux et économiques. Les sociétés doivent donc expérimenter, car elles n’ont pas de modèle à suivre pour ces nouvelles technologies. Au XIXe siècle, les pays industrialisés ont par exemple été poussés à l’impérialisme. Pourquoi ? Car l’industrie requiert des matières premières comme des marchés. Tous les pays industrialisés, jusqu’à la Belgique, ont donc construit des empires coloniaux. Nous savons aujourd’hui que c’était une erreur, et qu’on n’a pas besoin de colonialisme pour une société industrielle. Mais à l’époque, les gens ne le savaient pas et cet impérialisme a fait des millions de morts et de victimes. De même, le communisme et le fascisme ont aussi reposé sur des sociétés industrielles.
Aujourd’hui, c’est la même chose avec l’IA. Cette technologie a des potentiels positifs gigantesques. L’IA peut être la meilleure technologie de l’histoire, fournissant aux humains les meilleurs soins ou la meilleure éducation. Elle peut nous aider face au réchauffement climatique. Mais nous ne savons pas comment construire une société basée sur l’IA. Si nous devons passer par un autre cycle d’impérialismes, de totalitarismes et de guerres mondiales, cela serait terrible. Mon message n’est donc pas d’arrêter le développement de l’IA. Cela est non seulement irréaliste, mais aussi non souhaitable, car les potentiels sont énormes. Je veux simplement rappeler que les humains ont besoin de temps pour s’adapter à une nouvelle technologie. Ralentissons donc un peu.
Quelles sont les conséquences géopolitiques de l’IA ? Selon vous, un “rideau de silicone” pourrait bien succéder au rideau de fer de la guerre froide…
Nous voyons déjà une guerre froide technologique entre les Etats-Unis et la Chine, avec des embargos sur les microprocesseurs de pointe. Les Américains mettent la pression sur leurs alliés pour ne plus dépendre de la technologie chinoise et la Chine fait de même. Le monde est en train de se diviser en des blocs numériques différents. Cela pourrait évoluer vers des empires rivaux, comme du temps de la révolution industrielle au XIXe siècle. Peu de pays sont en pointe de la révolution de l’IA. Ils pourraient donc fournir le reste du monde, empocher la majeure partie des profits et bénéficier d’avantages militaires considérables. Après des décennies de convergence entre les différentes régions du monde, on pourrait à nouveau assister à une grande divergence, comme au XIXe siècle, quand une poignée de pays industrialisés – Royaume-Uni, France, Etats-Unis, Japon… – ont conquis et exploité le monde entier.
Dans Homo Deus, vous imaginiez déjà une religion basée sur les données. Ici, vous envisagez même un Etat dirigé par un super-ordinateur. Est-ce vraiment réaliste ?
Aujourd’hui, l’IA est toujours une intelligence relativement limitée. Elle maîtrise un secteur précis, mais ne peut agir dans différents domaines. Cependant, dans des systèmes bureaucratiques comme le sont les Etats ou les religions, une IA même restreinte pourrait avoir une influence forte. Dans la finance ou le secteur militaire, on voit déjà les IA prendre de plus en plus de décisions. Dans le domaine religieux, comme je vous le disais, les livres sacrés ne vous parlent pas. Si vous avez une question au sujet de la Bible, il faut donc vous adresser à un humain. Avec une IA, on pourrait imaginer une interface avec les fidèles. Prenez le judaïsme. Même le rabbin le plus intelligent peut seulement lire une petite partie de tous les textes religieux. Bien sûr, il a lu la Bible, la Mishna et le Talmud, tout comme certaines interprétations. Mais une IA, elle, est capable de digérer tous les textes religieux et d’en tirer des conclusions. On n’échappera sans doute pas à un enseignement religieux par IA. La technologie ne jouera aucun rôle pour une religion plus primitive sans textes, avec simplement des rituels ou du chamanisme. Mais une religion qui sanctifie des textes, comme le judaïsme ou le christianisme, ne pourra qu’être influencée par des super-intelligences.
J’insiste sur le fait qu’Israël ne se résume pas à Netanyahou
Quelle éducation recommandez-vous dans un monde de plus en plus dominé par l’IA ? Vous soulignez que nous accordons plus de valeurs aux compétences intellectuelles que manuelles ou sociales, alors même que ce sont ces compétences intellectuelles qui sont les plus facilement remplaçables par l’IA…
L’important, c’est d’enseigner un large éventail de compétences. Apprendre seulement à coder en se disant que nous vivons dans un monde dominé par l’informatique, c’est risquer de parier sur le mauvais cheval, car il se pourrait bien que dans cinq ou dix ans, l’IA codera tellement mieux que les êtres humains qu’il n’y aura plus besoin de codeurs. Il est donc plus prudent de disposer d’une large boîte à outils, et de trouver un équilibre entre compétences intellectuelles, sociales et manuelles. Ce que certains résument, de manière métaphorique, par l’esprit, le cœur et les mains.
Mais, à cause des changements rapides qui vont avoir lieu, la chose la plus importante à l’avenir sera la capacité à apprendre, à changer et à se réinventer tout au long de son existence. Personne ne sait réellement à quoi ressemblera le marché du travail dans vingt ans, si ce n’est qu’il sera très différent d’aujourd’hui.
Vous évoquiez le conflit au Moyen-Orient. Votre pays, Israël, semble l’emporter sur le plan militaire, mais n’a-t-il pas largement perdu la guerre de l’information ?
Ces dernières semaines, Israël a connu de grands succès militaires. Mais nous savons qu’Israël a de très bonnes capacités militaires, mais qu’il réussit nettement moins bien à transformer des victoires militaires en accords politiques qui garantissent la paix et la stabilité sur le long terme. Or la règle la plus basique de la théorie militaire, comme la définit Clausewitz, est que la guerre est la continuation de la politique par d’autres moyens. Remporter des succès militaires sans les transformer en succès politiques ne sert absolument à rien. Vous pouvez gagner toutes les batailles et toujours perdre la guerre. Quant à la sphère informationnelle, Israël a effectivement un gros problème, et se retrouve dans une situation bien pire qu’il y a un an. Il y a une haine non seulement des Israéliens, mais des juifs dans le monde entier. Cette vague d’antisémitisme est bien pire que ce qu’on avait connu ces dernières années.
Mon problème avec le gouvernement israélien, c’est qu’il ne semble avoir aucun plan, et qu’il ne se préoccupe que de succès militaires à court terme. Individuellement, Netanyahou veut bien sûr assurer sa propre survie politique. Mais quel est le plan sur le long terme ? Nous avons conquis Gaza, mais que faisons-nous à partir de ça ? Y a-t-il un plan pour aboutir à une paix israélo-palestinienne ? Pareil au Liban. Nous avons frappé durement le Hezbollah, mais que faire pour aboutir à une paix dans la région ?
J’insiste sur le fait qu’Israël ne se résume pas à Netanyahou. Des centaines de milliers d’Israéliens s’opposent à la façon dont il mène cette guerre en manifestant chaque semaine. Une partie de mes compatriotes pensent qu’il est le Messie, mais pour d’autres, il est la figure la plus honnie de l’histoire de ce pays. Les progressistes laïcs d’Israël, qui veulent toujours la paix, doivent aujourd’hui se battre sur trois fronts. Nous devons nous battre contre le Hamas et le Hezbollah, qui veulent nous détruire. Nous devons nous battre contre Netanyahou, qui tente de détruire la démocratie israélienne. Et, hélas, nous devons nous battre contre certains progressistes dans les pays occidentaux, qui devraient pourtant être nos alliés, mais qui boycottent les libéraux israéliens simplement parce qu’ils sont israéliens. J’ai une amie qui enseigne les études de genre. Elle est très à gauche, sa mission est d’apprendre aux jeunes Israéliens non seulement à réfléchir sur le genre, mais aussi sur le service militaire, le nationalisme ou la religion. Cette amie est aujourd’hui boycottée et persécutée par des collègues dans d’autres parties du monde, simplement du fait de sa nationalité…
Nexus, par Yuval Noah Harari. Traduit de l’anglais par David Fauquemberg. Albin Michel, 567 p., 24,90 €.
Source