*En ce 21ème siècle, trois menaces existentielles pèsent sur l'humanité, a averti l'historien Yuval Harari à Davos 2020.

*La technologie risque de diviser le monde en deux catégories : les élites riches et les « colonies de données » exploitées, a-t-il expliqué.

*« Si vous aimez la Coupe du monde, vous êtes déjà mondialiste », a-t-il déclaré, plaidant pour une meilleure coopération afin de relever les défis.

Toutes les images sont d'Arturo Rago, Forum Économique Mondial
Toutes les images sont d'Arturo Rago, Forum Économique Mondial
Image : Comment survivre au 21ème siècle.

Alors que nous entrons dans la troisième décennie du 21ème siècle, l'humanité est confrontée à tant de problèmes et de questions qu'il est vraiment difficile de savoir sur quoi se concentrer. J'aimerais donc utiliser les vingt prochaines minutes pour nous aider à nous concentrer sur les différents problèmes auxquels nous sommes confrontés. Trois problèmes en particulier représentent des défis existentiels pour notre espèce :

la guerre nucléaire, l'effondrement écologique et la disruption technologique. C’est sur eux que nous devons nous concentrer.

Les défis sur lesquels nous devons nous concentrer.
Les défis sur lesquels nous devons nous concentrer.

Aujourd'hui, la guerre nucléaire et l'effondrement écologique étant déjà des menaces familières, permettez-moi de m’attarder sur la menace moins familière que représente la disruption technologique.

À Davos, nous entendons beaucoup parler des promesses considérables de la technologie - et ces promesses sont certainement réelles. Mais de bien des manières, la technologie peut également perturber la société humaine et le sens même de la vie humaine, que ce soit par la création d'une classe inutile mondialisée ou l’avènement du colonialisme des données et de la dictature numérique.

La technologie est capable d'être très perturbatrice.
La technologie est capable d'être très perturbatrice.

Tout d'abord, nous pourrions être confrontés à des bouleversements sur le plan social et économique.

L'automatisation supprimera bientôt des millions d'emplois, et si de nouveaux métiers seront certainement créés, il n'est pas certain que les gens pourront acquérir les nouvelles compétences nécessaires assez rapidement. Supposons que vous soyez un chauffeur de camion de cinquante ans et que vous veniez de perdre votre emploi à cause d'un véhicule autonome. Aujourd'hui, de nouveaux emplois sont créés dans la conception de logiciels ou dans l'enseignement du yoga aux ingénieurs - mais comment un chauffeur de camion de cinquante ans peut-il se reconvertir en ingénieur en informatique ou en professeur de yoga ? Et les gens ne devront pas « se réinventer » une seule fois, mais encore et encore tout au long de leur vie, car la révolution de l'automatisation ne sera pas un seul événement déterminant à la suite duquel le marché de l'emploi se stabilisera et trouvera un nouvel équilibre. Il s'agira plutôt d'une cascade de disruptions toujours plus importantes, car l'IA est loin d'avoir atteint son plein potentiel.

Les anciens emplois disparaîtront, de nouveaux apparaîtront, mais ensuite ces nouveaux emplois changeront et deviendront rapidement obsolètes. Alors que dans le passé, l'homme devait lutter contre l'exploitation, au 21ème siècle, la véritable grande lutte sera celle contre l'inutilité. Et être inutile est bien plus terrible que d'être exploité.

L'automatisation pourrait-elle créer une « classe inutile » ?
L'automatisation pourrait-elle créer une « classe inutile » ?

L'automatisation pourrait-elle créer une « classe inutile » ?

Ceux qui échouent dans la lutte contre l'inutilité constitueraient une nouvelle « classe inutile » - non pas des gens inutiles du point de vue de leurs amis et de leur famille, mais du point de vue du système économique et politique. Et cette classe inutile sera séparée de l'élite toujours plus puissante par un fossé lui aussi en constante croissance.

La révolution de l'AI pourrait créer des inégalités sans précédent non seulement entre les classes, mais aussi entre les pays.

Au 19ème siècle, quelques pays comme la Grande-Bretagne et le Japon ont été les premiers à s’industrialiser, et ils ont ensuite conquis et exploité la plus grande partie du monde. Si nous ne faisons pas attention, la même chose se produira au 21ème siècle avec l'IA.

Nous sommes déjà au milieu d'une course aux armements dans le secteur de l'IA, avec la Chine et les États-Unis en tête, et la plupart des pays largement à la traîne. Si nous ne prenons pas de mesures pour répartir les avantages et le pouvoir de l'IA entre tous les humains, l'intelligence artificielle créera probablement une immense richesse dans quelques pôles majeurs de haute technologie, tandis que d'autres pays feront faillite ou deviendront des colonies de données exploitées.

Il ne s'agit pas ici d'un scénario de science-fiction où des robots se rebellent contre les humains. Il s'agit d'une IA bien plus primitive, qui suffit néanmoins à perturber l'équilibre mondial.

Pensez par exemple à ce qui arrivera aux économies en développement lorsqu'il sera moins cher de produire du textile ou des voitures en Californie qu'au Mexique. Et qu'arrivera-t-il à la politique dans votre pays dans vingt ans, lorsqu’une personne à San Francisco ou à Pékin connaîtra les antécédents médicaux et personnels de chaque politicien, de chaque juge et de chaque journaliste de votre pays, y compris toutes leurs frasques sexuelles, leurs faiblesses mentales et leurs activités de corruption ? Sera-t-il toujours un pays indépendant ou deviendra-t-il une colonie de données ?

Lorsque vous avez suffisamment de données, vous n'avez pas besoin d'envoyer de soldats pour contrôler un pays.

Outre l'inégalité, l'autre grand danger auquel nous sommes confrontés est la montée des dictatures numériques, qui surveilleront tout le monde en permanence.

L'avenir fera-t-il place à une dictature numérique ?
L'avenir fera-t-il place à une dictature numérique ?

Ce danger peut être énoncé sous la forme d'une simple équation, qui pourrait, je pense, être l'équation déterminante de la vie au 21ème siècle :

B x C x D = CPH !

Ce qui signifie ? La connaissance biologique multipliée par la capacité de calcul multipliée par les données est égale à la capacité de pirater les humains.

Une équation dangereuse.
Une équation dangereuse.

Si vous connaissez suffisamment la biologie et disposez d'une capacité de calcul et de données suffisantes, vous pouvez pirater mon corps, mon cerveau et ma vie, et vous pouvez me comprendre mieux que je ne me comprends moi-même. Vous pouvez connaître mon type de personnalité, mes opinions politiques, mes préférences sexuelles, mes faiblesses mentales, mes craintes et mes espoirs les plus profonds. Vous en savez plus sur moi que je n'en sais sur moi-même. Et si vous pouvez me faire cela, vous pouvez le faire à tout le monde.

Un système qui nous comprend mieux que nous ne nous comprenons nous-mêmes peut prédire nos sentiments et nos décisions, les manipuler et, en fin de compte, faire des choix à notre place.

Dans le passé, de nombreux gouvernements et tyrans voulaient obtenir ce système, mais personne ne comprenait assez bien la biologie ni ne possédait une capacité de calcul et de données suffisante pour pirater des millions de personnes. Ni la Gestapo ni le KGB n'y sont arrivés. Mais bientôt, au moins quelques entreprises et gouvernements seront en mesure de pirater le monde entier. Nous, les humains, devrions nous habituer à l'idée que nous ne sommes plus des âmes mystérieuses, mais des animaux piratables. C'est la réalité.

Le pouvoir de pirater les êtres humains peut être utilisé à des fins louables, par exemple pour améliorer les soins de santé. Mais si ce pouvoir tombe entre les mains d'un Staline du 21ème siècle, il en résultera le pire régime totalitaire de l'histoire de l'humanité. Et un certain nombre de candidats peut déjà prétendre au poste de Staline du 21ème siècle.

Imaginez la Corée du Nord dans vingt ans, quand tout le monde devra porter un bracelet biométrique surveillant en permanence votre pression sanguine, votre rythme cardiaque, votre activité cérébrale vingt-quatre heures sur vingt-quatre. Vous écoutez un discours du grand chef à la radio et ils savent ce que vous ressentez réellement. Vous pouvez applaudir et sourire, mais si vous êtes en colère, ils le sauront et vous serez au goulag le lendemain.

Et si nous permettons l'émergence de tels régimes de surveillance totale, n’allez pas croire que les riches et les puissants dans des endroits tels que Davos seront en sécurité, demandez à Jeff Bezos. Dans l'URSS de Staline, l'État surveillait les membres de l'élite communiste plus que quiconque. Il en sera de même pour les futurs régimes de surveillance totale. Plus vous serez haut placé dans la hiérarchie, plus vous serez surveillé de près.

Avez-vous envie que votre PDG ou votre président sache ce que vous pensez vraiment d'eux ?

Il est donc dans l'intérêt de tous les humains, y compris les élites, d'empêcher la montée de telles dictatures numériques. Et en attendant, si vous recevez un message suspect sur WhatsApp, d'un certain Prince, ne l'ouvrez pas.

À présent, si nous empêchons vraiment l'établissement de dictatures numériques, la capacité de pirater les humains pourrait quand même remettre en question le sens même de la liberté humaine. Parce qu'à mesure que nous nous appuierons sur l'IA pour prendre des décisions à notre place, l'autorité passera des humains aux algorithmes. Et cela a déjà commencé.

Aujourd'hui déjà, des milliards de personnes font confiance à l'algorithme de Facebook pour nous dire ce qui est nouveau, à celui de Google pour nous dire ce qui est vrai, à Netflix pour nous dire quoi regarder, et aux algorithmes d'Amazon et d'Alibaba pour nous dire quoi acheter.

Dans un avenir proche, des algorithmes du même type pourraient nous dire où travailler et qui épouser, et aussi décider ou non de nous engager pour un travail, de nous accorder un prêt et de demander à la banque centrale d'augmenter notre taux d'intérêt.

Et si vous demandez pourquoi on ne vous a pas accordé de prêt, et pourquoi la banque n'a pas augmenté le taux d'intérêt, la réponse sera toujours la même : parce que l'ordinateur a dit non. Le cerveau limité de l’Homme ne disposant pas de connaissances biologiques, de capacité de calcul et de données suffisantes, son propriétaire ne pourra tout simplement pas comprendre les décisions de l'ordinateur.

Ainsi, même dans les pays soi-disant libres, les humains risquent de perdre le contrôle de leur propre vie, ainsi que la capacité de comprendre les politiques publiques.

Combien de personnes aujourd'hui comprennent le système financier ? Peut-être un pour cent, pour être très généreux. D’ici quelques décennies, le nombre d'humains capables de comprendre le système financier sera exactement égal à zéro.

Aujourd'hui, nous sommes habitués à considérer la vie comme un théâtre de prises de décision. Quel sera le sens de la vie humaine, lorsque la plupart des décisions seront prises par des algorithmes ? Nous n'avons même pas de modèles philosophiques pour comprendre une telle existence.

Pour le meilleur et pour le pire.
Pour le meilleur et pour le pire.

Les philosophes et les politiciens ont l’habitude de se renvoyer la balle. En effet, les philosophes ont beaucoup d'idées fantaisistes, et les politiciens n'ont d’après eux pas les moyens de mettre en œuvre ces dernières. Aujourd'hui, nous sommes confrontés à une situation inverse, à savoir une faillite philosophique.

La double révolution de l'infotechnologie et de la biotechnologie donne maintenant aux politiciens les moyens de créer le paradis ou l'enfer, mais les philosophes ont du mal à concevoir à quoi ressembleront le nouveau paradis et le nouvel enfer. Et c'est là une situation très dangereuse.

Si nous ne parvenons pas à conceptualiser ce nouveau paradis assez vite, nous pourrions facilement être induits en erreur par des utopies naïves. Et si nous ne parvenons pas à conceptualiser ce nouvel enfer assez vite, nous pourrions nous y retrouver piégés, sans aucune issue.

La philosophie pourra-t-elle suivre le rythme des machines ?
La philosophie pourra-t-elle suivre le rythme des machines ?

Enfin, la technologie pourrait non seulement perturber notre économie, notre politique et notre philosophie, mais aussi notre biologie.

Dans les décennies à venir, l'IA et la biotechnologie nous donneront des capacités divines pour repenser la vie, et même pour créer des formes de vie entièrement nouvelles. Après quatre milliards d'années de vie organique façonnée par la sélection naturelle, nous sommes sur le point d'entrer dans une nouvelle ère de vie inorganique façonnée par une conception intelligente.

Notre conception intelligente va être la nouvelle force motrice de l'évolution de la vie et à l’aide de nos nouveaux pouvoirs divins de création, nous pourrions commettre des erreurs à l'échelle cosmique. Plus particulièrement, les gouvernements, les entreprises et les armées sont susceptibles d'utiliser la technologie pour améliorer les compétences humaines dont ils ont besoin - comme l'intelligence et la discipline - tout en négligeant les autres compétences humaines - comme la compassion, la sensibilité artistique et la spiritualité.

Cela pourrait créer une race d'humains très intelligents et très disciplinés mais manquant de compassion, de sensibilité artistique et de profondeur spirituelle. Bien sûr, il ne s’agit pas là d’une prophétie, mais de simples possibilités. La technologie n'est jamais déterministe.

L'avenir n'est pas gravé dans la pierre.
L'avenir n'est pas gravé dans la pierre.

Au 20ème siècle, les gens ont utilisé la même technologie industrielle pour construire des sociétés très différentes : dictatures fascistes, régimes communistes, démocraties libérales. La même chose se produira au 21ème siècle.

L'IA et la biotechnologie vont certainement transformer le monde, mais nous pouvons les utiliser pour créer des types de sociétés très différents. Et si vous avez peur de certaines des possibilités que j'ai mentionnées, il est encore temps d’agir. Mais pour résultat efficace, nous avons besoin d'une coopération mondiale.

Les trois défis existentiels auxquels nous sommes confrontés concernent le monde entier et exigent des solutions à l’échelle mondiale.

À chaque déclaration d’un dirigeant du type « Mon pays d'abord ! », nous devrions rappeler à celui-ci qu'aucune nation ne peut empêcher une guerre nucléaire ou arrêter un effondrement écologique par elle-même, et qu'aucune nation ne peut réguler l'IA et la bio-ingénierie toute seule.

À vos risques et périls.
À vos risques et périls.

Presque tous les pays le diront : « Nous ne voulons pas développer des robots tueurs ou modifier génétiquement des bébés humains. Nous sommes les gentils. Mais nous ne pouvons pas faire confiance à nos rivaux et penser qu'ils ne le feront pas non plus. Par conséquent, nous devons le faire en premier ».

Si nous permettons qu'une telle course aux armements se développe dans des domaines comme l'IA et la bio-ingénierie, peu importe qui gagne la course, c’est l'humanité qui en ressortira perdante.

Game over.
Game over.

Malheureusement, alors que la coopération mondiale est plus nécessaire que jamais, certains des dirigeants et des pays les plus puissants du monde la discréditent délibérément. Des dirigeants comme le président des États-Unis nous parlent d’une contradiction fondamentale entre nationalisme et mondialisme, et nous conseillent de choisir le nationalisme plutôt que le mondialisme.

Mais c'est une dangereuse erreur. Il n'y a pas de contradiction entre le nationalisme et le mondialisme. En effet, le nationalisme ne consiste pas à haïr les étrangers, mais à aimer ses compatriotes. Et au 21ème siècle, afin de protéger la sécurité et l'avenir de vos compatriotes, vous devez coopérer avec les étrangers.

Ainsi, au 21ème siècle, les bons nationalistes doivent être aussi des mondialistes. Aujourd'hui, le mondialisme ne signifie pas la mise en place d'un gouvernement mondial, l'abandon de toutes les traditions nationales ou l'ouverture des frontières à une immigration sans limite. Le mondialisme signifie plutôt un engagement à respecter certaines dispositions mondiales.

Des dispositions qui ne nient pas le caractère unique de chaque nation, mais réglementent les relations entre les nations.

Et la Coupe du monde de football en est un bon exemple.

La Coupe du monde est une compétition entre nations, au cours de laquelle les gens font souvent preuve d'une grande loyauté envers leur équipe nationale. Mais parallèlement, la Coupe du monde est aussi une incroyable démonstration d'harmonie mondiale. La France ne peut pas jouer au football contre la Croatie à moins que les Français et les Croates ne s'entendent sur les mêmes règles du jeu. C’est là le mondialisme en action.

Des solutions mondiales pour des problèmes mondiaux.
Des solutions mondiales pour des problèmes mondiaux.

Si vous aimez la Coupe du monde, vous êtes déjà mondialiste.

Il faut maintenant espérer que les nations pourront s'entendre sur des règles mondiales, non seulement pour le football, mais aussi sur la manière d'empêcher l'effondrement écologique, de réglementer les technologies dangereuses et de réduire les inégalités dans le monde. Comment s'assurer, par exemple, que l'IA bénéficie aux travailleurs mexicains du textile et pas seulement aux développeurs de logiciels américains. Bien sûr, cela sera beaucoup plus difficile que pour le football. Mais pas impossible. Parce que l'impossible, nous l’avons déjà accompli.

Nous avons déjà échappé à la jungle violente que nous, les humains, avons connue tout au long de l'histoire. Pendant des milliers d'années, les humains ont vécu selon la loi de la jungle, dans une situation de guerre omniprésente. D’après cette loi, pour deux pays voisins, quels qu’ils soient il existe un scénario plausible selon lequel ils se feront la guerre l'année prochaine. La paix ne signifierait que « l'absence temporaire de guerre ».

Les périodes de « paix » entre par exemple Athènes et Sparte, ou entre la France et l'Allemagne, impliquaient de ne pas être en guerre à l'époque, mais de pouvoir l'être l’année suivante. Et pendant des milliers d'années, les gens ont supposé qu'il était impossible d'échapper à cette loi.

Mais au cours des dernières décennies, l'humanité a réussi à réaliser l'impossible, à enfreindre la loi et à échapper à la jungle. Nous avons construit l'ordre mondial libéral fondé sur des règles, qui malgré de nombreuses imperfections, a néanmoins créé l'ère la plus prospère et la plus pacifique que l'humanité a connue.

Le sens même du mot « paix » a changé.

Cela ne signifie plus seulement l'absence temporaire de guerre, la paix signifie maintenant le caractère invraisemblable de la guerre.

Il y a de nombreux pays que vous ne pouvez tout simplement pas imaginer entrer en guerre les uns contre les autres l'année prochaine, comme la France et l'Allemagne. Certaines parties du monde connaissent encore la guerre. Je viens du Moyen-Orient, alors croyez-moi, j’en ai parfaitement conscience. Mais cela ne doit pas nous faire oublier la situation dans son ensemble.

Que restera-t-il ?
Que restera-t-il ?

Nous vivons aujourd'hui dans un monde où la guerre tue moins de gens que le suicide, et où la poudre à canon représente moins de risques pour votre vie que le sucre. La plupart des pays, à quelques exceptions notables comme la Russie, ne fantasment même pas sur la conquête et l'annexion de leurs voisins. C'est pourquoi bon nombre d’entre eux peuvent se permettre de ne consacrer qu'environ deux pour cent de leur PIB à la défense, tout en dépensant des sommes bien plus importantes pour l'éducation et la santé. Ce n'est pas une jungle.

Malheureusement, nous nous sommes tellement habitués à cette merveilleuse situation que nous la considérons comme acquise et sommes par conséquent devenus extrêmement négligents. Au lieu de faire tout ce qui est en notre pouvoir pour renforcer le fragile ordre mondial, les pays le négligent et vont même jusqu'à le saper délibérément.

L'ordre mondial est désormais semblable à une maison dans laquelle tout le monde habite et que personne ne répare. Elle peut tenir encore quelques années, mais si nous continuons ainsi, elle s'effondrera, et nous nous retrouverons à nouveau dans la jungle de la guerre omniprésente.

Nous avons oublié à quoi cela ressemblait, mais croyez-en mon avis d’historien, vous ne voulez pas y retourner. C'est bien, bien pire que ce que vous imaginez.

Oui, notre espèce a évolué dans cette jungle et y a vécu et même prospéré pendant des milliers d'années, mais si nous y retournons maintenant, avec les nouvelles technologies puissantes du 21ème siècle, notre espèce sera probablement anéantie.

Bien sûr, même si nous disparaissons, ce ne sera pas la fin du monde. Quelque chose survivra. Peut-être que les rats finiront par prendre le relais et reconstruiront la civilisation. Peut-être alors, les rats apprendront-ils de nos erreurs.

Mais j'espère vraiment que nous pourrons compter sur les dirigeants réunis ici, plutôt que sur les rats.

Je vous remercie.