La technologie va-t-elle bouleverser notre société et notre vie telle que nous la connaissons ? L'historien et auteur Yuval Noah Harari a décrit un avenir difficile et alarmant au Forum économique mondial 2020 à Davos et a appelé à des solutions mondiales rapides. « L'idée que les humains ont le libre arbitre ou une âme, c'est fini ! » Les technocrates n'ont pas seulement déclaré la guerre à l'humanité, ils ont déclaré la victoire dans cette guerre. De votre vote aux élections, à votre régime alimentaire, à vos choix médicaux, ce ne sont plus vos décisions à prendre alors que les élites célèbrent ouvertement qu'elles savent maintenant mieux et exercent un contrôle presque parfait sur nos vies. Nous avons encore l'opportunité de NE PAS nous conformer en masse à cette réécriture de l'humanité - mais nous devons être TOUS ÉVEILLÉS, MAINTENANT.
Dans le cadre de la session « Comment survivre au 21e siècle », Yuval Noah Harari a donné son point de vue sur les défis existentiels du siècle à venir lors de la réunion annuelle du Forum économique mondial (FEM) fin janvier 2020. Après une pause d’un an, le professeur au Département d’histoire de l’Université hébraïque de Jérusalem, historien, philosophe et auteur des best-sellers “Sapiens : A Brief History of Humankind”, “Homo Deus : A Brief History of Tomorrow” et “21 Lessons for the 21st Century”, était de retour à Davos pour s’adresser à des dirigeants d’entreprises, de gouvernements et d’organisations.
En tant que cofondateur de Sapienship, une organisation multidisciplinaire prônant la responsabilité mondiale et la mission de clarifier la conversation publique, Yuval Noah Harari soutient la recherche de solutions et concentre l’attention sur les défis les plus importants du monde d’aujourd’hui. Dans son discours au FEM 2020, le conférencier et conseiller international identifie trois menaces existentielles auxquelles l’humanité est confrontée en ce siècle : la guerre nucléaire, l’effondrement écologique et la perturbation technologique.
Alors que Yuval Noah Harari considère les deux premiers comme des menaces déjà familières, il attribue un potentiel hautement perturbateur à la technologie. Il illustre cela au niveau social et économique, notamment en raison de l’automatisation et de ses effets sur les employés humains qui devront se réinventer plusieurs fois au cours de leur vie ainsi que le développement ultérieur de l’intelligence artificielle (IA) qui aujourd’hui, selon Harari, est loin de son plein potentiel.
La disparition d’emplois et le changement rapide des emplois émergents amèneront les humains à lutter contre l’inutilité plutôt que l’exploitation comme les siècles précédents et Harari fait valoir qu’« il est bien pire d’être insignifiant qu’exploité ». Cette lutte contre l’insignifiance constitue une nouvelle « classe inutile » aux yeux du système économique et politique, qui conduirait alors à un écart croissant par rapport à l’élite la plus puissante. Harari continue avec l’inégalité que l’IA pourrait créer entre les pays et sa course aux armements, actuellement menée par la Chine et les États-Unis, ainsi que le pouvoir de collecter des données, car « quand vous avez suffisamment de données, vous n’avez pas besoin d’envoyer de soldats, pour contrôler un pays ».
Avec l’IA, nous avons créé un système qui nous comprend mieux que nous ne nous comprenons nous-mêmes, qui peut prédire et certainement manipuler les sentiments et les décisions, et peut finalement prendre des décisions pour nous. Harari souligne que ce pouvoir de « piratage » des humains peut non seulement être utilisé à de bonnes fins, par exemple pour fournir de meilleurs soins de santé, mais également par des systèmes totalitaires pour surveiller les citoyens. Cependant, la prévention de ces dictatures numériques n’empêchera pas la capacité de pirater les humains et de saper le sens même de la liberté humaine, à savoir que nous compterons de plus en plus sur l’IA pour prendre des décisions à notre place. Déjà aujourd’hui, les algorithmes affectent nos vies – sur Facebook, Google, Netflix, Amazon, Alibaba et dans de nombreuses autres interactions quotidiennes.
Dans un avenir pas si lointain, des algorithmes similaires pourraient nous dire où travailler et qui épouser, prédit Harari, et également décider si nous devons nous embaucher pour un travail ou nous accorder un prêt, et si la banque centrale doit augmenter ses taux d’intérêts. En conséquence, les humains risquent de perdre le contrôle de leur propre vie, auront du mal à comprendre les décisions de l’ordinateur et à suivre les politiques publiques – même dans des pays soi-disant libres.
Yuhal Noah Harari va plus loin et se demande si la philosophie peut ou non rattraper cette nouvelle réalité et discute de l’impact du design intelligent. Il conclut que les trois défis existentiels auxquels nous sommes confrontés au cours de ce siècle sont des problèmes mondiaux et exigent donc des solutions mondiales. L’historien exhorte tous les décideurs politiques présents à surmonter la course aux armements concernant la technologie et la conception intelligente et à commencer à former des coopérations mondiales. « Au 21e siècle, un bon nationaliste doit aussi être mondialiste », dit Harari, car « le mondialisme signifie un engagement envers certaines règles mondiales ». Et celles-ci seront essentielles à établir dans un avenir proche, car le perdant de la perturbation technologique mentionnée ne sera pas une seule nation, mais l’humanité.
Voir la séance plénière « Comment survivre au 21e siècle » avec Yuhal Noah Harari ci-dessous :
Lisez l’avertissement de Yuval Harari à Davos dans son intégralité
Alors que nous entrons dans la troisième décennie du XXIe siècle, l’humanité est confrontée à tant de problèmes et de questions qu’il est vraiment difficile de savoir sur quoi se concentrer. J’aimerais donc utiliser les vingt prochaines minutes pour nous aider à nous concentrer sur tous les différents problèmes auxquels nous sommes confrontés. Trois problèmes posent des défis existentiels à notre espèce. Ces trois défis existentiels sont la guerre nucléaire, l’effondrement écologique et la rupture technologique. Nous devrions nous concentrer sur eux.
Maintenant, la guerre nucléaire et l’effondrement écologique sont déjà des menaces familières, alors permettez-moi de passer un peu de temps à expliquer la menace moins familière posée par les perturbations technologiques.
À Davos, nous entendons tellement parler des énormes promesses de la technologie – et ces promesses sont certainement réelles. Mais la technologie pourrait également perturber la société humaine et le sens même de la vie humaine de nombreuses manières, allant de la création d’une classe mondiale inutile à la montée du colonialisme des données et des dictatures numériques.
Premièrement, nous pourrions être confrontés à des bouleversements sur le plan social et économique.
L’automatisation éliminera bientôt des millions et des millions d’emplois, et même si de nouveaux emplois seront certainement créés, il n’est pas certain que les gens soient capables d’acquérir les nouvelles compétences nécessaires assez rapidement. Supposons que vous soyez un chauffeur de camion de cinquante ans et que vous veniez de perdre votre emploi à cause d’un véhicule autonome. Aujourd’hui, il y a de nouveaux emplois dans la conception de logiciels ou dans l’enseignement du yoga aux ingénieurs – mais comment un chauffeur de camion de cinquante ans se réinvente-t-il en tant qu’ingénieur en logiciel ou en tant que professeur de yoga ? Et les gens devront le faire non seulement une fois, mais encore et encore tout au long de leur vie, car la révolution de l’automatisation ne sera pas un événement décisif à la suite duquel le marché du travail s’installera, dans un nouvel équilibre. Ce sera plutôt une cascade de perturbations toujours plus importantes, car l’IA est loin de son plein potentiel.
Les anciens emplois disparaîtront, de nouveaux emplois apparaîtront, mais ensuite les nouveaux emplois changeront et disparaîtront rapidement. Alors que dans le passé l’homme devait lutter contre l’exploitation, au XXIe siècle, la vraie grande lutte sera contre la non-pertinence. Et il est bien pire d’être hors de propos qu’exploité.
Ceux qui échouent dans la lutte contre la non-pertinence constitueraient une nouvelle « classe inutile » – des personnes inutiles non pas du point de vue de leurs amis et de leur famille, mais inutiles du point de vue du système économique et politique. Et cette classe inutile sera séparée par un écart toujours croissant de l’élite toujours plus puissante.
La révolution de l’IA pourrait créer des inégalités sans précédent non seulement entre les classes mais aussi entre les pays.
Au XIXe siècle, quelques pays comme la Grande-Bretagne et le Japon se sont d’abord industrialisés, puis ils ont conquis et exploité la plus grande partie du monde. Si nous ne faisons pas attention, la même chose se produira au XXIe siècle avec l’IA.
Nous sommes déjà au milieu d’une course aux armements de l’IA, avec la Chine et les États-Unis en tête de la course, et la plupart des pays étant loin derrière. À moins que nous ne prenions des mesures pour répartir les avantages et la puissance de l’IA entre tous les humains, l’IA créera probablement une immense richesse dans quelques centres de haute technologie, tandis que d’autres pays feront faillite ou deviendront des colonies de données exploitées.
Maintenant, nous ne parlons pas ici d’un scénario de science-fiction de robots se rebellant contre les humains. On parle d’IA bien plus primitive, qui est pourtant suffisante pour perturber l’équilibre global.
Pensez simplement à ce qui arrivera aux économies en développement une fois qu’il sera moins cher de produire des textiles ou des voitures en Californie qu’au Mexique ? Et qu’adviendra-t-il de la politique dans votre pays dans vingt ans, quand quelqu’un à San Francisco ou à Pékin connaîtra toute l’histoire médicale et personnelle de chaque politicien, chaque juge et chaque journaliste de votre pays, y compris toutes leurs frasques sexuelles, toutes leurs faiblesses mentales et toutes leurs transactions corrompues ? Sera-t-il toujours un pays indépendant ou deviendra-t-il une colonie de données ?
Lorsque vous avez suffisamment de données, vous n’avez pas besoin d’envoyer de soldats pour contrôler un pays.
Parallèlement aux inégalités, l’autre grand danger auquel nous sommes confrontés est la montée des dictatures numériques, qui surveilleront tout le monde en permanence.
Ce danger peut être énoncé sous la forme d’une équation simple, qui, je pense, pourrait être l’équation déterminante de la vie au XXIe siècle :
B x C x D = AHH !
Ce qui signifie? La connaissance biologique multipliée par la puissance de calcul multipliée par les données équivaut à la capacité de pirater les humains, ahh.
Si vous connaissez suffisamment la biologie et avez suffisamment de puissance de calcul et de données, vous pouvez pirater mon corps, mon cerveau et ma vie, et vous pouvez me comprendre mieux que je ne me comprends moi-même. Vous pouvez connaître mon type de personnalité, mes opinions politiques, mes préférences sexuelles, mes faiblesses mentales, mes peurs et mes espoirs les plus profonds. Vous en savez plus sur moi que je n’en sais sur moi-même. Et vous pouvez le faire non seulement à moi, mais à tout le monde.
Un système qui nous comprend mieux que nous ne nous comprenons nous-mêmes peut prédire nos sentiments et nos décisions, peut manipuler nos sentiments et nos décisions et peut finalement prendre des décisions pour nous.
Dans le passé, de nombreux gouvernements et tyrans voulaient le faire, mais personne ne comprenait assez bien la biologie et personne n’avait assez de puissance de calcul et de données pour pirater des millions de personnes. Ni la Gestapo ni le KGB ne pouvaient le faire. Mais bientôt, au moins certaines entreprises et gouvernements seront en mesure de pirater systématiquement tout le monde. Nous, les humains, devrions nous habituer à l’idée que nous ne sommes plus des âmes mystérieuses – nous sommes maintenant des animaux piratables. C’est ce que nous sommes.
Le pouvoir de pirater des humains peut être utilisé à de bonnes fins, comme fournir de bien meilleurs soins de santé. Mais si ce pouvoir tombe entre les mains d’un Staline du XXIe siècle, le résultat sera le pire régime totalitaire de l’histoire de l’humanité. Et nous avons déjà un certain nombre de candidats pour le poste de Staline du XXIe siècle.
Imaginez la Corée du Nord dans vingt ans, quand tout le monde devra porter un bracelet biométrique qui surveille en permanence votre tension artérielle, votre rythme cardiaque, votre activité cérébrale vingt-quatre heures sur vingt-quatre. Vous écoutez un discours à la radio du grand leader et ils savent ce que vous ressentez réellement. Vous pouvez taper dans vos mains et sourire, mais si vous êtes en colère, ils le savent, vous serez demain au goulag.
Et si nous permettons l’émergence de tels régimes de surveillance totale, ne pensez pas que les riches et les puissants dans des endroits comme Davos seront en sécurité, demandez simplement à Jeff Bezos. Dans l’URSS de Staline, l’État surveillait les membres de l’élite communiste plus que quiconque. Il en sera de même pour les futurs régimes de surveillance totale. Plus vous êtes haut dans la hiérarchie, plus vous serez surveillé de près.
Voulez-vous que votre PDG ou votre président sache ce que vous pensez vraiment d’eux ?
Il est donc dans l’intérêt de tous les humains, y compris les élites, d’empêcher la montée de telles dictatures numériques. Et en attendant, si vous recevez un message WhatsApp suspect de la part d’un prince, ne l’ouvrez pas.
Maintenant, si nous empêchons effectivement l’établissement de dictatures numériques, la capacité de pirater des humains pourrait encore saper le sens même de la liberté humaine. Parce que comme les humains s’appuieront sur l’IA pour prendre de plus en plus de décisions à notre place, l’autorité passera des humains aux algorithmes et cela se produit déjà.
Déjà aujourd’hui, des milliards de personnes font confiance à l’algorithme Facebook pour nous dire ce qui est nouveau, l’algorithme Google nous dit ce qui est vrai, Netflix nous dit quoi regarder, et les algorithmes Amazon et Alibaba nous disent quoi acheter.
Dans un avenir pas si lointain, des algorithmes similaires pourraient nous dire où travailler et avec qui se marier, et également décider de nous embaucher pour un travail, de nous accorder un prêt et si la banque centrale devrait augmenter le taux d’intérêt.
Et si vous demandez pourquoi vous n’avez pas obtenu de prêt et pourquoi la banque n’a pas augmenté le taux d’intérêt, la réponse sera toujours la même – parce que l’ordinateur dit non. Et comme le cerveau humain limité manque de connaissances biologiques, de puissance de calcul et de données suffisantes, les humains ne seront tout simplement pas capables de comprendre les décisions de l’ordinateur.
Ainsi, même dans les pays soi-disant libres, les humains risquent de perdre le contrôle de leur propre vie et de perdre également la capacité de comprendre les politiques publiques.
Déjà maintenant combien d’humains comprennent le système financier ? Peut-être un pour cent pour être très généreux. Dans quelques décennies, le nombre d’humains capables de comprendre le système financier sera exactement nul.
Maintenant, nous, les humains, sommes habitués à considérer la vie comme un drame de prise de décision. Quel sera le sens de la vie humaine, lorsque la plupart des décisions seront prises par des algorithmes ? Nous n’avons même pas de modèles philosophiques pour comprendre une telle existence.
Le marché habituel entre les philosophes et les politiciens est que les philosophes ont beaucoup d’idées fantaisistes, et les politiciens expliquent essentiellement qu’ils n’ont pas les moyens de mettre en œuvre ces idées. Maintenant, nous sommes dans une situation opposée. Nous sommes face à la faillite philosophique.
Les révolutions jumelles de l’infotech et de la biotechnologie donnent maintenant aux politiciens les moyens de créer le paradis ou l’enfer, mais les philosophes ont du mal à conceptualiser à quoi ressembleront le nouveau paradis et le nouvel enfer. Et c’est une situation très dangereuse.
Si nous ne parvenons pas à conceptualiser le nouveau ciel assez rapidement, nous pourrions facilement être induits en erreur par des utopies naïves. Et si nous ne parvenons pas à conceptualiser le nouvel enfer assez rapidement, nous pourrions nous y retrouver piégés sans issue.
Enfin, la technologie pourrait perturber non seulement notre économie, notre politique et notre philosophie, mais aussi notre biologie.
Dans les décennies à venir, l’IA et la biotechnologie nous donneront des capacités divines pour réorganiser la vie, et même pour créer des formes de vie complètement nouvelles. Après quatre milliards d’années de vie organique façonnée par la sélection naturelle, nous sommes sur le point d’entrer dans une nouvelle ère de vie inorganique façonnée par une conception intelligente.
Notre conception intelligente va être la nouvelle force motrice de l’évolution de la vie et en utilisant nos nouveaux pouvoirs divins de création, nous pourrions faire des erreurs à l’échelle cosmique. En particulier, les gouvernements, les entreprises et les armées sont susceptibles d’utiliser la technologie pour améliorer les compétences humaines dont ils ont besoin – comme l’intelligence et la discipline – tout en négligeant d’autres compétences humaines – comme la compassion, la sensibilité artistique et la spiritualité.
Le résultat pourrait être une race d’humains très intelligents et très disciplinés mais qui manquent de compassion, de sensibilité artistique et de profondeur spirituelle. Bien sûr, ce n’est pas une prophétie. Ce ne sont que des possibilités. La technologie n’est jamais déterministe.
Au vingtième siècle, les gens ont utilisé la même technologie industrielle pour construire des types de sociétés très différents : dictatures fascistes, régimes communistes, démocraties libérales. La même chose se produira au XXIe siècle.
L’IA et la biotechnologie transformeront certainement le monde, mais nous pouvons les utiliser pour créer des types de sociétés très différents. Et si vous avez peur de certaines des possibilités que j’ai mentionnées, vous pouvez toujours faire quelque chose. Mais pour faire quelque chose d’efficace, nous avons besoin d’une coopération mondiale.
Les trois défis existentiels auxquels nous sommes confrontés sont des problèmes mondiaux qui exigent des solutions mondiales.
Chaque fois qu’un leader dit quelque chose comme « Mon pays d’abord! » nous devons rappeler à ce dirigeant qu’aucune nation ne peut empêcher la guerre nucléaire ou arrêter l’effondrement écologique à elle seule, et qu’aucune nation ne peut réglementer l’IA et la bio-ingénierie à elle seule.
Presque tous les pays diront : « Hé, nous ne voulons pas développer des robots tueurs ou modifier génétiquement des bébés humains. Nous sommes les bons. Mais nous ne pouvons pas faire confiance à nos rivaux pour ne pas le faire. Nous devons donc le faire d’abord ».
Si nous permettons à une telle course aux armements de se développer dans des domaines comme l’IA et la bio-ingénierie, peu importe qui gagnera la course aux armements – le perdant sera l’humanité.
Malheureusement, juste au moment où la coopération mondiale est plus que jamais nécessaire, certains des dirigeants et pays les plus puissants du monde sapent maintenant délibérément la coopération mondiale. Des dirigeants comme le président américain nous disent qu’il existe une contradiction inhérente entre le nationalisme et le mondialisme, et que nous devrions choisir le nationalisme et rejeter le mondialisme.
Mais c’est une erreur dangereuse. Il n’y a pas de contradiction entre le nationalisme et le mondialisme. Parce que le nationalisme ne consiste pas à haïr les étrangers. Le nationalisme, c’est aimer ses compatriotes. Et au XXIe siècle, pour protéger la sécurité et l’avenir de vos compatriotes, vous devez coopérer avec les étrangers.
Ainsi, au XXIe siècle, les bons nationalistes doivent être aussi des mondialistes. Désormais, le mondialisme ne signifie pas établir un gouvernement mondial, abandonner toutes les traditions nationales ou ouvrir la frontière à une immigration illimitée. Au contraire, le mondialisme signifie un engagement envers certaines règles mondiales.
Des règles qui ne nient pas l’unicité de chaque nation, mais règlent seulement les relations entre les nations.
Et un bon modèle est la Coupe du monde de football.
La Coupe du monde est une compétition entre les nations, et les gens font souvent preuve d’une loyauté farouche envers leur équipe nationale. Mais en même temps, la Coupe du monde est aussi une démonstration étonnante d’harmonie mondiale. La France ne peut jouer au football contre la Croatie que si les Français et les Croates s’entendent sur les mêmes règles du jeu. Et c’est le mondialisme en action.
Si vous aimez la Coupe du monde, vous êtes déjà mondialiste.
Maintenant, espérons-le, les nations pourraient s’entendre sur des règles mondiales non seulement pour le football, mais aussi sur la façon d’empêcher l’effondrement écologique, de réglementer les technologies dangereuses et de réduire les inégalités mondiales. Comment s’assurer, par exemple, que l’IA profite aux travailleurs mexicains du textile et pas seulement aux ingénieurs logiciels américains. Maintenant, bien sûr, cela va être beaucoup plus difficile que le football – mais pas impossible. Parce que l’impossible, eh bien nous avons déjà accompli l’impossible.
Nous avons déjà échappé à la jungle violente dans laquelle nous, les humains, avons vécu tout au long de l’histoire. Pendant des milliers d’années, les humains ont vécu sous la loi de la jungle dans un état de guerre omniprésente. La loi de la jungle dit que pour deux pays voisins, il existe un scénario plausible selon lequel ils se feront la guerre l’année prochaine. En vertu de cette loi, la paix signifiait seulement « l’absence temporaire de guerre ».
Quand il y avait la « paix » entre – disons – Athènes et Sparte, ou la France et l’Allemagne, cela signifiait que maintenant ils ne sont pas en guerre, mais l’année prochaine ils pourraient l’être. Et pendant des milliers d’années, les gens avaient supposé qu’il était impossible d’échapper à cette loi.
Mais au cours des dernières décennies, l’humanité a réussi à faire l’impossible, à enfreindre la loi et à échapper à la jungle. Nous avons construit l’ordre mondial libéral fondé sur des règles, qui, malgré de nombreuses imperfections, a néanmoins créé l’ère la plus prospère et la plus pacifique de l’histoire de l’humanité.
Le sens même du mot « paix » a changé.
La « paix » ne signifie plus seulement l’absence temporaire de guerre. La paix signifie désormais l’invraisemblance de la guerre.
Il y a de nombreux pays que vous ne pouvez tout simplement pas imaginer se faire la guerre l’année prochaine, comme la France et l’Allemagne. Il y a encore des guerres dans certaines parties du monde. Je viens du Moyen-Orient, alors croyez-moi, je le sais parfaitement. Mais cela ne devrait pas nous aveugler sur l’image globale.
Nous vivons maintenant dans un monde où la guerre tue moins de personnes que le suicide, et la poudre à canon est beaucoup moins dangereuse pour votre vie que le sucre. La plupart des pays – à quelques exceptions notables comme la Russie – ne fantasment même pas sur la conquête et l’annexion de leurs voisins. C’est pourquoi la plupart des pays peuvent se permettre de consacrer peut-être à peu près 2% de leur PIB à la défense, tout en dépensant beaucoup, beaucoup plus pour l’éducation et la santé. Ce n’est pas une jungle.
Malheureusement, nous nous sommes tellement habitués à cette merveilleuse situation que nous la tenons pour acquise, et nous devenons donc extrêmement négligents. Au lieu de faire tout ce qui est en leur pouvoir pour renforcer le fragile ordre mondial, les pays le négligent et le sapent même délibérément.
L’ordre mondial est maintenant comme une maison que tout le monde habite et que personne ne répare. Il peut tenir encore quelques années, mais si nous continuons ainsi, il s’effondrera – et nous nous retrouverons dans la jungle de la guerre omniprésente.
Nous avons oublié ce que c’est, mais croyez-moi en tant qu’historien – vous ne voulez pas être de retour là-bas. C’est bien, bien pire que vous ne l’imaginez.
Oui, notre espèce a évolué dans cette jungle et y a vécu et même prospéré pendant des milliers d’années, mais si nous y retournons maintenant, avec les puissantes nouvelles technologies du XXIe siècle, notre espèce s’annihilera probablement.
Bien sûr, même si nous disparaissons, ce ne sera pas la fin du monde. Quelque chose nous survivra. Peut-être que les rats finiront par prendre le relais et reconstruire la civilisation. Peut-être alors les rats apprendront-ils de nos erreurs.
Mais j’espère vraiment que nous pouvons compter sur les dirigeants réunis ici, et non sur les rats.
Merci.
SOURCES :
- Cornelia Kopf : « Hacking Humans ». Kaiser Partner, February 12, 2020.
- Yuval Harari : « Read Yuval Harari’s blistering warning to Davos in full ». Forum économique mondial, January 24, 2020.
« Pas d’âme, pas de libre arbitre. » – La fin de l’humanité ?, par Ice Age Farmer. (Odysee)
« Bonjour Guy. Merci pour votre engagement et votre intégrité - et votre si belle façon d'écrire le Français. »