C’est quoi l’idée ?

Celui qui lit, aura vécu 5000 ans ; la lecture est une immortalité en sens inverse ; la littérature et la vie c’est pareil. Le métier de planneur stratégique en agence de publicité consiste à connaître les gens ; à vivre d’autres vies que la sienne.

Je suis payé pour vendre des idées, souvent celles des autres, la forme étant le fond qui remonte à la surface elles doivent être bien troussées et présentées non pas comme une découverte mais comme la redécouverte de celles d’illustres individus avant nous.

Rien n’est de moi dans les lignes précédentes, lire sert à ça, à copier et à coller.
Avant, il faut collecter et c’est ce que je fais, chaque lundi à 13h45 dans cette newsletter ; pour mieux les retrouver au besoin.

Père ManQ, raconte-nous une histoire.

Harari est un historien militaire, spécialiste de la guerre de Trente Ans ; son avis sur l’IA était donc attendu avec impatience. Devenu depuis Sapiens le penseur holistique préféré d’un l’occident feignant, et du podcasteur Rich Roll, qui est à Joe Rogan ce que la kryptonite est à Superman – Harari peut énerver, mais son avis ici est frais : original et glacial.

Un récit qui oscille entre pessimisme et catastrophisme, ponctué de fulgurances, références et idées remarquables. Ceux qui aiment « changer les paradigmes » y trouveront leur bonheur.

J’en profite pour rappeler l’avis de Tom Wolfe – un homme, un vrai, 1991 – sur ce mot :

Ce mot... paradigme... le rendait dingue. Ce satané mot ne signifiait rien du tout, de si près qu'il y réfléchisse, et pourtant il se déplaçait sans arrêt, quel que fût son sens. En fait, c'était bel et bien la seule chose que le paradigme semblait faire : se déplacer. Mais Charlie ne se sentait pas l'énergie d'entamer une nouvelle discussion avec le Wiz sur le vocabulaire des techno-guignols.

Quelques idées (pardon, changement de paradigmes) à utiliser dans vos prochaines stratégies :

• Avec l’IA, on passe de l’ère de l’attention à l’ère de l’intimité (Cf ceux qui tombent amoureux des IA et, parfois, se suicident) ;

• L’IA = Intelligence Autre et non artificielle ; l’intelligence qui se développe n’a rien d’humaine (cf. la victoire au jeu de Go avec un coup auquel personne, en mille ans, n’avait pensé) ;

• De bonnes citations de Borges, Kant, Staline ou Erdoğan (auxquelles on ne pense pas assez souvent) ;

• Le montant en valeur du marché de l’astrologie (pas si facile à trouver) ;

• Les raisons pour lesquelles l’IA a bien plus de potentiel créatif et empathique que les humains, la créativité ce n’est que des connexions nouvelles de motifs existants mais jusqu’ici jamais reliés, quand à l’empathie, les gens n’écoutent jamais vraiment les autres, vous le savez.

• Et ce paragraphe à la fois désespérant et brillant qui explique à lui seul l’importance médiatique d’Harari :

Si les ordinateurs sont encore très loin d’avoir atteint leur plein potentiel, c’est tout aussi vrai des humains. C’est un fait que nous n’avons cessé de découvrir et de redécouvrir au gré de l’histoire. Ainsi, l’une des transformations les plus importantes et les plus réussies du marché du travail au XXe siècle ne fut pas le fruit d’une innovation technologique mais d’une libération du potentiel inexploité de la moitié de l’espèce humaine : l’arrivée des femmes sur le marché du travail n’a nécessité l’intervention d’aucune ingénierie génétique, ni d’aucune autre prouesse technologique. Il a suffi de renoncer à certains mythes dépassés pour permettre aux femmes de réaliser le potentiel qui avait toujours été le leur.

Citations et idées remarquables.

L’argument central de ce livre, c’est que l’humanité acquiert énormément de pouvoir en construisant d’immenses réseaux de coopération, mais que la manière dont ces derniers sont conçus les prédispose à un usage déraisonnable de ce pouvoir. Notre problème est donc un problème de réseau.

Si ce qui intéresse en général chaque individu humain, c’est de connaître la vérité sur lui-même et sur le monde, les réseaux à grande échelle s’appuient, pour relier leurs membres et instaurer l’ordre, sur des fictions et des fantasmes. C’est ce qui nous a conduits, notamment, au nazisme et au stalinisme : deux réseaux extraordinairement puissants, dont la cohésion reposait sur des idées extraordinairement fallacieuses. Pour citer la fameuse phrase de George Orwell : l’ignorance, c’est la force.

Comment un dictateur humain pourrait-il terroriser une IA, en censurer les processus insondables ou l’empêcher de s’emparer du pouvoir ?

dans la célèbre nouvelle de Jorge Luis Borges « De la rigueur de la science », publiée en 1946. Borges y raconte l’histoire d’un ancien empire fictif pris d’une obsession pour la réalisation de cartes toujours plus précises de son territoire, au point que ses géographes finissent par en fabriquer une à l’échelle 1:1. Voilà donc l’empire tout entier recouvert par une carte de l’empire. Cet ambitieux projet de représentation entraîne un tel gaspillage de ressources que l’empire s’effondre. Puis la carte elle-même se désagrège avec le temps, de sorte, écrit Borges, que ne subsistent plus « dans les Déserts de l’Ouest » que « des ruines en lambeaux de la Carte, habitées quelquefois par des bêtes ou des mendiants »

En 2021, la valeur du marché mondial de l’astrologie était estimée à 12,8 milliards de dollars.

Il arrive en effet qu’une représentation exacte de la réalité connecte les humains, comme ce jour de juillet 1969 où 600 millions de personnes sont restées scotchées devant leur téléviseur, captivées par les images de Neil Armstrong et Buzz Aldrin qui marchaient sur la Lune(14). Les images sur l’écran représentaient fidèlement ce qui était en train de se passer à 384 000 kilomètres de là, et les sentiments d’émerveillement, de fierté et de fraternité humaine qu’elles éveillaient ont créé du lien entre les gens.

l’information représente tantôt la réalité, tantôt non. Mais toujours, elle connecte.

Joseph Staline, nexus autour duquel s’est cristallisé l’un des cultes de la personnalité les plus démesurés de l’histoire, l’avait compris mieux que personne. Un jour, voyant son fauteur de troubles de fils, Vassili, user de son célèbre patronyme pour effrayer les gens et les impressionner, Staline le rappela à l’ordre. « Mais je suis un Staline, moi aussi », protesta Vassili. « Non, répliqua son père. Tu n’es pas Staline et je ne suis pas Staline. Staline, c’est le pouvoir soviétique. Staline est ce qu’il est dans les journaux et sur ses portraits, ce n’est pas toi, non – ce n’est même pas moi ! »

Mais certaines histoires ont la faculté de créer un troisième niveau de réalité : la réalité intersubjective. Alors que les entités subjectives telles que la douleur n’existent que dans un seul esprit, les entités intersubjectives comme les lois, les dieux, les nations, les grandes entreprises et les monnaies existent dans le nexus qui relie un grand nombre d’esprits. Pour être plus exact, elles existent dans les histoires que les gens se racontent. Les informations échangées par les hommes au sujet des réalités intersubjectives ne représentent rien qui ait jamais existé avant cet échange d’informations – c’est en fait l’échange d’informations lui-même qui crée ces réalités.

En 2010, Laszlo Hanyecz acheta deux pizzas pour 10 000 bitcoins. C’était la première transaction commerciale connue impliquant cette cryptomonnaie – et, a posteriori, la pizza la plus chère de tous les temps. En novembre 2021, la valeur d’un bitcoin atteignait 69 000 dollars, de sorte que les bitcoins dépensés par Hanyecz pour ses deux pizzas valaient désormais 690 millions de dollars, de quoi acheter des millions de pizzas

L’esprit humain […] s’appuie sur les histoires et sur l’architecture narrative, qui servent de feuille de route fondamentale pour comprendre nos vies, leur donner du sens, nous en souvenir et les planifier. […] Nos vies ressemblent à des histoires car nos pensées sont structurées comme des histoires. » S’appuyant sur plus de cent vingt études universitaires, Haven parvient à la conclusion que les histoires constituent un « véhicule » extrêmement efficace pour « communiquer des informations factuelles, conceptuelles, émotionnelles et tacites

Pour citer Erdoğan lui-même : « La démocratie c’est comme un tramway, une fois arrivé à destination, on en descend.

« Les Américains grandissent avec l’idée que les questions mènent à des réponses. Les citoyens soviétiques, eux, grandissaient avec l’idée que les questions menaient à des problèmes. »

Dans les années 2010, les réseaux sociaux étaient un champ de bataille où l’on se disputait le contrôle de l’attention humaine. Dans les années 2020, l’enjeu de cette bataille risque fort de basculer de l’attention à l’intimité.

Depuis des millénaires, les êtres humains vivent à l’intérieur des rêves d’autres humains. Dans les décennies à venir, nous serons peut-être amenés à vivre à l’intérieur des rêves d’une intelligence autre

Traditionnellement, l’acronyme IA a toujours désigné l’« intelligence artificielle ». Mais pour des raisons rendues évidentes par les développements qui précèdent, il est sans doute préférable de lire ces deux lettres comme formant l’acronyme d’une « intelligence autre ». À mesure que l’IA évolue, elle devient de moins en moins artificielle (au sens d’une dépendance à l’égard d’humains qui seraient là pour la concevoir) et de plus en plus « autre » – étrangère à la nôtre. Il convient de noter que les gens définissent et évaluent souvent l’IA à l’aune d’une « intelligence de niveau humain » ; le débat fait rage autour de la question de savoir quand nous pouvons nous attendre à voir les IA atteindre un tel niveau. Or, le recours à ce critère de comparaison prête à confusion : ce serait comme définir et évaluer les avions en se référant à un « vol de niveau oiseau ». L’IA ne progresse pas en direction d’une intelligence de niveau humain. Elle est en train de développer un type d’intelligence totalement différent.

En mécanique quantique, le fait d’observer des particules subatomiques modifie leur comportement – il en va de même lorsqu’on observe des humains. Plus nos outils d’observation sont puissants, plus l’impact potentiel est grand.

De la guerre a créé un modèle rationnel pour comprendre la guerre, et demeure encore aujourd’hui la théorie militaire dominante. Sa maxime la plus importante est que « la guerre est la continuation de la politique par d’autres moyens(23) ». Ce qui implique que la guerre n’est ni une flambée émotionnelle, ni une aventure héroïque, ni un châtiment divin. La guerre n’est même pas un phénomène militaire. Non : c’est un outil politique.

Les déontologistes (du grec deon, qui signifie « devoir ») pensent qu’il existe des devoirs moraux universels qui s’appliquent à tout le monde. Ces règles morales ne reposent pas sur l’alignement avec un but plus élevé : elles sont intrinsèquement bonnes. Si de telles règles existent réellement, et que nous parvenons à trouver un moyen de les programmer dans des ordinateurs, alors nous pourrons faire en sorte que le réseau informatique soit une force au service du bien. Mais que signifie « intrinsèquement bonnes », au juste ? On doit la plus célèbre tentative de définir une règle intrinsèquement bonne au philosophe Emmanuel Kant, un contemporain de Clausewitz et Napoléon. D’après Kant, toute règle que je souhaiterais rendre universelle est intrinsèquement bonne. En vertu de cette conception, une personne sur le point d’en assassiner une autre devrait s’arrêter et se soumettre au processus suivant : « Je vais assassiner un être humain. Aimerais-je établir une règle universelle stipulant qu’il n’y a pas de mal à tuer des êtres humains ? Si une telle règle universelle est mise en place, alors n’importe qui pourrait m’assassiner. Donc, il ne devrait pas exister de règle universelle autorisant le meurtre. D’où il s’ensuit que moi non plus, je ne devrais pas tuer. » Pour le dire simplement, Kant reformule la règle d’or immémoriale : « Tout ce que vous voulez que les hommes fassent pour vous, faites-le de même pour eux » (Matthieu 7:12).

Là où les déontologistes peinent à trouver des règles universelles qui soient intrinsèquement bonnes, les utilitaristes jugent les actions en fonction de l’impact qu’elles ont en termes de souffrance et de bonheur. Le philosophe anglais Jeremy Bentham – autre contemporain de Napoléon, Clausewitz et Kant – soutient qu’il n’existe qu’un seul et unique but rationnel ultime : minimiser la souffrance dans le monde et maximiser le bonheur. Si notre plus grande peur concernant les réseaux informatiques est que leurs buts mal alignés infligent de terribles souffrances aux humains et, peut-être, aux autres êtres sensibles, alors la solution utilitariste semble aussi évidente que séduisante : quand nous créons le réseau informatique, il nous suffit de lui donner pour instruction de minimiser la souffrance et de maximiser le bonheur. Si Facebook avait dit à ses algorithmes : « Maximisez le bonheur » au lieu de : « Maximisez l’engagement des utilisateurs », tout se serait donc censément bien passé. Notons au passage que cette approche utilitariste est, de fait, très populaire dans la Silicon Valley, et prônée notamment par le mouvement dit de l’altruisme efficace

Mais se débarrasser de ce qu’on appelle les « biais algorithmiques » peut s’avérer aussi ardu que de se défaire de nos préjugés humains. Une fois qu’un algorithme a été entraîné, il faut beaucoup de temps et d’efforts pour le « désentraîner ». Nous pourrions aussi décider de simplement abandonner l’algorithme biaisé et d’entraîner un tout nouvel algorithme à partir d’un nouvel ensemble de données moins biaisées. Mais où diable trouverons-nous des données totalement dénuées de préjugés

Autre idée reçue commune mais erronée : la créativité étant le propre des humains, il serait difficile d’automatiser tous les métiers qui comprennent une part créative. Or, aux échecs, les ordinateurs font déjà preuve d’une bien plus grande créativité que les humains. Cela pourrait être bientôt le cas dans de nombreux domaines, de la composition musicale à la démonstration de théorèmes mathématiques, en passant par la rédaction de livres tels que celui-ci. La créativité est souvent définie comme la capacité à reconnaître des modèles, puis à s’en affranchir. Si tel est le cas, alors dans de nombreux domaines, il est probable que les ordinateurs deviennent à terme plus créatifs que nous, car ils excellent dans la reconnaissance de motifs récurrents(11). Troisième postulat erroné : les ordinateurs ne pourraient pas remplacer les humains dans les professions exigeant une certaine intelligence émotionnelle, comme celles de thérapeute ou d’enseignant. Tout dépend, en réalité, de ce que l’on entend par intelligence émotionnelle. S’il s’agit de la capacité à identifier correctement des émotions et à y réagir de manière optimale, alors les ordinateurs pourraient bien surpasser les humains même dans ce domaine-là. Les émotions sont elles aussi des motifs récurrents. La colère est un schéma biologique à l’intérieur de notre corps. La peur, également. Comment puis-je savoir si mon interlocuteur est en colère, ou effrayé ? J’ai appris avec le temps à reconnaître chez lui des motifs émotionnels humains en analysant non seulement le contenu de ses propos, mais aussi son ton, l’expression de son visage et son langage corporel(12). L’IA n’a pas d’émotions propres, mais elle est capable de reconnaître ces motifs chez les humains. En fait, les ordinateurs pourraient bientôt surpasser les humains dans la reconnaissance des émotions humaines, précisément parce qu’ils n’en éprouvent pas eux-mêmes. Nous mourons d’envie d’être compris, mais bien souvent, notre interlocuteur ne saisit pas ce que nous ressentons, préoccupé qu’il est par ses propres émotions. Les ordinateurs, eux, finiront par avoir une compréhension très fine de ce que nous ressentons, parce qu’ils auront appris à reconnaître les motifs de nos sentiments, sans être distraits par des sentiments propres.

Si les ordinateurs sont encore très loin d’avoir atteint leur plein potentiel, c’est tout aussi vrai des humains. C’est un fait que nous n’avons cessé de découvrir et de redécouvrir au gré de l’histoire. Ainsi, l’une des transformations les plus importantes et les plus réussies du marché du travail au XXe siècle ne fut pas le fruit d’une innovation technologique mais d’une libération du potentiel inexploité de la moitié de l’espèce humaine : l’arrivée des femmes sur le marché du travail n’a nécessité l’intervention d’aucune ingénierie génétique, ni d’aucune autre prouesse technologique. Il a suffi de renoncer à certains mythes dépassés pour permettre aux femmes de réaliser le potentiel qui avait toujours été le leur.

Le problème, c’est que les algorithmes prennent leurs décisions en s’appuyant sur un grand nombre de points de données, alors que les humains ont de réelles difficultés à analyser consciemment une telle masse d’informations et à les comparer. Nous préférons travailler sur des points de données isolés. C’est pourquoi, lorsque nous sommes confrontés à des problèmes complexes – qu’il s’agisse d’une demande de prêt, d’une pandémie ou d’une guerre –, nous cherchons souvent une unique raison d’adopter telle ou telle ligne de conduite, en laissant de côté toute autre considération. C’est ce qu’on appelle le sophisme de la cause unique(39).

Les empereurs romains s’adonnaient fréquemment à la pratique dite de la damnatio memoriae, qui consistait à effacer tout souvenir de leurs rivaux et ennemis. Après avoir tué son frère Geta, qui lui disputait le trône, l’empereur Caracalla tenta de condamner celui-ci à l’oubli. Les inscriptions portant le nom de Geta furent effacées à coups de burin, les pièces à son effigie fondues, et le simple fait de mentionner son nom était passible de la peine de mort.

Comme nous l’avons vu dans les chapitres précédents, la civilisation humaine n’est pas seulement menacée par des armes de destruction massive physiques et biologiques, comme les bombes atomiques et les virus. Elle pourrait aussi être détruite par des armes de destruction massive sociales, par exemple des histoires à même de saper les liens sociaux qui nous unissent. Une IA développée dans un pays donné pourrait être utilisée pour déclencher une avalanche de fausses informations, de fausse monnaie et de faux humains, afin que les citoyens de nombreux autres pays perdent toute capacité à faire confiance à qui ou quoi que ce soit.

Quelques entreprises ou gouvernements collectant les données du monde pourraient transformer le reste de la planète en colonies de données – des territoires qu’ils contrôleraient non par une force militaire manifeste, mais à travers l’information. Une telle situation est susceptible de déboucher sur un colonialisme d’un genre nouveau, dans lequel le contrôle des données est utilisé pour dominer de lointaines colonies : un colonialisme des données.

Selon les estimations du cabinet d’audit et de conseil international Pricewater-houseCoopers, l’IA devrait générer au total 15 700 milliards de dollars supplémentaires pour l’économie mondiale à l’horizon 2030. Or, si la tendance actuelle se confirme, la Chine et l’Amérique du Nord – les deux superpuissances dominantes en ce domaine – devraient à elles seules empocher 70 % de ces sommes

Tout ce qui est ancien fut jadis nouveau. La seule constante de l’histoire, c’est le changement.