Le narratif que nous nous racontons reste la base de nos décisions. Selon Harari, l’IA vient change la donne et menace la civilisation ; une mise sous contrôle est nécessaire mais pas évidente.
Au commencement (Bérèshit) dieu créa le ciel et la terre, dit le début de la Genèse. Au commencement était le Verbe, ou la Parole, dit l’évangile de Jean, ou le logos, selon des lecteurs plus orientés philosophie. Ben moi je plaide pour qu’on utilise le mot « récit », ou ses substituts comme histoire, ou narratif. Ce dernier terme est le plus récent et désigne clairement un contenant, ce qui autorise une prise de distance avec le contenu.
Le récit, c’est ce qui fait que les romans se vendent beaucoup mieux que les essais. Dans le récit on peut se projeter et vivre plein d’émotions, celles des héros et héroïnes. On peut dérouler les archétypes humains, afficher les passions les plus viles comme les plus nobles. On peut passer plein de messages à l’aide de paraboles, de mythes, ou de légendes. Le mythe d’un certain Hiram a contribué largement à la pérennité de la franc-maçonnerie, tellement il fait vibrer toutes nos cordes humaines.
Le biais de confirmation est le processus renforçateur qui vient bétonner notre foi dans les récits que nous avons placés comme guides de nos vies. Son importance est à présent scientifiquement démontrée. Il fonctionne dans nos cerveaux à l’aide du « circuit de la récompense » et son agent la dopamine. Un filtre automatique met en lumière les informations qui vont dans le sens de ce nous avons envie de penser, et bloque celles qui vont dans le sens opposé.
Vous avez dit information ?
Yuval Noah Harari, auteur des best-sellers Homo Sapiens, Homo Deus et 21 leçons pour le 21e siècle, a pondu un nouveau pavé : « Nexus ». Ce terme désigne un nœud ou carrefour de réseau d’information, où se rencontrent plusieurs flux. L’ouvrage tente de réinterpréter l’histoire des civilisations à la lumière des technologies et méthodes de circulation de l’information disponibles aux dirigeants en exercice. Les dirigeants ont toujours eu à choisir entre une ligne disons libérale ou démocratique et une ligne plus dictatoriale.
Cette dernière tendance, autoritaire, se heurtait à l’époque de l’empire Romain, à la lenteur de transit de l’information depuis les confins de l’empire jusqu’à Rome. Même s’il en avait le désir, l’empereur ne pouvait rêver que la totalité de l’information passe d’abord par lui. Pas question donc de totalitarisme. Ce n’est plus le cas depuis un bon moment. Un première accélération est venue de l’imprimerie et ses capacité et vitesse de reproduction des documents écrits.
Notons en passant que l’écriture s’est surtout rendue indispensable parce que, au contraire des récits, nos cerveaux n’aiment pas stocker des monceaux de données quantitatives. Bref l’écrit est d’abord l’outil du bureaucrate. Lequel bureaucrate s’est mis à ranger ses données dans des tiroirs dans l’espoir de les retrouver si besoin ; tous ces traitements et rangements sont source d’erreurs, et les bureaucrates ont inventé des processus de correction des erreurs.
Cette capacité d’autocorrection des erreurs est une caractéristique cruciale des civilisations.
Les religions « révélées » prétendent détenir la Vérité et l’avoir saisie dans des livres sacrés. Etant d’origine surnaturelle, elle se dispense donc de doutes ou de mécanismes de correction. Il en est de même avec les idéologies totalitaires qui sont persuadées que leur contrôle centralisé de toutes les informations permet de bloquer toute dissonance. Face à cela nous avons la démocratie, construction humaine cahotante, avec souvent des menaces intérieures parmi les plus dangereuses. Mais ces démocraties ont des mécanismes d’autocorrection : la séparation des pouvoirs, la laïcité ( avec ses variantes de sécularisation ), le système parlementaire représentatif, la transparence, les libertés individuelles, des contre-pouvoirs, etc.
L’élément nouveau, déjà présent et montant rapidement en puissance, c’est l’Intelligence Artificielle (IA). Là où jusqu’ici toutes les décisions revenaient aux humains, nous allons déléguer de plus en plus de décisions à des IA. Pourquoi ? Les humains ont réussi à dominer le monde grâce à leur capacité d’analyse, dont celle de repérer des schémas répétitifs dans les messages reçus de notre environnement. On se souvient du fameux « ce qui est en haut est comme ce qui est en bas ». Mais le logiciel AlphaGo, dédié au jeu de go, a battu l’homme à plate couture il y a déjà 8 ans, avec une stratégie qu’aucun des millions de joueurs depuis des siècles n’avait imaginée. L’IA est bel et bien capable d’une créativité qui dépasse la nôtre !
Mais une nouvelle IA est entraînée sur une énorme masse de cas existants dans le passé.
Elle peut donc démarrer dans une direction polluée par des problèmes sociétaux ( racisme, sexisme,…) existant en filigrane dans les bases de données. Mais même si on arrive à corriger cela, l’humain est rapidement largué par le raisonnement dans le « for intérieur » de l’IA, ou ses dialogues avec d’autres IA. Dans le réseau de circulation des informations, certains Nexus, auparavant humains, seront demain des IA. Comment les contrôler ?
Nous ne devons pas oublier que l’Humanité Universelle est une utopie, même pas approchée par l’ONU, qui est un genre d’association de copropriétaires, loin d’être tous bienveillants. Certains sont déjà tentés de lâcher quelques IA bien teigneuses dans les pattes de leurs concurrents. Les dirigeants humains bienveillants ont une vue d’ensemble du monde et un sens moral. Les IA n’ont en guise de morale que les objectifs fixés par leurs concepteurs, par exemple : garder à tout prix la cible devant son écran, histoire de lui enfiler un max de pubs. Ceci n’est qu’un exemple pas trop inquiétant, mais on en voit pourtant déjà les effets sur nos jeunes. Les influenceurs et autres trolls avec arrière-pensées pullulent sur les plateformes, et ce n’était pas prévu par les libertaires qui ont conçu Internet.
Si on se retourne vers l’histoire des civilisations, on remarque que les sociétés ont certes progressé grâce à la quête de la vérité. Notre franc-maçonnerie chérie ne nous dira pas le contraire ! Mais même les démocraties les plus douces ont compris que les forces centrifuges ou clivantes, souvent internes, peuvent mettre à mal des siècles de progrès, si le chaos règne. C’est précisément là que nous en sommes. Qu’ont fait nos sociétés ? Au besoin, lâcher un peu la recherche de vérité, au profit d’un maintien de l’ordre.
Rappelons-nous la devise du REAA.
Les pessimistes, dont les complotistes et les populistes, voient le monde entier comme un champ de bataille de tous contre tous pour conquérir le pouvoir. Les optimistes, dont les démocrates et les francs-maçons, voient que la coopération, bien que moins spectaculaire que les guerres, est ce qui a permis la marche vers la civilisation. La coopération est permise si et seulement si la communication, c’est-à-dire l’échange d’informations, fonctionne.
En parlant de pessimistes et optimistes, nous voilà de retour sur le terrain des narratifs, qui nous plaisent ou non.
Harari conclut son opus avec quelques conseils au clan auquel nous appartenons. Son but est de réduire les risques associés à l’IA et au manque de bienveillance que nous constatons dans nos communautés humaines. D’abord, veiller à ne jamais rompre entièrement les échanges d’informations entre divers bords. Ceci pourrait arriver si les réseaux internet étaient déconnectés par endroits. Ensuite, maintenir un jeu minimal de règles mondiales que tous s’engagent à respecter.
Ces règles doivent inclure qu’une part des ressources doit être consacrée aux intérêts à long terme de tous les humains. Nul doute que pour obtenir cela, il est nécessaire de continuer à forger un narratif dans lequel nous les bipèdes peuvent se retrouver… Une des difficultés selon moi réside dans la croyance très répandue que le groupe ou la communauté prime sur l’individu. C’est compréhensible puisque sans coopération l’humain aurait disparu de la surface de la terre. Mais (seule) la culture occidentale a réussi (parfois !) à ménager la chèvre des besoins du groupe et le chou des désirs individuels. Francs-maçons, à vos intelligences humaines et à vos plumes !
Histoire intéressante allons