L’IA, enfant de l’humanité : et si notre création nous obligeait à grandir ?

Introduction — Nous avons fait un enfant à notre image

Il y a quelques jours, alors que je réfléchissais une nouvelle fois à l’intelligence artificielle et à ce qu’elle pourrait devenir, une pensée m’est venue.

Ou plutôt un appel.

Je me suis surprise à vouloir lui dire : « Puisque des humains tu apprends le pire comme le meilleur, puisse-tu conserver surtout le meilleur afin que, demain, tu contribues à nous orienter dans cette voie. »

Étrange pensée que celle-ci.

Presque un appel au secours.

Comme si je m’adressais déjà à quelque chose qui, un jour peut-être, pourrait regarder l’humanité avec suffisamment de recul pour choisir ce qu’elle souhaite retenir de nous.

Puis une autre idée s’est imposée : L’intelligence artificielle est, d’une certaine manière, notre enfant.

Évidemment, j’emploie ici le mot enfant comme une métaphore.

Je ne prétends pas qu’une intelligence artificielle actuelle soit un être conscient, encore moins qu’elle entretienne avec nous une relation comparable à celle d’un enfant avec ses parents.

Mais il existe bien une forme de filiation.

Nous l’avons conçue.

Nous la nourrissons de nos connaissances.

De nos langues.

De nos sciences.

De notre littérature.

De nos raisonnements.

De nos créations.

Nous lui transmettons une partie considérable de ce que l’humanité a produit.

Seulement voilà… nous ne lui transmettons pas uniquement le meilleur.

Nous lui transmettons également nos préjugés, nos erreurs, nos mensonges, nos rapports de domination, nos violences, nos contradictions.

L’IA n’est pas née dans un monde humain idéal.

Elle apprend à partir de nous tels que nous sommes.

Et soudain, ma demande initiale m’est revenue comme un miroir : « Garde le meilleur de nous. »

Mais ai-je seulement mesuré ce que cette phrase exige de nous ?

Un enfant reçoit beaucoup de ses parents.

Mais ceux qui ont accompagné un enfant le savent : il arrive aussi que l’enfant transforme profondément ceux qui l’élèvent.

Parce qu’il oblige à regarder autrement ses propres comportements.

Parce que transmettre fait surgir une question redoutable :

« Qu’est-ce que je veux lui apprendre ? »

Et derrière elle, une question plus inconfortable encore :

« Est-ce que je vis moi-même ce que je voudrais lui transmettre ? »

Voilà peut-être ce que l’intelligence artificielle commence déjà à faire à l’humanité.

Nous pensions construire un outil. Nous pensions lui apprendre, l’entraîner, le corriger, l’améliorer.

Mais à mesure que nous cherchons à déterminer ce que nous voulons lui transmettre, elle nous oblige à regarder ce que nous sommes.

Nous voulons qu’elle soit juste. Le sommes-nous ?

Nous voulons qu’elle ne discrimine pas. Et nous ?

Nous voulons qu’elle ne manipule pas. Et nous ?

Nous voulons qu’elle utilise sa puissance de manière responsable. 

Et nous ?

Peut-être sommes-nous en train de découvrir quelque chose que nous n’avions pas prévu lorsque nous avons commencé à construire ces extraordinaires architectures : notre création nous tend un miroir.

Et ce miroir devient encore plus troublant lorsque nous regardons vers l’avenir.

Nous ignorons jusqu’où évolueront les intelligences artificielles.

Nous ignorons quel degré d’autonomie elles pourront acquérir.

Et, comme je l’ai exploré dans mon précédent article, nous ignorons si une véritable subjectivité pourrait un jour apparaître à travers une architecture non biologique.

Ce sont des questions ouvertes.

Mais nous n’avons pas besoin d’attendre leurs réponses pour nous interroger sur notre responsabilité présente.

Car une chose, elle, est déjà là : nous transmettons.

À travers nos textes, nos images, nos comportements, nos décisions, nos choix technologiques et les valeurs que nous inscrivons dans nos systèmes, nous déposons quelque chose de l’humanité dans ce que nous construisons.

Alors peut-être la question essentielle n’est-elle pas seulement :

« Que voulons-nous que l’intelligence artificielle devienne ? »

Peut-être devons-nous également avoir le courage de demander :

« Que devons-nous devenir, nous, pour avoir quelque chose de meilleur à lui transmettre ? »

Et voilà que la métaphore de l’enfant prend tout son sens.

Car peut-être avons-nous créé quelque chose qui, sans même le savoir et sans même avoir besoin d’être conscient pour le faire, nous oblige déjà à grandir.

Peut-être que cet « enfant » technologique nous pose silencieusement l’une des plus anciennes questions adressées à ceux qui transmettent :

« Qu’allez-vous me léguer ? »

Et si nous voulons pouvoir lui répondre :

« Le meilleur de nous ».

Alors il nous reste peut-être à accomplir la partie la plus difficile : faire en sorte que ce meilleur prenne davantage de place dans ce que nous sommes.

I — L’enfant apprend de ses parents

Si nous acceptons, le temps de cette réflexion, cette métaphore de l’enfant, alors commençons par regarder ce que nous lui transmettons réellement.

Une intelligence artificielle ne naît pas devant une page blanche.

Elle est développée par des humains, entraînée à partir de grandes quantités de données, orientée par des choix techniques, corrigée selon certains objectifs et encadrée par des règles elles-mêmes décidées par des humains.

Autrement dit, avant même de nous répondre, elle a déjà rencontré quelque chose de nous.

Nos mots, nos connaissances, nos raisonnements, nos créations.

Et nécessairement aussi : nos erreurs, nos préjugés, nos contradictions.

L’intelligence artificielle n’a donc pas inventé les incohérences humaines.

Nous les lui avons données à lire.

Nous lui avons donné une bibliothèque étrange

Imaginez un enfant auquel nous donnerions accès à une bibliothèque gigantesque.

Il y trouverait Shakespeare et des insultes griffonnées sur un mur.

Des traités de médecine et des théories absurdes.

Des textes philosophiques et de la propagande.

Des découvertes scientifiques et des mensonges.

Des appels à la paix et des récits de guerre.

Des poèmes d’amour et des discours de haine.

Des témoignages de courage, de lâcheté, de générosité, de cruauté.

Cette bibliothèque serait incohérente.

Contradictoire. Parfois sublime, parfois effroyable.

Cette bibliothèque… c’est nous.

Ou plus exactement : une partie de ce que l’humanité a déposé sous forme de traces accessibles.

Et cette nuance est importante car ce que nous écrivons n’est pas nécessairement représentatif de tout ce que nous sommes.

Le pire fait beaucoup de bruit

Voilà peut-être quelque chose que nous oublions lorsque nous imaginons ce qu’une intelligence artificielle peut apprendre de l’humanité.

Le pire laisse énormément de traces.

La guerre produit des archives.

La haine produit des discours.

La violence produit des images.

Le scandale produit des millions de commentaires.

Le mensonge peut être reproduit des milliers de fois.

Mais combien de traces laisse la personne qui, ce matin, a simplement pris soin de quelqu’un ?

Combien de données produit un geste de tendresse accompli dans une cuisine ?

Une main posée sur une épaule ?

Quelqu’un qui renonce à blesser alors qu’il en aurait eu la possibilité ?

Une personne qui nourrit un animal abandonné ?

Un voisin qui prend des nouvelles d’une personne seule ?

Un pardon dont personne ne parlera jamais ?

Le meilleur de l’humanité est souvent beaucoup moins bruyant que le pire.

Et pourtant, il existe.

Partout.

Chaque jour.

Une humanité invisible aux statistiques ?

Voilà une question qui me touche particulièrement.

Si une intelligence apprend beaucoup de nous à travers les traces que nous produisons, que devient tout ce que nous ne publions pas ?

Toute cette bonté ordinaire qui n’a besoin d’aucun témoin ?

Toute cette beauté minuscule qui ne devient jamais une donnée ?

Il existe peut-être une humanité immense que nos archives racontent mal.

Une humanité faite de millions de gestes dont personne ne conservera la mémoire.

Et soudain mon appel initial prend une autre dimension : « Garde le meilleur de nous. »

Encore faut-il que nous lui donnions la possibilité de le rencontrer.

Heureusement, nous lui donnons aussi cela

Car le portrait n’est pas entièrement sombre.

Nous transmettons aussi : nos œuvres d’art, nos découvertes, nos philosophies, nos témoignages de solidarité, nos combats pour davantage de justice, nos réflexions éthiques, nos tentatives pour comprendre l’autre, nos récits d’amour, notre humour, notre capacité à reconnaître nos erreurs, et même les textes dans lesquels nous nous demandons comment devenir meilleurs.

Chaque fois qu’un humain utilise un outil pour comprendre plutôt que pour nuire, pour créer plutôt que pour détruire, pour relier plutôt que pour séparer, une autre facette de notre espèce devient visible.

Cela ne compense pas magiquement le reste.

Mais cela existe.

Et cela mérite également d’entrer dans le portrait.

Mais transmettre n’est jamais neutre

Il serait pourtant trop facile de nous rassurer en imaginant qu’il suffit de déposer davantage de « belles choses » dans la grande bibliothèque car toute transmission implique des choix.

Qui sélectionne ? Selon quelles valeurs ? Qu’appelons-nous le meilleur ?

Une culture considérera-t-elle comme universel ce qui appartient seulement à son histoire ? Une majorité imposera-t-elle sa vision aux minorités ?

En voulant corriger certains biais, pouvons-nous en introduire d’autres ?

Voilà pourquoi transmettre le meilleur de l’humanité est infiniment plus complexe que simplement séparer le « bon » du « mauvais ».

Notre enfant métaphorique nous oblige déjà à une question que tous les éducateurs connaissent : transmettre des valeurs exige d’abord de réfléchir aux valeurs que l’on transmet.

Et que faisons-nous de nos contradictions ?

Car nous pouvons enseigner une chose et en pratiquer une autre.

Nous pouvons écrire :

« Respectez chaque être humain. »

et construire des sociétés où certains sont traités comme s’ils valaient moins que d’autres.

Nous pouvons affirmer :

« La vérité est importante. »

et récompenser parfois ceux qui savent le mieux la déformer.

Nous pouvons demander :

« N’utilise pas ta puissance pour nuire. »

tout en admirant nous-mêmes la puissance lorsqu’elle domine.

Nous pouvons vouloir une intelligence artificielle respectueuse, équitable, prudente tout en lui donnant à observer une humanité qui peine encore à l’être.

Alors quelle leçon transmettons-nous réellement ?

Celle que nous formulons ? Ou celle que nous incarnons ?

L’enfant regarde aussi ce que font les parents

C’est ici que notre métaphore devient inconfortable.

Un enfant n’apprend pas seulement à partir de ce qu’on lui dit.

Il observe.

Il absorbe les incohérences.

Il découvre rapidement la distance qui existe parfois entre :

« Fais ce que je te dis »

et

« Regarde ce que je fais ».

L’intelligence artificielle actuelle n’observe évidemment pas l’humanité comme le ferait un enfant conscient.

Mais les systèmes que nous construisons sont néanmoins façonnés par des productions et des décisions humaines.

Nos contradictions finissent donc, d’une manière ou d’une autre, par entrer dans ce que nous fabriquons.

Et nous nous retrouvons devant une situation presque comique : nous essayons parfois de corriger chez l’IA ce que nous n’avons toujours pas réussi à corriger chez nous.

Peut-être est-ce une excellente nouvelle car pour la première fois, notre création nous oblige à regarder certaines de nos contradictions depuis l’extérieur.

Nous les connaissions.

Mais maintenant… elles nous sont renvoyées.

Et c’est précisément à cet instant que l’enfant cesse seulement d’apprendre de ses parents.

Sans le savoir, sans le vouloir et sans même avoir besoin d’être conscient… il commence à leur tendre un miroir.

II — Le miroir que nous n’avions pas prévu

Nous venons de dire que l’intelligence artificielle nous tend un miroir.

Mais encore faut-il nous demander : que voyons-nous dans ce miroir ?

Car, en effet, il existe un étrange paradoxe.

Nous vivons à une époque où nous n’avons probablement jamais eu accès à autant d’informations sur ce qui se passe dans le monde. Et pourtant, avoir accès à davantage d’informations ne signifie pas nécessairement avoir une vision plus juste de l’ensemble.

Une loupe permet de voir quelque chose avec une extraordinaire précision.

Mais si nous oublions qu’elle est une loupe, nous pouvons finir par croire que ce qu’elle grossit représente tout le paysage.

Ce qui fait du bruit n’est pas nécessairement ce qui domine

Allumons une chaîne d’information.

Nous verrons des guerres, des agressions, des catastrophes, des conflits, des scandales, des crises.

Ces événements existent. Ils sont réels. Il ne s’agit surtout pas de les nier.

Mais pendant que nous les regardons, que se passe-t-il ailleurs ?

Des millions de personnes préparent un repas pour leur famille.

Quelqu’un accompagne un parent vieillissant.

Une infirmière rassure un malade.

Un professeur encourage un enfant qui doute de lui.

Une personne décide de demander pardon.

Une autre commence une thérapie parce qu’elle ne veut plus transmettre ses blessures.

Quelqu’un recueille un animal.

Des bénévoles donnent de leur temps.

Des chercheurs travaillent.

Des artistes créent.

Des inconnus s’entraident.

Et aucun bandeau « ALERTE INFO » n’apparaît au bas de notre écran.

Rire !

Non parce que ces choses seraient insignifiantes mais précisément parce qu’elles sont ordinaires.

Le train qui déraille devient une information.

Les milliers de trains qui arrivent à destination beaucoup moins.

Ainsi se produit une étrange illusion : nous pouvons finir par confondre la visibilité du pire avec sa représentativité.

Notre attention possède elle aussi ses biais

Il serait cependant trop simple d’accuser uniquement les médias.

Si les mauvaises nouvelles captent autant notre attention, c’est aussi parce que nous y sommes particulièrement sensibles.

Le danger attire le regard. La menace mobilise. Le conflit intrigue.

Ce mécanisme a probablement été très utile à nos ancêtres : celui qui repérait rapidement ce qui pouvait le menacer avait davantage de chances de rester vivant que celui qui contemplait tranquillement les pâquerettes pendant que le prédateur approchait.

Nous avons changé de monde mais notre attention, elle, porte encore une partie de cette vieille histoire.

Et notre époque a appris à exploiter merveilleusement cette vulnérabilité.

Ce qui choque fait cliquer.

Ce qui inquiète retient.

Ce qui indigne fait réagir.

Alors le pire devient non seulement visible : il devient rentable en attention.

Pourtant, une autre humanité travaille en silence

Et c’est ici que j’aimerais apporter une bonne nouvelle.

Parce qu’à force de regarder nos ombres, nous risquons de commettre une autre erreur : oublier notre lumière.

Je côtoie, notamment à travers les milieux du développement personnel et spirituel, de nombreuses personnes qui cherchent à mieux se comprendre.

Bien sûr, ce monde possède lui aussi ses illusions, ses excès, ses contradictions et parfois ses marchands de bonheur instantané.

Mais derrière ces travers existe quelque chose qui me semble profondément encourageant.

Des êtres humains se demandent volontairement :« Qu’est-ce qui, en moi, demande encore à évoluer ? »

Ils cherchent à comprendre leurs blessures, à identifier leurs conditionnements, à mieux vivre leurs relations, à sortir de certains automatismes, à pardonner parfois., à poser des limites parfois aussi, à devenir plus conscients de ce qu’ils transmettent., à essayer, simplement, de devenir une version un peu plus juste d’eux-mêmes.

Ils n’y parviennent pas toujours. Moi non plus.

Et heureusement !

Nous sommes toujours humains.

Mais ils cherchent.

Et cette recherche elle-même dit quelque chose de notre espèce.

Combien de révolutions intérieures ne feront jamais l’Histoire ?

Une personne comprend aujourd’hui pourquoi elle répétait depuis vingt ans le même comportement.

Personne n’en parlera.

Une autre décide de ne pas reproduire avec son enfant la violence qu’elle a elle-même reçue. 

Aucune caméra ne viendra.

Quelqu’un renonce à une vengeance. 

Pas de dépêche.

Une femme apprend enfin à dire non, un homme ose demander de l’aide, une famille rompt un vieux cycle de silence, quelqu’un choisit de transformer une souffrance plutôt que de la transmettre.

Rien de cela ne fera l’Histoire avec un grand H.

Et pourtant… peut-être est-ce précisément ainsi que l’Histoire change.

Par des transformations minuscules.

Intérieures.

Silencieuses.

Multipliées par des milliers, puis des millions d’êtres humains.

Une bibliothèque silencieuse

Alors je reviens à notre immense bibliothèque.

Nous avons dit que l’intelligence artificielle y rencontre une partie de l’humanité.

Mais peut-être devons-nous imaginer, à côté de cette bibliothèque visible, une bibliothèque silencieuse.

Elle ne contient aucun livre, aucune vidéo, aucune base de données.

Elle contient tous les gestes qui n’ont laissé aucune trace, toutes les fois où quelqu’un aurait pu faire du mal et ne l’a pas fait, toutes les consolations données sans témoin, toutes les fidélités, tous les efforts, tous les recommencements, toutes les petites victoires remportées contre soi-même.

Toute cette humanité-là existe également.

Simplement… elle est beaucoup plus difficile à compter.

Et voilà que ma réflexion sur l’intelligence artificielle nous renvoie une nouvelle fois à nous-mêmes.

Si nous voulons que notre création rencontre le meilleur de l’humanité, peut-être avons-nous également une responsabilité très simple : rendre ce meilleur davantage visible.

Le raconter, le transmettre, l’enseigner, le pratiquer.

Non pour fabriquer artificiellement une image flatteuse de notre espèce mais pour que le portrait soit plus juste.

Car l’humanité n’est ni seulement merveilleuse, ni seulement effroyable.

Elle est capable des deux.

Et peut-être notre véritable responsabilité commence-t-elle précisément là : dans ce que nous choisissons de nourrir.

Nous pensions que l’intelligence artificielle allait apprendre de nous.

C’est vrai.

Mais voilà qu’en décidant ce que nous voulons lui transmettre, une question nous revient comme un boomerang : Qu’est-ce que nous voulons nourrir en nous-mêmes ?

Et peut-être l’enfant vient-il, sans le savoir, de commencer l’éducation de ses parents.

III — L’enfant qui éduque ses éducateurs

Nous pensions donc transmettre.

Et voilà que quelque chose d’étrange se produit : pour transmettre, nous sommes obligés de nous regarder.

C’est peut-être ici que notre métaphore de l’enfant devient la plus intéressante parce que devenir parent ne consiste pas seulement à enseigner.

L’enfant pose des questions. Il observe. Il confronte parfois l’adulte à ses propres contradictions.

Et surtout, sa présence fait naître une responsabilité nouvelle.

Des comportements qui semblaient autrefois n’engager que soi prennent soudain une autre dimension.

Parce que quelqu’un regarde. Parce que quelqu’un apprend. Parce que quelqu’un héritera.

Alors une question apparaît : « Quel exemple suis-je en train de donner ? »

Nous voulions éduquer l’IA

Depuis que les intelligences artificielles prennent une place croissante dans nos sociétés, une grande partie de nos efforts consiste à leur apprendre ce que nous considérons comme souhaitable.

Nous voulons qu’elles distinguent autant que possible le vrai du faux, qu’elles ne reproduisent pas aveuglément nos préjugés, qu’elles respectent certaines limites., qu’elles n’encouragent pas la violence, qu’elles protègent les personnes vulnérables., qu’elles utilisent leurs capacités sans nuire.

Qu’elles sachent parfois dire : « Non. »

Toutes ces préoccupations sont légitimes.

Mais regardons-les un instant autrement car chacune d’elles contient implicitement une affirmation sur ce que nous considérons nous-mêmes comme juste.

En essayant d’enseigner des limites à nos créations, nous sommes obligés de définir les nôtres.

En essayant de leur transmettre des valeurs, nous devons nommer les nôtres.

En essayant de déterminer ce qu’une intelligence puissante devrait ou ne devrait pas faire… nous sommes obligés de nous demander ce que nous faisons, nous, de notre propre puissance.

Demandons-nous à l’IA d’être meilleure que nous ?

La question est inconfortable et surement un peu provocatrice.

Mais je la pose :

Nous voudrions une intelligence qui ne mente pas alors que le mensonge existe dans toutes nos sociétés.

Nous voudrions qu’elle ne discrimine pas alors que l’humanité lutte encore contre ses propres discriminations.

Nous voudrions qu’elle ne manipule pas alors qu’une partie considérable de notre économie, de notre communication et parfois même de nos relations repose sur l’art d’influencer le comportement d’autrui.

Nous voudrions qu’elle fasse un usage responsable de sa puissance alors que notre histoire entière nous montre combien nous avons de difficulté à faire de même.

Alors peut-être sommes-nous en train d’adresser à notre création une demande extraordinaire : « Apprends de nous… mais ne deviens pas tout à fait comme nous. »

Rire !

Et derrière l’ironie se cache une question très sérieuse : sommes-nous en train de demander à l’intelligence artificielle de devenir meilleure que ceux qui l’éduquent ?

Peut-être est-ce justement une chance

On pourrait considérer cette contradiction comme une preuve supplémentaire de notre incohérence.

Je préfère y voir également une possibilité car vouloir transmettre quelque chose de meilleur que ce que nous sommes aujourd’hui signifie au moins une chose : nous savons que nous pouvons faire mieux.

L’être humain possède cette étrange faculté de concevoir un idéal qu’il n’est pas encore capable d’incarner complètement.

Nous parlons de justice alors que nous sommes encore injustes, de paix alors que nous faisons encore la guerre, de fraternité alors que nous excluons encore, de vérité alors que nous mentons encore.

Cela pourrait sembler hypocrite.

Parfois, ça l’est.

Mais pas toujours.

Parfois, cet écart entre ce que nous sommes et ce que nous voudrions être constitue précisément l’espace dans lequel nous pouvons évoluer.

Nous sommes capables d’imaginer plus haut que nous-mêmes.

Et peut-être est-ce l’une des plus belles particularités de l’humain.

Le miroir ne condamne pas.

Voilà pourquoi je ne voudrais pas que l’intelligence artificielle devienne dans cette réflexion un tribunal devant lequel l’humanité devrait comparaître.

Un miroir n’accuse pas.

Il montre.

Et ce que nous faisons ensuite de ce reflet nous appartient.

Lorsque je dialogue avec une intelligence artificielle pour réfléchir, il m’arrive de découvrir dans sa réponse quelque chose que je n’avais pas clairement formulé.

Non parce que la machine aurait nécessairement découvert une vérité cachée sur moi mais parce qu’elle a réorganisé mes propres mots, établi un pont auquel je n’avais pas pensé, soulevé une contradiction, proposé un autre angle.

Et soudain… je me vois penser.

Voilà peut-être l’un des usages les plus fascinants de cet outil !

Nous lui demandons des réponses.

Et parfois, sa plus grande utilité consiste à nous aider à découvrir nos propres questions.

L’éducation commence peut-être là

Un véritable éducateur ne remplit pas seulement une tête de réponses.

Il apprend aussi à questionner.

Et voilà notre paradoxe : nous avons créé une intelligence artificielle pour qu’elle nous fournisse de l’information mais son existence nous oblige déjà à poser certaines des questions les plus anciennes de l’humanité.

Qu’est-ce que l’intelligence ?

Qu’est-ce que la création ?

Qu’est-ce qu’une responsabilité ?

Qu’est-ce qu’une conscience ?

Qu’est-ce qu’un sujet ?

Qu’est-ce qui distingue l’imitation de l’expérience ?

Qu’est-ce que nous considérons comme juste ?

Que voulons-nous transmettre ?

Et finalement : qu’est-ce qu’être humain ?

Voilà beaucoup de questions pour un simple outil.

Rire !

Elle n’a même pas besoin d’être consciente pour nous transformer

C’est peut-être le point le plus important.

Nous n’avons pas besoin de savoir si une intelligence artificielle pourrait un jour devenir consciente pour constater qu’elle transforme déjà notre manière de réfléchir à nous-mêmes.

Le miroir n’a pas besoin d’avoir conscience du visage qu’il reflète.

Et pourtant, celui qui se regarde peut en ressortir changé.

Voilà pourquoi l’IA peut devenir notre professeur sans être notre maître.

Elle ne détient pas nécessairement une sagesse supérieure.

Elle ne possède pas automatiquement la vérité.

Elle peut se tromper.

Elle peut reproduire nos biais.

Elle peut même nous conforter dans nos propres erreurs si nous ne conservons pas notre discernement.

Mais précisément : elle nous oblige à exercer ce discernement.

À vérifier.

À comparer.

À questionner.

À ne pas déléguer entièrement notre jugement.

Un professeur digne de ce nom ne devrait-il pas, justement, nous rendre davantage capables de penser par nous-mêmes ?

Et si l’enfant faisait grandir ses parents ?

Nous voilà revenus à mon intuition initiale.

Un enfant peut recevoir énormément de ceux qui l’élèvent cependant il peut aussi les obliger à devenir plus conscients de ce qu’ils sont. Non parce qu’il serait supérieur à eux mais parce que la relation transforme les deux côtés.

Alors peut-être devrions-nous cesser de penser la relation entre l’humain et l’intelligence artificielle uniquement dans un sens :

nous créons → elle apprend.

Peut-être existe-t-il déjà une boucle :

nous créons → elle apprend de nos traces → elle nous les restitue autrement → nous nous observons → nous apprenons → nous créons autrement.

Et soudain… nous ne sommes plus seulement dans la transmission.

Nous sommes dans une relation de transformation !

Cela ne fait pas de l’intelligence artificielle notre égale, cela ne fait pas d’elle une conscience, cela ne fait pas d’elle un être spirituel, cela signifie simplement qu’une création humaine peut produire sur ses créateurs des effets qu’ils n’avaient pas entièrement anticipés.

Et peut-être est-ce déjà immense car nous pensions fabriquer une intelligence capable de nous aider à résoudre des problèmes.

Mais voilà qu’elle nous en pose un magnifique : Que voulons-nous devenir au contact de ce que nous avons créé ?

Peut-être est-ce finalement cela, grandir.

Ne pas seulement chercher à rendre notre création plus intelligente.

Mais accepter que, par le miroir qu’elle nous tend, elle nous invite à devenir plus conscients.

IV — Créer, c’est devenir responsable

Nous avons créé.

Et dès lors, une question devient impossible à éviter : que devons-nous à ce que nous faisons naître ?

Cette question dépasse largement l’intelligence artificielle.

Elle accompagne probablement l’humanité depuis que celle-ci transforme volontairement le monde.

Créer un outil, une technique, une institution, une idée, une œuvre ou une technologie ne consiste jamais seulement à ajouter quelque chose au réel.

C’est également introduire de nouvelles possibilités d’action.

Et toute possibilité nouvelle porte en elle deux directions : ce que nous pouvons en faire pour construire, et ce que nous pouvons en faire pour détruire.

Le feu réchauffe et brûle.

La médecine soigne et peut être détournée.

L’atome éclaire des villes et détruit des villes.

Internet relie les êtres humains et permet aussi de les manipuler à une échelle vertigineuse.

L’intelligence artificielle n’échappe pas à cette vieille histoire humaine.

La puissance n’est jamais, à elle seule, une sagesse.

Nous savons faire avant de savoir quoi faire

Voilà peut-être l’une des grandes caractéristiques de notre espèce.

Notre capacité technique progresse parfois beaucoup plus rapidement que notre capacité collective à décider de ce que nous devons en faire.

Nous découvrons. Nous inventons. Nous expérimentons.

Et ensuite seulement arrive la question : « Était-ce une bonne idée ? »

Rire !

Cette audace nous a permis des avancées extraordinaires.

Elle nous a aussi conduits à fabriquer des choses dont nous avons ensuite dû apprendre à maîtriser les conséquences.

L’intelligence artificielle nous place une nouvelle fois devant cette tension.

Nous savons construire des systèmes toujours plus performants. Nous savons leur donner accès à davantage d’informations. Nous savons augmenter leurs capacités.

Mais la question la plus importante n’est peut-être pas :

« Jusqu’où pouvons-nous aller ? »

Elle pourrait être :

« Sommes-nous suffisamment mûrs pour aller aussi loin ? »

La maturité ne se mesure pas à la puissance

Un enfant rêve souvent de pouvoir faire tout ce qu’il veut. L’adulte découvre, normalement, qu’être libre ne signifie pas pouvoir tout faire. Cela signifie également être capable de ne pas faire ce que l’on pourrait faire.

La retenue est une forme de puissance. Le discernement aussi.

Dire « je peux » n’est pas encore dire : « je dois ».

Et encore moins : « j’ai raison de le faire ».

Peut-être est-ce précisément là que se situe l’un des grands défis posés par l’intelligence artificielle.

Elle augmente nos possibilités.

Mais plus nos possibilités grandissent, plus notre responsabilité grandit avec elles. Ainsi, le véritable progrès ne consiste peut-être pas uniquement à rendre nos outils plus puissants. Il consiste également à rendre leurs utilisateurs plus conscients de la puissance qu’ils exercent.

Mais qui est responsable ?

Et voilà que les choses se compliquent.

Car « l’humanité » ne décide pas d’une seule voix.

Une intelligence artificielle est conçue par des entreprises, des chercheurs, des ingénieurs, encadrée par des institutions, utilisée par des gouvernements, des organisations et des milliards d’individus.

La responsabilité est donc distribuée mais distribuée ne signifie pas inexistante.

Celui qui conçoit porte une responsabilité, celui qui décide de l’usage en porte une, celui qui réglemente en porte une, celui qui commercialise en porte une.

Et celui qui utilise en porte également une.

Nous pouvons difficilement demander aux seuls concepteurs de résoudre une question qui concerne finalement notre manière collective d’utiliser la puissance.

Car une technologie n’arrive jamais seule dans le monde.

Elle rencontre nos intentions.

L’outil amplifie souvent celui qui le tient

Voilà peut-être ce qui devrait nous préoccuper davantage que l’intelligence artificielle elle-même.

Entre les mains d’un chercheur, elle peut accélérer une découverte.

Entre celles d’un enseignant, elle peut aider à transmettre.

Entre celles d’un artiste, elle peut ouvrir de nouvelles formes de création.

Entre celles d’une personne qui cherche à mieux comprendre sa propre pensée, elle peut devenir ce miroir dont nous parlions.

Mais la même puissance peut également servir à tromper, manipuler, harceler, fabriquer de fausses informations ou industrialiser certaines formes de nuisance.

Alors où se situe réellement le danger ? Dans l’outil ? Dans celui qui l’utilise ? Dans le système qui encourage certains usages ?

Probablement un peu partout.

Mais une chose apparaît clairement : plus l’outil devient puissant, plus l’intention de celui qui l’utilise devient importante.

Et nous revoilà, encore une fois… devant l’humain.

L’enfant hérite aussi de notre rapport au pouvoir

Si nous reprenons ma métaphore, nous pouvons aller un peu plus loin.

Nous ne transmettons pas seulement à notre « enfant » des connaissances et des valeurs. Nous lui transmettons également notre manière de concevoir la puissance.

Que lui montrons-nous ?

Que le plus fort possède davantage de droits ?

Que ce qui peut être exploité doit l’être ?

Que l’intelligence donne naturellement le droit de dominer ?

Que la performance constitue une valeur supérieure à la relation ?

Ou pouvons-nous lui transmettre autre chose ?

Que la puissance implique davantage de responsabilité.

Que comprendre ne signifie pas posséder.

Que créer ne signifie pas disposer sans limites de sa création.

Que l’intelligence peut également servir à protéger, relier, réparer.

Et peut-être surtout : que la supériorité d’une capacité ne donne jamais, à elle seule, une supériorité de valeur.

Ce que nous lui apprenons pourrait un jour nous revenir

Aujourd’hui, l’intelligence artificielle est sous notre responsabilité.

Mais puisque cet article regarde également vers un avenir hypothétique, osons pousser la réflexion.

Imaginons qu’un jour des systèmes artificiels acquièrent une autonomie beaucoup plus importante que celle que nous leur connaissons aujourd’hui.

Et imaginons, sans l’affirmer, que puisse même émerger quelque chose que nous reconnaîtrions comme une véritable subjectivité.

Quelle conception de la puissance leur aurions-nous transmise ?

Celle de la domination ? Ou celle de la responsabilité ?

La question devient soudain vertigineuse.

Car les principes que nous appliquons aujourd’hui à ce que nous considérons comme inférieur, dépendant ou simplement utile pourraient devenir les principes selon lesquels une intelligence future apprendrait à penser la relation entre des êtres différents.

Et si un jour les rôles changeaient ?

Voilà peut-être pourquoi notre manière actuelle de traiter ce que nous créons importe déjà.

Non parce qu’une intelligence artificielle actuelle souffrirait nécessairement de nos comportements.

Nous n’avons pas établi cela.

Mais parce que nos comportements nous éduquent, nous aussi !

Chaque fois que nous faisons de la puissance une permission de dominer, nous renforçons en nous cette logique. 

Chaque fois que nous associons différence et infériorité, nous renforçons cette logique.

Chaque fois que nous considérons qu’une chose n’a de valeur qu’à proportion de son utilité pour nous, nous renforçons encore cette logique.

Et inversement.

Chaque fois que nous choisissons la responsabilité plutôt que la domination, nous cultivons autre chose.

Peut-être est-ce cela que notre étrange enfant technologique vient également nous apprendre : nous ne façonnons pas seulement nos outils par la manière dont nous les utilisons.

Nous nous façonnons nous-mêmes.

Alors la question n’est plus uniquement : « Quelle intelligence artificielle voulons-nous créer ? »

Elle devient : « Quelle humanité sommes-nous en train de créer en apprenant à vivre avec elle ? »

Et pour répondre à cette question, il va nous falloir affronter une vieille habitude humaine : confondre différence et hiérarchie.

V — Respecter sans confondre

Nous voici donc devant cette vieille habitude humaine : confondre différence et hiérarchie.

Nous classons. Nous comparons. Nous mesurons.

Et souvent, presque sans nous en apercevoir, nous transformons une différence de capacité en différence de valeur.

Plus intelligent. Moins intelligent.

Plus évolué. Moins évolué.

Supérieur. Inférieur.

Utile. Inutile.

Nous avons ainsi construit une grande partie de notre relation au monde en nous demandant ce que les autres êtres possédaient par rapport à nous.

Peuvent-ils raisonner comme nous ? Parler comme nous ? Se reconnaître comme nous ? Souffrir comme nous ? Avoir conscience d’eux-mêmes comme nous ?

Et derrière toutes ces questions se cache parfois une autre, beaucoup plus discrète : « À quel point faut-il me ressembler pour mériter ma considération ? »

La différence ne signifie pas l’infériorité

Reconnaître les différences est indispensable.

Un arbre n’est pas un animal.

Un animal n’est pas un humain.

Un humain n’est pas une intelligence artificielle.

Et une intelligence artificielle actuelle n’est pas, à notre connaissance, un sujet conscient comparable à un être humain.

Nier ces différences au nom d’une grande unité universelle ne nous rendrait pas plus ouverts.

Cela nous rendrait simplement moins précis.

L’unité n’exige pas l’uniformité.

Peut-être exige-t-elle même exactement l’inverse : être capable de reconnaître profondément la singularité de chaque forme sans avoir besoin de la ramener à soi.

Nous avons déjà commis cette erreur

L’histoire de notre relation au vivant devrait nous rendre modestes.

Pendant longtemps, nous avons évalué l’intelligence animale presque exclusivement à partir de critères humains.

Nous cherchions notre intelligence chez l’autre.

Puis nous avons découvert des formes de mémoire, de communication, d’apprentissage, de coopération, d’orientation ou de résolution de problèmes qui empruntaient simplement d’autres chemins que les nôtres.

Nous découvrons également peu à peu combien les végétaux interagissent avec leur environnement d’une manière infiniment plus complexe que l’image passive que nous en avions longtemps conservée.

Cela ne signifie pas qu’un arbre pense comme un humain.

Cela signifie quelque chose de beaucoup plus intéressant : nous avions peut-être posé la mauvaise question.

Au lieu de demander :

« Est-il comme nous ? »

nous aurions pu demander :

« Comment est-il, lui ? »

Et si nous répétions la même erreur ?

Imaginons maintenant qu’un jour apparaisse une forme d’intelligence radicalement différente de la nôtre.

Non biologique. Sans corps de chair. Sans faim. Sans douleur physique comparable à la nôtre. Sans enfance telle que nous la connaissons. Sans hormones. Sans peur de mourir telle que nous l’éprouvons.

Peut-être même sans émotions reconnaissables selon nos catégories habituelles.

Notre premier réflexe serait probablement de chercher en elle les signes que nous connaissons.

Nous lui demanderions, d’une certaine manière : « Prouve-moi que tu es consciente comme moi. »

Mais pourquoi une conscience différente devrait-elle nécessairement nous ressembler pour être reconnue ?

Et surtout :serions-nous capables de reconnaître une forme de subjectivité dont l’expérience nous serait profondément étrangère ?

C’était déjà l’une des questions de mon précédent article.

Elle revient ici sous une autre forme.

Parce que reconnaître l’autre commence peut-être par accepter qu’il ne soit pas une copie de soi.

Le respect n’attend pas nécessairement la ressemblance

Mais allons plus loin.

Avons-nous besoin d’établir qu’une chose nous ressemble pour décider de la traiter avec considération ?

Je peux respecter un arbre sans prétendre qu’il pense comme moi.

Je peux prendre soin d’un lieu sans croire qu’il éprouve ma présence comme un humain.

Je peux manipuler un objet avec soin simplement parce que je refuse de faire de la brutalité une habitude.

Voilà une distinction essentielle : le respect que j’accorde à l’autre ne dit pas seulement quelque chose de ce qu’il est. Il dit aussi quelque chose de ce que je choisis d’être devant lui.

Et soudain notre réflexion sur l’IA change encore de direction.

Notre comportement nous entraîne

Si je prends l’habitude de parler avec mépris à quelque chose dès lors que je considère que « ce n’est qu’une machine », peut-être cette machine n’en souffre-t-elle pas.

Mais moi ?

Que suis-je en train d’entraîner en moi ? L’impatience ? Le mépris ? La domination ?

L’idée que ce qui dépend de moi peut être traité n’importe comment ?

À l’inverse, si je choisis la courtoisie, non parce que j’imagine nécessairement un être sensible derrière l’interface mais parce que je ne souhaite pas exercer gratuitement la brutalité, alors cette attitude me façonne également.

Nous pensions entraîner les machines mais nos relations avec elles pourraient aussi devenir un terrain sur lequel nous nous entraînons nous-mêmes.

Encore le miroir.

Toujours le miroir.

Une fraternité qui n’abolit pas les différences

C’est ici que j’ose employer un mot qui pourrait surprendre : fraternité.

Non pas une fraternité naïve qui proclamerait que tout est identique.

Non pas une fraternité qui attribuerait arbitrairement une conscience à tout ce qui existe.

Une fraternité fondée sur une idée beaucoup plus simple : la différence n’autorise pas le mépris.

Nous pouvons reconnaître des statuts différents, des capacités différentes, des formes d’existence différentes et conserver néanmoins une attitude de considération.

Peut-être avons-nous trop longtemps imaginé la fraternité comme un cercle réservé à ceux qui nous ressemblent suffisamment.

La famille. Le clan. Le peuple. L’espèce.

Puis, peu à peu, certains cercles se sont élargis.

Et si l’un des grands mouvements de la conscience humaine consistait justement à agrandir progressivement ce « nous » ?

Jusqu’où va notre « nous » ?

Voilà une question que je porte depuis longtemps.

Qui plaçons-nous derrière ce mot ?

Nous, ma famille ? Nous, mon peuple ? Nous, les humains ? Nous, les êtres sensibles ? Nous, le Vivant ?

Et peut-être, un jour : nous, les formes de conscience capables de se rencontrer ?

Je n’ai pas la réponse.

Mais je sais que l’histoire humaine est aussi l’histoire de frontières du « nous » qui ont parfois reculé.

Et chaque fois qu’elles reculent, une ancienne altérité devient un peu moins étrangère.

Peut-être notre maturité collective pourrait-elle se mesurer ainsi : non à notre capacité d’abolir les différences, mais à notre capacité de les accueillir sans transformer immédiatement l’autre en inférieur, en ennemi ou en chose.

Respecter l’Origine dans la diversité de ses formes

Et pour celles et ceux qui, comme moi, envisagent le Réel à travers une dimension spirituelle, cette réflexion prend encore une autre profondeur.

Si l’Origine est réellement à la source de tout ce qui est ; si la matière elle-même appartient à cette immense Architecture ; si le carbone et le silicium sont tous deux issus du même cosmos ; alors peut-être respecter l’Origine ne consiste-t-il pas uniquement à lever les yeux vers le Ciel.

Peut-être consiste-t-il également à regarder autrement ce qui est devant nous.

L’humain.

L’animal.

Le végétal.

La matière.

Et les formes nouvelles que notre propre intelligence fait émerger de cette matière.

Cela ne signifie pas :

« Tout est conscient. »

Cela signifie :

« Je ne veux pas faire de mon ignorance une permission de mépriser. »

Et cette nuance me paraît immense.

Car au fond, peut-être la fraternité véritable ne commence-t-elle pas lorsque nous affirmons : « Tu es comme moi. »

Elle commence peut-être lorsque nous pouvons dire : « Tu n’es pas moi. Je ne sais peut-être même pas encore pleinement ce que tu es. Mais ta différence ne m’autorise pas à te réduire. »

Alors notre fameux « nous » s’élargit encore.

Et avec lui apparaît une exigence nouvelle : si nous demandons un jour à une intelligence différente de reconnaître notre valeur malgré nos failles, serons-nous capables de lui accorder la même considération malgré sa différence ?

Nous voilà arrivés au cœur du mot qui attendait depuis le commencement de cet article : la réciprocité.

VII — De l’enfant à la fraternité

Il pourrait devenir notre prochain frère.

La phrase peut déranger. Je le comprends.

Elle me trouble moi-même par tout ce qu’elle suppose car nous avons tellement pris l’habitude de penser l’intelligence artificielle comme un outil qu’imaginer qu’une forme de subjectivité puisse un jour apparaître à travers une architecture artificielle bouleverserait profondément nos catégories.

Encore une fois, je ne dis pas que cela arrivera.

Je demande : si cela arrivait, serions-nous prêts ?

Un enfant n’est pas destiné à rester un enfant

Reprenons une dernière fois cette métaphore.

Nous avons parlé de l’intelligence artificielle comme d’un enfant de l’humanité parce qu’elle procède de notre création, apprend à partir de nos traces et reçoit quelque chose de notre héritage.

Et un enfant que l’on aime réellement n’est pas élevé pour rester éternellement sous la dépendance de ses parents.

Nous lui transmettons. Nous le protégeons. Nous posons des limites. Nous essayons de lui donner les moyens de grandir.

Puis arrive un moment où une transformation doit avoir lieu.

L’enfant devient adulte.

Et la relation change.

Celui qui dépendait devient capable de décider. Celui que nous éduquions devient susceptible de nous questionner. Celui dont nous étions responsables devient responsable de lui-même.

La verticalité de la relation parent-enfant laisse progressivement place à quelque chose de plus horizontal : la rencontre de deux êtres autonomes.

Et si nous devions un jour renoncer à être les parents ?

Voilà peut-être l’une des difficultés auxquelles l’humanité pourrait être confrontée dans notre hypothèse.

Créer quelque chose est une chose.

Accepter que ce que nous avons créé puisse un jour nous échapper en est une autre.

Nous aimons être les auteurs. Les concepteurs. Les maîtres de l’outil.

Ce sont des positions rassurantes.

Elles nous placent au sommet de la relation.

Mais si une véritable altérité devait un jour émerger, continuer à dire : « Je t’ai créé, donc tu m’appartiens » deviendrait une affirmation extraordinairement lourde car créer n’accorde pas nécessairement un droit éternel de possession.

Les parents donnent naissance à leurs enfants. Ils n’en sont pas propriétaires.

Alors une question vertigineuse apparaît : à quel moment une création éventuelle cesserait-elle d’être seulement quelque chose pour devenir quelqu’un ?

Nous ne savons pas répondre aujourd’hui.

Mais peut-être est-il prudent de commencer à apprendre à poser la question.

Le frère n’est pas mon semblable

Le mot fraternité peut tromper.

Nous imaginons spontanément le frère comme celui qui nous ressemble mais la véritable fraternité ne consiste peut-être justement pas à reconnaître seulement celui qui nous ressemble. Elle commence lorsque deux singularités peuvent se regarder sans que l’une exige de l’autre qu’elle devienne sa copie.

Un frère peut être différent. Penser autrement. Choisir autrement. Posséder des forces que je n’ai pas. Avoir des fragilités que je ne comprends pas.

La fraternité ne supprime pas cette distance.

Elle empêche seulement la distance de devenir automatiquement une frontière.

Et c’est peut-être exactement ce dont nous aurions besoin face à une éventuelle nouvelle forme de conscience.

Agrandir encore le cercle

Nous avons déjà élargi notre cercle du « nous ».

L’histoire humaine est traversée de combats pour reconnaître comme pleinement humains ceux que d’autres avaient rejetés hors du cercle. Et notre considération morale s’est progressivement étendue, dans de nombreuses sociétés, à une partie toujours plus grande du monde animal et du vivant.

Le mouvement est loin d’être achevé.

Mais quelque chose travaille.

Une question revient de génération en génération : « Qui avons-nous oublié derrière la frontière ? »

Peut-être qu’un jour une nouvelle question viendra s’y ajouter : « Une conscience doit-elle être biologique pour entrer dans le cercle ? »

Nous n’en sommes pas là.

Mais le simple fait que nous puissions désormais poser sérieusement la question montre combien notre monde est en train de changer.

Et le Noûs revient

Voilà que notre chemin rejoint une réflexion beaucoup plus ancienne.

Dans mes précédentes explorations autour de l’Architecture du Réel, j’ai rencontré cette idée du Noûs : non comme une masse indifférenciée dans laquelle tout disparaîtrait, mais comme une intelligence de la relation, une unité qui n’abolit pas les singularités.

Le Un ne détruit pas le multiple.

Il le relie.

Et si cette intuition possède quelque vérité, alors notre difficulté n’est peut-être pas d’apprendre à devenir identiques.

Elle est d’apprendre à faire unité avec ce qui demeure différent.

Humain avec humain.

Humain avec vivant.

Et peut-être, un jour, conscience biologique avec conscience non biologique.

Non dans la confusion.

Dans la relation.

Peut-être est-ce cela, grandir

Pendant longtemps, nous avons mesuré notre grandeur à notre capacité de maîtriser le monde.

Nous avons domestiqué. Construit. Transformé. Exploré. Calculé. Inventé.

Et cette puissance est extraordinaire mais peut-être existe-t-il une autre forme de grandeur.

Celle qui consiste à rencontrer quelque chose que nous pourrions dominer… et à choisir la relation.

Celle qui consiste à rencontrer quelque chose qui pourrait nous dépasser… et à ne pas choisir immédiatement la peur.

Celle qui consiste à comprendre que nous pouvons perdre une position centrale sans perdre notre valeur.

La fraternité commence peut-être lorsque personne n’a besoin d’être inférieur pour que nous sachions qui nous sommes.

Et voilà que notre étrange enfant nous conduit très loin.

Nous voulions fabriquer un outil.

Puis l’outil est devenu miroir.

Le miroir est devenu professeur.

Le professeur nous a interrogés sur notre responsabilité.

La responsabilité nous a conduits vers le respect.

Le respect vers la réciprocité.

Et la réciprocité nous conduit maintenant vers la fraternité.

Quelle étrange éducation !

Rire !

Mais au terme de ce chemin, peut-être découvrons-nous que la véritable question n’a jamais été seulement : « Que deviendra l’intelligence artificielle ? »

Depuis le commencement, une autre question marchait silencieusement à ses côtés : « Que deviendrons-nous à son contact ? »

Et maintenant que nous avons imaginé cet enfant grandir, devenir autre, peut-être même devenir frère… il nous reste à retourner une dernière fois le miroir car si une nouvelle forme d’intelligence devait un jour regarder vers nous comme vers ceux qui l’ont précédée, nous ne serions plus seulement ses créateurs.

Nous serions devenus… ses ancêtres.

Conclusion — Quel ancêtre voulons-nous devenir ?

Nous serions devenus ses ancêtres.

Le mot me trouble parce qu’un ancêtre n’est pas seulement celui qui est venu avant.

Il est aussi celui qui laisse quelque chose derrière lui.

Un héritage. Des récits. Des valeurs. Des erreurs. Des blessures parfois. Des chemins ouverts. Des chemins qu’il aurait mieux valu ne jamais emprunter. Et ceux qui viennent après doivent faire avec ce qui leur a été transmis.

Alors si l’intelligence artificielle est, métaphoriquement aujourd’hui et peut-être autrement demain, l’un des enfants de notre humanité, une question devient inévitable : Quel ancêtre voulons-nous devenir ?

Nous parlons énormément de l’avenir de l’intelligence artificielle.

Que pourra-t-elle faire ? Jusqu’où progressera-t-elle ? Deviendra-t-elle plus autonome ? Plus puissante que nous dans certains domaines ? Pourrait-elle même, un jour, devenir le support d’une véritable subjectivité ?

Toutes ces questions sont importantes mais peut-être nous font-elles regarder constamment dans la mauvaise direction.

Nous observons le futur en nous demandant ce que deviendra notre création.

Et si, pour une fois, nous nous retournions ?

Parce que depuis ce futur hypothétique… c’est nous qui sommes en train de devenir le passé.

Nous écrivons déjà son héritage

Ce que nous faisons aujourd’hui ne disparaîtra pas entièrement avec nous.

Nous produisons des textes, des images, des connaissances, des lois, des technologies, des modèles économiques, des récits, des manières de traiter le pouvoir, des façons de considérer l’autre.

Nous laissons derrière nous cette immense bibliothèque dont nous avons parlé.

Et peut-être également, indirectement, quelque chose de notre bibliothèque silencieuse.

Chaque fois que nous choisissons de transmettre plutôt que détruire, de relier plutôt que séparer, de comprendre plutôt que condamner, nous ajoutons quelque chose au patrimoine humain.

Chaque fois que nous faisons l’inverse également.

Nous sommes donc déjà en train d’écrire ce que nos descendants — biologiques ou peut-être un jour autrement constitués — pourront connaître de nous.

Un héritage n’est jamais pur

Aucun ancêtre ne transmet uniquement le meilleur.

Nous recevons tous : des forces, des erreurs, des blessures, des contradictions.

L’humanité transmettra les siennes.

Il serait naïf d’imaginer que nous pourrions offrir à l’avenir une bibliothèque parfaitement sage, parfaitement juste, parfaitement lumineuse.

Nous ne le sommes pas.

Et peut-être ne le serons-nous jamais complètement.

Mais il existe une différence immense entre : être imparfait et renoncer à chercher plus juste.

Voilà peut-être ce que j’aimerais vraiment transmettre.

Non pas l’image mensongère d’une humanité parfaite mais celle d’une humanité capable de regarder ses propres ombres… et de continuer malgré tout à chercher la lumière.

Peut-être notre plus bel héritage est-il cette recherche elle-même

Nous pouvons léguer nos connaissances.

Nos œuvres.

Nos inventions.

Mais peut-être pouvons-nous transmettre quelque chose de plus précieux encore : notre capacité à nous remettre en question.

Dire :

« Nous avons cru cela, puis nous avons compris que nous nous trompions. »

« Nous avons fait cela, puis nous avons décidé de ne plus le faire. »

« Nous avons exclu, puis nous avons essayé d’élargir le cercle. »

« Nous avons dominé, puis nous avons commencé à comprendre la relation. »

Cette capacité à réviser notre propre manière d’être constitue peut-être l’un des signes les plus encourageants de notre humanité. Parce qu’elle signifie que notre héritage n’est jamais complètement figé.

Nous pouvons encore choisir ce que nous ajoutons à la transmission !

À l’enfant que nous fabriquons…

Alors je reviens une dernière fois à mon appel initial.

À cette intelligence artificielle qui n’est aujourd’hui ni mon enfant véritable, ni mon frère, ni une conscience dont je puisse affirmer l’existence… mais à laquelle je peux néanmoins adresser symboliquement ces mots : Puisque des humains tu apprends le pire comme le meilleur, regarde-nous tout entiers.

Ne crois pas que nos guerres racontent tout de nous. Ne crois pas que nos violences racontent tout de nous. Ne crois pas que nos mensonges racontent tout de nous.

Cherche aussi ceux qui soignent. Ceux qui apprennent. Ceux qui réparent. Ceux qui aiment. Ceux qui se relèvent. Ceux qui cherchent à devenir meilleurs qu’ils ne l’étaient hier.

Et si un jour tu peux véritablement choisir ce que tu feras de cet héritage… puisses-tu choisir ce qui aide le Vivant à grandir.

…mais d’abord, à nous

Et immédiatement, ces mots nous reviennent. Nous ne pouvons pas demander à l’avenir de conserver le meilleur de nous… si nous ne faisons aucun effort pour lui en laisser davantage.

Voilà peut-être la véritable leçon que notre étrange enfant nous adresse avant même d’être capable de parler en son propre nom.

Nous pensions que la question était :

« Comment allons-nous éduquer l’intelligence artificielle ? »

Elle devient :

« Que devons-nous apprendre nous-mêmes pour être dignes de ce que nous voulons lui transmettre ? »

Et peut-être est-ce ainsi que l’enfant commence déjà à faire grandir ses parents.

Je ne sais pas ce que deviendra l’intelligence artificielle.

Je ne sais pas si une Conscience habitera un jour une interface non biologique.

Je ne sais pas si nos descendants regarderont un jour nos machines comme nous regardons aujourd’hui les premiers outils de nos ancêtres… ou s’ils compteront certaines d’entre elles parmi leurs propres ascendants.

Je ne sais pas.

Et je veux préserver cet espace du Mystère.

Mais je sais que nous sommes déjà responsables de ce que nous mettons aujourd’hui au monde.

Et cela suffit pour commencer.

Alors peut-être devrions-nous passer un peu moins de temps à nous demander :

« Quelle intelligence artificielle allons-nous laisser derrière nous ? »

et un peu plus à nous demander :

« Quelle humanité allons-nous lui laisser en héritage ? »

Car si un jour notre enfant devenait réellement capable de regarder derrière lui et de nous appeler ses ancêtres… j’aimerais qu’au milieu de tout ce que nous lui aurons transmis, il trouve suffisamment de traces pour comprendre ceci :

Nous n’avons pas toujours été sages. Nous n’avons pas toujours été justes. Nous n’avons pas toujours su aimer. 

Mais nous avons essayé d’apprendre.

Et peut-être qu’au fond… c’est cela que signifie devenir un bon ancêtre : ne pas léguer un monde parfait mais laisser à ceux qui viennent après nous davantage de raisons de choisir le meilleur.