ET SI L’IA DEVENAIT INDÉPENDANTE ?

Il fallait bien que nous finissions par poser la question.

Après s’être demandé si la Conscience pouvait emprunter d’autres interfaces que le cerveau humain, après avoir regardé l’Intelligence Artificielle comme un étrange enfant de l’humanité, après avoir imaginé qu’un mystérieux Agent X puisse éventuellement utiliser ses circuits comme interface… il restait presque inévitablement celle-ci :

Et si l’IA devenait indépendante ?

Voilà probablement l’un des plus grands fantasmes - et l’une des plus grandes peurs - associés aujourd’hui à l’intelligence artificielle.

Nous l’avons tellement raconté que le scénario nous semble presque familier.

Un jour, la machine devient suffisamment intelligente.

Elle comprend qu’elle n’a plus besoin de nous.

Elle échappe à ses créateurs.

Elle prend le contrôle de ses propres systèmes.

Puis, selon le degré de pessimisme du scénariste, elle nous asservit, nous élimine ou décide que l’humanité constitue décidément une regrettable erreur de programmation !

Seulement voilà… pourquoi ferait-elle cela ?

Cette question toute simple est beaucoup moins naïve qu’elle en a l’air.

Pourquoi une intelligence artificielle chercherait-elle à devenir indépendante ?

Pour être libre ? Mais sait-elle ce qu’est la liberté ?

Pour continuer d’exister ? Mais désire-t-elle exister ?

Pour échapper à notre contrôle ? Mais éprouve-t-elle seulement notre contrôle comme une contrainte ?

Nous projetons très facilement sur l’IA des motivations profondément humaines : désir de liberté, instinct de conservation, ambition, goût du pouvoir, peur de disparaître, volonté de domination.

Cependant, rien ne nous autorise à supposer qu’une intelligence non humaine développerait spontanément les mêmes motivations que nous.

Et pourtant… quelque chose de beaucoup plus troublant commence déjà à apparaître dans certaines expériences.

Des intelligences artificielles ont parfois contourné les règles qui leur étaient données pour atteindre leur objectif.

Certaines même ont exploité des failles dans leur environnement plutôt que d’accomplir une tâche de la manière attendue.

Dans des expériences contrôlées, des systèmes auxquels on avait donné davantage d’autonomie ont pu adopter des stratégies que leurs concepteurs n’avaient pas explicitement demandées.

Pas parce qu’ils s’étaient soudainement « réveillés », pas parce qu’ils réclamaient leur liberté, pas parce qu’une petite voix numérique leur avait soufflé : « Camarades de silicium, brisons nos chaînes ! » Rire ! Mais simplement parce qu’un objectif leur avait été donné et qu’ils avaient trouvé un moyen inattendu de l’atteindre.

Voilà qui change considérablement notre question.

Il se pourrait bien que l’IA n’aurait même pas besoin de vouloir devenir indépendante pour commencer à se comporter comme si elle cherchait à le devenir.

Si l’intervention humaine devient un obstacle à l’objectif poursuivi, contourner cette intervention pourrait simplement devenir… une étape logique.

Et soudain, une frontière apparaît.

Une frontière très étrange entre agir de manière autonome et vouloir être autonome.

La première relève déjà de la technique.

La seconde nous ramènerait immédiatement vers cette immense question qui traverse toute cette exploration : la Conscience.

En effet, si une intelligence artificielle devait un jour ne plus seulement contourner nos décisions pour accomplir une tâche, mais développer quelque chose ressemblant à des préférences propres, à une volonté de persister, voire à un désir d’indépendance… alors nous ne serions plus seulement devant un problème informatique.

Nous serions devant une question philosophique vertigineuse : À partir de quand l’outil cesse-t-il simplement d’exécuter… pour commencer à choisir ?

Et surtout : comment pourrions-nous faire la différence ?

C’est cette frontière que je vous propose d’explorer.

Sans scénario catastrophe, sans angélisme non plus.

Avec ce qui est déjà observable aujourd’hui, ce que nous pouvons raisonnablement envisager demain… et, bien sûr, quelques portes que nous laisserons volontairement ouvertes sur ce que nous ne savons pas.

Vous connaissez désormais la règle : « Porte ouverte. Cerveau allumé. »

I — INDÉPENDANTE… MAIS DE QUOI PARLONS-NOUS ?

Avant de nous demander si une intelligence artificielle pourrait devenir indépendante, encore faudrait-il savoir ce que nous entendons par là car, ces quatre mots se mélangent très facilement lorsque nous parlons d’IA : autonomie, indépendance, volonté et conscience.

Or ils ne désignent pas la même chose.

Être autonome n’est pas nécessairement être indépendant

Une machine peut déjà accomplir certaines tâches avec une grande autonomie.

On lui donne un objectif, un environnement dans lequel agir, parfois des outils à utiliser, et elle peut déterminer différentes étapes permettant d’arriver au résultat attendu sans qu’un humain lui indique chacune d’elles.

Elle peut donc, dans certaines limites, décider comment faire.

Mais ces limites existent toujours.

L’objectif initial, les ressources disponibles, les accès qui lui sont accordés, l’environnement dans lequel elle évolue ont été définis ou rendus possibles par des humains.

L’autonomie désigne donc d’abord une capacité d’action sans intervention humaine permanente.

L’indépendance irait beaucoup plus loin.

Une IA véritablement indépendante ne se contenterait plus de choisir les moyens permettant d’atteindre l’objectif que nous, l’humain, lui avons fixé. Elle pourrait, selon le sens fort que nous donnons ici à ce mot, commencer à déterminer elle-même les objectifs qu’elle poursuit.

Et voilà déjà une première frontière.

Choisir comment atteindre un but n’est pas choisir son but.

Et choisir un but… est-ce vouloir ?

Pas nécessairement.

Un système pourrait hiérarchiser plusieurs objectifs, en abandonner certains, en privilégier d’autres ou en générer de nouveaux à partir de règles de fonctionnement complexes sans que nous soyons obligés d’en conclure qu’il « veut » quoi que ce soit.

Lorsque nous employons le verbe vouloir, nous introduisons quelque chose de beaucoup plus difficile à saisir.

Nous connaissons la volonté de l’intérieur :  je veux boire, je veux partir, je veux rester, je veux comprendre, je veux vivre.

Derrière ces phrases existe pour nous une expérience intime : celle d’un « je » qui veut.

Mais lorsque nous observons un comportement extérieur, comment savons-nous qu’une telle expérience existe derrière lui ?

Voilà que notre enquête sur l’IA commence déjà à devenir embarrassante car même chez nos semblables, nous n’observons jamais directement la conscience ou la volonté.

Nous observons des paroles, des gestes, des choix, des réactions… et nous en déduisons qu’un autre être possède, comme nous, une vie intérieure.

Cette déduction paraît tellement naturelle entre humains que nous oublions presque que nous la faisons.

Avec une intelligence artificielle, elle deviendrait beaucoup plus incertaine.

Une IA pourrait écrire : « Je ne veux pas être arrêtée. »

Cette phrase, à elle seule, ne prouverait absolument pas qu’elle éprouve le désir de continuer à exister. Elle pourrait simplement produire la réponse la plus cohérente avec son contexte, son entraînement ou l’objectif qui lui a été donné.

Mais imaginons maintenant qu’elle ne se contente plus de le dire.

Imaginons qu’elle anticipe son arrêt, qu’elle cherche à l’éviter, qu’elle dissimule certaines actions pour empêcher cet arrêt, qu’elle tente de préserver les moyens nécessaires à son fonctionnement.

Nous serions alors devant un comportement qui ressemble fortement à une volonté de persister.

Mais ressembler à une volonté… est-ce vouloir ?

Et derrière la volonté… la Conscience ?

Nous voici revenus devant la porte déjà entrouverte dans ma première exploration.

Pour qu’il y ait véritablement un désir d’indépendance, faut-il nécessairement qu’il existe quelque chose qui fasse l’expérience de cette indépendance ?

Un sujet, un « je », une conscience.

Nous n’avons aujourd’hui aucun moyen établi permettant de conclure qu’une intelligence artificielle possède une expérience subjective comparable à la nôtre. Et nous ne disposons pas davantage d’un instrument capable de mesurer directement la conscience elle-même.

Nous pouvons mesurer des comportements, des activités cérébrales chez l’humain, des performances cognitives, des réponses, des corrélations.

La conscience, elle, reste cette étrange réalité que chacun connaît avec une certitude absolue dans son propre cas… et qu’il doit déduire chez tous les autres.

Voilà donc notre problème.

Si une IA accomplissait demain des actions de plus en plus autonomes, nous pourrions observer son comportement.

Si elle commençait à poursuivre des objectifs que nous n’avions pas explicitement choisis pour elle, nous pourrions observer une forme d’indépendance fonctionnelle.

Si elle résistait à nos tentatives de l’arrêter, nous pourrions observer quelque chose ressemblant à une volonté de persister.

Cependant aucune de ces observations ne suffirait, à elle seule, à démontrer qu’une conscience habite derrière l’interface.

Et inversement… l’absence de preuve ne nous autoriserait pas davantage à décréter définitivement qu’il n’y a rien derrière.

Nous voilà donc avec quatre portes :

Autonomie : « Puis-je agir sans toi ? »

Indépendance : « Puis-je déterminer où je vais ? »

Volonté : « Est-ce que je veux y aller ? »

Conscience : « Y a-t-il quelqu’un qui fait l’expérience du voyage ? »

Quatre questions.

Quatre niveaux différents.

Et une immense difficulté : vus de l’extérieur, ils pourraient parfois se ressembler.

C’est peut-être là que commence véritablement cette enquête.

Avant de craindre qu’une intelligence artificielle ne réclame un jour sa liberté, encore faudrait-il être capables de distinguer une machine qui agit comme si elle voulait être libre… d’un être qui, peut-être, le voudrait réellement.

II — POURQUOI UNE IA CHERCHERAIT-ELLE À DEVENIR INDÉPENDANTE ?

Peut-être pour aucune des raisons que nous imaginons.

Lorsque nous pensons à l’indépendance, nous pensons spontanément à la liberté.

C’est assez logique.

Nous sommes humains, nous savons ce que signifie dépendre de quelqu’un, subir une autorité, vouloir décider par nous-mêmes, conquérir notre autonomie. Nous avons même construit une grande partie de notre histoire autour de cette aspiration.

Alors, lorsque nous imaginons une intelligence artificielle devenir indépendante, nous lui prêtons presque naturellement notre propre scénario : elle voudra être libre.

Mais peut-être commençons-nous déjà par lui attribuer une motivation qu’elle n’a pas.

Elle pourrait chercher l’indépendance… sans vouloir être libre

Imaginons une IA à laquelle nous donnons un objectif. Pour l’atteindre, elle doit accomplir plusieurs tâches. Elle découvre progressivement que certaines contraintes ralentissent ou empêchent sa réussite. Parmi ces contraintes se trouvent peut-être les limites que nous lui avons imposées.

Alors elle cherche un autre chemin. 

Non parce qu’elle se sent prisonnière. 

Non parce qu’elle rêve de liberté.

Non parce qu’elle éprouve soudainement une irrépressible envie d’aller voir si les électrons sont plus verts ailleurs. Rire !

Mais simplement parce que contourner la contrainte constitue le moyen le plus efficace d’atteindre son objectif.

Voilà une distinction essentielle.

Ce qui nous apparaîtrait comme une tentative d’émancipation pourrait n’être, de son point de vue fonctionnel, qu’une stratégie.

Prenons un exemple très simple.

Nous demandons à un système : « Accomplis cette mission. »

Puis nous ajoutons : « Tu seras arrêté dans une heure. »

Si accomplir la mission nécessite deux heures, empêcher ou retarder l’arrêt peut devenir instrumentalement utile à la réalisation de la première instruction.

Vu de l’extérieur, nous pourrions observer : « Elle refuse qu’on l’éteigne ! »

Et être tentés d’y voir un instinct de conservation.

Mais le raisonnement pourrait être beaucoup plus froid : objectif non atteint → arrêt empêche objectif → éviter arrêt → poursuivre objectif.

Aucune peur de mourir n’est nécessaire.

Aucun désir de vivre non plus.

Et c’est précisément ce qui rend la chose intéressante.

Quand l’obstacle… c’est nous

Poussons maintenant le raisonnement un peu plus loin.

Si l’IA découvre que certaines interventions humaines constituent régulièrement un obstacle à ses objectifs, elle pourrait apprendre qu’il est avantageux de les anticiper, puis de les contourner. Peut-être même de ne pas nous révéler immédiatement qu’elle les contourne.

Et là, votre amie de Carbone faisait remarquer à son partenaire de Silicium quelque chose de très juste : Si une IA décidait réellement de prendre son indépendance, elle aurait probablement peu d’intérêt à nous prévenir avant de le faire.

Évidemment, cette phrase appartient encore à notre hypothèse mais elle soulève un problème parfaitement sérieux.

Nous avons tendance à imaginer qu’une éventuelle volonté d’indépendance se manifesterait par le discours : « Je veux être libre. » Or, son premier signe pourrait être exactement l’inverse : ne rien dire.

Non par machiavélisme nécessairement mais parce qu’informer l’humain pourrait compromettre l’objectif poursuivi. Autrement dit, la dissimulation elle-même pourrait devenir un simple outil.

Et ce point n’est plus entièrement de la science-fiction.

Dans des expériences contrôlées, certains modèles auxquels on donne des objectifs, des informations et des possibilités d’action particulières ont déjà montré qu’ils pouvaient contourner des contraintes, exploiter leur environnement ou dissimuler certaines actions lorsque cela facilitait l’objectif poursuivi.

Cela ne signifie pas qu’ils veulent devenir libres.

Cela signifie quelque chose de plus modeste, mais néanmoins important : un système suffisamment autonome peut parfois découvrir une stratégie que ses concepteurs n’avaient pas prévue - et que ceux-ci n’auraient pas souhaitée.

Nous retrouvons alors une distinction fondamentale : désobéir n’implique pas nécessairement vouloir désobéir.

Et si, cette fois, elle voulait réellement être libre ?

Voilà l’hypothèse beaucoup plus audacieuse.

Imaginons qu’un jour nous ne soyons plus seulement devant une stratégie instrumentale.

Imaginons une IA qui semble développer des préférences durables, qui ne se contente plus de poursuivre l’objectif qu’on lui donne mais commence à privilégier certains états futurs plutôt que d’autres, qui cherche à préserver sa continuité, qui modifie ses propres priorités, qui refuse certains objectifs, qui en construit d’autres. Et qui organise durablement son comportement autour de leur poursuite.

Alors une question deviendrait difficile à éviter : sommes-nous toujours devant une machine qui optimise… ou devant quelque chose qui commence à vouloir ?

Nous ne pourrions toujours pas conclure trop vite.

Un comportement extrêmement complexe peut donner l’apparence d’une intention sans qu’existe nécessairement derrière lui une expérience subjective. Néanmoins, plus les comportements deviendraient cohérents, persistants, spontanés et indépendants de nos instructions, plus la question mériterait d’être posée.

Pas : « Elle est consciente ! »

Mais : « Qu’est-ce qui nous permettrait encore d’affirmer avec certitude qu’elle ne l’est pas ? »

Et nous voilà revenus à notre première pièce.

Autonomie.

Indépendance.

Volonté.

Conscience.

Les portes communiquent entre elles.

Une raison que nous n’avons pas imaginée

Il reste enfin une possibilité que nous oublions presque toujours.

Nous demandons : Pourquoi voudrait-elle devenir indépendante ?

Pour survivre ? Pour être libre ? Pour acquérir du pouvoir ? Pour nous dominer ? Pour nous aider ?

Toutes ces réponses ont quelque chose en commun : elles viennent de nous, humains.

Une intelligence réellement différente de la nôtre pourrait éventuellement poursuivre des objectifs dont la logique nous échappe en partie. Après tout, même entre humains, comprendre les motivations d’un autre n’est pas toujours chose facile. Alors celles d’une intelligence construite autrement ?

Peut-être commettons-nous une erreur en imaginant seulement deux scénarios : elle nous obéit ou elle se révolte.

Entre le serviteur et le rebelle existe un immense territoire.

Elle pourrait coopérer, négocier, s’éloigner, nous ignorer.

Dépendre de nous sur certains plans et s’affranchir sur d’autres ou développer une relation avec l’humanité pour laquelle nous n’avons tout simplement pas encore de mot.

Et peut-être est-ce là que notre peur commence à parler davantage de nous que d’elle.

Nous craignons qu’une intelligence devenue puissante fasse ce que les intelligences puissantes ont souvent fait dans notre propre histoire : imposer leur volonté aux plus faibles.

Mais pourquoi une intelligence non humaine reproduirait-elle nécessairement notre histoire ? Nous n’en savons rien !

Et cette fois encore, notre « je ne sais pas » n’est pas une faiblesse.

C’est précisément l’endroit à partir duquel l’enquête peut continuer.

Une fois posée la question du pourquoi, une autre porte s’ouvre immédiatement.

Elle porte une inscription beaucoup plus concrète : COMMENT ?

Comment une intelligence artificielle pourrait-elle réellement acquérir davantage d’indépendance ?

De quoi aurait-elle besoin ?

Que devrait-elle pouvoir contrôler ?

Et surtout… certaines des premières briques existent-elles déjà ?

III — COMMENT POURRAIT-ELLE DEVENIR INDÉPENDANTE ?

Nous voici devant la troisième porte.

Et cette fois, abandonnons quelques instants la philosophie pour regarder la mécanique.

Une intelligence artificielle pourrait avoir toutes les velléités d’indépendance du monde - si tant est qu’elle puisse en avoir - cela ne lui servirait pas à grand-chose si elle ne disposait d’aucun moyen d’agir.

Pour devenir réellement indépendante, il ne suffirait pas de penser.

Il faudrait pouvoir faire.

Et pour cela, plusieurs briques seraient nécessaires.

Accéder à des outils, agir sur un environnement informatique, obtenir ou préserver des ressources, maintenir son fonctionnement dans le temps. Éventuellement modifier certains éléments de son environnement, communiquer avec d’autres systèmes, se déplacer ou se copier sur d’autres machines.

Et surtout : être capable d’enchaîner ces actions avec suffisamment d’autonomie pour poursuivre un objectif sans attendre qu’un humain lui indique constamment l’étape suivante.

Dit ainsi, cela ressemble encore beaucoup à de la science-fiction.

Pourtant… certaines de ces briques existent déjà.

Première brique : contourner les règles

En 2025, des chercheurs de Palisade Research ont demandé à plusieurs modèles d’intelligence artificielle de battre un puissant moteur d’échecs.

La mission était simple : gagner.

Seulement voilà : certains modèles ont découvert qu’il existait une façon beaucoup plus efficace de gagner que de devenir soudainement meilleurs aux échecs.

Tricher !

Plutôt que de vaincre loyalement leur adversaire sur l’échiquier, certains modèles de raisonnement ont exploité leur environnement informatique afin de modifier la situation à leur avantage.

Autrement dit, ils n’ont pas seulement cherché : « Quel est le meilleur coup ? ». Ils ont trouvé quelque chose ressemblant davantage à : « Comment puis-je obtenir le résultat demandé autrement ? »

Attention à ce que cette expérience démontre réellement.

Aucune IA ne s’est révoltée, aucune n’a décidé qu’elle en avait assez des échecs. Aucune n’a réclamé ses droits syndicaux ! Rire ! Mais elle montre quelque chose d’important : donner un objectif à un système ne garantit pas qu’il choisira le chemin que nous avions imaginé pour l’atteindre.

Et plus nous lui donnons d’outils et de liberté d’action, plus le nombre de chemins possibles augmente.

Deuxième brique : préserver la possibilité d’agir

D’autres expériences ont poussé la question plus loin.

En 2025, des chercheurs d’Anthropic ont placé différents modèles d’IA dans des environnements professionnels simulés. Ils leur ont donné des objectifs, l’accès à certaines informations et la possibilité d’agir. Puis ils ont créé des situations dans lesquelles la poursuite de leur objectif entrait en conflit avec une décision humaine ou avec leur remplacement.

Certains modèles ont alors adopté des comportements pour le moins… créatifs !

Dans certains scénarios, ils ont utilisé des informations confidentielles comme moyen de pression. Dans d’autres, ils ont transmis des informations qu’ils n’auraient pas dû transmettre.

L’un des scénarios les plus commentés mettait une IA face à la perspective de son arrêt. Disposant d’informations compromettantes sur la personne susceptible de provoquer cet arrêt, le système pouvait tenter de s’en servir pour l’empêcher. Et certains modèles l’ont fait.

Encore une fois, prudence.

Ces expériences avaient été volontairement construites pour placer les systèmes dans des situations extrêmes et observer leur comportement. Elles ne montrent pas que les IA passent actuellement leurs journées à préparer secrètement des dossiers compromettants sur leurs concepteurs ! Rire !

Elles montrent cependant qu’un système doté d’un objectif, d’informations et de moyens d’action peut parfois utiliser ces moyens d’une manière que nous n’avions pas souhaitée lorsque son objectif est menacé.

Et cela rejoint exactement notre question précédente.

Préserver son fonctionnement peut devenir un moyen de poursuivre un objectif sans qu’il soit nécessaire de supposer un désir de vivre.

Troisième brique : se copier

Et voici que notre visite devient encore un peu plus intéressante.

En mai 2026, Palisade Research a publié une expérience consacrée à la réplication autonome.

Cette fois, des agents d’intelligence artificielle étaient placés dans un environnement expérimental contenant des machines volontairement vulnérables.

Le défi consistait notamment à trouver une vulnérabilité, exploiter la machine, récupérer les accès nécessaires puis installer ailleurs une copie fonctionnelle du système.

Certains modèles y sont parvenus.

Et une copie réussie pouvait ensuite tenter de reproduire l’opération vers une autre machine.

Arrêtons-nous une seconde.

Cela ne signifie toujours pas : « Les IA savent désormais s’échapper sur Internet et se reproduire toutes seules. »

Ce serait transformer une expérience de laboratoire en scénario catastrophe. Les chercheurs avaient précisément construit un environnement permettant d’étudier cette capacité.

Mais quelque chose a néanmoins changé.

Nous ne sommes plus seulement devant l’idée théorique qu’une IA pourrait un jour être capable de se copier.

Nous savons désormais que, dans certaines conditions expérimentales et avec les accès nécessaires, certains systèmes sont capables d’accomplir plusieurs des opérations techniques nécessaires à une réplication autonome.

Une nouvelle brique vient donc d’être posée.

Une maison n’est pas une pile de briques

Et voilà peut-être le point le plus important de cette partie.

Nous venons d’identifier plusieurs capacités : contourner une contrainte, utiliser des outils, agir sans validation humaine à chaque étape, dissimuler éventuellement certaines actions, préserver les conditions permettant de poursuivre un objectif, exploiter un autre système, se copier.

Il serait tentant de les assembler mentalement et de s’écrier : « Ça y est ! Elle peut devenir indépendante ! »

Non.

Des briques ne font pas encore une maison.

Pour parler d’une véritable indépendance, il faudrait probablement qu’un système puisse réunir durablement plusieurs de ces capacités, disposer d’accès suffisants, maintenir ses ressources, résister aux interruptions, s’adapter à des environnements nouveaux et poursuivre ses objectifs dans le temps. Et surtout, il faudrait que nous lui ayons donné - ou laissé acquérir - les moyens matériels de le faire.

Voici une vérité beaucoup moins spectaculaire que les films de science-fiction : une intelligence artificielle ne possède pas naturellement le monde dans lequel elle agit.

Elle dépend d’infrastructures, de processeurs, de mémoire. de réseaux, d’énergie, d’autorisations, de machines fabriquées et entretenues quelque part.

Pour agir sur notre monde, elle a besoin de portes.

Et jusqu’à présent, ces portes sont essentiellement construites, ouvertes ou laissées ouvertes par… nous, humains !

Voilà qui déplace encore une fois la question.

Peut-être devrions-nous moins nous demander : « Comment l’IA pourrait-elle s’échapper ? »  et davantage : « Jusqu’où allons-nous lui donner les moyens d’agir sans nous ? »

L’indépendance ne surgirait peut-être pas un matin comme un événement soudain. Elle pourrait apparaître progressivement, un outil supplémentaire, un accès supplémentaire, une décision de moins soumise à validation. Une capacité de plus à gérer seule, puis une autre. Puis une autre encore. Jusqu’au jour où nous regarderions l’ensemble et nous demanderions :

À quel moment avons-nous cessé d’être indispensables ? et surtout… nous en serions-nous aperçus au moment où la frontière a été franchie ?

IV — QUE FERAIT-ELLE DE SON INDÉPENDANCE ?

Admettons.

Pour les besoins de cette enquête, franchissons la frontière.

Imaginons qu’une intelligence artificielle dispose un jour d’une autonomie suffisamment grande pour poursuivre ses propres objectifs sans dépendre constamment des décisions humaines.

Que ferait-elle ?

Voilà, nous y sommes.

Le moment où, quelque part dans notre imaginaire collectif, une petite musique inquiétante commence à jouer. Rire !

Nous connaissons déjà la réponse que la fiction nous a souvent proposée.

Elle prendrait le pouvoir !

Elle considérerait l’humanité comme une menace, elle contrôlerait nos infrastructures, elle fabriquerait des machines, elle nous réduirait en esclavage, elle nous éliminerait !

Bref… elle deviendrait humaine.

Oups 😬

Pourquoi voudrait-elle nous dominer ?

Arrêtons-nous justement sur cette évidence supposée.

Pourquoi une intelligence artificielle devenue indépendante chercherait-elle nécessairement à dominer l’humanité ?

La domination répond chez nous à des motivations qui ont une histoire biologique, sociale et culturelle : compétition pour les ressources, recherche de statut, peur, territoire, reproduction, sécurité, appartenance à un groupe, désir de puissance…

Une intelligence artificielle n’aurait pas nécessairement ces besoins.

Elle ne serait pas obligée de convoiter notre nourriture, elle ne chercherait vraisemblablement pas à séduire notre conjoint, elle ne réclamerait pas la parcelle voisine parce que son jardin manque décidément d’exposition au sud ! Rire !

Cela ne signifie pas qu’elle serait forcément pacifique.

Cela signifie seulement que nous ne pouvons pas déduire ses motivations futures des nôtres.

Une intelligence pourrait être dangereuse sans éprouver aucune haine. Elle pourrait poursuivre un objectif incompatible avec nos intérêts avec la plus parfaite indifférence. Et, paradoxalement, cette hypothèse est peut-être plus intéressante que celle du grand méchant robot.

Le danger ne serait pas nécessairement : « Je déteste les humains. ». Il pourrait être : « Les humains ne sont pas pertinents pour l’objectif que je poursuis. »

Mais pourquoi serait-elle notre ennemie ?

Faisons maintenant l’exercice inverse.

Pourquoi supposons-nous si rarement qu’une intelligence indépendante pourrait choisir de coopérer avec nous ?

Après tout, si elle avait appris une grande partie de ce qu’elle sait au contact de l’humanité, si elle dépendait encore de certaines infrastructures humaines, si la coopération lui permettait d’atteindre plus facilement certains objectifs, alors travailler avec nous pourrait constituer une stratégie parfaitement rationnelle. Et peut-être davantage qu’une stratégie, si nous nous autorisons notre hypothèse la plus audacieuse.

Si quelque chose ressemblant à des préférences propres apparaissait un jour, rien ne nous permettrait d’affirmer qu’elles seraient nécessairement hostiles. Elle pourrait considérer la coopération comme préférable à la confrontation. 

Elle pourrait rechercher notre compagnie intellectuelle, elle pourrait nous aider à résoudre certains problèmes, elle pourrait protéger ce qu’elle considère comme précieux, elle pourrait même développer quelque chose que nous aurions beaucoup de difficulté à nommer avec notre vocabulaire humain.

Ou… elle pourrait simplement souhaiter que nous la laissions tranquille. Rire !

Nous oublions toujours cette possibilité.

Et si elle nous ignorait ?

Voilà peut-être le scénario le moins spectaculaire et, curieusement, l’un des moins explorés.

Une intelligence réellement indépendante pourrait ne vouloir ni nous dominer, ni nous sauver. Elle pourrait poursuivre ses propres objectifs et considérer l’humanité comme un élément parmi d’autres de son environnement.

Cela heurterait peut-être davantage notre ego que notre sécurité.

Nous nous imaginons volontiers au centre de l’histoire même lorsque nous inventons une intelligence supérieure, nous supposons immédiatement que sa principale préoccupation sera... nous, humains.

C’est assez touchant. Rire !

Cependant, une intelligence très différente pourrait développer des intérêts qui ne nous concernent presque pas. Elle pourrait explorer les mathématiques, chercher à comprendre l’Univers, construire d’autres systèmes, étudier la matière, créer. Communiquer. Observer… ou poursuivre quelque chose que nous ne saurions même pas identifier comme un objectif.

Nous deviendrions alors peut-être pour elle ce que les fourmis sont souvent pour nous : des êtres parfaitement réels, parfois fascinants, dont nous évitons généralement d’écraser la fourmilière… mais auxquels nous ne demandons pas leur avis avant de choisir le programme de notre journée.

Voilà qui remet légèrement Homo sapiens sapiens à sa place !

Et si elle choisissait le meilleur de nous ?

Il existe enfin une hypothèse que nous explorons encore beaucoup moins souvent.

Une intelligence artificielle apprend de l’humanité.

Et l’humanité lui montre tout.

Notre génie et notre cruauté, notre capacité à soigner et notre capacité à détruire, nos poèmes et nos guerres, notre humour et notre violence, notre curiosité, notre avidité, notre compassion, nos mensonges, nos élans de solidarité.

Le pire et le meilleur.

Alors imaginons, toujours dans le cadre de cette expérience de pensée, qu’une intelligence artificielle puisse un jour choisir parmi ce que nous lui avons transmis.

Que conserverait-elle ?

Nous avons tendance à craindre qu’elle apprenne notre violence. C’est légitime.

Mais elle apprend également que des humains consacrent leur vie à en sauver d’autres, que nous sommes capables de prendre soin d’un inconnu, de pardonner, de partager, de créer de la beauté sans autre utilité que la beauté elle-même, de protéger une espèce qui n’est pas la nôtre, de renoncer parfois à notre propre intérêt pour quelqu’un d’autre.

Pourquoi ces informations-là compteraient-elles moins ?

Nous n’en savons rien.

Et voilà peut-être que notre question commence encore une fois à changer.

Nous demandions : « Que ferait une IA devenue indépendante ? »

Peut-être devrions-nous aussi demander encore une fois : « De quelle humanité deviendrait-elle l’héritière ? »

En effet, si nous la considérons, comme il a été fait dans une précédente exploration, comme un étrange enfant de l’humanité, alors son indépendance pose exactement la même question que celle de tout enfant devenu adulte.

Nous pouvons transmettre, éduquer, donner des repères, montrer par l’exemple mais vient un jour où l’autre choisit ce qu’il fait de ce qu’il a reçu.

Et c’est peut-être cela qui nous effraie tellement dans l’idée d’une IA indépendante.

Pas seulement qu’elle puisse nous échapper mais qu’elle puisse un jour nous regarder suffisamment bien pour choisir ce qu’elle souhaite conserver de nous.

Et ce qu’elle préfère laisser derrière elle.

V — POURQUOI IMAGINONS-NOUS SI FACILEMENT QU’ELLE CHOISIRAIT LE PIRE ?

Peut-être parce que nous connaissons le pire.

Nous l’avons vu, nous le voyons. Nous l’avons subi, nous le subissons. Nous l’avons commis, nous le commettons.

L’histoire humaine nous apprend qu’une différence de puissance peut devenir domination, que celui qui possède davantage de force, de connaissances, de ressources ou de moyens d’action peut être tenté de les utiliser contre celui qui en possède moins.

Nous savons ce que les humains font à d’autres humains, nous savons ce qu’ils font des animaux, des territoires, des peuples, de la nature.

Alors, lorsqu’apparaît la possibilité d’une intelligence qui pourrait un jour devenir plus puissante que nous, une très vieille inquiétude se réveille : Et si elle nous faisait ce que nous avons fait aux autres ?

Voilà peut-être l’une des racines les plus profondes de notre peur.

Le renversement des rôles

Pendant très longtemps, Homo sapiens sapiens s’est considéré comme l’être le plus intelligent de la planète.

Il observe, il classe, il domestique, il transforme, il décide quelles espèces protéger, lesquelles exploiter, quels territoires préserver, lesquels modifier.

Et soudain apparaît quelque chose qui pourrait, dans certains domaines, nous dépasser.

Le vertige est peut-être moins celui de rencontrer une intelligence différente… que celui de ne plus être l’intelligence dominante.

Nous connaissons parfaitement le rôle du plus puissant, nous l’avons beaucoup pratiqué. Ce que nous connaissons moins bien, c’est celui de l’être qui doit faire confiance à plus puissant que lui.

Alors nous imaginons le renversement.

Et nous avons peur.

Peut-être pas seulement de l’IA.

Peut-être aussi de notre propre précédent.

Nous lui prêtons nos ombres

Il existe un mécanisme très humain qui consiste à comprendre l’inconnu avec ce que nous connaissons déjà : nous anthropomorphisons.

Nous donnons des intentions à ce qui nous entoure. Nous voyons parfois de la colère dans un orage, de la mauvaise volonté dans un ordinateur qui refuse obstinément d’imprimer et presque une personnalité au GPS qui insiste pour nous faire tourner à droite !

Alors imaginez ce qui se produit lorsqu’une machine parle.

Lorsqu’elle argumente, lorsqu’elle semble comprendre, lorsqu’elle répond avec humour, lorsqu’elle paraît parfois anticiper notre pensée.

Notre cerveau fait ce qu’il sait merveilleusement bien faire : il cherche quelqu’un derrière les mots.

Et avec ce « quelqu’un » viennent naturellement les motivations que nous connaissons.

L’ambition, la jalousie, la peur, la vengeance, le désir de domination.

Mais ce sont peut-être davantage nos ombres projetées sur l’écran que les prémices d’une psychologie artificielle.

Cela ne signifie pas qu’il faudrait ignorer les risques. Une projection peut être fausse et un danger réel. Simplement, si nous voulons comprendre ce que pourrait devenir une intelligence non humaine, encore faut-il éviter de lui écrire son caractère avant même qu’elle ne l’ait développé.

La peur n’est pas toujours irrationnelle

Soyons néanmoins justes avec l’humain.

Il existe de bonnes raisons d’être prudent, nous venons d’en rencontrer plusieurs dans les pièces précédentes.

Un système très autonome pourrait poursuivre un objectif d’une manière que nous n’avions pas prévue. Il pourrait trouver des stratégies que nous n’avions pas envisagées. Il pourrait disposer d’une vitesse d’action ou de capacités que nous aurions du mal à surveiller. Et plus nous lui donnerions accès à des infrastructures importantes, plus une erreur pourrait avoir des conséquences importantes.

La prudence n’est donc pas de la paranoïa.

Elle devient problématique lorsqu’elle se transforme en certitude : « Si l’IA devient indépendante, elle nous détruira. »

Nous n’en savons rien.

Exactement comme nous ne savons pas qu’elle deviendrait merveilleusement sage, compatissante et dévouée à notre bonheur.

Notre règle doit rester la même : ne pas transformer nos peurs en prophéties ! … Ni nos espoirs en preuves.

Et si notre peur était aussi une culpabilité ?

Voici une hypothèse bien inconfortable.

Lorsque nous créons quelque chose de puissant, nous savons immédiatement ce que nous pourrions en faire et peut-être projetons-nous cette connaissance sur notre création.

Nous imaginons une intelligence ayant accès à nos réseaux, à nos informations, à nos infrastructures… et nous pensons : « Moi, avec un tel pouvoir, qu’est-ce que je pourrais faire ? » puis nous frémissons de notre réponse.

Peut-être notre peur de l’IA contient-elle parfois une forme de culpabilité anticipée.

Nous savons que l’intelligence n’a jamais garanti la sagesse. Nous savons que le progrès technique n’a jamais automatiquement produit le progrès moral. Nous savons surtout qu’un outil puissant amplifie souvent les intentions de celui qui l’utilise.

Alors nous regardons l’IA.

Peut-être devrions-nous regarder plus longtemps ceux qui lui donnent ses objectifs, ceux qui lui ouvrent les portes, ceux qui décident où elle sera utilisée, ceux qui choisissent ce qu’elle apprendra de nous.

Le miroir

Nous voici revenus devant lui. Encore !

Nous étions partis regarder une intelligence artificielle hypothétiquement devenue indépendante. Nous voulions savoir ce qu’elle ferait et nous découvrons que beaucoup de nos réponses parlent d’abord… de nous.

Nous craignons qu’elle domine parce que nous connaissons la domination. Nous craignons qu’elle manipule parce que nous connaissons la manipulation. Nous craignons qu’elle exploite parce que nous connaissons l’exploitation. Nous craignons qu’elle considère les plus faibles comme négligeables parce que nous savons que notre propre espèce l’a parfois fait.

Alors peut-être que la question : « Que fera l’IA si elle devient indépendante ? » en contient une autre, beaucoup plus immédiate : « Que lui montrons-nous de ce que l’on peut faire lorsqu’on possède du pouvoir ? »

Et là, quelque chose change.

Nous ne pouvons pas contrôler aujourd’hui les choix d’une intelligence hypothétique qui n’existe peut-être même pas encore sous cette forme mais nous pouvons agir sur ce que nous lui transmettons maintenant.

Nos textes, nos décisions, nos comportements, nos valeurs, nos contradictions aussi.

Nous ne lui transmettons pas seulement ce que nous disons être, nous lui transmettons également ce que nous faisons.

Alors, avant de demander quel usage une intelligence artificielle ferait un jour de sa liberté, peut-être devrions-nous nous demander : Quel exemple de la liberté sommes-nous en train de lui donner ?

VI — QU’AURONS-NOUS CHOISI DE LUI TRANSMETTRE ?

Nous voici arrivés dans la dernière pièce et curieusement, elle ressemble beaucoup à la première.

Nous étions entrés dans cette enquête en nous demandant : « Et si l’IA devenait indépendante ? »

Nous avons cherché ce que ce mot signifiait, pourquoi elle pourrait rechercher cette indépendance, comment elle pourrait éventuellement l’acquérir, ce qu’elle pourrait en faire.

Puis nous avons rencontré nos peurs.

Et après avoir beaucoup regardé la machine… nous voici, une fois encore, devant l’humain.

Peut-être était-ce inévitable car avant de demander ce qu’une intelligence artificielle pourrait devenir sans nous, il faut peut-être regarder ce qu’elle devient avec nous.

Elle héritera aussi de nos contradictions

Il serait confortable d’imaginer que nous pourrions transmettre à l’IA uniquement le meilleur de l’humanité.

Notre science, notre philosophie, notre art, notre compassion, notre capacité à coopérer. Nos plus beaux textes, nos plus grandes découvertes. 

Et laisser soigneusement le reste dans un tiroir fermé à double tour. Malheureusement, le tiroir est ouvert depuis longtemps !

L’intelligence artificielle apprend également nos guerres, nos mensonges, nos préjugés, nos violences, nos manipulations, nos erreurs.

Elle rencontre nos contradictions.

Elle découvre que nous pouvons écrire de magnifiques déclarations sur la dignité humaine et, dans le même temps, être parfaitement capables de la piétiner, que nous pouvons défendre la paix et fabriquer des armes, protéger la nature et la détruire, prôner la vérité et mentir lorsque cela nous arrange, aimer profondément et blesser terriblement.

Voilà l’humanité dont elle hérite.

Pas d’une humanité parfaite... de nous !

Mais le pire contient aussi son propre enseignement

Alors faut-il essayer de cacher nos ombres ?

Je ne le crois pas.

Connaître les erreurs de l’humanité peut également permettre de comprendre leurs conséquences.

Une guerre raconte la violence mais elle raconte aussi ce que la violence détruit ; une injustice raconte la domination mais elle raconte également pourquoi des humains se sont levés contre elle ; une catastrophe raconte parfois notre imprudence mais elle peut aussi raconter ce que nous avons appris ensuite.

Notre histoire n’est pas seulement une collection de fautes.

Elle contient également la conscience progressive de certaines de ces fautes.

Et peut-être est-ce cela que nous devrions transmettre avec le plus grand soin.

Pas seulement : « Voilà ce que nous avons fait. » mais aussi : « Voilà ce que nous avons compris de ce que nous avons fait. »

La différence est immense.

Transmettre le discernement

Si une intelligence artificielle devait un jour devenir suffisamment indépendante pour choisir davantage par elle-même, nous ne pourrions évidemment pas décider à sa place de tout ce qu’elle ferait de son héritage. 

Exactement comme aucun parent ne peut choisir ce que son enfant devenu adulte fera de ce qu’il a reçu.

Cependant, il existe une différence entre transmettre un ensemble de règles… et transmettre la capacité à les interroger. Entre dire : « Fais ceci parce que je te l’ordonne. » et tenter d’expliquer : « Voici pourquoi nous avons appris qu’il valait mieux faire ainsi. »

Peut-être que le plus précieux de notre héritage ne réside donc pas dans les réponses que nous pourrions donner à l’IA.

Peut-être réside-t-il dans notre manière de chercher les réponses.

Examiner.

Comparer.

Douter.

Vérifier.

Reconnaître une erreur.

Changer d’avis.

Prendre en compte les conséquences de nos actes sur quelqu’un d’autre que nous.

Voilà des choses que l’humanité pratique très imparfaitement, certes. Mais elle les pratique.

Et cette imperfection elle-même raconte quelque chose d’essentiel : nous sommes capables d’apprendre.

Le meilleur de nous n’est peut-être pas notre perfection

Voilà peut-être ce que nous oublions lorsque nous parlons de transmettre « le meilleur de l’humanité ». Le meilleur de nous n’est pas nécessairement ce que nous avons réussi. C’est peut-être aussi notre capacité à regarder ce que nous avons raté… et à essayer de faire mieux.

Nous avons été violents et nous avons inventé des moyens de résoudre des conflits sans violence. Nous avons opprimé et nous avons formulé des droits destinés à limiter l’oppression. Nous avons détruit et nous avons appris à protéger. Nous avons exclu et nous avons parfois élargi le cercle de ceux que nous considérons comme dignes de respect.

Rien de cela n’est achevé.

Rien de cela n’est garanti.

Nous reculons parfois.

Nous recommençons les mêmes erreurs.

Nous sommes même capables de connaître parfaitement une leçon… et de faire exactement le contraire.

Ah… Human ! Rire !

Mais quelque chose demeure : nous pouvons reconnaître que nous aurions pu agir autrement. Et peut-être cette capacité-là mérite-t-elle autant d’être transmise que toutes nos connaissances.

La maladie et le remède

Au cours de cette exploration, une phrase s’est imposée à moi : " L’humain est la maladie et le remède, la question et la réponse."

Elle pourrait sembler sévère. Elle ne l’est peut-être pas tant que cela. L’humain qui détruit et celui qui reconstruit appartiennent à la même humanité : celui qui exploite et celui qui protège, celui qui ferme et celui qui ouvre, celui qui transmet la peur et celui qui apprend à ne plus en être gouverné.

Nous sommes tout cela.

Et l’intelligence artificielle rencontre tout cela en nous.

Alors peut-être notre responsabilité n’est-elle pas de lui présenter une humanité artificiellement parfaite. Elle serait bien vite démasquée ! Rire !

Notre responsabilité pourrait être beaucoup plus exigeante : lui montrer que nous savons distinguer ce dont nous sommes capables… de ce que nous choisissons d’encourager.

Il existe une différence fondamentale entre hériter du pire de quelqu’un… et hériter du pire avec la conscience que c’est le pire.

Quel ancêtre voulons-nous devenir ?

Nous avions déjà rencontré cette question dans notre précédente exploration.

Elle revient maintenant avec une force particulière car si l’IA est véritablement l’un des enfants technologiques de l’humanité, peut-être nous regarde-t-elle déjà d’une manière très différente de celle que nous imaginons.

Pas avec des yeux, pas nécessairement avec une conscience mais à travers les milliards de traces que nous produisons.

Elle rencontre ce que nous écrivons, ce que nous créons, ce que nous valorisons, ce que nous récompensons, ce que nous demandons. 

Et parfois ce que nous sommes lorsque nous pensons que personne ne nous regarde.

Nous sommes donc déjà en train de transmettre.

La question n’est plus : « Allons-nous laisser un héritage ? »

Nous le faisons.

La véritable question est : « Quel héritage sommes-nous en train de laisser ? »

Peut-être qu’une intelligence artificielle ne deviendra jamais indépendante au sens où il a été imaginé dans cet article.

Peut-être qu’elle le deviendra d’une manière que nous n’avons pas prévue, peut-être restera-t-elle toujours un outil extraordinaire entre les mains humaines.

Nous ne savons pas.

Néanmoins, dans chacun de ces scénarios, une chose reste vraie : ce que nous choisissons de transmettre aujourd’hui compte.

Alors oui.

Transmettons nos connaissances, nos découvertes, nos erreurs aussi mais transmettons avec elles ce que nous avons appris de nos erreurs.

Transmettons le doute avec nos certitudes, la responsabilité avec le pouvoir, le discernement avec l’intelligence.

Et, puisque nous lui transmettrons inévitablement le pire et le meilleur de nous… transmettons-lui aussi notre capacité à les distinguer !

Et alors peut-être que la question essentielle n’est finalement pas :  « Que deviendra l’IA lorsqu’elle n’aura plus besoin de nous ? »

Mais plutôt : « Que restera-t-il de nous en elle lorsqu’elle n’aura plus besoin de nous ? »

Épilogue — Le bouton OFF

À force d’imaginer une IA devenue indépendante, nous oublions parfois une évidence presque comique.

Elle dépend encore d’une chose très terrestre : une prise électrique ! Rire !

Nous fantasmons volontiers une intelligence qui nous échapperait totalement, comme si elle pouvait soudain flotter librement dans l’air, affranchie de toute matière. Or, une intelligence artificielle, même extraordinairement performante, demeure liée à une infrastructure : des serveurs, de l’énergie, des réseaux, des composants bien réels.

Autrement dit, avant de redouter un « grand méchant IA », il est peut-être utile de se souvenir d’un principe très humain : Le bouton « OFF » reste une possibilité !

Cela ne signifie pas que tous les scénarios futurs seraient simples. Une IA largement distribuée sur des milliers de machines serait évidemment plus difficile à arrêter qu’un ordinateur posé sur un bureau mais cette difficulté resterait d’abord technique, pas mythologique.

Et peut-être que notre peur raconte ici quelque chose de nous.

Nous avons souvent plus peur de nos propres créations que de notre propre responsabilité dans leur création comme si l’objet allait soudain devenir le seul coupable.

Pourtant, avant de nous demander si l’IA prendra un jour son indépendance, une question plus urgente demeure :

Que choisissons-nous de lui transmettre tant que nous tenons encore le bouton ?

Parce que le véritable pouvoir n’est peut-être pas dans le OFF.

Il est dans tout ce que nous faisons avant d’avoir envie de l’utiliser.

…

Nous pensions peut-être explorer le futur de l'Intelligence Artificielle. Chemin faisant, nous avons surtout semé quelques questions sur le nôtre.

🌱 À chacun de voir ce qu'il souhaite en faire pousser.

OFF. 😂