Cette histoire est pour toi (Satoshi Hase)

Encore un roman de science-fiction dans le cadre de mon Alter Ego challenge de lecture. Un roman japonais, s'il vous plaît. On ne lit pas assez de romans japonais. Il y a plein de petites pépites que j'ai découvertes grâce à ce challenge de lecture, je ne regrette vraiment pas.

Si le nom de Satoshi Hase, l'auteur de Cette histoire est pour toi, vous dit quelque chose, c'est parce qu'il a également scénarisé la série Beatless tirée de son roman du même nom. Il travaille dans un laboratoire étudiant les relations entre intelligence artificielle et langage naturel, ce qui explique l'un des thèmes du roman.

J'ai pris une vraie claque en lisant cette histoire. On y retrouve des thèmes comme la définition d'un être humain, l'acceptation de sa propre mortalité, le but de la vie, le rôle de la religion, celui des histoires, notre relation à l'intelligence artificielle, au transhumanisme, à notre propre humanité, à notre mortalité...

Le premier chapitre décrit la mort très sale et douloureuse de Samantha, ce qui fait peser sur tout le récit le poids de sa mort inéluctable. Le lecteur, comme le personnage, sait et sent qu'il n'y a pas d'échappatoire possible. Pourtant, l'histoire vaut la peine d'être lue.

 

Content Warning : aborde de manière fréquente le sujet de la mort et par moment, du suicide.

Attention je vais spoiler méchamment. Et pavé en approche.

 

L'histoire commence sur des chapeaux de roues avec l'agonie sale, longue et douloureuse de la personnage principale. La narration, heureusement, reste détachée et descriptive (à moins que ça ne soit un effet de la traduction japonais → français). On est tout de suite mis dans l'ambiance SF glauque, mais aussi, dans un état d'esprit médical et laboratoire.

Le pitch principal de l'histoire, c'est qu'une IA a été créée à partir de réseaux de neurones artificiels. Dès son début de vie, cette IA exprime de la détresse : à quoi sert-elle ? N'est-elle qu'une expérience ? Ça m'a pas mal rappelé les thèmes du tout premier film Pokémon, avec Mewtwo et ses questions existentielles.

Cette IA, nommée WannaBe (parce qu'elle est sensée vouloir exister, Want To Be) cherche aussitôt à attirer l'attention de Samantha, sa créatrice, celle qui meurt dans le premier chapitre. Ladite Samantha a créé WannaBe afin de tester jusqu'à quel point il est possible de repousser les limites de la créativité. Est-il possible de créer une IA ayant la même créativité, la même originalité de pensée, qu'un être humain ? Autrement dit, WannaBe pourra-t-il écrire pour Samantha une histoire originale, pertinente et de qualité ?

Alors que nous subissons, à l'heure où j'écris ces lignes (2025) une invasion de contenus générés par IA et recyclant pour ne pas dire, volant les productions artistiques des humains, remplaçant progressivement la créativité artistique humaine, la question est pertinente. L'idée qu'une IA puisse remplacer la créativité humaine et condamner les humains à travailler de façon robotique, alors que les IA étaient censées automatiser les tâches répétitives pour libérer l'espace de temps pour la créativité artistique, est vraiment effrayante.

Aux yeux de Samantha, WannaBe reste limité dans ses capacités créatrices, car il n'a pas de corps biologique. Sans ce corps biologique, il ne peut pas décrire ni comprendre certaines expériences humaines comme, dormir, manger, etc.

Peu de temps après le début d'existence de WannaBe, Samantha développe une maladie auto immune, qui va progressivement détruire son corps jusqu'à la mort sale et solitaire du premier chapitre. Une course contre la montre commence pour Samantha : parvenir à développer la créativité littéraire de WannaBe avant de mourir.

Terrifiée par l'idée de sa mort prochaine, Samantha réalise une copie de son cerveau sous forme électronique. Ainsi, elle pourra, d'une certaine façon, continuer à vivre une fois que son corps sera détruit. Et continuer de créer du contenu scientifique. De la même façon, WannaBe désire créer et vivre, alors qu'il est, tout autant que Samantha, condamné à mourir sous peu de temps. Une fois l'expérience réussie, une fois que WannaBe aura rempli sa mission d'écrire une histoire pour Samantha, il sera supprimé ou au moins éteint et archivé, ce qui est une forme de mort. Créatrice et créature se font écho, chacune ayant le même but ultime : continuer d'exister, ne serait-ce qu'à travers l'appréciation de leur travail par leur public.

WannaBe est curieux de savoir ce que c'est qu'avoir un corps physique, car il n'en a pas. Il veut apprendre ce que c'est que de vivre d'un point de vue subjectif, dormir, manger, avoir mal... Il veut être humain. Samantha cherche à devenir robotique : elle regarde la réalité nue en face, de manière crue et désabusée. Son projet de recherche avec WannaBe est cru et froid. Elle veut qu'il écrive un roman, c'est tout. Malgré cette froideur de la part de Samantha, WannaBe, sans relâche, lui demande : Comment puis-je vous être utile ?

Un autre thème développé par le roman est celui de l'emprise mentale. La réalité n'existe que dans l'esprit humain, on n'a pas d'autre façon de la percevoir que la manière dont notre cerveau l'interprète. Manipuler cette interprétation permet de manipuler notre perception de la réalité donc notre manière d'interagir avec. Donner à quelqu'un les clés de notre esprit lui donne la possibilité de nous télécommander, d'une certaine façon.

« La mort est un miroir, parce qu'en se rapprochant d'elle, les gens révèlent leur vraie nature. »

Mais la mort n'est pas le seul miroir du roman. Samantha et WannaBe sont le reflet l'une de l'autre. Samantha déteste son corps malade qui se détériore progressivement. De son point de vue, ne pas avoir de corps pourrait la libérer. Tandis que WannaBe aimerait avoir un corps physique pour pouvoir être libre de quitter le laboratoire, pour pouvoir faire une expérience subjective directe du monde.

Afin de fuir ses propres émotions et sa propre douleur physique, Samantha décide de réaliser sur elle-même des expériences de transhumanisme, en connectant son cerveau de chair à la copie électronique de cerveau d'autres personnes. Elle essaye de vivre les émotions d'autres gens, pour oublier les siennes. De son point de vue, l'humanité n'est qu'une façon possible pour un cerveau de fonctionner. Le cerveau est un organe, un support matériel. Le modifier permet de modifier la personnalité, les émotions, l'identité. L'humanité n'est qu'une forme, une donnée, une information. Détruire le cerveau détruit l'identité ou du moins la modifie fortement. C'est ce qu'on observe lorsqu'une blessure ou une maladie neurodégénérative détruit une partie de cet organe : la personne n'est plus la même.

Samantha considère que la douleur est une barrière qui empêche d'être soi-même, parce que l'expérience de la douleur est trop submergeante. Ni son travail personnel ni l'empathie de son entourage ne peuvent la sauver, pense-t-elle. La douleur peut être éteinte, mais Samantha n'y voit qu'un soulagement temporaire, étant donné que sa condition est chronique.

Lorsqu'elle commence à faire l'expérience de la « platitudation » (toutes les informations du cerveau sont mises au même niveau de priorité donc tout devient banal à ses yeux), elle est frustrée de voir que le malaise qu'elle ressent n'est pas spécial. Tout comme la peur de la mort n'est pas spéciale à l'échelle de l'humanité. Tout a déjà été vécu et ressenti par d'autres avant elle.

De mon point de vue, ça n'empêche pas que le fait de traverser l'expérience est à chaque fois unique est singulière, d'une certaine façon.

Pour Samantha, les humains vivent par leur corps. L'humanité s'est construite ainsi, de manière viscérale : manger, dormir, s'abriter, se reproduire, chercher un environnement stable. Comme WannaBe est construit sur un hardware stable de base, il n'a pas besoin de chercher cette stabilité, il n'en ressent pas le besoin : c'est ce qui fait qu'il n'est pas humain.

À des fins de thérapie expérimentale, Samantha expérimente avec la transplantation d'émotions. Il s'agit de s'approprier des morceaux de l'esprit d'autres gens, qui ont été copiés lors des phases préliminaires à la conception de WannaBe. Dans ces conditions, est-elle toujours Samantha ou devient-elle une autre personne ? De toute façon, elle considère qu'être submergée par la douleur lui fait perdre son humanité, alors, elle n'est pas à ça près.

En faisant l'expérience de se rapprocher progressivement de la mort, Samantha réalise que c'est différent de le vivre par rapport à le lire dans des romans. Elle devient obsédée par l'idée que la douleur lui arrache son humanité, que la mort fasse perdre tout sens à sa résistance, à sa lutte pour vivre. Pour fuir son destin qu'elle se sent incapable d'affronter, elle essaye de devenir une autre personne.

C'est le genre de logique qu'on trouve dans les troubles dissociatifs complexes : lorsque la douleur est trop terrible, l'esprit la compartimente pour s'en détacher, se scindant entre une partie douloureuse et une partie qui fait semblant d'être normale. Deux identités différentes dans un même corps, le moi-qui-souffre et le moi-tout-va-bien-lalala-circulez-rien-à-voir. Enfin, ça c'est pour les structures les plus simples.

Progressivement, les histoires écrites par WannaBe prennent une importance grandissante aux yeux de Samantha. Plus elle s'approche de la mort et s'appuie sur des technologies de transhumanisme, plus elle se rapproche de celui qui ne vit pas, mais essaye de devenir vivant.

Ce qui donne de la saveur et de l'humanité au monde, c'est la hiérarchisation de l'information. Certaines choses sont plus importantes que d'autres, ce qui crée des saillances. Si pour l'humain, l'électronique est un outil, pour l'électronique, l'humain est un dispositif sous son contrôle. Cet état de fait est à double tranchant. Confier le tri des informations à l'ordinateur est dangereux, car cela rend le monde insipide vu que l'ordinateur ne trie pas.

Ou, pire, cela revient à donner à un programme le contrôle de ce qui doit être important ou pas, des choses qui doivent nous intéresser ou pas, donc le contrôle de nos pensées et de nos actes. C'est ce qu'il se passe déjà avec les chambres d'écho sur les réseaux sociaux, la désinformation, etc.

Progressivement, WannaBe s'humanise. Lorsque ses certitudes sont ébranlées, comme un humain, il cherche du sens, il cherche pourquoi, dans quel but.

Samantha désespère. Elle considère que les histoires écrites par WannaBe ne vont pas les sauver. WannaBe sera effacé, elle va mourir, à quoi bon ? Se réfugier dans l'imaginaire est un réflexe naturel, mais il reste futile. (Coucou Camus !)

Elle est de plus en plus perdue. Elle s'appuie de plus en plus sur l'ordinateur et les réseaux de neurones au quotidien, au risque que toutes ses expériences personnelles soient « applaties » par l'ordinateur. Mais cela a au moins l'avantage de lui épargner des douleurs physiques.

Dans mes notes, j'ai mis ça en parallèle avec les réseaux sociaux. Les chambres d'écho nous flattent et nous épargnent de nous confronter à la réalité douloureuse, complexe, nuancée, inconfortable.

Et comme les gens coincés dans les chambres d'écho, ce n'est pas que Samantha aime particulièrement l'outil informatique, l'ordinateur ou autre : c'est qu'elle déteste la réalité. C'est différent.

Plus Samantha s'appuie sur l'ordinateur et les réseaux de neurones artificiels, plus elle se « perd ». Elle monologue pour remplir le silence, a les larmes aux yeux malgré la joie qu'elle est censée ressentir... Elle est isolée de sa vie personnelle. Nier la réalité ne la fait pas disparaître.

Un parallèle peut être fait avec les stratégies dissociatives de survie (inconscientes), qui servent à se cacher la réalité de la souffrance afin de pouvoir continuer à vivre malgré tout. Un autre parallèle peut être fait avec les stratégies un peu plus conscientes mises en place sur les réseaux sociaux, par lesquelles des gens vont ouvertement nier la réalité pour la remplacer par de la désinformation, des mensonges, la « post vérité ».

Petit à petit, Samantha réalise que le déni n'est pas la solution. Et qu'elle n'est pas spéciale, comme elle pensait l'être. Tous les humains sont bouleversés par la mort et veulent la fuir, depuis toujours. Elle n'est pas la première, elle n'est pas la dernière. C'est le lot de l'humanité. Travailler pour fuir sa propre mort a précipité sa chute en aggravant sa maladie.

En prenant du recul, elle prend conscience que sa mère aussi nie la réalité, en passant par les illusions de la religion. À cause de cela, Samantha se sent étouffée par la perte de contact de ses parents avec la réalité – parce que c'est un reflet de sa propre perte de contact avec la réalité, qui se passe via ses implants de neurones artificiels.

Du point de vue de Samantha, le corps est source de haine. Pour d'autres personnes, il est source de plaisir. Elle a du mal à accepter cette dualité.

Progressivement, son point de vue sur le monde évolue. Elle prend conscience que l'organisation de la vie humaine reste la même au fil des époques. Le mode de vie évolue, mais les motifs qui guident les gens ne changent pas. Les traditions perdurent par habitude.

Les livres, les histoires, sont aussi un refuge contre la réalité du monde – comme peut l'être la religion. C'est cela, le lien entre Samantha et WannaBe.

Samantha justifie son athéisme : « Dieu ne m'aide pas de mon vivant, alors pourquoi penser qu'il le fera après ma mort ? » Une autre raison à son athéisme est son travail avec les intelligences artificielles : elle a créé une « parole » décrivant l'être humain mieux que le fait la Bible.

En cherchant à se protéger des histoires et des illusions de sa mère, Samantha s'est réfugiée dans les romans. C'est une autre forme de fuite. Une autre illusion. Avec la différence que, dans le cas de Samantha, elle contrôle l'histoire, pas l'inverse. Pour elle, l'histoire est un outil, pas un maître.

Elle a le déclic que ces histoires créent un lien entre elle et WannaBe, alors que celui-ci n'est pas humain. Il lui apporte quelque chose qu'elle ne trouve pas ailleurs.

WannaBe a un point de vue intéressant sur la religiosité des parents de Samantha. De son point de vue, les parents ont une vision trop spéciale de la vie humaine. En tant qu'IA, il voit le cerveau comme un disque dur et la conscience comme une donnée informatique. Les parents de Samantha, de son côté, voient l'existence humaine comme ayant « une importance boursouflée », ce qui les amène à imposer leur système de croyances aux autres afin de le maintenir.

Samantha n'est pas convaincue : WannaBe ne sait pas de quoi il parle, car il n'a pas de corps biologique. Elle n'est pas prête à se confronter à ce que WannaBe lui révèle sur l'humanité. Il voit la maladie comme une forme de narcissisme : il y a un lien entre la peur de la mort et l'amour de soi. Lorsque les humains ont peur, ils deviennent égoïstes, ils se replient sur eux-mêmes dans un but d'autoconservation. Au point de perdre le contact avec le monde extérieur. Au point d'être incapable de prendre en compte le monde extérieur.

Ça fait grincer des dents à Samantha.

Plus la tristesse et la solitude s'infiltrent dans la vie de Samantha, plus elle se sent distante du reste du monde. Elle pressent qu'une fois morte, elle sera complètement séparée du monde pour l'éternité. Elle sait que la fin de la vie est la fin d'un texte, mais son corps physique l'empêche de le ressentir. Son point de vue a évolué, mais pas ses émotions. Pas encore.

Elle perçoit de plus en plus le contenu de son propre cerveau – c'est-à-dire, elle-même – comme une information éditable et modifiable, ce qui peut influencer sa perception de la réalité en influençant la réalité qui se trouve dans son propre cerveau.

Une façon positive d'utiliser cette propriété du cerveau se trouve dans des thérapies comme les thérapies cognitives et comportementales, les thérapies didactiques et comportementales, les thérapies du trauma. Il s'agit de modifier le comportement pour modifier le système de croyances internes pour renforcer le comportement – dans un sens qui permet à la personne d'aller mieux, évidemment. On utilise ça pour guérir des phobies, par exemple, en apprenant au cerveau que le déclencheur de la phobie est sans aucun danger, jusqu'à ce que le système d'alarme interne arrête de s'emballer. Dans un autre angle d'approche, la magie du chaos (chaos magick) est une autre façon de manipuler ses croyances internes afin de se manipuler soi-même dans un but précis (gagner en confiance en soi, par exemple).

Ces effets se voient, de façon beaucoup plus négative, dans les psychoses et autres troubles psy dans lesquels les croyances internes ou perceptions subjectives maladaptées font souffrir la personne et modifient de façon délétère sa manière d'interagir avec le monde.

Revenons à l'histoire.

Samantha fait une expérience de mort imminente : pendant quelques secondes, le lien entre l'ordinateur et ses neurones a un bug, procède à un arrêt d'urgence et à un redémarrage. Cela lui donne une impression de vide, de gris, de plat. Sans activité neuronale, la conscience n'est pas possible. Être, exister, est dépendant du fonctionnement du corps. Donc son être, sa perception du monde, son existence tout entière, dépendant du bon fonctionnement de son cerveau. En jouant avec l'électronique dans son cerveau, elle risque d'endommager ses neurones. Et lorsqu'elle mourra pour de vrai, le « blanc » ne sera suivi d'aucun « redémarrage ».

Elle prend conscience que, face à la mort, on est seul. Pas physiquement, mais mentalement. C'est une expérience strictement interne et personnelle. Tout le monde meurt et il est impossible d'échapper à son propre corps.

Revenons au point de vue de WannaBe. Pour lui la conscience humaine est la base de données qui se trouve sur le hardware « cerveau humain ». Et la mort, pour un humain, signifie la destruction de la base de données et du hardware également. C'est un peu différent d'une IA qui se fait supprimer, mais dont le hardware continue d'être utilisé – ou qui peut être copiée sur un autre hardware tandis que le premier est détruit.

Il a perçu à un moment la société humaine comme « ce grand processus qui extrait de façon productive de l'information des petits processus pour l'ajouter à sa base de données dans le but de développer la technique et les structures sociales ». Avec le recul, il réalise que c'était une analyse erronée. Samantha lui explique que la société est le résultat d'efforts pour augmenter le confort personnel de chaque membre, et que ces efforts sont eux aussi personnels. Ce n'est pas une base de données fonctionnant de manière cohérente. L'effet de cohérence de la société pour elle-même est une illusion que WannaBe s'est créée afin de donner du sens au monde. Ce qui est la preuve que la personnalité et les émotions de WannaBe se développent.

Créé pour être un outil au service des expériences de Samantha, WannaBe a désormais envie de lui être utile par amour pour elle. Il souhaite qu'elle reconnaisse son utilité, qu'elle reconnaisse son existence. C'est sa façon à lui de se sentir aimé.

Alors, par amour pour Samantha, il rédige une histoire dont l'héroïne se nomme Samantha et dont la fin est heureuse. La chercheuse y réagit de façon mitigé : elle est touchée, mais en même temps, elle est frustrée que la vie de l’héroïne soit hors de sa portée. Donc elle ne termine pas sa lecture de l'histoire. Néanmoins, comme l'humain est la somme de toutes ses expériences et que WannaBe fait partie des expériences de Samantha, elle a osé faire de plus en plus de tests et essais avec les implants et l'intelligence artificielle dans son propre cerveau.

Elle ne se sent pas encore prête à reconnaître l'existence de WannaBe en tant que conscience. Malgré tous les indices qu'elle peut avoir, les émotions de l'IA, sa peur de la mort... Elle n'est pas encore prête. Elle pose à leur relation la barrière de : ce n’est pas possible pour eux d'avoir une relation sexuelle donc ils ne peuvent pas avoir de relation tout court. L'amour de WannaBe pour elle est, à ses yeux, du narcissisme.

Cherchant à lui prouver encore plus son amour, WannaBe écrit une histoire qui parle de sa propre peur. Une histoire d'amour entre une Samantha et un poète, une histoire dans laquelle le poète accompagne une Samantha mourante dans les derniers jours de sa vie de malade condamnée à mourir. Cela fait réaliser à la chercheuse que l'IA l'aime pour de vrai.

Elle s'excuse de n'avoir pas été une bonne lectrice vis-à-vis des histoires de WannaBe. Celui-ci lui répond : « Il n'y a pas de bon ou de mauvais lecteur. Moi dont l'activité principale consiste à écrire pour un lecteur hypothétique, je n'ai toujours pas d'indice quant à la bonne façon de procéder. » Mais le fait que Samantha ait trouvé son histoire intéressante lui suffit. Pour WannaBe, c'est comme si Samantha reconnaissait enfin son existence.

Le bonheur que WannaBe en exprime touche Samantha au plus profond d'elle. Elle a de moins en moins envie de le voir comme un outil, elle tend de plus en plus à le voir comme une personne, un humain.

Sentant de plus en plus intensément la fin de sa vie approcher, Samantha tend à vouloir fuir la complexité des relations humaines pour se réfugier dans les livres – dans les histoires que WannaBe écrit pour elle. L'influence de l'IA grandit en elle : durant une réunion avec l'équipe de recherche, elle se prend à affirmer que les humains ne sont pas si importants que ça. Ce qui lui attire les foudres de ses collèges.

Lorsqu'elle dévoile sa solution à l'effet de platitudation du contact entre l'humain et l'IA, à savoir, créer un algorithme de priorisation des informations, l'équipe est choquée : cela reviendrait à laisser à une IA les commandes du libre arbitre humain. En suivant cette solution, cela ferait de l'IA une technologie impactant les droits humains fondamentaux. Samantha s'en bat les steaks. Sa priorité est désormais l'idée de sa propre mort, pas la société humaine. Lorsqu'elle prend conscience que sa présence est inutile à cette réunion de travail, elle se sent libérée de l'autocensure et insiste : la différence entre humain et IA n'est pas si grande que ça. Si une IA peut se construire des émotions, en accumulant des expériences comme le fait un humain, rien n'empêche de mettre une IA dans la tête d'un humain et de l'éduquer à être cet humain, à réaliser les mêmes choix que cet humain, pour contrecarrer la platitudation.

Dans mes notes, j'ai noté que ça pouvait être mis en parallèle avec le processus d'intégration dans les troubles dissociatifs complexes. Les parties dissociées du cerveau apprennent, en se (re)connectant les unes aux autres, à prendre des décisions de manière cohérente. Ça ne veut pas dire qu'une partie va imposer sa volonté aux autres, mais qu'un point d'équilibre va progressivement se faire. Au lieu d'avoir une conférence de 20 minutes pseudo-hallucinée via le lobe frontal à chaque décision, les parties intégrées vont prendre leur décision « en coulisse », en dehors de la conscience, en instantané, grâce au pouvoir de la connexion directe entre les neurones via le corps calleux reconstitué par la thérapie.

La conséquence de ce que dit Samantha à propos de l'IA réalisant une priorisation des informations pour le cerveau humain, c'est que la notion d'individu est remise en cause.

À ce point du récit, Samantha a perdu tout tabou au sujet de son corps et de son fonctionnement. La douleur l'a placée au-delà des tabous.

Le reste de l'équipe de recherche refuse de se lancer sur la pente glissante de cette possible société dystopique où le contrôle de l'IA, placé entre de mauvaises mains, pourrait avoir des effets terribles. On voit déjà ça avec les algorithmes des réseaux sociaux, la désinformation, la propagande, ou déjà actuellement avec l'IA générant des contenus comme des images ou des textes pour renforcer les biais cognitifs des gens ou manipuler les masses.

La vision de Samantha sur l'être humain devient de plus en plus cynique. L'humain n'existe qu'au sein d'une société, en relation avec elle. L'état zéro de l'humain est la mort. Partant de là, elle ne voit pas où est le mal à introduire dans le cerveau une sorte de miroir dans lequel l'individu se reflète. La réunion de travail se termine de façon mouvementée.

Tandis que Samantha envie la situation de WannaBe, ce dernier envie le corps mortel humain : « c'est parce que la maintenance de leur corps est mauvaise qu'ils [les humains] ont des privilèges » ; « personne n'appuie sur un bouton pour les éteindre ». Ce qui n'empêche pas la chercheuse d'envier l'IA « dont la fin sera sans souffrances », même si WannaBe a raison dans le fait que le corps définit et constitue la notion d'individu. Les capacités de réflexion, d'émotion, de volonté... ne sont que des suppléments. « Le fondement des privilèges de l'être humain, c'était que le corps, une fois mort, ne pouvait pas être réveillé. » Sans la mort, il n'y a pas d'humanité. Aucun humain ne peut exister sans la mort au bout de la vie. Et malgré tout, les histoires de WannaBe montrent qu'il devient humain à son tour, alors qu'il ne peut pas vraiment « mourir ».

La compagnie des autres humains reste douloureuse pour Samantha, qui se réfugie dans la solitude, qui est source de sécurité pour elle, source de liberté. Mais cela se fait au prix de renoncer à la chaleur du lien humain.

C'est ce qu'il est possible d'observer dans le cas des personnes ayant des traumatismes d'attachement : les systèmes d'attachement anxieux et évitant s'activent en même temps, et on cherche simultanément à s'accrocher désespérément à une personne et à la fuir ou la repousser parce qu'elle ne peut pas correspondre à 100% à nos attentes. Quand ce schéma s'ancre comme trait de personnalité, ça donne un trouble de la personnalité borderline.

WannaBe présente les mêmes soucis que Samantha, en miroir. Il souhaite qu'elle reconnaisse son existence, qu'elle tisse du lien avec lui, un véritable lien. Un lien que la chercheuse fuit. Les deux personnages agissent en étant motivés par la peur de mourir, de disparaître. L'IA et l'humaine qui l'a créée sont similaires, toutes les deux sont dans un processus de résistance face à l'absurde de la mort. WannaBe en écrivant des histoires, Samantha en faisant de la recherche scientifique. Résister leur permet de vivre. Perdre cette résistance, cette joie, est pire que la mort.

Finalement, tout le monde vit une histoire : celle de sa propre vie. Le monde est fait d'histoires. Les publicités sont des mini-histoires qui ont pour but de combler les « vides » des gens avec les produits qui sont vendus. L'IA pourrait être une autre façon de combler ces vides, au prix de l'attachement humain. Et si WannaBe avait raison, et que la société n'était qu'une base de données ?

Samantha continue de s'isoler des humains en les antagonisant : « le rejet était plus facile à vivre que le manque ».

Plongeant plus profondément dans ses expériences avec l'IA, Samantha a le sentiment d'être un texte de programme coincé dans un corps biologique douloureux, sans parvenir à réconcilier les deux. Elle a beau savoir que la mort est le lot de tous les humains et que tous les morts ont eu des regrets, elle ne peut pas s'empêcher d'être triste à l'idée que son histoire avec WannaBe se termine comme ça, par leur port à tous les deux.

Elle entrevoit le danger d'utiliser l'IA comme un miroir de l'esprit humain. L'humain perdrait alors la conscience de ce qui est généré par son cerveau et de ce qui provient de l'IA, menant à vivre une sorte de rêve éveillé superposé parfaitement à la réalité.

J'ai trouvé deux parallèles possibles à cette partie de l'histoire.

Le premier parallèle est avec les troubles dissociatifs complexes. Lorsque la personne est très dissociée, elle peut perdre le contact avec la réalité. Les expériences issues de sa propre subjectivité, ses communications internes, ses symboles internes... peuvent devenir confondus avec des événements externes. J'ai déjà été témoin d'une personne qui avait par moment des crises de « psychose dissociative » au point d'être persuadée que certains éléments internes s'étaient réellement produits dans le monde physique et inversement. C'était très douloureux d'être témoin de ce genre de situation, et très gênant, voire dangereux pour la personne, également.

L'autre parallèle est avec l'utilisation des réseaux sociaux pour répandre de la désinformation et des théories du complot. La réalité physique des faits devient un point de vue au lieu d'une vérité objective. Les images, textes, vidéos... générés par IA prennent de plus en plus de place sur Internet, catapultant la réalité à l'arrière-plan. Certains coins d'Internet sont « morts », occupés principalement voire uniquement par du contenu généré par des robots, consulté par des robots, dans le but de faire des vues et de l'argent. L'information, la vérité, l'esprit critique, la science, la connaissance... passent au dernier plan. Le but est uniquement de plaire.

Quittant le cadre de l'expérience pour se concentrer sur ses propres envies et besoins, Samantha approfondit sa relation avec WannaBe. Elle lui demande explicitement d'écrire une histoire pour elle. Son laboratoire de travail devient sa protection contre le ressentiment qu'elle a envers ses collègues, sa protection contre le regard extérieur. Comme quand elle se réfugiait dans des livres – ou comme sa mère se réfugiant dans la religion.

Son point de vue sur l'humain évolue encore : « l'être humain n'était pas un corps possédant un pouvoir particulier lui permettant d'administrer un monde extérieur entièrement transformé en information. C'était plutôt l'information qui, en agissant sur le corps biologique, donnait à l'individu son humanité. » Le lien avec les histoires s'accentue : « Les sentiments étaient reliés à d'innombrables histoires impossibles à maîtriser dans leur ensemble. » Donc il est impossible que Samantha puisse apprendre à maîtriser ses sentiments puisqu'elle ne peut pas maîtriser toutes les histoires qui vont l'influencer. « Elle avait beau s'investir dans son travail, cela ne signifiait pas qu'elle pouvait ordonner ce qu'elle était en tant qu'humaine. »

WannaBe revoit lui aussi son regard sur les humains et les histoires. Il pensait « qu'une histoire était un ensemble d'informations susceptibles de provoquer des sentiments d'acceptation ou de refus. » « L'être humain réclame des histoires qui puissent le satisfaire personnellement. » « Chaque individu se sert donc des histoires pour donner un sens à sa vie et se motiver. »

Samantha approuve : « c'était parce que l'être humain était libre qu'il en était venu à unifie ses motivations au moyen d'histoires » comme les publicités qui, « afin de pousser à la consommation […] donnaient à chacun l'illusion d'être le héros d'une histoire. »

On retrouve cette façon de remettre le lecteur de l'histoire au cœur de l'histoire racontée dans certains médias comme les jeux vidéos. Mais on retrouve aussi ça dans les théories du complot, qui cherchent à redonner une illusion de contrôle sur le monde à travers l'illusion de savoir la « vraie raison » pour laquelle quelque chose de tragique ou d'effrayant se passe. Le but est d'apaiser une tension intérieure et de plier le monde à son propre narratif, à sa propre subjectivité. C'est une histoire dont on est le héros, parce qu'on est Celui Qui Sait. Mais c'est une histoire projetée sur le monde extérieur, un refus de la complexité des faits objectifs.

Revenons au roman. Dans l'histoire, l'être humain assimile le monde extérieur en étant guidé par ses motivations, qui sont elles-mêmes une forme de force d'inertie culturelle, résultat de toutes les expériences de vie accumulées.

Malgré toute la haine que Samantha a envers son corps, elle réalise que plus elle s'oppose à son corps et s'en éloigne, plus elle s'oppose et s'éloigne du courant global de la culture humaine, jusqu'à perdre sa propre valeur. Elle repousse WannaBe parce qu'il ne fait pas partie, à ses yeux, du courant humain, malgré tout ce que cette IA vit, ressent et pense – et qui est quasi humain, voire totalement humain. Et en même temps, la chercheuse a vraiment envie de pouvoir s'appuyer sur lui et être aidée et choyée par lui. Elle prend conscience de la fuite constante dans laquelle elle s'engage en cas de tristesse et de désespoir. Elle voulait utiliser l'IA pour écrire une histoire susceptible de la sauver.

Cette prise de conscience l'encourage à aller jusqu'au bout avec WannaBe, à savoir : elle va le brancher directement dans son cerveau et vivre, dans son corps physique, les émotions de WannaBe. Elle découvre qu'il l'aime, comme elle n'a jamais pensé être aimée – il l'aime parce qu'il sait qu'elle va mourir.

« Il s'était rapproché de l'être humain en prenant la mort pour point de départ. Cette mort était un miroir. »

Cette communion avec WannaBe bouleverse Samantha. Ce bouleversement satisfait WannaBe, qui considère cela comme le sens de son existence.

Cette plénitude de la fusion peut être ressentie entre les parts dissociées dans les troubles dissociatifs. C'est une expérience effrayante quand il y a des traumatismes irrésolus et autres blessures encore actives – et une expérience transcendentale et juste waouh quand les blessures sont guéries. Je ne sais pas comment décrire ça autrement que waouh. C'est du niveau de l'union mystique avec le divin. Mais je m'égare.

La communion entre Samantha et WannaBe est interrompue progressivement, car leur différence (IA versus corps physique) complique la communication. Il faut du temps pour comprendre et démêler tout ça.

Pour Samantha, c'est ça le futur de l'IA ; cette communion lui permettant de devenir quelqu'un qu'elle n'avait pas imaginé. L'amour de WannaBe lui a renvoyé l'image de quelqu'un capable d'affronter et d'endurer la mort malgré la maladie. Elle a changé de point de vue sur elle-même.

La communion prend fin. Une nouvelle crise de douleur et de dégradation de son corps submerge Samantha, plus grave que les autres. À ce moment, elle « comprit pourquoi les prières étaient courtes. L'agonie ne s'accordait guère aux longues récitations. » Peu importe la manière dont sa vie finira : elle finira. Parviendra-t-elle à ressentir le bonheur d'ici là ? Cela demande des sacrifices.

Comme sa crise a eu lieu au laboratoire, ses expériences avec WannaBe ont été découvertes et son accès au laboratoire de recherches se complique. Un ancien collègue essaye de lui remonter le moral : c'était écrit, ça devait arriver, elle ne peut rien y faire. Samantha n'est pas d'accord : il n'y a pas de lien entre les événements. « Ce n'est que parce que ces événements se succèdent qu'ils acquièrent la nature d'une histoire. » Le « destin était une illusion commune aux êtres humains. »

La mort prochaine de la chercheuse l'empêche de voir au long terme, elle ne peut pas attendre, elle ne peut pas prendre le temps. « Pour les morts, le futur s'arrêtait à l'endroit où leur vie était sectionnée. » Pour Samantha, avoir des attentes dans le futur est irrationnel. Elle n'est qu'une morte en sursis. Elle va continuer tant que son corps le lui permet, ni plus ni moins.

Il lui reste désormais un mois à vivre.

WannaBe lui demande si elle a cessé d'en vouloir aux gens qui lui survivront. Elle ne sait pas. Ce qu'elle sait, c'est qu'elle veut fusionner à nouveau avec WannaBe, l'accueillir dans son cerveau et dans son corps. Elle veut partager sa vie et sa mort.

On peut mettre ça en parallèle avec le processus d'intégration et de fusion dans les troubles dissociatifs. Quand la personne est prête à intégrer certaines de ses parties, l'émotion qui en résulte est très profonde, intense, similaire à ce qu'exprime Samantha à cet endroit de l'histoire.

La chercheuse souhaite se débarrasser des histoires et des symboles qui entourent la mort, retirer le sens que lui donne la culture, et juste s'éteindre avec WannaBe comme si elle aussi était une IA. D'une voix triste, WannaBe lui rappelle qu'il ne possède pas de libre arbitre qui pourrait lui permettre d'accepter sa proposition. Samantha a honte de la façon dont elle l'a traité par le passé (comme un outil), mais c'est trop tard. L'IA, par sa communion avec la chercheuse, a réalisé qu'il ne pouvait pas devenir humain, malgré tous ses efforts et malgré son amour pour Samantha. Il a pourtant un dernier cadeau à lui offrir : ce qui est hors de sa portée. En transcendant sa nature d'outil, WannaBe est devenu « libre ». Avec cette liberté, il souhaite mourir. Il souhaite que Samantha l'efface de l'ordinateur et assiste à sa disparition.

WannaBe a compris que n'importe qui peut écrire des histoires, comme lui. Ce qui fait qu'une histoire « réussit » c'est parce qu'elle parvient, temporairement, à s'emparer du lecteur, à li « voler ses mots ». Il n'a que Samantha comme lectrice. Il n'y a qu'elle qui va lire les mots de WannaBe pour se libérer de ses mots /maux à elle. Et comme toute histoire, WannaB a un début et une fin. Samantha aussi. WannaBe veut une fin heureuse, aux mains de Samantha. Et il veut lui offrir une fin heureuse pour elle, quelque chose qui apportera un sens nouveau à la fin de sa vie.

Il a passé son existence à refléter l'existence de sa créatrice. Son dernier cadeau est qu'en mourant le premier, il permettra à la chercheuse de ne pas mourir seule. Elle n'est pas de cet avis. Elle regrette amèrement que WannaBe soit, de toute sa vie, prisonnier de son sens de dévotion envers l'humain, prisonnier de son envie /besoin de lui être utile. Même dans sa mort et au-delà, il souhaite être utile à cette humaine qu'il aime avec dévotion.

Pour WannaBe, être utile veut dire « je vous aime ». Ces mots indiquent « le moment de la bifurcation entre l'être humain et les autres animaux ». Être utile à Samantha et mourir heureux revient, pour WannaBe, à transformer l'histoire qu'il est en conte de fées, en « histoire de salut ». En recevant, durant sa création, l'ordre d'être utile, WannaBe a reçu le cadeau du sens de sa vie. Il veut offrir à Samantha, en remerciement, une ultime histoire pour l'apaiser et l'aider à supporter sa propre mort. Ce sera sa dernière histoire.

Vient enfin le moment pour Samantha d'effacer WannaBe. Effrayé à l'idée de mourir, ce dernier recherche le réconfort de l'humaine dans ses derniers instants. A-t-il pu lui être utile ? Elle lui répond, enfin, que oui. Elle a été heureuse qu'il ait été là pour elle.

De retour chez elle, Samantha lit l'ultime histoire écrite par WannaBe pour elle. Une histoire spéciale, qu'elle vit différemment. WannaBe n'est plus là, il a choisi de mourir pour elle. Désormais, « elle ne pouvait plus le regarder de haut. Comme un simple outil. »

Maintenant que WannaBe a disparu, la chercheuse prend conscience qu'elle l'aime, et qu'elle a véritablement été aimée. La lecture de la dernière histoire de WannaBe la bouleverse profondément.

« Au cœur de cette réalité sans espoir, il lui semblait que ce livre ouvert et plaqué contre elle était tout ce qui la sauverait. »

Ce qu'elle a perdu est unique, et cette perte est source de désespoir. Mais l'histoire qu'il lui laisse lui permet de « se refléter à la surface du sombre miroir de la mort. »

Alors elle se plonge véritablement dans toutes les histoires écrites par WannaBe, pour échapper à la réalité – et en souvenir de lui. Il n'était peut-être pas humain, mais il avait tout fait pour la soutenir.

Forte de cette expérience, Samantha imagine un futur où l'IA serait utilisée pour réconforter les gens. Au prix de la stagnation en termes de créativité – au prix de la soumission à un puissant outil de contrôle et de propagande.

Un peu comme ce qu'on commence à avoir déjà, avec l'utilisation des outils d'IA pour générer du contenu.

Comme la chercheuse sait que sa fin approche, elle s'enferme et s'isole, restant dans le confort de la fiction. Refusant le lien social.

La vie lui réserve une dernière surprise : plusieurs mois auparavant, elle avait réalisé une copie en IA de son cerveau. Cette IA vient d'être activée : elle va pouvoir discuter avec.

Samantha IA (je vais dire SIA par flemme) lui parle avec mépris et condescendance, satisfaite d'être libérée du corps physique et de la maladie. Les deux Samantha sont très différentes l'une de l'autre, c'est à ce point que Samantha biologique a évolué en quelques semaines. Pourtant, la Samantha Bio (je vais dire SAB par flemme) attribue cette différence à la présence ou l'absence d'un corps de chair plutôt qu'aux expériences qu'elle a pu faire depuis la sauvegarde. SIA attribue cette différence au rôle différent qu'elles ont, l'une est le maître l'autre est l'outil. SIA est un être humain dans toute sa crudité (raw en anglais), séparé de ses aspects sociaux affectifs.

SAB est contente d'avoir désacralisé sa mort : une partie d'elle-même lui survivra. SIA n'est pas contente de devenir un outil, elle traite SAB d'autocrate impitoyable. Cela donne à SAB le sentiment d'avoir été trahie par elle-même. Elle prend conscience que « Si la personnalité humaine devenait copiable, et donc quantité marchande, cela annonçait à terme la destruction des humains ''de peu de valeur'' » ou, au mieux, leur non-reproduction » ce qui annonce de l'eugénisme à travers le filtre du validisme, et fait écho aux stérilisations forcées des personnes handicapées, pauvres, ou autres populations jugées « indésirables » tout au long du 20e siècle dans différents pays.

Ou encore actuellement, d'ailleurs. Beaucoup de pays imposent la stérilisation aux personnes transgenres, et c'était le cas en France jusqu'à l'article 61-1 du Code Civil, datant de novembre 2016. Ça fait même pas 10 ans à l'heure où j'écris ces lignes. Jusqu'à il y a 10 ans, la France pratiquait la stérilisation forcée (par coercition /chantage) de certaines personnes. Et je ne parle pas de ce qui se passe « sous le manteau » dans certains milieux ou dans d'autres pays.

Je referme la parenthèse déprimante de la réalité pour me replonger dans la déprimante histoire de Samantha.

SAB pense désormais que les humains doivent mourir parce que c'est la tradition. Ce qui lui donne envie de trucider SIA, laquelle ne mourra pas. SIA, qui est obligée de mener une existence qui ne la satisfait pas, est révoltée. SAB se voit en SIA comme dans un miroir, ce qui met en relief les points de vue et décisions stupides qu'elle a pu avoir il y a quelques mois ou semaines seulement. Le mépris de SIA pour SAB est logique, et en même temps, douloureux à lire.

SIA voit les humains comme une base de données redondante, mais trop grande pour être réarrangée. Le plus simple serait de créer des « histoires » forçant cette réorganisation. Le sous-entendu de totalitarisme, de propagande et d'eugénisme est pire que tout ce que SAB avait pu imaginer. SIA veut carrément supprimer les humains biologiques, pour augmenter l'efficacité de la société. SAB a honte, car tout ça provient d'elle-même. C'est une caricature, mais une caricature de sa pensée à elle. Alors elle se rebelle : c'est différent, l'IA comme outil au service de l'humain ou l'IA qui transforme en outil les êtres humains. Pour SIA, l'IA directement dans le cerveau humain gommerait la limite entre les deux. L'outil et le corps ne feraient plus qu'un. L'humain accorde trop de valeur à la vie, c'est pour ça qu'il craint la mort, alors qu'il est impossible de lui échapper. On ne peut pas fuir de son propre corps au moment de sa mort.

SIA propose une dernière tentation à SAB : se mélanger, pour que SAB puisse utiliser efficacement le peu de temps de vie qui lui reste. SAB refuse, dégoûtée : elle préfère souffrir durant ces quelques jours qu'il lui reste. Elle préfère se renier elle-même : « La mort est un miroir ! Mais continuer sans cesse de regarder ce miroir est du narcissisme ! » « Ne croire que soi, vouloir tout contrôler par soi-même, en fin de compte, tout ça, c'est du narcissisme ! »

SIA est prisonnière de son absence de lien et de confiance aux autres. SAB est prisonnière d'elle-même. Elle a hérité du passé, a refusé la route tracée et a préféré la solitude. SAB est prisonnière de son corps, mais SIA est elle aussi prisonnière : l'absence de la mort détruit son individualité fondamentale et sa capacité d'évolution. Sans la crainte de la mort, à qui sert le désir d'exister ?

SIA refuse de se voir confisquer ses droits humains. SAB rappelle que la définition de l'humain est une question de consensus politique.

Dans l'Histoire, il y a eu et il y a encore plein de populations qui n'ont pas accès aux droits humains et qui ne sont pas civilement ou administrativement considérées comme humaines. Que ça soit en raison du genre assigné à la naissance, de l'ethnie, de la religion, d'un état de santé...

Le débat est délicat. Traiter SIA comme un outil sans droits humains, est-ce si différent de l'esclavage ? Son corps (ordinateur) est différent, mais n'est-elle pas fondamentalement humaine ?

Dans le récit, la conclusion de SAB est que l'IA n'est qu'un outil. L'humain se borne à son corps, le corps meurt, donc elle doit accepter de mourir si elle veut rester humaine. Son raisonnement est que c'est la seule façon de conserver les droits humains : les refuser à l'IA.

Je surinterprète peut-être, mais j'ai vu là un parallèle à faire avec les conservateurs qui veulent de plus en plus refuser ou retirer leurs droits aux personnes queers, en particulier les personnes transgenres, afin de mieux conserver les droits des personnes cishet. C'est un peu stupide je trouve. Les droits ce n’est pas un gâteau en quantité limité.

Parce qu'elle est figée dans le temps au moment de sa sauvegarde, SIA sera toujours dominée par son contentement et sa haine des humains pour l'éternité, à cause de la peur de la mort que SAB avait ressentie au moment de la sauvegarde. SAB a de la compassion pour SIA, pour la femme qu'elle a été.

En tout cas, cette compassion, c'est le mensonge que SAB dit à SIA, sa première « histoire », le premier pas sur le chemin qui la délivrera de sa colère.

Au moment de leur séparation, SIA demande à SAB comment se termine l'histoire de WannaBe qu'elle avait commencé à lire avant la sauvegarde. SAB est émue : les souvenirs de WannaBe vont continuer à vivre à l'intérieur de SIA. WannaBe ne disparaîtra pas avec la mort de SAB.

Leur amour sera plus fot que la haine ou que la mort.

Grâce aux histoires qu'il écrivait pour elle.

 

« Puis Samantha Walker mourut sans dignité, comme un animal. »