Je vous avais promis du sexe (et du genre) et me voilà en train de parler d’ordinateurs et d’informaticiens qui se prennent pour Dieu. Rassurez-vous, j’y viens.

Pourquoi l’humanité s’est-elle attachée à créer des créatures artificielles ? Certes, l’exercice permettait de s’approprier un peu du pouvoir divin, mais souvent, le but était de faire mieux que Dieu (ou que le hasard génétique). Les créatures artificielles des mythes comme celles des cybernéticiens tendent à corriger les imperfections de la version naturelle.

Prenons par exemple Galatée, la créature artificielle du mythe de Pygmalion. Selon Ovide, Pygmalion, jeune roi de Chypre et merveilleux sculpteur, est déçu par la légèreté des femmes de Chypre et se voue alors au célibat. Pour se consoler, il sculpte une femme parfaite appelée Galatée et en tombe amoureux. Il va alors prier Aphrodite de lui donner vie. Touchée par l’amour de Pygmalion, Aphrodite apporte la touche finale au processus de création en animant la statue. À aucun moment, Pygmalion n’a essayé de s’approprier un pouvoir divin, il a juste voulu améliorer les femmes. D’ailleurs, ses motivations misogynes sont bien comprises par les Dieux qui n’éprouvent aucune jalousie ; son histoire finit bien puisque, selon les versions de la légende, il aura même des enfants avec Galatée.

Vous vous souvenez des informaticiens des années 40 qui cherchent à dupliquer l’intelligence humaine ? Finalement, ils poursuivent un but semblable. Ce n’est pas n’importe quelle intelligence qu’ils essaient de dupliquer. Ils recherchent une intelligence qui puisse rivaliser avec la leur. Le mathématicien Norbert Wiener, l’inventeur de la cybernétique, veut pouvoir jouer avec les créatures qui seront créées. Von Neumann bâtit l’architecture des ordinateurs sur la base de la représentation qu’il se fait de son propre cerveau génial, doté d’une mémoire eidétique. Turing rêve d’une intelligence virtuelle qui ne mourra jamais. Les fantasmes autour de l’IA n’ont guère changé : reproduire l’intelligence de l’humain moyen n’excite personne (et pourtant, ce serait déjà une belle performance !). On vise directement à créer l’intelligence immense qui nous rendra tout petit.

Wiener pose comme principe de base que ce qui distingue des entités entre elles n’est pas la matière dont elles sont faites, mais leur comportement. Peu importe le matériau dont est faite la créature, on ne cherche pas à reproduire le vivant, mais le comportement du vivant. « L’homme fait l’homme à son image », écrit-il dans Golem & God Inc. D’ordinaire, on pense à la reproduction sexuée, mais après tout, est-ce la seule option ? Quand on suppose que Dieu a créé l’homme à son image, il ne faut évidemment pas prendre la formule au sens littéral. À partir de quand une image que l’on crée est-elle suffisamment bonne (indépendamment de son matériau) pour qu’on puisse considérer que son créateur s’est reproduit ? Pour l’expliquer, Wiener va se servir d’une partie du mythe de Pygmalion et Galatée.

Selon Wiener, quand Pygmalion sculpte Galatée dans l’ivoire, il crée une simple image picturale : Galatée a bien une forme humaine, mais elle ne peut être considérée comme un être à part entière, car elle a un comportement de statue. Mais dès lors qu’Aphrodite lui insuffle la vie, la statue devient une image opérante, tellement similaire à un être humain que Pygmalion va pouvoir l’épouser.

Si Wiener prend en exemple le mythe de Pygmalion et Galatée pour expliquer la « reproduction », c’est parce que cette histoire résonne de manières particulières dans sa propre biographie. En créant lui-même un être qu’il juge parfait, Pygmalion évite les risques du hasard et la déception qui semble inévitablement en découler quand on laisse les êtres humains (notamment les femmes dans le cas de ce mythe) se développer à leur guise. C’était également un risque que Léo Wiener, le père de Norbert, n’avait pas envie de prendre.

Léo Wiener, né en 1862, était un homme d’une intelligence et érudition peu commune. Il était réputé parler couramment 30 langues et il a été capable de suivre les travaux mathématiques de son fils jusqu’à ses premières années d’université. Il n’avait qu’une confiance limitée dans l’école, et des idées arrêtées sur la manière d’éduquer les enfants. Il infligea à son fils des cours intensifs à la maison jusqu’à finalement le retirer totalement de l’école entre 6 et 7 ans. Norbert savait lire à un an et demi et quand il réintégra l’école à 7 ans, ce fut pour entrer au secondaire. À 18 ans, Wiener obtint un doctorat à Harvard. Léo Wiener s’estima satisfait de la manière dont il avait façonné son fils. Dans un article intitulé Quelques idées nouvelles sur l’éducation des enfants, qu’il publia en 1911, il écrivit : « C’est un non-sens de dire, comme le font certaines personnes, que Norbert, Constance et Bertha sont des enfants exceptionnellement doués. Il n’en est rien. S’ils en savent plus que les enfants de leur âge, c’est parce qu’ils ont été entrainés différemment » (cité par Wiener dans son autobiographie de 1953 : Ex-Prodigy: My Childhood and Youth). Norbert Wiener résuma ensuite sa relation avec son père en ces termes : « Mes échecs étaient les miens, mes succès étaient ceux de mon père ». À sa naissance, Norbert n’était que l’image picturale de Léo, jusqu’à ce que celui-ci l’entraine et en fasse une image opérante, un fils à son image.

Pygmalion et Galatée, Léo et Norbert, le Rabi Loew et le Golem… ce sont là des transpositions assez littérales de la phrase de Wiener : « L’homme crée l’homme à son image ». Les humains peuvent se reproduire de diverses manières, par la reproduction sexuée, mais aussi en créant des machines qui sont des images opérantes d’eux-mêmes. Cette reproduction-là possède l’avantage cybernétique d’éviter l’entropie inhérente à la reproduction sexuée, même si Serge Abiteboul¹ nous explique que cet aléatoire est indispensable pour la pérennité du processus de reproduction. En outre, l’homme n’a besoin de personne d’autre pour créer une image de lui.

Alan Turing, le célèbre mathématicien qui déchiffra les codes secrets allemands pendant la 2^e guerre mondiale, fait partie des chercheurs qui discutent de cybernétique. En 1950, il écrit un article devenu célèbre : Computing machinery and intelligence, dans lequel il va se demander à partir de quand on peut considérer qu’une machine est intelligente. Pour cela, il va d’abord définir ce qu’est une machine : « Nous souhaitons exclure de la catégorie des machines les hommes nés de la manière habituelle », dit-il. Et comme la manière habituelle sous-entend la participation d’un homme et d’une femme, il ajoute : « On pourrait par exemple requérir que les ingénieurs soient tous du même sexe, mais cela ne serait pas vraiment satisfaisant ». Évidemment, Turing fait de l’humour, mais à travers cette plaisanterie, on comprend deux éléments essentiels. Tout d’abord, la machine est considérée comme étant littéralement l’enfant des ingénieurs, et deuxièmement, elle ne doit pas être le produit de la différence des sexes, car cela jetterait le doute sur son éligibilité. Cette machine sera donc conçue entre hommes, car je doute que Turing n’ait jamais imaginé une équipe de femmes ingénieures. (Finalement, il estimera que seuls les ordinateurs numériques pourront participer aux tests.)

Turing est certes un logicien d’exception, mais aussi un homme homosexuel dans une époque homophobe. Sa misogynie affichée lui permettait de masquer son peu d’intérêt pour la fréquentation des femmes : « Le problème avec les femmes, c’est qu’il faut leur parler », confiait-il à ses collègues mathématiciens. « Quand tu sors avec une fille, tu dois discuter avec elle et trop souvent, quand une femme parle, j’ai l’impression qu’une grenouille jaillit de sa bouche. ». À travers sa quête de l’intelligence artificielle, il cherche à se reproduire sans être obligé de fréquenter les femmes. Il espère créer un être virtuel supérieur qui ne sera pas soumis à la mort ou à la maladie, à faire revivre Christopher, ce garçon extraordinaire dont il était amoureux adolescent et qui est mort prématurément. Turing aurait voulu une créature artificielle dépassant les imperfections humaines.

Peut-être aurait-il apprécié le texte L’Eve future écrit par Villers de L’Isle-Adam en 1886, car il brasse les mêmes fantasmes. On y retrouve les motivations à l’origine du mythe de Pygmalion : il s’agit de créer une femme parfaite en lieu et place du modèle défectueux produit par la nature. Mais il s’agit cette fois d’une création entre hommes, permettant une forme d’homosexualité via un être artificiel féminin, car, comme le disait Turing, la conversation des femmes réelles s’avère terriblement décevante.

L’Eve future met en scène Lord Ewald, éperdument amoureux d’Alicia Clary, une chanteuse qui est aussi belle que sotte. Ewald est écartelé entre la beauté du corps d’Alicia et la vulgarité de ses propos. Il décide alors de se suicider, ne supportant plus la torture de passer du temps avec une femme aussi belle et aussi quelconque.

Il est sauvé par un scientifique, Edison (nommé ainsi en hommage à l’inventeur américain), qui a conçu un être artificiel qu’il peut rendre semblable à Alicia. Il propose alors un Pacte faustien à Ewald. Il va créer une nouvelle Eve, un andréïde nommé Hadaly, dont le corps sera celui d’Alicia Clary. En échange, Lord Ewald prêtera vie à ce corps par une opération mentale relevant de la foi et de la suggestion : en la croyant vivante, il la rendra vivante.

Pourquoi créer une femme artificielle ? Edison justifie sa démarche de la façon suivante. Pour lui, il existe deux types de femmes : « les femmes assainies, consacrées et justifiées par la dignité persistante du devoir, de l’abnégation, du noble dévouement » et celles qui ressemblent à Alicia Clary : « plus proches de l’espèce animale que de l’espèce humaine. L’homme a le droit de haute et basse justice sur ce genre d’être féminin comme il l’a sur les animaux. » Le moins qu’on puisse dire, c’est que Villers de L’Isle-Adam sait être clair quand il annonce qu’Edison sera « l’assassin de l’animalité triomphante de la femme ».

La relation qui s’en suit entre Edison, Edwald et Hadaly devient assez trouble. Il faut bien donner un esprit à Hadaly : les paroles qu’elle prononcera ont été enregistrées au préalable par Edison. On peut alors se demander avec qui Ewald a une conversation passionnée quand il parle avec Hadaly, et finalement qui Edwald désire quand il désire Hadaly. En outre, si Hadaly est un être artificiel au corps féminin, elle a été appelée Andréïde (Andres : homme) et non Antropoïde (humain) ou Gyneïde (femme).

La suite de l’histoire s’embrouille, car Villers de L’Isle-Adam finit par se plier à la morale de son époque. Il imagine que l’esprit d’une femme vertueuse endormie vient finalement animer Hadaly. Quoiqu’il en soit, le destin ne peut pas laisser perdurer ce projet immoral. Quand Lord Ewald repart en Angleterre, emportant Hadaly dans un sarcophage pour le temps de la traversée, le navire fait naufrage. Le sarcophage coule, et Lord Ewald, inconsolable, prend le deuil d’Hadaly.

Doit-on en déduire que les histoires de créatures artificielles sont condamnées à mal finir ? Dans un XIXe siècle moraliste, Villers de L’Isle-Adam ne pouvait pas se permettre de laisser perdurer cet amour contre nature. Mais que va-t-il advenir des créatures artificielles qui apparaîtront par la suite ?

L’homme crée l’homme à son image et le scientifique crée la créature artificielle à son image en tenant les femmes à l’écart. Est-ce que ce sera pour le meilleur ou pour le pire ? Est-ce que cela signifie la mort de Dieu… ou des humains ? Tout dépendra du point de vue adopté par celui qui raconte les histoires.

À suivre…

L’histoire occidentale est remplie d’une longue série de mythes parlant de créatures artificielles et, dans certains cas, d’humains tentant d’usurper la place de Dieu en se lançant dans le processus de création. Il y a 20 ans, quand j’ai commencé à travailler sur les questions de genre en informatique, je me suis intéressée à créatures artificielles, car, pour moi, l’ordinateur a été rêvé comme faisant partie de cette grande famille. Quand ils ont conçu l’ENIAC, les pères de l’informatique ne cherchaient pas réellement à produire une grosse machine pour calculer, même si c’est ce qu’ils ont réalisé. L’ordinateur des années 1950, qui était pourtant très loin des performances de ChatGPT, était vu comme une étape vers le but ultime de la science : une duplication du cerveau humain.

Si je relie ces fantasmes à la question « Genre », c’est parce que tous les créateurs de créatures artificielles sont des hommes et que tous trouvent une solution pour créer un être nouveau sans passer par la reproduction sexuée, c’est-à-dire sans l’aide des femmes. Ces fantasmes se prolongent dans la littérature de science-fiction : après les robots, est-ce qu’on ne serait pas plutôt en train de créer un Dieu artificiel ?

Des Golems et des ordinateurs

Les premières créatures dont je vais vous parler sont les Golems ; et le premier des Golems était Adam…

Le mot Golem s’écrit en hébreu avec les trois consonnes Guimel, Lamed et Mem qui signifient : masse informe, embryon, roulé en boule. Dans le Talmud, Adam est appelé Golem avec la signification de corps sans âme, pendant les 12 premières heures de sa vie. L’homme qui cherche à créer un Golem cherche en fait à reproduire l’acte qui a permis sa propre création.

Le 17 juin 1965, Gershom Scholem, historien et philologue, spécialiste de la Kabbale, prononce le discours¹ d’inauguration de l’ordinateur Golem Aleph, à l’Institut Weizman de Rehovot, en Israël. C’est pour lui l’occasion de parler des différents Golems qui l’ont précédé dans la tradition juive, en particulier le plus célèbre d’entre eux, celui de Prague.

La légende met en scène le rabbin Judah Loew ben Bezalel, Maharal de Prague. La tradition populaire juive lui attribue la création d’un Golem pour aider les juifs du ghetto à se défendre contre l’antisémitisme de l’Europe Centrale.

Le Golem du Rabbi Loew était fait d’argile et était animé grâce à la concentration de l’esprit du rabbin. Mais comme son pouvoir n’était qu’un reflet du pouvoir créateur de Dieu, le rabbin avait mis dans la bouche du Golem une feuille de papier portant le nom mystérieux et ineffable de Dieu. Tant que le sceau restait dans sa bouche, le Golem demeurait animé.

Le Golem pouvait travailler, remplir les obligations de son maître ; il pouvait l’aider et aider les juifs dans les attaques portées contre le ghetto. Le Golem avait droit au repos le jour du shabbat, puisque ce jour-là, les créatures de Dieu ne doivent accomplir aucun travail. Le rabbin ôtait de sa bouche le papier portant le nom de Dieu et le Golem restait inanimé toute la journée. Mais un vendredi après-midi, le rabbin oublia d’ôter le nom de la bouche du Golem avant de se rendre à la grande synagogue de Prague. Le Golem commença à s’agiter puis à tout détruire dans le ghetto. Les gens ne savaient comment enrayer sa furie. Le rabbin sortit précipitamment dans la rue et se confronta à sa propre créature. Il arracha le papier de la bouche du Golem : aussitôt, celui-ci tomba sur le sol et redevint une masse d’argile sans vie. Dans certaines versions de l’histoire, il s’écroule sur le Rabin et le tue.

Gershom Scholem raconte ensuite l’histoire d’un Golem décrit dans un texte bien plus ancien, remontant au Talmud babylonien. Le prophète Jérémie méditait sur le Sefer Yetzirah, texte dans lequel Abraham a transcrit la Loi Orale transmise par Dieu à Moïse. Jérémie entendit alors une voix qui venait du ciel et qui lui dit : « Choisis-toi un associé ». Obéissant, il appela son fils et ils étudièrent ensemble ce livre pendant trois ans. Après cela, ils se mirent à combiner les lettres de l’alphabet suivant les principes cabalistiques et ils créèrent ainsi un Golem qui portait sur son visage « Elohim emet » ce qui signifie : « Dieu est vérité ». Mais cette créature nouvellement créée avait un couteau dans la main avec lequel il effaça la lettre aleph du mot emet (vérité). Il ne restait donc plus que le mot met (mort). Alors, Jérémie déchira ses vêtements parce que l’inscription était maintenant devenue un blasphème : « Dieu est mort ».

Dans son discours, Gershom Scholem se lance dans des comparaisons entre tous ces Golems, ceux faits de glaise de la tradition juive et le Golem électronique de l’Institut Weizman. Les anciens Golems étaient fondés sur la combinaison mystique des 22 lettres de l’alphabet hébraïque qui sont les éléments et les pierres de construction du monde. Le nouveau Golem est basé sur un système de 0 et de 1 qui permet de coder tous les chiffres, les lettres et de construire des fonctions logiques. Si la nature est écrite par Dieu en langage mathématique, comme le pensait Galilée, alors les symboles 0/1 du langage binaire sont également les pierres de construction du monde à l’instar des lettres hébraïques. Une force invisible les anime, que ce soit l’énergie du discours pour les golems traditionnels ou l’énergie électrique pour celui de la ville de Rehovot.

Les Golems ont un autre point commun : ce sont des rabbins, c’est-à-dire des juifs érudits, qui les ont créés. Le Rabbin Loew est l’ancêtre direct du mathématicien Théodore von Karman qui voyait en son ancêtre le premier génie des mathématiques appliquées. Trois « rabbins mathématiciens » ont particulièrement œuvré en amont à rendre possible les golems électriques : Norbert Wiener, l’inventeur de la cybernétique, John von Neumann qui a pensé l’architecture des ordinateurs modernes et Haïm Pekeris, le constructeur du Golem de Rehovot.

Gershom Sholem s’inquiète enfin du fait que la phrase « Dieu est mort » se rencontre pour la première fois dans un texte de la cabale qui met en garde contre la fabrication d’un golem et qui lie la mort de Dieu à ce projet de construction. Il note que dans les deux cas, les Golems sont dépourvus de la parole et de ce dont elle est le signe : la spontanéité de l’intelligence. Il espère alors que le Golem de Rehovot, puisqu’il est, lui aussi, dépourvu de sagesse, n’échappe pas à son créateur pour semer la destruction autour de lui.

La création de l’ordinateur signifie-t-elle la mort de Dieu et donc les pleins pouvoirs des hommes ? Voilà qui va réactiver les angoisses générées par l’intelligence artificielle !

Pendant que Haïm Pekeris, le Directeur de l’Institut Weizman en Israël appelait son ordinateur Golem, les écrivains de science-fiction n’étaient pas en reste quand il s’agissait de fantasmer sur les liens entre Dieu et l’ordinateur. Il faut dire que ces écrivains issus de l’âge d’or de la science-fiction américaine (en gros 1930 – 1960) étaient souvent des scientifiques technophiles.

Arthur C. Clarke a écrit une très belle nouvelle en 1967 : Les neuf milliards de noms de Dieu, où la programmation de l’ordinateur est mêlée à l’invocation du nom de Dieu. Dans cette histoire, des moines bouddhistes ont acheté chez IBM un ordinateur pour écrire le nom de Dieu. De fait, on imagine plutôt cette histoire se passant dans une Yeshiva (une école talmudique) car l’approche de ces moines est curieusement kabbalistique. D’après eux, le nom de Dieu possède 9 lettres qu’il faut permuter afin de trouver la bonne combinaison. Ces moines pensent que lorsque le nom de Dieu sera écrit, l’univers prendra fin. Craignant que les moines ne soient pris d’une folie mystique et possiblement sanguinaire au moment où l’ordinateur aura fini d’écrire toutes les solutions possibles du nom de Dieu, les programmeurs de l’ordinateur s’éloignent sur une petite route de campagne afin de rejoindre au plus tôt l’avion qui les ramènera chez eux. Mais à l’heure où l’ordinateur est supposé finir de sortir son listing, ils lèvent pour la dernière fois les yeux sur le ciel tibétain et voient les étoiles s’éteindre…

Ces parallèles entre Dieu, le Golem et l’ordinateur était bien dans l’air du temps. En 1950, dans Cybernétique et société, Wiener estime que si l’homme du XXe siècle est celui qui est responsable de Bergen Belsen et d’Hiroshima, il a aussi construit une machine qui lui peut lui permettre de lutter contre l’entropie, ce mal aveugle qui menace d’engloutir le monde.

Dans sa nouvelle L’ultime question de 1956, Isaac Asimov écrit une histoire très cybernétique puisqu’au moment où elle débute, l’Entropie dévore le monde. La fin du monde approchant, un programmeur demande à la machine comment renverser l’Entropie. L’ordinateur ne peut répondre par manque d’informations et l’homme continue à lui en fournir. À chaque fois que l’homme l’interroge, l’ordinateur répond qu’il manque de données, mais au dernier moment, alors que l’univers touche à sa fin, l’ordinateur prononce : « Fiat lux » ³.

Clarke ne nous parle pas d’intelligence artificielle, mais d’un super calculateur qui a le pouvoir d’assister Dieu dans ses œuvres. Asimov va un peu plus loin avec son ordinateur omniscient. Or, on retrouve assez littéralement dans ces textes états-uniens l’étymologie du mot français « ordinateur ».

Pour raconter l’histoire dans l’ordre, il faut signaler qu’en 1948, quand le premier ouvrage de Wiener sur la Cybernétique parait, le Père Dubarle, éditorialiste au Monde, se demande si l’ordinateur n’est pas une machine à gouverner. En 1954, Cybernétique & Société de Norbert Wiener est traduit en français. C’est alors qu’au printemps de 1955, IBM France cherche un nom pour ses premières machines électroniques destinées au traitement de l’information fabriquées en France. Aux États-Unis, elles s’appellent assez prosaïquement « Electronic Data Processing System » ou EDPS. Sollicité par la direction de l’usine de Corbeil-Essonnes, François Girard, alors responsable du service « promotion générale publicité », décide de consulter un de ses anciens maîtres, Jacques Perret, professeur de philologie latine à la Sorbonne.

Le 16 avril 1955, Jacques Perret envoya cette lettre² : « Que diriez-vous d’ordinateur ? C’est un mot correctement formé qui se trouve même dans le Littré, comme adjectif désignant Dieu qui met de l’ordre dans le monde. » Alors que très peu de monde a vu un ordinateur en vrai, son mythe l’a déjà dépassé au point qu’un non-informaticien y voit une machine qui permet à l’homme de s’arroger un peu du pouvoir divin.

Finalement, en 1962, Wiener prononce une série de conférences à Yale et un séminaire aux Colloques Philosophiques Internationaux de Royaumont en France. Ces textes ont été regroupés dans un ouvrage que Wiener intitule : « God & Golem Inc. A Comment on Certain Points Where Cybernetics Impinges on Religion ». Quel est donc ce moment où la science entre collision (impinges) avec la religion ? C’est quand l’homme crée une machine qui sera elle-même capable de se reproduire, copiant ainsi une caractéristique supposée jusqu’ici propre au vivant, donc hypothétiquement donnée aux humains et aux animaux par Dieu au moment de la Création.

Si l’ordinateur est la machine qui, à l’instar de Dieu, a le pouvoir de mettre de l’ordre dans le monde, que penser du pouvoir de son créateur ? Que se passe-t-il quand les hommes se prennent pour Dieu et imaginent être capables d’engendrer des créatures artificielles sans l’aide des femmes ?

A suivre…

Isabelle Collet, informaticienne, enseignante-chercheuse à l’université de Genève et romancière.

Je remercie Jean-Paul Gourdant pour ses relectures attentives qui permettent aux textes d’être bien plus compréhensibles.