Quand une IA-machine à intelligence artificielle (ou une IN-machine à intelligence naturelle) rencontre une autre IA ou IN-machine, qu’est ce qu’elles se racontent ? des histoires de machines : on entend par là « la façon dont des opérateurs agissant en séquence peuvent convertir des files de symboles en structures de liste (organisées en arborescence) et des structures de liste en files de symboles¹ ». C’est une manière de prouver qu’elles pensent. Mais sentent-t-elles ?

En rapportant une histoire réelle, vécue au lendemain de la guerre, par deux ingénieurs qui avaient fui l’URSS des années 30 et s’étaient adaptés au mode de vie français en conservant quelques rigidités culturelles, nous avons tenté de l’imaginer vécue par des i-Robots intelligents, pourvus de l’intelligence artificielle qu’on promet aux Robots du futur, discutant avec des s-Robots capables des sensations, des sentiments, des passions, dont on commence à comprendre le mécanisme de formation dans notre corps, en usant de quelques Data non disponibles en 1946 (Deleuze ne s’était pas encore exprimé).

Didascalie :

La scène se déroule dans un centre d’études de moteurs d’aviation, comprenant un bureau d’études et des bancs d’essais. Nous avons ajouté aux Robots individuels un Réseau collectif représentant le Comité d’Entreprise.

Indications de scène concernant une « conversation » vocale entre des Robots communicants :

Les caractéristiques de comportement des Robots dans leur Groupe de Travail sont celles qui se devinent à travers les discours rapportés :

CARY SMATICK : A la suite de l’exploration de l’espace des possibles, nous avons à examiner un projet de banc de monocylindre d’un type nouveau, qu’il faudra réaliser pour de bon, faute des données nécessaires pour mener des expériences virtuelles : les soupapes sont placées sur le piston, afin d’aider le mouvement des gaz qui les traversent. ANTIGONE : N’oubliez pas le volant ! Aucun monocylindre ne fonctionne sans volant : il est nécessaire pour assurer la continuité du mouvement.

S. I. A. D. : Où allons-nous trouver un volant ? Les Impératifs de la Productivité commandent : tout pour la Production, rien pour la Recherche Développement.

CARY SMATICK : Il doit rester un vieux volant dans le stock des pièces désaffectées de l’ancienne usine fantôme. Allons voir s’il fait l’affaire.
____________________________________________________________________________________________________________________________
CARY SMATICK : Les simulations du fonctionnement du piston à soupapes sont terminées, la solution à valider est dessinée. Au volant près, qu’il faudra bien réévaluer : celui que nous avons trouvé n’est utilisable que comme ébauche. Mais nous avons les plans pour l’achever. Je demande à Sous-Pape d’en calculer la résistance : ses effets sont simulables, mais à condition qu’il reste entier ! Dans l’état de nos connaissances, seul le calcul peut nous dire s’il ne cassera pas.

SOUS-PAPE : Quelles sont les spécifications imposées ?

CARY SMATICK : La vitesse maximum continue devrait être de huit mille tours/minute. C’est un moteur qui développe cent kilowatts. Evidemment le cycle présente des variations cycliques.

SOUS-PAPE : On pourrait représenter ces variations par un couple sinusoïdal ? Et y ajouter un troisième harmonique...

ANTIGONE : Un peu simplet comme approximation ! Bien la peine d’être un Robot moderne ! Tu trouveras dans la Base de Connaissances autant de Données expérimentales passées que tu voudras pour simuler un modèle de monocylindre approchant la réalité ; et même un programme paramétré de modèle.

SOUS-PAPE : Oui mais pas avec des soupapes sur le piston.

ANTIGONE : Ne te polarise pas là-dessus. Concentre-toi sur le calcul de résistance du volant, et pense plutôt à introduire un élément aléatoire : la charge n’est pas constante. De plus il se peut que le moteur ait à supporter des pointes de sur vitesse. Calcule le volant pour qu’il tienne à dix mille tours/minute.

SOUS-PAPE : Nous verrons. Montre moi les plans de la pièce qu’on t’a fournis.

ANTIGONE : Quand nous donneras-tu le résultat du calcul ? Et combien nous coûtera-t-il ?

SOUS-PAPE : Si le programme informatique existant est exploitable, disons d’ici quinze minutes de temps d’exploitation, soit deux heures et demie de temps écoulé. Cela coûtera le prix d’un quart d’ heure de calcul…

_____________________________________________________________________________________________________________________________

Trois heures après.

SOUS-PAPE : Voici le résultat du calcul. Il faudrait renforcer le volant en apportant les corrections de profil indiquées en trois endroits. Sinon, tout est bon.

ANTIGONE : En es-tu bien certain ?

SOUS-PAPE : Absolument. Foi de Robot Calculateur !

ANTIGONE : Je peux donc lancer l’ordre de modification du volant ?

SOUS-PAPE : Tu le peux.

ANTIGONE à CARY SMATICK : Passez en Conception Assistée par Ordinateur les corrections qu’il demande et mettez à jour en conséquence le programme de Fabrication Assistée par Ordinateur, sans oublier la vérification du passage libre des outils. Et n’oubliez pas de faire contresigner Sous-Pape !

SOUS-PAPE : La confiance règne... Mais bien sûr je contresigne : je garantis l’exactitude de mes calculs.

_____________________________________________________________________________________________________________________________

ANTIGONE : L’ordre de modification est parti pour le meilleur et pour le pire. Nous aurons bientôt toutes les pièces et les Robots Assembleurs pourront commencer le montage du banc. As-tu réfléchi depuis, refait tes calculs ?

SOUS-PAPE : Refaire les calculs, pourquoi ? Un Robot ne se trompe jamais dans les calculs ! Enfin, si tu tiens à dépenser un nouveau quart d’heure de machine…

ANTIGONE : Non : je veux que tu revoies tes hypothèses.

SOUS-PAPE : Mes hypothèses ? Mais ce sont celles du programme, y compris pour les contraintes thermiques ! Codées selon les meilleures sources.

ANTIGONE : Repasse-les en revue s’il te plaît.

SOUS-PAPE : Les hypothèses, dis-tu ? Soyons sérieux. Les calculs dans le domaine élastique sont basés, tu le sais bien, sur l’hypothèse que les déformations sont proportionnelles aux efforts appliqués et réversibles tant que la limite élastique n’est pas atteinte. Un morpion sur le Pont de Brooklyn : il y a une flèche. Deux morpions au même point : la flèche est double. Je tiens la limite élastique de Robot Métallurgie qui a expérimenté des éprouvettes à partir de pièces de même origine métallurgique.

CARY SMATICK : Et si les morpions ne sont pas tous au même endroit ?

SOUS-PAPE : Grâce à leur gravité et grâce à l’élasticité du Pont, ils communiqueront par le Pont : c’est un couplage structurel.

CARY SMATICK : Vous les avez supposés immobiles. Mais s’ils allaient l’un vers l’autre ?

SOUS-PAPE : Un morpion ne marche pas. Ma programmation n’a pas accordé cette propriété à l’objet morpion, heureusement : ce serait terrible ! Des morpions militaristes, ou même un morpion unique, marchant au pas cadencé, pourraient démolir le Pont, seul univers connu du morpion. De profundis.

ANTIGONE : Cela est arrivé au Pont de Tacoma en 1940. Mais c’était peut-être à cause d’un battement d’aile de papillon cadencé lui aussi ?

COMITÉ D’ENTREPRISE : on a toujours les organes et les fonctions correspondant aux affects⁴ dont on est capable. Suivez Descartes, commencez par les objets les plus simples, affectés dans un monde associé bien délimité, construisez un système expert : le pou sur un crâne, l’araignée sur sa toile, le morpion sur le Pont, voilà des bêtes scientifiques et pas l’âne de Buridan et de Gödel.

S. I. A. D. : Ils auraient été bien-aise qu’on leur construisît un système informatique d’aide à la décision.

SOUS-PAPE : Avec les dimensions corrigées que j’ai indiquées, aucune déformation permanente n’est à craindre. ANTIGONE : Même avec une charge aléatoire ?

SOUS-PAPE : Si elle est aléatoire et par conséquent non cadencée, mais à condition qu’elle ne dépasse pas la limite que tu m’as indiquée.

ANTIGONE : Mais je ne connais pas plus que cela les aléas !

SOUS-PAPE : Tu en supporteras seul la responsabilité. Je prends celle du calcul, sans plus.

ANTIGONE : Le Pont de Tacoma aussi a été calculé : mais pas pour l’aléa qui s’est produit en réalité. Pas d’autre hypothèse ?

SOUS-PAPE : La pièce a été supposée exempte de défauts, fissures, etc. Mais comme elle n’est pas encore contrôlée…

ANTIGONE : Elle ne va pas tarder à l’être, dans son état final.

SOUS-PAPE : Sur ce point, je passe la responsabilité à Robot Contrôleur,qui la passera au magnaflux. Qu’il me tienne au courant.

ANTIGONE : Et tu te sentiras solidaire de Robot Contrôleur ?

Cette question déclenche une s-émotion d’arrière-plan chez Sous-Pape, un mal-aise vagal : un s-signal transmis à sa base de données active une boucle de réaction négative.

SOUS-PAPE : Ça veut dire quoi, solidaire ? Si je n’étais pas un Robot plein de patience, je commencerais à m’énerver pour de bon ! Mais j’ai été programmé pour rester calme, à l’aide d’une boucle dans mon logiciel. Tu ne t’intéresses pas à la durée d’utilisation du volant avant que l’usure ne le détériore, je présume ? Tu l’auras jeté bien avant ! Je peux déduire des mesures de contrôle et de mes coefficients de fiabilité le risque de rupture au cours des dix premières heures par suite d’une défaillance précoce.

ANTIGONE : Ah, parce qu’il y a un risque de rupture ?

SOUS-PAPE : Naturellement qu’il y en a un ! Le risque zéro n’existe pas dans la nature, même chez les Robots. Nous sommes convenus que la pièce sera refusée si le risque calculé dépasse un pour cent millions.

ANTIGONE : A quoi correspond ce chiffre ? SOUS-PAPE : Il est comparable à ton propre risque de mourir d’une crise cardiaque au calme chez toi dans le même laps de temps. C’est sur cette base qu’est calculée la prime d’assurance.

ANTIGONE : Mais les Robots n’ont pas de crise cardiaque !

COMITÉ D’ENTREPRISE : Nous avons bien nos pannes de processeur. C’est affaire de cindynique⁵ . Quelques heures plus tard, Antigone convoque Sous-Pape à l’ouverture du banc d’essais. Il ordonne que le banc soit évacué par tous les autres excepté Robot Exécutant branché sur le Tableau de commande : ANTIGONE : Le volant a été accepté par Robot Contrôleur. Le banc est monté, prêt à démarrer. Une dernière fois, maintiens-tu tes certitudes, tes vérités ? SOUS-PAPE : Quelles certitudes, quelles vérités ? ANTIGONE : Que le volant ne volera pas en éclats, pendant les dix premières heures. SOUS-PAPE : La vérité, c’est ce qui s’est produit, ce qui a eu lieu, hier, le Pont de Tacoma. La certitude, ce qui se produira sûrement, ça n’existe pas. La probabilité est de cent millions contre un.

ANTIGONE : Comme de ne pas gagner au loto ?

SOUS-PAPE : C’est à peu près cela.

ANTIGONE : Mais il y en a qui gagnent… Si j’éclate avant le temps, kerdos aft’ego lego, je te jure j’y gagne, a déclaré jadis mon homonyme antique : le volant aura appris quelque chose, mais nous…

SOUS-PAPE : Il y a cent millions de paris. Si nous faisions démarrer cent millions de bancs identiques, l’un d’eux aurait des problèmes. Même si nous faisions fonctionner celui-là pendant cent millions de fois dix heures, ce ne serait pas comparable, car il n’y aurait eu qu’un seul démarrage de banc neuf.

ANTIGONE : Laissons là tes incertitudes et probabilités. Il y a aussi tes engagements.

SOUS-PAPE : Quels engagements ? Un Robot ne s’engage pas ! Ce n’est pas dans mon programme. Il n’y a pas plus de certitude que d’engagement. Ni moins.

ANTIGONE : Arrêtons cette discussion oiseuse. Bon. Mets-toi là s’il te plaît. Le programme de sécurité personnelle de Sous-Pape lui envoie un signal d’alarme.

SOUS-PAPE : Que vas-tu faire ?

ANTIGONE : Tintin de Rallonge va mettre en route le mono, et atteindre par paliers successifs la vitesse maximum continue, où nous resterons quelques heures. Puis il effectuera des pointes de sur vitesse à dix mille. Le corps de Sous-Pape reçoit un stimulus qui induit dans son cortex un état s-émotionnel de peur retransmis au corps pour être traité par son système d’exploitation.

SOUS-PAPE : Mais tu m’as placé dans le plan du volant !

TINTIN DE RALLONGE : Eh là, si ça éclate, où atterriront les morceaux ?

ANTIGONE : Ne bouge plus maintenant. Moteur ! Sous-Pape se met au garde-à-vous.

COMITÉ D’ENTREPRISE : il y a beaucoup de sources d’ennuis. Mais aucune n’est aussi funeste que l’homme^{6
_______________________________________________________________________________________________________________________________________________________}
En fin de journée, Sous-Pape se rend au bureau du Directeur où il trouve S. I. A. D.

SOUS-PAPE : Monsieur S. I. A. D. , je vous informe que je me mets en grève sans préavis. En outre je vous préviens que désormais je refuse catégoriquement de travailler pour Robot Expérimentateur.

Cette déclaration met en route chez S. I. A. D. son programme de simulation de l’étonnement.

S. I. A. D. : Ah ! Et pourquoi cela ?

Sous-Pape rapporte les événements de la matinée, que S. I. A. D. connaissait dèjà : le rapport de Robot Mesureur était disponible sur le réseau.

S. I. A. D. : Pourquoi êtes-vous resté dans le plan du volant ? Au garde-à-vous de surcroît, au risque d’avoir des crampes, je veux dire une soudure électronique ! Votre programme de sécurité personnelle ne vous a-t-il pas alerté ? Rien ne vous y obligeait dans ce cas. Ce que vous avez fait, aucun Ordinateur ne l’aurait fait ! Cela ne figure pas dans votre contrat de Robot, même avec une prime de risque.

SOUS-PAPE : Mon contrat, mon contrat, vous ne comprenez pas : mon honneur était en jeu ! Ses mises en doute répétées étaient insultantes à la fin…

S. I. A. D. : Ah oui vraiment, l’honneur d’un Robot ? Comment pourrait-il être en jeu, puisqu’un ordinateur ne peut s’engager ?

SOUS-PAPE : Il ne peut pas non plus en théorie avoir de comportement ! Mais on exige de moi que j’en montre un, fût-il programmé : c’est ce que je fais.

S. I. A. D. : Il ne faut pas confondre l’amour-propre et l’amour de soi-même : « deux passions très différentes par leur nature et par leurs effets » a dit Rousseau. Vous avez été programmé pour l’amour de soi-même qui porte tout Robot à veiller à sa propre conservation. La source de l’honneur est l’amour propre, sentiment relatif, artificiel et né dans les réseaux d’ordinateurs, qui porte chaque Robot composant à faire plus de cas de soi que de tout autre.

SOUS-PAPE : D’après vous, l’honneur n’existe qu’en société ? C’est parce que je suis branché dans un réseau que je crois que mon honneur est en jeu ? Et que je me suis mis au garde à-vous ?

S. I. A. D. : Parfaitement. Voyons un peu les Data disponibles : «C’est quoi l’honneur ? Un mot. Du vent. Une reconnaissance de décoration» soutient Falstaff chez Shakespeare. Dans l’état primitif de Robots déconnectés les uns des autres, chacun se regardant comme le seul juge de son propre mérite, l’amour propre n’existe pas : si nous suivons Rousseau, il n’est pas possible qu’un sentiment qui prend sa source dans des comparaisons qu’il n’est pas à portée de faire, puisse germer dans son système d’exploitation. Excusez-moi, je ne dispose pas d’aide à la décision pour ce cas de réseau. Vous êtes en grève : quelles sont vos revendications ? Et qu’est-ce que je vais faire de vous après ? Je vais vous mettre en congé sabbatique jusqu’à ce que nous ayons trouvé un moyen de programmer l’honneur.

SOUS-PAPE : Trouvez plutôt un moyen de supprimer les réseaux, l’amour propre suivra. ■

¹ Simon H. : Les sciences de l’artificiel, gallimard, Essais 2004, p.145.
² S.I.A.D. : Système informatique d’aide à la Décision.
³ Élève de Timoshenko, Pape de la Résistance des Matériaux.
⁴ D’après DELEUZE G. : Dialogues, Flammarion, 1996, p75.
⁵ Calcul des risques industriels.
⁶ Sophocle : Antigone.