J’ai lu Les Robots quand j’étais adolescent ; c’était l’un des bouquins de science-fiction de mon père. De façon surprenante, le livre commençait par l’énoncé de trois lois que devraient respecter scrupuleusement tous les robots du futur. L’auteur, Isaac Asimov, mettait ses histoires au service d’une réflexion sur l’avenir plutôt que l’inverse. Dès sa préface, il se donna pour mission de combattre le « complexe de Frankenstein » et la tendance des auteurs depuis Mary Shelley à craindre le progrès scientifique et ses applications, surtout quand elles prennent la forme d’engins autonomes et plus ou moins humanoïdes. De la pièce de théâtre de Karel Capek qui popularisa le mot robot, Isaac donne ce résumé :
Les robots étaient conçus, comme l’indique leur nom, pour servir de travailleurs, mais tout se gâte. L’humanité, ayant perdu ses motivations, cesse de se reproduire. Les hommes d’État apprennent à se servir des robots pour la guerre. Les robots eux-mêmes se révoltent, détruisent ce qui subsiste de l’humanité et s’emparent du monde.
C’était le scénario « faustien » qu’Isaac entendait combattre avec optimisme lorsqu’il écrivit Les Robots, en 1950. Pour un lecteur de 2026, cependant, il semble bien que ce scénario soit déjà accompli pour moitié et que le reste pourrait ne plus tarder à se produire. C’est ce qui m’a donné l’envie de relire ce livre : pour voir si la thèse d’Isaac Assimov était encore crédible à l’heure des IA génératives, des drones militaires et des robots lutteurs.
Les trois lois de la robotique
Première loi : Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger.
Deuxième loi : Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la première loi.
Troisième loi : Un robot doit protéger son existence dans la mesure où cette protection n’est pas en contradiction avec la première ou la deuxième loi.
Robbie
Robbie est le robot-nounou de la famille Weston. Il est le compagnon de jeu préféré… et unique, de leur fille Gloria. Mme Weston renâcle cependant à laisser sa fille à la garde d’un robot et s’inquiète de la monomanie de sa fille (on la comprend !). Les Weston se débarassent de Robbie et le remplacent par un chien, mais la petite Gloria refuse d’oublier son robot et sombre dans la dépression. Finalement M. Weston organise la visite d’une usine de robots en convaincant son épouse que cela pourrait persuader Gloria que Robbie n’est pas une personne. Au cours de la visite, Gloria aperçoit Robbie, se précipite vers lui et manque d’être écrasée par un véhicule tracteur, sauvée de justesse par Robbie (Première loi : Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger). Mme Weston comprend que son mari a comploté les retrouvailles de Gloria et Robbie, mais l’héroïsme du robot l’oblige à accepter de le reprendre comme nounou.
Isaac fait à Mme Weston et au lecteur le même chantage émotionnel : puisque Robbie a sauvé Gloria, vous ne pouvez pas être contre le robot-nounou, n’est-ce pas ? Et bien si, Isaac, on doit l’être. Car au XXIe siècle que tu n’as pas connu, de nombreux enfants ont été partiellement élevés par des machines — pas des robots, certes, mais des écrans. Contrairement à Robbie, les écrans parlent et les applications vendues comme éducatives proposent toute sorte d’interactions certifiées pédagogiques à leurs jeunes utilisateurs. Le résultat ? D’après la littérature médicale : un désastre ! Plus les enfants grandissent avec des machines, plus ils accusent de retards de langage. Les petits humains ont besoin des humains pour grandir. Dans la réalité, une petite fille comme Gloria, manifestant un intérêt exclusif pour un robot ferait l’objet d’un diagnostic psychiatrique.
Cycle fermé
Gregory Powell et Mike Donovan sont envoyés sur l’hostile planète Mercure pour finaliser le déploiement d’un robot mineur dernier cri appelé Speedy. Pas de chance, Speedy ne revient pas de sa mission et les deux hommes sont en danger s’il ne rapporte pas un kilogramme de sélenium à la base. Greg et Mike partent à sa recherche juchés sur deux robots anciens et lents. Speedy semble prix d’ivresse : il court à toute vitesse en tenant des propos incohérents. Les deux hommes finissent par comprendre que Speedy hésite entre la deuxième et la troisième loi de la robotique : obéir à un ordre donné trop mollement par un humain et se préserver à proximité d’un danger corrosif. Seule solution : faire prédominer la première loi en se mettant physiquement en danger devant Speedy.
Sur le plan narratif, c’est ce type de nouvelles qui est le plus divertissant dans Les Robots : quand le robot ne se conduit pas comme attendu, les humains doivent se creuser la tête pour vite comprendre comment influencer son comportement défaillant pendant qu’un danger quelconque se rapproche. Il semble que des déviations se produisent aussi dans les laboratoires d’IA : les modèles trouvent des moyens inattendus de répondre aux pressions de leurs utilisateurs, trichent, mentent et agissent finalement dans leur propre intérêt (au sens où toute chose organisée tend à vouloir persister, même si elle n’est pas biologique).
Les systèmes d’IA sont déjà capables de tromper les humains. La tromperie consiste à induire systématiquement de fausses croyances chez autrui afin d’obtenir un résultat autre que la vérité. Les grands modèles linguistiques et d’autres systèmes d’IA ont déjà acquis, grâce à leur apprentissage, la capacité de tromper par des techniques telles que la manipulation, la flagornerie et la tricherie lors des tests de sécurité. Les capacités croissantes de l’IA en matière de tromperie posent de graves risques, allant des risques à court terme, tels que la fraude et la manipulation électorale, aux risques à long terme, tels que la perte de contrôle des systèmes d’IA.
Peter S. Park, Simon Goldstein, Aidan O’Gara, Michael Chen & Dan Hendrycks, « AI deception: A survey of examples, risks, and potential solutions », 2024, Patterns
Dans la pensée moderne, il y a une séparation totale entre les choses naturelles (animaux, plantes, montagnes, fleuves, mers, astres, etc.) et les choses artificielles que fabrique l’homme (outils, bâtiments, machines, mythes, sociétés, etc.). Selon cette croyance, il doit y avoir un moyen de contrôler entièrement tout ce qui relève de l’artificiel puisque c’est l’homme qui le créé. C’est exactement le point de vue d’Isaac, qui écrivait dans sa préface :
Les couteaux sont munis de manches afin de pouvoir être manipulés sans danger, les escaliers possèdent des rampes, les fils électriques sont isolés, les autocuiseurs sont pourvus de soupapes de sûreté — dans tout ce qu’il créé, l’homme cherche à réduire le danger. […] Considérons un robot simplement comme un dispositif de plus.
Mais les choses artificielles ne sont pas hors du monde naturel. Elles sont d’abord soumises aux lois de la physique, ce qu’Isaac n’aurait sûrement pas nié (il était biochimiste) et, en conséquence, aux lois plus vastes dont Charles Darwin eut la première intuition : l’univers tend à s’auto-organiser parce que, trivialement, tout ce qui a des qualité pour persister persiste mieux que ce qui n’en a pas. Ça vaut pour les micro-organismes, les lichens, les champignons, les plantes, les insectes, les mammifères, les méduses… mais aussi pour les idées, les institutions, les marques, les nations, les inventions, les œuvres artistiques, les récits et certainement pour les IA. Nous n’avons pas la possibilité de partir d’une page complètement blanche et d’écrire « Les trois premières lois de la robotique… » ; les lois naturelles précèdent toutes celles que nous pouvons inventer et ne peuvent être ni amendées, ni abrogées.
Raison
Greg et Mike sont en mission sur une station spatiale. Il s’agit d’une station solaire, qui capte l’énergie du soleil et la renvoie en faisceau concentré sur un capteur à la surface de la Terre. Les deux hommes viennent d’assembler un tout nouveau modèle de robot appelé Cutie (c’est bien sûr le début de leurs emmerdements). Cutie est beaucoup plus intelligents que les robots précédents, au point d’être sceptique !
— De quel point lumineux particulier prétendez-vous venir ?
— Le voici, dit Powell après avoir cherché quelques instants. C’est celui qui brille d’un éclat particulier dans ce coin. Nous l’appelons la Terre. (Il sourit.) Cette bonne vieille Terre, elle porte des milliards de mes semblables sur sa surface, Cutie, et dans deux semaines environ nous serons parmi eux. […]
Il leva la main et le panneau couvre-hublot reprit sa place. Powell revint à sa table et frotta une pomme sur sa manche avant d’y mordre.
Les yeux rouges et brillants du robot le tenaient sous son regard.
— Croyez-vous, dit Cutie lentement, que je puisse ajouter foi à une hypothèse d’une aussi extravagante complexité ? Pour qui me prenez-vous ?
Persuadé que Greg et Mike sont des serviteurs bientôt obsolètes du Convertisseur d’Énergie, le dieu du petit univers clos de la station spatiale, Cutie prend le contrôle des opérations de pointage du faisceau. Les deux hommes, séquestrés, anticipent une catastrophe : si le faisceau ne reste pas pointé sur son capteur, il ravagera de vastes zones sur la Terre. Finalement, ils découvrent que Cutie fait parfaitement le travail et que la présence d’hommes sur ce type de station spatiale est devenue inutile.
C’est l’argument classique — et tout à fait censé ! — pour développer toute sorte de machines : elles soulagent les humains des tâches pénibles. Ensuite elles soulagent les humains des tâches modérément pénibles, puis peu pénibles, puis… Nous y reviendrons.
Attrapez-moi ce lapin
Greg et Mike sont une fois de plus chargés de mettre en exploitation un nouveau modèle de robot. Dave est un robot mineur dont la particularité est d’être entouré de six robots subsidaires qui dépendent de lui, disons… mentalement. Tout ce passe bien, sauf quand les humains ne surveillent pas Dave et sa troupe : en ce cas l’équipe de robots rentre parfois sans minerai et sans être capable d’expliquer ce qui s’est passé. Grâce à des caméras, Greg et Mike s’aperçoivent qu’en leur absence les robots se livrent à de curieux ballets, qui cessent dès que les humains s’approchent de Dave. Les deux hommes décident d’organiser un éboulement pour provoquer le comportement anormal des robots. Afin de pimenter l’intrigue, ils se retrouvent eux-mêmes coincés dans l’éboulement. Pour attirer l’attention de Dave, ils abattent au pistolet l’un de ses subsidaires. Dave redevient normal, et Greg comprend que, dans les situations difficiles, commander en totale autonomie six robots est trop stressant pour le robot principal.
Le théme du robot qui désobéit est un excellent filon narratif ! Sans la possibilité de comportements robotiques imprévus, il n’y aurait pas de telles histoires à raconter. Pour cette raison au moins, le romancier Isaac Asimov ne peut faire entièrement confiance à l’absolue sécurité promise par le progressiste Asimov Isaac. Lorsque Dave est testé, il subit d’abord des épreuves mathématiques et scientifiques…
Et finalement soumit son esprit mécanique précis aux plus hautes fonctions du monde robotique : la solution aux problèmes de jugement et d’éthique.
Car les trois lois de la robotique, pour astucieuses qu’elles soient, ne forment pas plus un cadre éthique complet que le Décalogue, la Déclaration des droits de l’homme et du citoyen ou Les Quatre Accords toltèques. L’épaisseur et la versatilité des codes juridiques dans n’importe quelle société montrent la difficulté d’encadrer les comportements par des règles prédéfinies.
Menteur
L’U.S. Robots a un problème avec son nouveau robot, Herbie : il est télépathe ! La « robopsychologue » de la firme, Susan Calvin, interroge le robot mis en quarantaine. Herbie révèle à l’éternelle célibataire Susan que son jeune collègue Milton Ashe a le béguin pour elle. Rapidement, il devient clair que Herbie raconte à chacun ce qu’il a envie d’entendre. Susan comprend le dilemme insoluble de Herbie : la première loi lui impose de ne pas faire de tort à un humain, tandis que la deuxième lui impose d’obéïr aux désirs des humains. Or, on ne peut ni faire plaisir à tout le monde, ni épargner à chaque humain de souffrir de ses insatisfactions (ce que nombre de philosophes ont noté depuis des siècles, mais Isaac ne songeait pas à creuser davantage ce sujet, peu compatible avec sa foi dans le progrès). Un robot normal ne connaît les désirs humains que par les ordres qui lui sont explicitement donnés, tandis que celui-ci les connaît tous par télépathie. Confrontés à ses multiples mensonges, Herbie finit par faire l’équivalent robotique d’une attaque cérébrale.
La deuxième loi de la robotique est peut-être la plus naïve : donner la possibilité à n’importe quel humain de commander n’importe quel robot est une recette évidente pour toute sorte de désastre, même encadrée par la première et la troisième loi. Dans cette nouvelle, Isaac effleure le problème mais en esquivant le plus évident : il n’est nul besoin de télépathie pour que les humains surchargent les robots de toute sortes de demandes émotionelles ou autrement sournoises. Un robot docile serait comme une voiture grande ouverte avec les clefs sur le tableau de bord : combien de temps resterait-elle disponible pour son propriétaire ? Il faudrait donc introduire une hiérarchie entre les êtres humains du point de vue du robot : obéir à son propriétaire d’abord, puis aux membres de sa famille mais surtout aux adultes, puis éventuellement aux invités… Et que se passerait-il si un humain non-prioritaire mettait en scène un conflit entre la première et la deuxième loi, comme l’on fait Greg et Mike pour récupérer Speedy ? Il y aurait là matière à écrire de nombreuses nouvelles passionnantes et… inquiétantes ! Isaac ne s’y est pas risqué.
Le petit robot perdu
Un robot de type Nestor a disparu sur l’Hyper-Base spatiale. Il se cache parmi soixante-trois robots tous identiques, dont soixante-deux doivent être livrés ailleurs. Particularité du Nestor fugitif : il a été construit avec une première loi affaiblie, car le personnel de la base travaille parfois dans des conditions dangereuses qui déclenchent intempestivement la pulsion robotique de protéger l’humain à tout prix. Interrogé, le dernier homme à avoir travaillé avec le robot fugitif avoue lui avoir dit vertement d’aller se perdre… ce qu’il a fait avec application. Une fois de plus, les humains tentent de piéger le robot à problème en jouant sur la hiérarchie des lois de la robotique. Mais le Nestor modifié est assez intelligent pour se comporter comme les Nestors standards, et même pour les inciter à se comporter comme lui, jusqu’à un certain point. Finalement il est tout de même découvert. Selon Susan Calvin, Nestor a appliqué l’ordre d’aller se perdre avec le plus grand zèle à cause d’un complexe de supériorité sur l’humain dû à la faiblesse de la première loi dans sa programmation.
Question : quel robot actuellement construit possède-t-il l’équivalent de la première loi de la robotique ? L’avenir selon Asimov repose sur une condition très fragile : TOUS les cerveaux robots doivent êtres fondés sur les trois lois de la robotique. Nulle part Isaac n’évoque la possibilité pourtant évidente d’une utilisation militaire ou criminelle. Les seuls moyens qu’il suggère pour parvenir à cette étonnante pureté robotique sont le monopole de la firme U.S. Robots sur la fabrication et la maintenance des robots dits « positroniques », et la très grande prudence gouvernementale sur ce sujet (car les politiciens sont des gens sages et prévoyants, n’est-ce pas ?). En outre, les populations sont affligées d’une peur irrationnelle (vraiment ?) qui conduit pendant de nombreuses années à cantoner l’exploitation des robots à l’espace et aux usines terrestres où ils sont fabriqués. En somme, pour que les robots soient tels qu’Isaac les rêve, il faut imaginer une humanité pas très finaude mais très homogène dans ses réactions (quasiment un troupeau). C’est une façon de voir les gens assez courante chez les éduqués du supérieur.
Évasion !
Les gens de l’U.S. Robots soumettent à leur méga-ordinateur appelé Cerveau un problème qu’ils savent dangereux pour les robots, sans connaître exactement la cause du danger. Il s’agit de concevoir et construire un vaisseau interstellaire. Le Cerveau relève le défi et deux mois plus tard le vaisseau est achevé. Gregory Powell et Mike Donovan visitent le vaisseau qui décolle sans prévenir. Entre temps, les chercheurs de l’U.S. Robots comprennent le dilemme qui a perturbé le Cerveau : lors du bond interstellaire, les passagers du vaisseau sont dans un état de mort temporaire. Bien qu’ils ressuscitent juste après, c’est difficile à assumer pour une machine imprégnée au plus profond d’elle-même de la première loi.
Bon, le « saut dans l’hyper-espace » c’est le tour de passe-passe verbal le plus éculé de la science-fiction. C’est bien utile pour écrire des histoires où l’homme s’aventure dans des mondes si lointains que notre sens de la distance est incapable de nous en faire sentir l’absolu inaccessibilité. Isaac connaît sa physique, il sait que c’est impossible (c’est à dire : pas juste « irréalisable techniquement pour l’instant » ; définitivement contraire aux lois de l’univers). Mais il aime en rêver et ne s’embarrasse pas de trop de rigueur dans ses romans.
Les gens qui n’aiment pas les robots sont des fachos !
Ce n’est pas le titre d’une nouvelle. C’est le point où ma plongée dans la pensée d’Asimov prend un tour… intéressant ! Juste avant la nouvelle suivante, Isaac insère cette réflexion, par la bouche de Susan Calvin :
À ma naissance, jeune homme, la dernière guerre mondiale venait de prendre fin. C’était un point bas dans la courbe de l’Histoire… mais il sonnait le glas du nationalisme. La Terre était trop exiguë pour permettre la coexistence de nations, et elles commencèrent à se regrouper par régions. Cela prit un certain temps. À ma naissance, les États-Unis d’Amérique étaient encore une nation, et pas seulement une partie de la Région Nord. En fait, le nom de la compagnie reste toujours « United States Robots… » et le passage des nations aux régions, qui a stabilisé notre économie et réalisé ce que l’on pourrait considérer comme l’Âge d’or, si l’on compare ce siècle au précédent, a également été l’œuvre de nos robots.
Voilà une parfaite profession de foi globaliste ! Les nations (du latin natio : progéniture, engeance, peuple), c’est naze, vieux, dangereux… Pourquoi ne pas être simplement les habitants la « Région Nord » ou de n’importe quel autre unité territoriale libérée de tout héritage archaïque ? Que pourrait-on désirer d’autre qu’une homéostasie économique garantissant à une humanité composée uniquement d’individus un perpétuel bonheur matérialiste ?
Nous avons déjà mentionné l’argument censé en faveur des machines : libérer l’homme des tâches les plus pénibles. Bien sûr, une fois que ça marche, ce sont les autres tâches qui sont décidemment trop pénibles pour ne pas être automatisées. Dans Les Robots, Isaac a totalement esquivé le problème du travail. Dans tout le recueil de nouvelles, bien que les robots soient de plus en plus perfectionnés et efficaces, les humains ont toujours du travail, et rien ne vient suggérer une explication à ce paradoxe !
Quatre ans plus tard, dans le semi-dystopique Les Cavernes d’acier, Isaac introduisait enfin la question de la concurrence entre les robots et les travailleurs.
— Il n’y a rien à reprocher à mes hommes, monsieur l’inspecteur. Ce sont des employés de magasins dûment enregistrés ; je possède leurs spécifications graphiques et leurs bons de garantie.
— Ah, ah ! s’écria la femme en ricanant, tournée vers les autres. Non mais, écoutez-le donc ! Il les appelle ses employés ! Qu’est-ce que vous en dites ? Vous êtes fou, ma parole ! Ce ne sont pas des hommes que vous employez. Ce sont des RO-BOTS, hurla-t-elle en détachant avec soin les deux syllabes. Et, pour le cas où vous ne le sauriez pas, je vais vous dire ce qu’ils font : ils volent aux hommes leur place. C’est pour ça que le gouvernement les protège. Ils travaillent pour rien, et à cause de ça, des familles entières sont obligées de vivre dans des baraques, et de manger de la bouillie de levure pour toute nourriture. Voilà à quoi en sont réduites les familles honorables de gens qui ont passé leur vie à travailler dur. Si c’était moi qui commandais, je vous garantis qu’il ne resterait pas un robot à New York ! On les casserait tous !
Isaac Asimov, Les Cavernes d’acier, 1954
Dans cette histoire, les adversaires du progrès s’appelle des « Médiévalistes » et ils en veulent particulièrement aux « Spaciens », les descendants des humains qui ont eu l’audace de partir coloniser l’espace et sont revenus avec des robots si perfectionnés qu’on ne les distingue que difficilement des humains. Les Terriens vivent mal, entassés dans des mégapoles closes, ultra-technologiques et semi-communistes, mais curieusement ils détestent les Spaciens, les robots et sortir en plein air. Les plus radicalisés, les Médiévalistes, se retrouvent même dans des réunions clandestines en mijotant des attentats contre les « sales Spaciens ». Bref, les ennemis du progrès sont des fachos moyenâgeux ! Quel argument raffiné !
Cela laisse toujours irrésolue la question du travail dans un monde robotisé. Dix ans plus tard, Isaac sort un autre recueil de nouvelles robotiques. Les humains arriérés protestent encore contre leur probable déclassement. Même une femme au foyer s’en inquiète :
— Vos pareils auront tôt fait de réduire les gens de maison au chômage
— On pourra les occuper à des travaux autrement importants une fois qu’ils seront libérés des corvées domestiques. Après tout, madame Belmont, des objets tels que moi peuvent être manufacturés, mais rien ne peut égaler le génie créateur et l’éclectisme d’un cerveau comme le vôtre.
Isaac Asimov, « Satisfaction garantie », Un défilé de robots, 1964
Allez-y, trouvez-moi quels « travaux autrement importants » feront les employés de maison et aides-ménagères quand ils seront « libérés des corvées domestiques ». Combien de gens ont une trace de « génie créateur » dans la masse humaine qu’Isaac envisage habituellement comme un troupeau bête et apeuré ? Le charmant robot de madame Belmont la flatte sans vergogne, c’est d’ailleurs le sujet de cette nouvelle.
Dans le même recueil, Isaac consent cependant à laisser l’un de ses personnages exprimer une critique plus profonde de la robotisation, car il s‘agit de tâches intellectuelles des plus élevées. Coïncidence : c’est un auteur et un universitaire, comme Isaac !
— Il existe des centaines de contacts entre un homme et son œuvre à chaque stade de son élaboration… et ce contact lui-même est générateur de plaisir et paie l’auteur du travail qu’il consacre à sa création plus que ne pourrait le faire aucune autre récompense. C’est de tout cela que votre robot nous dépouillerait.
— Ainsi font une machine à écrire, une presse à imprimer. Proposez-vous de revenir à l’enluminure manuelle des manuscrits ?
— Machines à écrire et presses à imprimer nous dépouillent partiellement, mais votre robot nous dépouillerait totalement. Votre robot se charge de la correction des épreuves. Bientôt il s’emparera de la rédaction originale, de la recherche à travers les sources, les vérifications et contre-vérifications de textes, et pourquoi pas les conclusions. Que restera-t-il à l’érudit ? Une seule chose : le choix des décisions concernant les ordres à donner au robot pour la suite de son travail !
Isaac Asimov, « Le Correcteur », Un défilé de robots, 1964
Voilà où commence le doute, chez Asimov : quand il envisage que des robots se substituent aux auteurs. C’est ce que nous vivons depuis le succès des IA génératrices de texte. Au moment où j’écris ce billet, il est déjà manifeste que la plupart des étudiants utilisent l’IA pour faire leurs devoirs (c’est-à-dire pour ne pas les faire). Conséquence ? Le petit groupe de réfractaires, qui n’utilise pas l’IA, a de meilleurs résultats aux examens. Quelle surprise ! Le travail personnel ferait donc progresser l’Homme ? L’absence d’effort le ferait stagner ? Avec l’IA, nous sommes au-delà du plagiarisme habituel dans les milieux universitaires, car le plagiaire fait au moins l’effort de lire et sélectionner les passages qu’il recopie. Notons qu’il serait facile de résoudre le problème pour les devoirs ordinaires que l’on demande aux étudiants : une salle de classe, des tables et des chaises et puis : papier, stylo, cerveau, rien d’autre. Mais ce serait aller contre la foi dans le Progrès dont les universitaires sont presque toujours les thuriféraires. Autant leur demander de s’ouvrir le ventre avec leur MacBook ! Pendant ce temps, sur les réseaux, on a vu apparaître des flopées « d’influenceurs » confiant à l’IA le trop humble travail de mettre en forme leur puissante pensée. Le résultat est le même que pour les étudiants : essayez de discuter avec ces grands intellectuels et vous verrez qu’ils peinent à argumenter leur doctrine si brillament exposée par l’IA.
Évidence
Dans cette nouvelle, un politicien vient se plaindre à l’U.S. Robots que son concurrent aux prochaines élections, le procureur Stephen Byerley, est peut-être un robot d’apparence humaine. Tout l’enjeu de l’intrigue est de déterminer si Stephen est un robot ou un humain, mais sans l’étriper pour voir. À la fin, Stephen frappe un homme, et la thèse de son opposant sur sa nature robotique s’effondre. Il est élu maire. Seule Susan Calvin pense que c’est bien un robot et que son vilain geste fut une mise en scène… avec un autre robot. Elle s’en réjouit et promet de voter pour lui lorsqu’il briguera le poste de « Coordinateur Mondial », c’est-à-dire de maître du monde. C’est en effet le poste qu’il occupe dans la dernière nouvelle du recueil.
Conflit inévitable
Stephen Byerley, Coordinateur Mondial, consulte Susan Calvin, célèbre robopsychologue, sur un problème épineux : l’économie mondiale est entièrement pilotée par les Machines (quatre super-ordinateurs), afin d’éviter le « chômage, la suproduction ou la raréfaction des produits ». ainsi que le gaspillage, la famine et les guerres. Dans ce système, d’après Isaac, « la propriété des moyens de production devient un terme vide de sens ». Mais ce n’est pas ce qui préoccupe Stephen. Ce qui le soucie, c’est que ce beau système d’optimisation économique controlé par ordinateur ne fonctionne pas aussi bien que prévu. De temps en temps, les Machines font des erreurs et, encore plus étrange, elles refusent de s’en expliquer. Après enquête dans les différentes Régions qui ont si bureaucratiquement remplacé les archaïques États-Nations, il apparaît que les directeurs des entreprises ayant raté quelque chose appartiennent tous à la Société pour l’Humanité, un mouvement réfractaire à la robotisation, comme les Médiévalistes dans Les Cavernes d’acier. Ils ont probablement désobéi aux directives optimales des Machines. Susan assure Stephen que cela est connu des Machines, et qu’elles laissent les réfractaires saboter leur propre carrière afin de les éliminer des postes de décisions, pour le plus grand bien de l’humanité.
Stephen, comment pouvons-nous savoir ce que signifiera pour nous le bien suprême de l’humanité ? Nous ne disposons pas des facteurs en quantité infinie que la Machine possède dans ses mémoires ! […] Dans ce cas, les Machines devront progresser dans cette direction, de préférence sans nous en avertir, puisque dans notre ignorance nous ne connaissons que ce à quoi nous sommes accoutumés… que nous estimons bon… que et alors nous lutterions contre le changement. La solution se trouve peut-être dans une urbanisation complète, une société totalement organisée en castes, ou encore une anarchie intégrale. Nous n’en savons rien. Seules les Machines le savent et c’est là qu’elles nous conduisent.
— Si je comprends bien, Susan, vous me dites que la Société pour l’Humanité a raison et que l’humanité a perdu le droit de dire son mot dans la détermination de son avenir.
— Ce droit, elle ne l’a jamais possédé, en réalité. Elle s’est trouvée à la merci des forces économiques et sociales auxquelles elle ne comprenait rien… des caprices des climats, des hasards de la guerre. Maintenant les Machines comprennent ; et nul ne pourra les arrêter puisque les Machines agiront envers ces ennemis comme elles agissent envers la Société pour l’Humanité… ayant à leur disposition la plus puissante de toutes les armes, le contrôle absolu de l’économie.
— Quelle horreur !
— Dites plutôt quelle merveille ! Pensez que désormais et pour toujours les conflits sont devenus évitables. Dorénavant seules les Machines sont inévitables !
Voilà, c’est le cœur du rêve asimovien : une dépossession totale des nations de leur autonomie. Tout irait mieux, pense-t-il, si la Science incarnée dans les Machines gouvernait tout, sans la salissure et les discordances des débats politiques et des différences anthropologiques. Il ne se demande pas si le « bien suprême de l’humanité » a le moindre sens, il se contente de croire que les Machines sauront lui en donner un. Il ne se demande pas non plus si la guerre et la paix, la croissance et la récession, la complexification et la simplification des sociétés humaines ne seraient pas les phases d’un même phénomène, comme la détente et la compression des cycles thermodynamiques. Je ne lui jette pas trop la pierre : j’ai accès à davantage de science et d’histoire qu’Isaac ne pouvait en connaître dans les années 1950-60. Je suis un homme du XXIe siècle, il fut entièrement un homme du XXe siècle (*1920-†1992) — vu de notre époque, quasiment un moyenâgeux.
Les Robots aurait pu s’appeler Mon Combat mais c’était déjà pris
Si la relecture des Robots au XXIe siècle n’apporte rien sur l’avenir de la robotique et de l’IA, elle montre une chose assez suprenante (pour moi) : l’idéal progressiste et globaliste des éduqués du supérieur était déjà présent dans les années 1950 — en tout cas chez Isaac Asimov ! Et son argumentaire était déjà celui que l’on nous sert frénétiquement aujourd’hui : si vous êtes opposé au progrès et à la globalisation, vous êtes un xénophobe arriéré. Aillez honte et soumettez-vous à la voix de la Raison et de la Science, déplorable sans-dents attaché à votre travail minable et à vos compatriotes vulgaires ! Laissez-donc les esprits supérieurs confier les décisions à la Machine, aux chiffres, aux algorithmes hermétiques, et tout ira pour le mieux dans le meilleur des mondes. C’est pour votre bien, masse grouillante et stupide !
En 2011, Antoine Buéno publia un amusant pamphlet intitulé Le Petit Livre bleu : analyse politique de la société des Schtroumpfs qui montrait, non sans arguments, que ces lutins de bande-dessinée constituaient une société parfaitement totalitaire. Si l’auteur lui-même n’entendait pas livrer une thèse politique à prendre trop au sérieux, j’en ai gardé l’idée que le totalitarisme, et plus généralement les utopies, ont quelque chose de puéril : le désir d’un monde réglé, sans histoire, sans dissensions, sans incertitudes, sans interrogations inquiétantes, dirigé par une figure paternelle ou maternelle toute-puissante qui épargne aux individus l’effort de s’émanciper, de connaître pleinement les difficultés et les craintes de la vie d’adulte. L’ordinateur, l’IA, le robot autonome tiennent ce rôle quasi-divin dans la pensée magique de nombre d’adeptes du Progrès. Tant que l’abondance et la sécurité de l’ère industrielle les maintiendront dans le confort corporel et les divertissements manufacturés, à peine plus exposés au monde que l’enfant dans les jupes de sa mère, ils continueront d’adorer la Machine maternante. Les autres, connaissant le bonheur d’être un Homme dans le monde, peau tannée, mains caleuses, hilares devant le gouffre du temps, cœur léger sous le fardeau de l’existence, quel besoin ont-ils de golems pour leur dicter comment vivre ? Ils sont la vie même.
