Devenir ce que, faute d’un terme plus convenable, j’ai appelé un androïde, veut dire, comme je l’ai indiqué, se laisser transformer en instrument, se laisser écraser, manipuler, devenir un instrument à son insu ou sans son consentement – c’est du pareil au même. Mais on ne peut pas transformer un humain en androïde si cet humain a tendance à enfreindre la loi dès qu’il en a l’occasion. L’androïsation exige l’obéissance. Et, par-dessus tout, la prévisibilité. C’est justement lorsque la réaction d’une personne donnée à une situation donnée peut être prévue avec une précision scientifique que l’on ouvre grand les portes au cheval de Troie : à la production possible d’une forme de vie androïde à grande échelle. Car à quoi servirait une lampe de poche si, lorsqu’on appuie sur le bouton, l’ampoule ne s’allumait qu’une fois de temps en temps ? Toute machine doit marcher sans coup férir pour être fiable. L’androïde, comme toute autre machine, doit marcher au doigt et à l’œil. (p. 38)

Sur Philip K. Dick, on peut consulter le site officiel, en anglais, et, en français, une page du site noosphère, le ParaDick.

Et puis – même si une telle idée n’est guère agréable – tandis que le monde externe devient de plus en plus animé, il se peut que nous – les soi-disant humains – devenions, et, d’une certaine manière, ayons toujours été, inanimés au sens où nous sommes dirigés par des tropismes inhérents, plutôt que dirigeants nous-mêmes. Auquel cas nous et nos ordinateurs toujours plus perfectionnés pourrions fort bien nous rencontrer à mi-chemin.

et d’évoquer les créatures que sont devenus aujourd’hui nombre de pseudo-humains qui ne sont plus que

des instruments, des moyens plutôt que des fins, et donc, à mon sens, réduits à être semblables à des machines dans le mauvais sens du terme […]. Il s’agit ici d’humains réduits à une pure utilité – de femmes et d’hommes transformés en machines et servant un objectif qui, aussi « bon » soit-il en principe, exige l’emploi, pour son accomplissement, de ce que je considère comme le plus grand mal imaginable : l’imposition sur ce qui était un homme libre, qui riait et pleurait et faisait des erreurs et divaguait sottement ou à loisir, d’une restriction qui le contraint, malgré ce qu’il imagine ou ce qu’il en pense, à atteindre un but situé en dehors de sa propre destinée – aussi minuscule soit-elle.

Philip K. Dick, Si ce monde vous déplaît… et autres écrits, L’Éclat, 1998, p. 28 et 29

[...] c’est cette forte analogie qui force tous les savants et les vrais juges d’avouer que ces êtres fiers et vains, plus distingués par leur orgueil que par le nom d’hommes, quelque envie qu’ils aient de s’élever, ne sont au fond que des animaux et des machines perpendiculairement rampantes. Elles ont toutes ce merveilleux instinct, dont l’éducation fait de l’esprit, et qui a toujours son siège dans le cerveau, et, à son défaut, comme lorsqu’il manque ou est ossifié, dans la moelle allongée, et jamais dans le cervelet ; car je l’ai vu considérablement blessé ; d’autres l’ont trouvé squirreux, sans que l’âme cessât de faire ses fonctions.
Être machine, sentir, penser savoir distinguer le bien du mal comme le bleu du jaune, en un mot, être né avec de l’intelligence et un instinct sûr de morale, et n’être qu’un animal, sont donc des choses qui ne sont pas plus contradictoires, qu’être un singe ou un perroquet et savoir se donner du plaisir. […] Je crois la pensée si peu incompatible avec la matière organisée, qu’elle semble en être une propriété, telle que l’électricité, la faculté motrice, l’impénétrabilité, l’étendue, etc.

écrit dans L’Homme-Machine (1747) le philosophe matérialiste Julien Offray de La Mettrie.

Ce texte est consultable en ligne, ainsi que quelques autres, sur le site de Christophe Paillard ou, dans sa version non modernisée, dans la riche Bibliotheca Augustana.

Alan Mathison Turing est l’un des premiers théoriciens de l’intelligence artificielle. Il a passé une grande partie de son existence à tenter de concevoir une machine pensante. Persécuté pour son homosexualité, il se suicide en 1954 en croquant une pomme empoisonnée au cyanure. Cette référence à Blanche Neige donnera naissance au nom et du logo de la société Apple Computer.
Quelques années avant sa mort, après son arrestation en 1952, Turing avait envoyé à un collègue un mot sibyllin en forme de syllogisme et de jeu sur le double sens du mot anglais to lie :

Turing croit que les machines pensent. Turing couche avec des hommes. Donc les machines ne pensent pas. [Turing believes machines think. Turing lies with men. Therefore machines do not think.]
Alan M. Turing, Archives Turing, King’s College, Cambridge

Les Archives Turing du King’s College (Cambridge) sont disponibles en ligne.
L’article « Computing Machinery and Intelligence » (Mind, Octobre 1950), qui décrit le test de Turing, est également en ligne.

Son oeuvre est complexe et foisonnante, impossible à synthétiser dans un ni même plusieurs post. Je ne m’y risquerai donc pas. Concernant les mutations que la technologie a déjà fait et fera subir à une nature humaine que certains voudraient immuable, on peut commencer par lire deux textes courts mais très éclairants, « L’heure du crime et le temps de l’oeuvre d’Art. Sur l’interprétation philosophique de l’artificiel » et « La vexation par les machines. Remarques philosophiques sur la position psycho-historique de la technologie médicale avancée », dans L’heure du crime et le temps de l’oeuvre d’Art (2000) (Calmann-Lévy, 2000). Le second de ces textes se termine ainsi :

Les mathématiciens doivent devenir des poètes, les cybernéticiens des philosophes de la religion, les médecins des compositeurs, les informaticiens des chamans. L’humanité n’a jamais été que l’art de crée des transitions. Lorsque les pôles sont éloignés les uns des autres, l’art devient rare et la barbarie vraisemblable. Si les hommes sont des animaux fabricants de machines, ils sont plus encore des créatures produisant des métaphores. Si l’on parvenait à intégrer les machines intelligentes de l’avenir dans des relations semi-personnalistes et semi-animistes avec les humains, on n’aurait pas à redouter de voir l’homme lier amitié avec son partenaire robot. La mission de notre temps est de développer un humour postmoderne qui permette aux cybernéticiens d’avoir des relations amicales avec des cardinaux, des mollahs et des prêtres vaudous. […] Mais même si les robots, à l’ère technique, ont persuadé l’âme qu’elle ne peut être que ce pour quoi elle se prend, il reste à l’âme désubstantialisée la fierté de souffrir discrètement de cette vexation. Son souci est sa preuve de son existence. Au sommet de la modernité machiniste se répète en certains individus la naissance de l’humanité à partir du savoir de la vulnérabilité de la vie.
« La vexation par les machines », L’heure du crime et le temps de l’oeuvre d’Art (2000), p. 80-81

L’hypothèse de Jean-Michel Truong est que de l’intelligence déposée par l’homme dans le silicium va émerger une forme de conscience qui deviendra très vite plus intelligente que l’homme. Mais pourquoi le but de cette nouvelle intelligence serait-il forcément d’asservir ou de détruire l’homme ?
On comprend que dans un thriller d’anticipation, il lui ait paru plus efficace de faire du « sucesseur de pierre » une menace effroyable, mais dans son essai, pourquoi persévérer. Cela confère à ses hypothèses eschatologiques un côté chrétien (la punition de l’homme pour ses péchés) un peu déplaisant.

Il y aurait forcément dans cette autre forme de conscience – si elle nait de la mise en connexion de tous les savoirs humains, de tous les livres, de toutes les images crées par l’homme, de toutes les voix qui parlent sur internet – une part humaine. Pourquoi partir du principe que ce sera la plus mauvaise part de l’humain ?
D’autant qu’il paraît tout à fait probable que cette mauvaise part soit due en grande partie à des pulsions, des hormones, des mécanismes physiologiques dont une intelligence de silicium sera détachée. Qui sait si cela ne la rendra pas plus « humaine » que ne le sont nombre d’humains ?

Davantage que de ce que des intelligences dites artificielles pourraient faire des avancées technologiques à venir, il faut je pense avoir peur de ce que les humains qui gouvernent actuellement le monde peuvent être tentés d’en faire. Le parc humain de Sloterdijk, le « cheptel » imaginé par Truong, c’est aujourd’hui hélas. Les humains éduqués à mort pour travailler, dans la « mobilisation infinie », c’est aujourd’hui ; les humains domestiqués et conditionnés pour consommer sans répit, c’est aujourd’hui.

Alors demain sera peut-être pire, mais peut-être pas …

Le roman est prolongé par un essai, Totalement inhumaine (Les Empêcheurs de penser en rond, 2001), dans lequel Truong explicite et éclaire de citations ses intuitions romanesques. Il écrit ainsi :
J’appelle Successeur cette forme de vie nouvelle susceptible de prendre la suite de l’homme comme habitacle de la conscience. […] Le Successeur est l’espèce émergeant sous nos yeux de ce substrat artificiel – fait de mémoires et de processeurs toujours plus nombreux et en voie d’interconnexion massive – qu’on appelle le « Net ». (49-50)
Comme toute espèce bien née, le Successeur se comporte de manière à « persister dans son être », ce qui en patois biologique – forcément plus rustique – se traduit par « répliquer ses gènes » (50-51) ; [sa forme de reproduction est la] copie du contenu d’une mémoire dans une autre (52)
Notre conscience n’est pas un organe qu’il serait loisible de transplanter ici ou là, c’est la résultante d’un processus évolutif. Ce que nous léguons au Successeur, ce n’est pas la conscience et moins encore notre conscience, mais les conditions d’émergence d’une conscience. […] Le Successeur n’use de la représentation symbolique et de la logique mathématique que parce qu’il est provisoirement tenu d’interagir avec nous : comme d’une langue étrangère. C’est une concession qu’il nous fait, le temps de nous apprivoiser. Son idiome, nous ne le connaissons pas. Peut-être même un jour, dispensé qu’il sera de parler à quiconque, lui sera-t-il possible d’économiser ce détour dispendieux par le langage et la logique qui plomba tant l’intelligence humaine, pour enfin appréhender le monde de manière immédiate, et ainsi accéder – ô ironie! – à cette pensée vraie dont Heidegger disait qu’elle est l’apanage du poète. (207-208)

- ce regard là, celui d’Un bar aux Folies-Bergères est peint par Manet : il est à Londres (Gallerie Courtauld) pas à Madrid -

… ce sont souvent des regards dans des visages qui accrochent le mien dans un tableau. C’est sans doute la raison pour laquelle je ressens souvent moins d’émotion devant les tableaux vides d’humains ou abstraits.

Je rattache, peut-être à tort, cette importance des regards dans la peinture au comportement des bébés d’hommes : avant même de voir vraiment, leurs yeux qui voient flou se tournent vers les visages et vers les yeux dans les visages. En naissant le bébé bouge la tête, cligne des yeux, plisse le front, cherche un regard humain, s’y plonge et trouve l’apaisement si ce regard est réceptif. Ce comportement stéréotypé est sans doute un instinct qui le rend capable de communiquer dès que possible afin d’être protégé et nourri. Pendant les premiers mois, le bébé continue d’être attiré surtout par les yeux ouverts et qui le regardent, et durant toute la vie, le cerveau humain traite différemment les visages et les autres objets.

Avec quels yeux des intelligences artificielles verraient-elles ? et, sans l’instinct du nouveau né, seront-elles sensibles aux regards dans les visages et dans les tableaux ? d’ailleurs iront-elles au musée ?

Ce roman permet à Valérie Tong Cuong de s’interroger et de nous interroger sur un problème de société étroitement lié au perfectionnement des technologies.
Ces technologies sont nées en grande partie du désir de libérer l’homme de taches pénibles, de limiter le temps qu’il est obligé de passer à travailler. Leur évolution accélérée conduit donc naturellement et inéluctablement vers la fin du travail.
Ce n’est pas une catastrophe ! mais une chance pour l’humanité. Encore faut-il pour cela qu’elle l’accepte et se transforme en conséquence.
Il semble qu’un certain nombre d’hommes et de femmes soient en train de le comprendre. Mais, comme souvent, le sommet de la société, les politiques et dirigeants de tout poil, refusent de reconnaître la fin du travail (par aveuglement, conditionnement, calcul ?) et s’obstinent à inventer des taches inutiles pour faire baisser des taux de chômage qui ne baissent pas.

La littérature (de science-fiction essentiellement, mais pas seulement) est peut-être le lieu où cette question est posée avec le plus de pertinence, car au lieu de s’en tenir à des généralités, les auteurs de fictions doivent confronter les théories ou les intuitions qu’ils peuvent avoir sur le sujet à des personnages et à des situations qu’il sont tenus de rendre réalistes.

Lorsqu’il s’agit d’imaginer ce que pourrait être un monde futur où l’homme aurait à composer avec des êtres qui le surpasserait en intelligence et en complexité, beaucoup préfèrent – sans doute car c’est plus facile – surfer sur les craintes. Certains le font avec talent, comme récemment en France Jean-Michel Truong et son Successeur de pierre.

Littérature, films et séries de science-fiction ont cependant aussi créé un certain nombre de personnages plus complexes et plus nuancés, comme le savoureux Data, l’androïde de Star Trek Next Generation, le caustique Francis de L’Âge de Cristal, h2g2, le robot dépressif du Guide Galactique de Douglas Adams, les ayas (Gloria et ses filles) serviables mais facétieuses des Futurs mystères de Paris de Roland C. Wagner, ou Macno, le « casse-couilles » libertaire des éditions Baleine.

D’autres auteurs ont élaboré tout un monde autour de cette notion, tels Greg Egan dans la Cité des permutants ou plus encore Iain M. Banks, dont le cycle de la Culture est peuplé de vaisseaux et de drones aux noms métaphoriques qui observent avec un attendrissement mêlé d’agacement les humains un peu limités mais tellement amusants et surprenants parfois qui vivent à leurs côtés.