lignes de fuite

Ça fonctionne partout, tantôt sans arrêt, tantôt discontinu. Ça respire, ça chauffe, ça mange. Ça chie, ça baise. Quelle erreur d'avoir dit le ça. Partout ce sont des machines, pas du tout métaphoriquement : des machines de machines, avec leurs couplages, leurs connexions. Une machine-organe est branchée sur une machine -source : l'une émet un flux, que l'autre coupe. Le sein est une machine qui produit du lait, et la bouche, une machine couplée sur celle-là. La bouche de l'anorexique hésite entre une machine à manger, une machine anale, une machine à parler, une machine à respirer (crise d'asthme). C'est ainsi qu'on est tous bricoleurs ; chacun ses petites machines.
Gilles Deleuze ; Félix Guattari, L'Anti-OEdipe (Minuit, 1973, p. 7)

Ainsi commence mystérieusement L'Anti-Œdipe. Le concept de « machine désirante » élaboré par Deleuze et Guattari peut sembler un peu dépassé dans ses aspects marxiste et anti-psychanalytique, mais il éclaire néanmoins de manière très instructive le présent et le futur d'une humanité en train d'inventer des machines intelligentes - et désirantes ?

Ce qui distingue les machines désirantes des autres (les machines techiques ou sociales) c'est qu'elles fonctionnent au désir et, de ce fait, disfonctionnent, échouent, ratent, fonctionnent de manière détraquée :

les machines désirantes sont bien les mêmes que les machines sociales et techniques, mais elles sont comme leur inconscient.
Gilles Deleuze ; Félix Guattari, L'Anti-OEdipe (Minuit, 1973, p. 483)

Les machines techniques ne fonctionnent évidemment qu'à condition de ne pas être détraquées ; leur limite propre est l'usure, non pas le détraquement. […] Les machines désirantes au contraire ne cessent de se détraquer en marchant, ne marchent que détraquées : toujours du produire se greffe sur le produit, et les pièces de la machine sont aussi bien le combustible. L'art utilise souvent cette propriété en créant de véritables fantasmes de groupe qui court-circuitent la production sociale avec une production désirante, et introduisent une fonction de détraquement dans la reproduction de machines techniques.
Gilles Deleuze ; Félix Guattari, L'Anti-OEdipe (Minuit, 1973, p. 38-39)

L'homme depuis toujours fait machine avec les objets qu'il fabrique pour le prolonger, mais également avec la nature (il devient mer en nageant, en machinant son corps avec la vague). L'un des enjeux de la machine désirante est donc la possibilité de déplacer les césures entre l'esprit et le corps, d'établir des passerelles entre animé et inanimé, minéral, végétal, animal, humain :

Ce qui définit précisément les macines désirantes, c'est leur pouvoir de connexion à l'infini, en tous sens et dans toutes les directions.
Gilles Deleuze ; Félix Guattari, L'Anti-OEdipe (Minuit, 1973, p. 469)

Notre rapport avec les machines n'est pas un rapport d'invention ni d'imitation, nous ne sommes ni les pères cérébraux ni les fils disciplinés de la machine. C'est un rapport de peuplement : nous peuplons les machines sociales techniques de machines désirantes, et nous ne pouvons pas faire autrement.
Gilles Deleuze ; Félix Guattari, L'Anti-OEdipe (Minuit, 1973, p. 478)

La technologie peut ainsi être pensée comme machine de machines, mais aussi la philosophie comme machine de machines de pensée. La machine désirante permet également de comprendre ce qui est à l'œuvre dans l'art et la littérature : dans les machines de Raymond Roussel, de Jules Verne, ou Villiers de l'Isle Adam, les machines célibataires de Duchamp, les inventions débridées de Tinguely ou les dessins de Rube Goldberg, mais aussi, plus généralement dans toutes les œuvres qui atteignent à la complexité.

Dans les machines désirantes tout fonctionne en même temps, mais dans les hiatus et les ruptures, les pannes et les ratés, les intermittences et les courts-circuits, les distances et les morcellements, dans une somme qui ne réunit jamais ses parties en un tout.
Gilles Deleuze ; Félix Guattari, L'Anti-OEdipe (Minuit, 1973, p. 50)

L'homme n'est l'homme qu'à sa surface. Lève la peau, dissèque : ici commencent les machines. Puis tu te perds dans une sustance inexplicable, étrangère à tout ce que tu sais et qui est pourtant l'essentielle.

Paul Valéry, « Homo », Cahiers, II, p. 1368

Von Neumann inscrit le paradoxe dans la différence entre la machine vivante (auto-organisatrice) et la machine artefact (simplement organisée). En effet, la machine artefact est constituée d’éléments extrêmement fiables (un moteur d’auto, par exemple, est constitué de pièces vérifiées, et constituées de la matière la plus durable et la plus résistante possible en fonction du travail qu’elles ont à fournir). Toutefois, la machine, dans son ensemble, est beaucoup moins fiable que chacun de ses éléments pris isolément. En effet, il suffit d’une altération dans l’un de ses constituants pour que l’ensemble se bloque, entre en panne, et ne puisse se réparer que par intervention extérieure (la garagiste).

Par contre, il en va tout autrement de la machine vivante (auto-organisée). Ses composants sont très peu fiables ; ce sont des molécules, qui se dégradent très rapidement, et tous les organes sont évidemment constitués de ces molécules ; du reste, on voit que dans un organisme, les molécules, comme les cellules, meurent et se renouvellent, à ce point qu’un organisme reste identique à lui-même bien que tous ses constituants se soient renouvelés. Il y a donc, à l’opposé de la machine artificielle, grande fiabilité de l’ensemble et faible fiabilité des constituants.

Cela ne montre pas seulement la différence de nature, de logique entre les systèmes auto-organisés et les autres, cela montre aussi qu’il y a un lien consubstantiel entre désorganistion et organisation complexe, puisque le phénomène de désorganisation (entropie) poursuit son cours dans le vivant, plus rapidement encore que dans la machine artificielle ; mais, de façon inséparable, il y a le phénomène de réorganisation (néguentropie). Là est le lien fondamental entre entropie et néguentropie, qui n’a rien d’une opposition manichéenne entre deux entités contraires ; autrement dit, le lien entre vie et mort est beaucoup plus étroit, profond, qu’on n’a jamais pu métaphysiquement l’imaginer.

Edgar Morin, Introduction à la pensée complexe (1990) (Points Seuil, 2005), p. 43-44

Le Robot mélancolique, qui sait qu’il est robot, n’a plus de plaintes, n’a plus de cris. Il ne les ose plus, sachant maintenant qu’il est robot. Pourquoi crierait-il ? pourquoi ferait-il des histoires ?

Henri Michaux, « Notes au lieu d’actes », Passages

Alternant les projets de nouvelles et les anecdotes malicieuses (« [je m]’égare un peu en facéties» dit-il) avec des développements plus philosophiques (il cite notament Spinoza), Philip K. Dick tente dans la suite de sa conférence de définir ce qui fait de certains hommes des machines et ce qui permet d'échapper à ce sort.
Même s'il témoignent d'une foi que, rétrospectivement, on ne peut aujourd'hui que trouver beaucoup trop optimiste dans le pouvoir subversif des adolescents des années 70, les conseils du romancier sont clairs : le propre de la machine est d'être fiable et prévisible ; pour être humain, efforçons nous de pas l'être. Pour cela il faut privilégier la ruse, le détours, le détournement, la fuite ; il est urgent de désobéir, tricher, mentir, s’esquiver, faire semblant, être ailleurs.

Devenir ce que, faute d’un terme plus convenable, j’ai appelé un androïde, veut dire, comme je l’ai indiqué, se laisser transformer en instrument, se laisser écraser, manipuler, devenir un instrument à son insu ou sans son consentement - c’est du pareil au même. Mais on ne peut pas transformer un humain en androïde si cet humain a tendance à enfreindre la loi dès qu’il en a l’occasion. L’androïsation exige l’obéissance. Et, par-dessus tout, la prévisibilité. C’est justement lorsque la réaction d’une personne donnée à une situation donnée peut être prévue avec une précision scientifique que l’on ouvre grand les portes au cheval de Troie : à la production possible d’une forme de vie androïde à grande échelle. Car à quoi servirait une lampe de poche si, lorsqu’on appuie sur le bouton, l’ampoule ne s’allumait qu’une fois de temps en temps ? Toute machine doit marcher sans coup férir pour être fiable. L’androïde, comme toute autre machine, doit marcher au doigt et à l’œil. (p. 38)

Sur Philip K. Dick, on peut consulter le site officiel, en anglais, et, en français, une page du site noosphère, le ParaDick.

Dans sa conférence « Androïde contre humain » (« Androïd and human », Vancouver, 1972), Philip K. Dick, immense écrivain de science-fiction, invite très judicieusement, sur cette question de l'homme-macine, à « inverser l’analogie » : plutôt que de se demander si un jour la vie artificielle va devenir humaine, pourquoi ne pas nous demander si l'humain n'est pas en train de devenir machine.

Et puis - même si une telle idée n’est guère agréable - tandis que le monde externe devient de plus en plus animé, il se peut que nous - les soi-disant humains - devenions, et, d’une certaine manière, ayons toujours été, inanimés au sens où nous sommes dirigés par des tropismes inhérents, plutôt que dirigeants nous-mêmes. Auquel cas nous et nos ordinateurs toujours plus perfectionnés pourrions fort bien nous rencontrer à mi-chemin.

et d'évoquer les créatures que sont devenus aujourd'hui nombre de pseudo-humains qui ne sont plus que

des instruments, des moyens plutôt que des fins, et donc, à mon sens, réduits à être semblables à des machines dans le mauvais sens du terme […]. Il s’agit ici d’humains réduits à une pure utilité - de femmes et d’hommes transformés en machines et servant un objectif qui, aussi « bon » soit-il en principe, exige l’emploi, pour son accomplissement, de ce que je considère comme le plus grand mal imaginable : l’imposition sur ce qui était un homme libre, qui riait et pleurait et faisait des erreurs et divaguait sottement ou à loisir, d’une restriction qui le contraint, malgré ce qu’il imagine ou ce qu’il en pense, à atteindre un but situé en dehors de sa propre destinée - aussi minuscule soit-elle.

Philip K. Dick, Si ce monde vous déplaît… et autres écrits, L’Éclat, 1998, p. 28 et 29

Tout le processus de la pensée demeure encore plutôt mystérieux, mais je crois qu’une machine pensante pourrait grandement nous aider à découvrir comment nous pensons nous-mêmes.
Alan M. Turing, Conférence à le BBC, 15 mai 1951, Archives Turing, King’s College, Cambridge

Alan Mathison Turing est l'un des premiers théoriciens de l'intelligence artificielle. Il a passé une grande partie de son existence à tenter de concevoir une machine pensante. Persécuté pour son homosexualité, il se suicide en 1954 en croquant une pomme empoisonnée au cyanure. Cette référence à Blanche Neige donnera naissance au nom et du logo de la société Apple Computer.
Quelques années avant sa mort, après son arrestation en 1952, Turing avait envoyé à un collègue un mot sibyllin en forme de syllogisme et de jeu sur le double sens du mot anglais to lie :

Turing croit que les machines pensent. Turing couche avec des hommes. Donc les machines ne pensent pas. [Turing believes machines think. Turing lies with men. Therefore machines do not think.]
Alan M. Turing, Archives Turing, King’s College, Cambridge

Les Archives Turing du King's College (Cambridge) sont disponibles en ligne.
L'article « Computing Machinery and Intelligence » (Mind, Octobre 1950), qui décrit le test de Turing, est également en ligne.

Pour Damasio, ce titre l'affirme, la conscience est un sentiment. Un sentiment (en simplifiant énormément, car il existe des sentiments inconscients) est ce qui naît lorsqu'une émotion devient consciente ; la conscience naît lorsque le fait de ressentir devient lui même conscient. La conscience est par conséquent un sentiment de sentiment, « le sentiment de savoir que nous éprouvons des sentiments » (p. 282).
Cela conduit Damasio à s'interroger sur la possibilité de créer une intelligence artificielle :

[…] l’idée que la conscience humaine repose sur des sentiments nous permet d’aborder le problème de la création d’artefacts conscients. Est-il en effet possible, avec l’aide d’une technologie de pointe et des connaissances neurobiologiques, de fabriquer une machine dotée de conscience ? Ma réponse comportera deux volets, l’un positif, l’autre négatif, ce qui n’est guère surprenant si on considère la nature de la question. Non, il est peu probable que nous puissions jamais fabriquer une machine dotée de quoi que ce soit qui ressemble à la conscience humaine, telle que nous la concevons, c’est-à-dire comme un for intérieur. Oui, nous sommes en mesure de fabriquer des machines dotées des mécanismes formels de la conscience ici exposés, et on pourrait effectivement dire que ces machines possèdent une forme de conscience.
Les comportements de ces machines, tels qu’ils se présentent à un observateur extérieur, reproduiront à l’identique des comportements conscients. Ils pourront correspondre à une version consciente du test de Turing. […] Supposons […] que les états internes de la machine reproduisent certains des schémas neuronaux et mentaux qui me semblent être au fondement de la conscience. Il y aurait alors moyen de susciter un savoir de second ordre. Toutefois, ce dernier ne pourrait, en l’absence du vocabulaire non verbal du sentiment, être exprimé de la même manière que chez les êtres humains (et sans doute chez un grand nombre d’autres espèces vivantes). L’obstacle principal est en effet le sentir : la conscience humaine pourrait bien exiger la présence de sentiments. On peut reproduire l’apparence de l’émotion, mais pas dupliquer en silicone le sentir d’un sentiment. On ne peut reproduire les sentiments sans reproduire la chair même, sans reproduire l’action du cerveau sur cette chair, ou la façon dont le cerveau ressent la chair une fois qu’il a agit sur elle.
Antonio R. Damasio, Le Sentiment même de soi, p. 310-311

Jean-Michel Truong - psychologue et philosophe de formation, fondateur de Cognitech, première société européenne spécialisée en intelligence artificielle - a rencontré en 1999 un grand succès avec Le Successeur de Pierre (Denoël), un roman de science-fiction très stimulant dans lequel il mettait en récit des réflexions sur les mutations que vont entraîner l'intelligence artificielle. À la lumière notamment des théories mémétique et des thèses du philosophe allemand Peter Sloterdijk (sur lesquelles je reviendrai), l’avenir de l’humanité y est présenté de manière très sombre, sans doute car dans la fiction comme dans les essais, la peur fait vendre.
Le roman est prolongé par un essai, Totalement inhumaine (Les Empêcheurs de penser en rond, 2001), dans lequel Truong explicite et éclaire de citations ses intuitions romanesques. Il écrit ainsi :
J’appelle Successeur cette forme de vie nouvelle susceptible de prendre la suite de l’homme comme habitacle de la conscience. […] Le Successeur est l’espèce émergeant sous nos yeux de ce substrat artificiel – fait de mémoires et de processeurs toujours plus nombreux et en voie d’interconnexion massive – qu’on appelle le « Net ». (49-50)
Comme toute espèce bien née, le Successeur se comporte de manière à « persister dans son être », ce qui en patois biologique - forcément plus rustique - se traduit par « répliquer ses gènes » (50-51) ; [sa forme de reproduction est la] copie du contenu d’une mémoire dans une autre (52)
Notre conscience n’est pas un organe qu’il serait loisible de transplanter ici ou là, c’est la résultante d’un processus évolutif. Ce que nous léguons au Successeur, ce n’est pas la conscience et moins encore notre conscience, mais les conditions d’émergence d’une conscience. […] Le Successeur n’use de la représentation symbolique et de la logique mathématique que parce qu’il est provisoirement tenu d’interagir avec nous : comme d’une langue étrangère. C’est une concession qu’il nous fait, le temps de nous apprivoiser. Son idiome, nous ne le connaissons pas. Peut-être même un jour, dispensé qu’il sera de parler à quiconque, lui sera-t-il possible d’économiser ce détour dispendieux par le langage et la logique qui plomba tant l’intelligence humaine, pour enfin appréhender le monde de manière immédiate, et ainsi accéder – ô ironie! – à cette pensée vraie dont Heidegger disait qu’elle est l’apanage du poète. (207-208)