Le réseau Canopé Le portail educ-revues
 
Cahiers philosophiques

Dossier : Varia

Alan Turing et le jeu de l'imitation

Patrick Goutefangea, conservateur à la bibliothèque de l'université de Nantes

Avec le "jeu de l'imitation", Turing imagine une méthode pour décider si une machine "peut penser". Il montre que la définition théorique de la machine qu'il a lui-même donnée en 1936-1937 n'interdit pas l'hypothèse qu'une machine conforme à cette définition puisse l'emporter au jeu. Ce faisant, il n'aborde ni un problème technique, ni un problème de logique théorique, mais s'avance sur le terrain d'une philosophie que l'on qualifiera de "continentale" : pour l'emporter au jeu, la machine doit s'exprimer à la première personne et être pour son adversaire un semblable. La machine victorieuse doit être élevée à la pleine dignité du sujet de la philosophie classique.

En 1950, Turing, dans Les Ordinateurs et l'Intelligence1, examine la question "Les machines peuvent-elles penser ?", et propose d'y répondre, de manière assez déconcertante, en substituant à la question proprement dite une expérience alors impossible à mener : le célèbre "jeu de l'imitation". En soi, le seul fait que Turing, connu comme mathématicien et auteur d'une définition logique largement acceptée de la notion de machine, consacre un texte à une question telle que celle de la "pensée" des machines, mériterait sans doute un examen : y a-t-il, dans sa démarche antérieure, un problème théorique qui débouche sur cette question ? La notion logique de machine élaborée à la fin des années trente - la "machine de Turing" - porte-t-elle l'exigence d'une réflexion de cet ordre ? Nous en ferions volontiers l'hypothèse, mais nous laissons à d'autres, plus qualifiés, le soin de le vérifier. C'est à la curieuse méthode préconisée par Turing que nous nous intéresserons ici, pour au moins tenter de montrer que c'est bien, à propos des machines, la question philosophique de la pensée qui est abordée, dans ce qu'elle a de redoutable, voire pour certains de suspect. Cela nous conduira à examiner notamment un passage peu commenté du texte de Turing : celui consacré à l'hypothèse des "machines qui apprennent".

Turing avait ébauché le principe du jeu de l'imitation, quelques mois avant de composer Les Ordinateurs et l'Intelligence, dans un texte intitulé Intelligent Machinery2 rédigé à l'intention du National Physical Laboratory, l'organisme de recherche britannique auquel il était alors rattaché. Supposons, proposait-il, un assez médiocre joueur d'échecs, C, opposé à deux adversaires, B et A, de force à peu près égale à la sienne, et dont l'un, par exemple B, serait une "machine de Turing". On sait qu'une "machine de Turing" est une machine logique, "à états discrets", définie par une table d'instructions, et dont Turing avait montré, en 1936-19373, qu'elle pouvait, non seulement calculer n'importe quel nombre calculable par un calculateur humain, mais encore imiter le comportement de n'importe quelle autre machine discrète dont la configuration lui était fournie en entrée. La "machine de Turing", parce qu'elle est programmable, peut être une "machine universelle". Turing s'était lui-même essayé à concevoir sur le papier une machine de ce type jouant médiocrement aux échecs4. Or, notait-il, le joueur C opposé à la machine B et à un autre joueur humain A aurait de toute évidence les plus grandes difficultés à décider lequel de ses adversaires est la machine5. Cet exemple servait de modèle au jeu décrit peu après dans Les Ordinateurs et l'Intelligence.

Le jeu de l'imitation oppose un homme A à deux autres protagonistes : B - une femme - et C - un homme ou une femme ; chacun des trois joueurs est isolé des deux autres ; C, en posant des questions à A et B, doit déterminer qui est l'homme, qui est la femme. L'homme A doit s'efforcer de tromper C, en se faisant passer pour la femme B, laquelle doit aider C. Les trois protagonistes communiquent par l'intermédiaire d'un téléscripteur ; ils ne peuvent donc utiliser au cours du jeu de caractéristiques telles que l'apparence extérieure, la voix ou les performances physiques. Seul ce qui relève de l'échange linguistique est pris en compte.

Quelles sont les chances respectives de A d'un côté, de B et C de l'autre ? Les trois protagonistes du jeu sont, par hypothèse, des individus humains quelconques ; nous pouvons donc considérer qu'ils sont grosso modo de la même force. En conséquence, C, puisqu'il est aidé par B, doit avoir à peu près deux fois plus de chances de l'emporter que A. Inversement, celui-ci doit s'imposer dans un tiers des cas, ou encore, C doit se tromper environ une fois sur trois. Tel est du moins le résultat qui doit prévaloir, à mesure que le nombre de parties augmente, si les protagonistes sont choisis parmi un échantillon suffisamment large pour qu'une différence ponctuelle de talent ne vienne fausser les résultats.

Qu'arrivera-t-il, demande Turing, si A est remplacé par une machine, en l'occurrence par une "machine universelle"? L'interrogateur C du jeu de l'imitation, affirme-t-il, se trompera aussi souvent dans ce cas que lorsqu'il a affaire exclusivement à des humains6. En d'autres termes, une machine, selon Turing, peut avoir autant de chances de "faire bonne figure" au jeu de l'imitation qu'un individu humain quelconque ; elle peut se montrer l'égale d'un être humain placé dans les conditions du jeu - réduit à la parole - c'est-à-dire l'égale d'un être dont les observateurs du jeu admettent qu'il pense.

Pourquoi une telle démarche ? Sa justification ne tient-elle pas à ce qu'elle ferait l'économie des difficultés liées à la définition du terme "penser"? Une tentative d'élucidation conceptuelle, ici, éviterait difficilement, en effet, de faire appel à des notions marquées par leur appartenance ancienne au registre de la métaphysique - celles, par exemple, d'"entendement" ou de "raison". Turing est-il donc simplement prudent, considérant qu'il n'est pas lui-même en mesure de répondre de manière pertinente à une question telle que "Qu'est-ce que la pensée ?", ou bien entend-il inscrire nettement sa démarche dans le contexte analytique qui est celui de la scène philosophique anglo-saxonne au moment de la publication des Ordinateurs et l'Intelligence ? Dans ce dernier cas, son refus de discuter la notion de pensée ne pourrait-il signifier qu'à ses yeux la question même "Qu'est-ce que la pensée ?" est une de ces pseudo-questions, spécialité de la philosophie "continentale", qu'une philosophie bien comprise a pour tâche de débusquer ? Tout se passerait alors, pour lui, comme s'il s'agissait de répondre à la "vraie" question cachée sous celle de la pensée des machines - une machine peut-elle faire "jeu égal" avec un homme ? - ce qui supposerait une "expérience". Par ailleurs, sous cet angle, la substitution du jeu de l'imitation à la question "Les machines peuvent-elles penser ?" ne reviendrait-elle pas à remplacer une démarche philosophique à forte connotation "continentale" par une problématique relevant du registre de la psychologie scientifique ? Turing n'entend-il pas adopter, par exemple, une approche behavioriste ? Le jeu de l'imitation aurait pour fonction de vérifier que la machine est en mesure de reproduire un certain comportement et la démarche de Turing reposerait sur la présupposition que le terme "penser", dans la question "Les machines peuvent-elles penser ?", peut être remplacé par la description de certains types de comportements.

Il est cependant permis de se demander si cette interprétation rend bien compte de ce qui fait l'originalité de la réflexion de Turing. L'argumentation de celui-ci vise explicitement une certaine opinion commune pour laquelle la pensée est inséparable de l'imprévisibilité qui accompagne l'invention ; au regard de cette opinion commune, une machine est parfaitement prévisible et n'invente rien, donc ne pense pas. Dans Intelligent Machinery, ce texte qui précède de quelques mois Les Ordinateurs et l'intelligence, Turing écrivait ainsi : "Le point jusqu'où nous considérons que quelque chose se comporte de manière intelligente est déterminé autant par notre propre état d'esprit et formation que par les propriétés de l'objet considéré. Si nous sommes capables d'expliquer et de prévoir son comportement ou s'il semble y avoir le moindre plan sous-jacent, nous sommes peu tentés d'imaginer de l'intelligence7." Pour l'opinion commune, en somme, du moins telle que la comprend Turing, l'imprévisibilité serait une propriété de la pensée, comme la prévisibilité une propriété du mécanique. La critique de cette position joue, au moins structurellement, un rôle central dans l'argumentation de Turing : l'examinateur du jeu, étant, par hypothèse, un homme quelconque, sera lui-même porteur de l'opinion commune, et sa conviction qu'une machine, parce qu'elle est prévisible, ne peut surprendre un homme, contrairement à un autre homme, être pensant, s'exprimera au cours du jeu : l'examinateur "moyen" cherchera à distinguer l'un de l'autre ses interlocuteurs à partir de l'idée - énoncée ou non - qu'une machine ne saurait penser. Par là même, s'il se trouve, comme Turing en soutient la possibilité, que la machine l'emporte - si l'examinateur conclut le jeu en déclarant à son propos : "voici un homme" - c'est l'opinion commune qui aura été trompée ; surprise par une machine, elle aura contribué elle-même à établir le contraire de ce qu'elle affirme.

Ce point est d'autant plus frappant que l'opinion commune évoquée ici a une expression philosophique, laquelle plonge ses racines dans la métaphysique cartésienne et pose que la machine appartient à un autre ordre que l'homme. Que la machine ne pense pas est, pour Descartes, une certitude métaphysique puisqu'il s'agit d'une conséquence de la distinction des substances : elle relève de la substance étendue et non de la substance pensante. Descartes illustre cette idée, dans la cinquième partie du Discours de la méthode, à l'aide d'une "expérience" fictive proche, dans sa structure, de celle proposée par Turing : imaginons un automate fabriqué par un artisan doué d'une habileté supérieure, et imitant parfaitement l'apparence et le comportement d'un être humain ; nous aurions toujours, soutient Descartes, deux moyens de ne pas confondre cet automate avec un homme véritable : la parole et l'action réfléchie8. Un tel automate pourrait, sans doute, émettre un discours, de la même façon qu'il serait en mesure d'effectuer certaines actions mieux qu'un être humain : on ne voit pas pourquoi la forme matérielle - donc, pour Descartes, mécanique - de la parole ne pourrait être reproduite par une machine ; pourtant, aussi parfait serait-il en son genre, cet automate ne pourrait "répondre au sens de tout ce qui se dit en sa présence comme le ferait l'homme le plus hébété9", de même qu'il ne saurait inventer une action pour lui encore inédite. Chez Descartes, en vérité, le discours humain et l'action réfléchie se distinguent de toute reproduction de leur seule forme matérielle par cela qu'ils expriment un "jugement", c'est-à-dire l'application d'une volonté à une idée10. Le jugement renvoie à la dualité de l'homme, union d'une âme et d'un corps, mode de la substance pensante et de la substance étendue ; par là, la parole n'est pas seulement une action mécanique, comme celle que reproduirait un automate, mais l'acte d'une conscience inscrite dans un monde, l'expression de ce "je" qui, prononcé dans le "je pense", signifie toujours "je suis".

Or - c'est ce que nous voudrions montrer - "l'expérience" proposée par Turing avec le jeu de l'imitation consiste, dans son principe, à imaginer une machine susceptible d'avoir avec des individus humains un "échange de paroles", en vertu du fait qu'elle se montrerait capable de tenir un discours "à la première personne", de dire "je" comme le fait n'importe quel individu humain. C'est pour cette raison que l'on ne pourrait légitimement refuser de dire d'une telle machine qu'elle "pense", comme pensent les individus humains qui s'adressent à elle. Dans cette perspective, la dernière partie des Ordinateurs et l'Intelligence, consacrée, non plus au jeu de l'imitation en tant que tel, mais aux "machines qui apprennent", prend un relief particulier. Turing, en effet, ne songe pas à n'importe quel type d'apprentissage : selon lui, une machine peut être "éduquée" comme un petit d'homme. Un processus d'éducation présuppose la mise en oeuvre, par l'entité éduquée, d'une première personne, et cette référence à la première personne est proprement ce qui lie l'un à l'autre, dans la réflexion de Turing, le développement sur les machines qui apprennent et celui sur le jeu de l'imitation. Peut-elle être débarrassée de sa connotation "continentale", c'est-à-dire du statut que lui confère le fait de renvoyer au "je" du "je pense"? Le "je" prononcé par une machine qui tiendrait tête à des hommes au jeu de l'imitation n'aurait-il pas le même statut que celui prononcé par ces hommes mêmes ? Ainsi, la curieuse méthode suivie par Turing ne ferait pas l'économie d'une problématique continentale ; elle s'y inscrirait au contraire, pour apporter une réponse rompant avec la conception classiquement défendue dans ce contexte depuis Descartes, à savoir avec l'idée que l'homme et la machine appartiennent à des ordres différents. En abordant, à travers le jeu de l'imitation, non seulement la question de la machine, mais celle des rapports de l'homme à celle-ci, Turing, sans peut-être qu'il le sache répondrait autrement à la question même abordée par Descartes, contribuant, par là, à la mise au jour des problèmes spécifiques, profondément enracinés dans l'histoire de la philosophie occidentale, que soulève l'actuelle nécessité de repenser les rapports de l'homme à la machine.

La logique du jeu de l'imitation et l'échange de paroles

Qu'une machine puisse "parler" - condition de sa participation au jeu de l'imitation - c'est au fond ce que Turing avait déjà démontré en élaborant la notion de "machine universelle" : une telle machine peut manipuler des symboles et énoncer des propositions, au sens logique du terme. Lui faire émettre ces propositions sous une certaine forme matérielle, et notamment sonore, est un problème de mécanique sans pertinence ici, et déjà résolu au moment où Turing publie Les Ordinateurs et l'Intelligence. Toutefois, en imaginant le jeu de l'imitation, Turing s'avance plus loin. Ses travaux des années trente démontraient seulement qu'une machine universelle, puisqu'elle est capable de mener un calcul et, par là, de manipuler des symboles, peut simuler la faculté humaine de discourir à la troisième personne, c'est-à-dire d'énoncer un discours purement descriptif, de l'ordre du "il y a", ou du "ça", où n'est pris en compte que ce que les linguistes nomment la "personne d'univers11", c'est-à-dire l'expression de l'attachement de tout objet du discours à l'ordre des choses. Le prototype d'un tel discours est le discours scientifique, et son expression idéale la proposition mathématique, celle même qu'une "machine universelle", au moins pour ce qui concerne le "calculable", est en mesure d'énoncer. Dans un tel cadre, un échange de questions et de réponses entre locuteurs, comme celui qui doit avoir lieu pendant le jeu, serait certainement possible12, mais entre qui et qui aurait lieu cet échange ? C'est le propre même du discours scientifique que "d'oublier", ou de mettre entre parenthèses les actants du discours, en les identifiant à un unique locuteur abstrait. Or, on voit bien qu'une machine "parlante" de ce type - qui ne connaîtrait que la troisième personne - ne saurait en aucun cas faire bonne figure au jeu de l'imitation.

Le changement induit dans la structure du jeu par la substitution d'une machine à la femme de la situation initiale est à cet égard éclairant. Demandons-nous, en effet, s'il s'agit encore, pour l'examinateur C, dans le cadre d'une telle substitution, de dire qui, de A ou de B, est une femme13 ? Si tel était le but du jeu, la machine devrait viser à se faire prendre, par l'examinateur C, pour une femme, et la meilleure stratégie pour elle consisterait certainement à tenter d'imiter directement le comportement d'une femme plutôt que celui d'un homme cherchant à se faire passer pour une femme. Imaginons que la machine ne se montre pas assez "adroite" pour tromper C sur sa prétendue "féminité", ce dernier concluera le jeu en affirmant : "A (la machine) ne peut pas être une femme, donc A est un homme." Toutefois, suffit-il que la machine imite mal une femme pour que l'examinateur croit avoir affaire à un homme ? Il faut encore qu'imiter mal une femme ne l'empêche pas d'imiter de manière convaincante un "être humain". En d'autres termes, ce n'est pas d'abord sur sa prétendue féminité, mais sur son "humanité" prétendue que la machine doit tromper C ; c'est le comportement humain en général, tel qu'il apparaît à travers le langage, qu'elle doit avant tout pouvoir imiter : "On supposera, dit Turing, que la meilleure stratégie est d'essayer de fournir des réponses qui seraient naturellement données par un homme14", le terme "homme" signifiant ici, d'après le contexte, "l'être humain15". Qu'un examinateur humain se trompe aussi souvent, lorsque la place de A dans le jeu est occupée par une machine que lorsqu'elle est occupée par un homme signifiera que la machine a été confondue par lui, dans le cadre de leur échange de paroles, avec un être humain. Que la machine l'emporte environ une fois sur trois attestera que l'examinateur lui a implicitement accordé une parole humaine.

Or, pour que l'examinateur du jeu croit reconnaître l'humanité dans son adversaire mécanique, il doit de toute évidence avoir la conviction que le rapport établi entre lui et son interlocuteur est identique à celui qu'il entretiendrait avec un individu humain ; il faut, en d'autres termes, qu'il ne doute pas que ce qui a lieu entre lui et son adversaire soit, non pas un échange abstrait de questions et de réponses d'où il serait lui-même absent en tant que sujet singulier, en tant que "personne", mais un échange de paroles, impliquant l'engagement existentiel des locuteurs ; c'est à ce prix qu'il croira reconnaître un "semblable16". L'échange de paroles exige que ses protagonistes s'expriment à la première personne, qu'ils soient, plus que des locuteurs, des interlocuteurs, que chacun d'eux fasse usage des déictiques je et tu. Alors, et alors seulement, "l'expérience" imaginée par Turing sera convaincante. Comment douter, en effet, que les protagonistes d'un échange de paroles pensent ? Comment mettre en doute que l'échange de paroles entre des êtres humains manifeste l'exercice de la pensée par ceux-ci ? L'expression même du doute, ici, supposerait la parole, et toute parole est adressée à qui peut la comprendre et la partager. Dès lors, s'il y a échange de paroles entre un homme et une machine, n'est-ce pas qu'ils partagent la pensée ?

La discussion que mène Turing d'un certain nombre de situations, auxquelles le jeu peut se prêter, et que le sens commun oppose à son hypothèse, doit se comprendre à cette aune : une machine, dit-on, ne pourrait l'emporter au jeu de l'imitation car elle ne commet pas d'erreurs, ne peut pas apprendre, se comporte de manière prévisible et est incapable d'invention, enfin et surtout, car elle ne sait pas ce qu'elle fait, ni même qu'elle fait quelque chose. Turing discute ces objections en s'efforçant de montrer que, si, dans la définition logique de la machine comme machine universelle, rien n'interdit qu'une machine conforme à cette définition joue aux échecs, rien n'interdit non plus qu'elle fasse bonne figure au jeu. Pour chacune des situations envisagées, une machine universelle, selon lui, peut être conçue de telle sorte que, dans le strict cadre du jeu, l'examinateur humain ne dispose pas davantage que dans l'exemple des joueurs d'échecs d'Intelligent Machinery de critères de discrimination suffisants pour pouvoir la distinguer à coup sûr d'un individu humain.

Le problème de la conscience prend naturellement ici un relief particulier, d'autant que Turing l'aborde sous l'angle de l'expression artistique, lieu par excellence de la subjectivité, et qui apparaît comme ce dont la machine, aux yeux de l'opinion commune, est le plus irréductiblement éloignée. Il cite à ce propos l'argument formulé, dans une conférence de 1949, par sir Geoffrey Jefferson17, lequel déclarait : "Nous ne pourrons pas accepter l'idée que la machine égale le cerveau jusqu'à ce qu'une machine puisse écrire un sonnet ou composer un concerto à partir de pensées ou d'émotions ressenties, et non pas en choisissant des symboles au hasard, et non seulement l'écrire, mais savoir qu'elle l'a écrit18."

Turing discute l'argument en s'attardant sur une situation particulière, celle de "l'examen oral" au cours duquel il est demandé à un élève, à titre d'exercice, de composer un sonnet, puis de le commenter. "Le jeu, note-t-il, [le jeu de l'imitation] est fréquemment utilisé en pratique (en omettant le joueur B) sous le nom d'examen oral pour découvrir si quelqu'un comprend véritablement quelque chose ou "a appris comme un perroquet". Imaginons une partie d'un tel examen :

L'examinateur : Dans le premier vers de votre sonnet qui dit : "Te comparerais-je à un jour d'été", est-ce que "un jour de printemps" serait aussi bien ou mieux ?

Le témoin (witness) : Cela ne rimerait pas.

L'examinateur : Et "un jour d'hiver"? Cela rimerait très bien...

Le témoin : Oui, mais personne n'a envie d'être comparé à un jour d'hiver...19"

De quels éléments disposerait l'examinateur C, demande Turing, pour distinguer la machine de son propre partenaire humain, dans l'hypothèse où cet échange aurait lieu au cours du jeu et où le témoin s'avérerait être la machine ? Ne serait-il pas aussi démuni que l'est le joueur d'échecs d'Intelligent Machinery pour distinguer son adversaire mécanique de son adversaire humain ? Or, le sonnet étant une forme littéraire qui obéit à des règles précises, lesquelles commandent non seulement sa composition, mais son commentaire, rien a priori, dans la définition de la "machine universelle", n'interdit de concevoir une "machine à sonnets".

La possibilité d'une "victoire" de la machine au jeu se comprend précisément à partir de là. Admettons, en effet, que le jeu de l'imitation soit décomposable, à l'infini, en une succession de tests partiels, bien plus élémentaires encore que celui du sonnet ; sachant qu'une machine universelle, selon sa définition, peut simuler le comportement de toute autre machine, nous conclurons qu'il existe toujours une machine théorique imitant le comportement de chacune des machines partielles d'une série correspondant à une session victorieuse du jeu.

Bref, Turing s'efforce de montrer dans Les Ordinateurs et l'Intelligence, que rien dans la définition de la machine universelle ne s'oppose à ce qu'une machine conforme à cette définition puisse simuler l'acte humain de parole, l'engagement réflexif d'un sujet hic et nunc, condition de toute énonciation et de tout procès de communication langagière, de tout échange de paroles. Du comportement des joueurs d'échecs d'Intelligent Machinery à celui des interlocuteurs du jeu de l'imitation, il passe ainsi de la prise en compte d'un comportement tout à fait particulier à celle de ce que l'on s'accorde à considérer comme le comportement humain par excellence. Or, selon sa démonstration, le résultat doit être le même dans les deux situations. La difficulté devant laquelle se trouve le joueur d'échecs C pour distinguer ses adversaires atteste, à tout le moins, qu'un individu humain peut jouer aux échecs avec une machine, comme il le ferait avec un autre individu humain ; dans le cas du jeu de l'imitation, la même difficulté atteste qu'un individu humain peut "converser" avec une machine comme il le ferait, dans les mêmes conditions, avec d'autres individus humains. La capacité de la machine universelle à énoncer des propositions, à tenir un discours à la "personne d'univers" est étendue par Turing, au moyen du jeu de l'imitation, jusqu'aux limites de ce comportement spécifiquement humain qu'est l'acte de langage à la première personne, acte qui, aux yeux de tout homme, implique la pensée.

Mais la situation a-t-elle pour autant changé de nature ? C'est parce que le jeu d'échecs s'apparente à un calcul qu'une machine peut y jouer ; dès lors, la thèse de Turing n'est-elle pas que le comportement de l'homme en tant que locuteur peut également être assimilé à un calcul, puisque aussi bien c'est sous la forme du calcul qu'est définie la capacité de la machine universelle à énoncer des propositions ?

Les critiques du jeu

C'est bien ainsi que la démarche de Turing a été majoritairement interprétée, tant par ses critiques, lesquels lui ont souvent reproché son behaviorisme, que par ses héritiers, tels les promoteurs de l'intelligence artificielle classique (IA), et il est vrai que les meilleurs résultats obtenus par celle-ci ont pu paraître corroborer les anticipations de Turing. Sur chacun des points évoqués par ce dernier dans Les Ordinateurs et l'Intelligence - la conscience, l'erreur, l'apprentissage, l'informalité du comportement, l'invention - les chercheurs en IA ont affirmé, et jusqu'à un certain point établi, que la conception, à partir d'une formalisation rigoureuse de situations types, de machines simulant des comportements humains tels qu'ils peuvent être observés dans des circonstances précises et limitées, était théoriquement possible20 et légitimait la démarche de Turing.

Mais l'IA classique n'a pas tenu toutes ses promesses et de nombreuses réserves ont été émises à l'égard de ses présupposés, à savoir que les actions humaines pourraient être représentées par des systèmes de symboles, régis par des règles, elles-mêmes établies en fonction de l'analyse du comportement effectif d'un individu humain devant un problème déterminé. C'est précisément dans le cadre de la discussion de l'IA classique que la démarche de Turing a été critiquée. Toutefois, ce n'est pas l'échec de "l'expérience", c'est-à-dire l'impossibilité pour une machine de réussir le test, qu'ont souligné les critiques les plus fortes, mais la signification que donne Turing à un éventuel succès. Plusieurs auteurs ont ainsi soutenu qu'une machine qui ferait bonne figure au jeu de l'imitation ne serait jamais autre chose, tout au long de l'épreuve, y compris si elle réussissait le "test du sonnet", qu'un dispositif purement formel dont on peut difficilement dire qu'il "sache" quoi que ce soit ou qu'il ait conscience de quelque chose ; de sorte que même si une machine l'emportait au jeu de l'imitation dans un cas sur trois, comme le suggère Turing, cela ne prouverait pas qu'elle "pense", au sens humain du terme. John Searle, notamment, a illustré avec force cette idée en imaginant une "expérience de pensée" connue sous le nom d'"argument de la chambre chinoise21".

Imaginons que nous enfermions dans une pièce un être humain ne sachant pas le chinois, et que nous mettions à sa disposition des paniers dans lesquels se trouvent des symboles de la langue chinoise ainsi qu'un livre, écrit dans sa propre langue, où sont consignées des règles purement syntaxiques de manipulation des symboles. Supposons que des combinaisons de symboles chinois aient été introduites dans la pièce, et que le livre fournisse des règles ordonnant à notre opérateur de sortir certains symboles de la pièce dans un certain ordre. Admettons, enfin, que les chaînes de symboles introduites soient des "questions" et celles que l'opérateur sort de la pièce les réponses à ces questions. Si les règles ont été correctement rédigées, et si l'opérateur ne fait pas d'erreur en les suivant, tout se passera exactement comme si, à des questions posées par un Chinois de Chine, des réponses étaient données par un Chinois de Chine. Or, remarque Searle, l'opérateur placé dans la "chambre chinoise" ne sera pas devenu pour autant capable de parler le chinois22. De la même façon, pour Searle, la machine qu'invoque Turing, parce qu'elle est strictement formelle - c'est une "machine de Turing" - ne fait que combiner des états, lesquels ne sont pas pour elle des symboles, même s'ils le sont pour ses constructeurs ou les hommes qui l'observent. Bref, aux yeux de Searle, dans le cadre du jeu de l'imitation, ce n'est que du point de vue des adversaires de la machine qu'il y a échange de paroles ; la machine n'a pas elle-même de "point de vue". En somme, quand bien même une machine simulerait le discours humain à la première personne, quand bien même elle utiliserait le symbole "je", ce "je" ne serait jamais pour elle un déictique.

Ce dernier point a été discuté avec perspicacité par Hillary Putnam, à l'occasion d'une argumentation où il imagine une autre célèbre expérience de pensée, dite des "cerveaux dans une cuve23".

Imaginons, propose Putnam, que le cerveau de chaque individu humain ait été placé dans une cuve, et que ses terminaisons nerveuses aient été reliées à un ordinateur qui reproduit les stimuli du monde extérieur. Aucun individu humain ne sera plus en contact avec le monde extérieur, et pourtant aucun d'eux ne s'en apercevra ; tout se passera de telle sorte que, lorsque les cerveaux dans leurs cuves s'adresseront les uns aux autres, ils se comporteront exactement comme s'ils étaient hébergés dans un corps. Pourtant, remarque Putnam, un cerveau ainsi traité ne pourra pas dire "je suis un cerveau dans une cuve" au sens où le dirait un cerveau "ordinaire" - qui ne serait pas dans une cuve mais dans un corps - car la référence de leurs discours respectifs ne sera pas la même. Le cerveau dans une cuve fera référence "dans l'image" : lorsqu'il parlera d'un arbre, la référence de son discours ne sera pas l'arbre lui-même, mais l'image de l'arbre engendrée par les stimuli que produit l'ordinateur auquel il est relié. Ainsi, prononçant le mot "cuve", il fera référence, non pas à la cuve dans laquelle il se trouve, mais à l'image de celle-ci fournie par l'ordinateur. Bref, pour employer le mot "cuve" avec la même référence qu'un cerveau "ordinaire", il ne devrait pas être dans une cuve. Les cerveaux dans une cuve et ceux qui n'y sont pas ne partagent pas la référence. Rapportée au jeu de l'imitation, cette situation revient à montrer que la machine A24 ne partage pas la référence avec ses interlocuteurs humains C et B ; les trois joueurs parleront-ils, ce ne sera jamais de la même chose. Ils ne communiqueront pas et, en définitive, tout se passera comme si la machine ne disait rien à ses interlocuteurs humains, de même que l'opérateur de la chambre chinoise, dans l'expérience de pensée proposée par Searle, ne dit rien à ses interrogateurs chinois.

Qu'en serait-il, cependant, du "je" énoncé par un cerveau dans une cuve disant, au cours d'une conversation avec des interlocuteurs humains, "je suis ceci" ou "je suis cela"? Le statut de ce "je" ne sera-t-il pas le même que celui du "je" prononcé par ces mêmes interlocuteurs, c'est-à-dire par de "vrais cerveaux", à savoir le statut du "je" du "je suis" inhérent au cogito cartésien ? Jaakko Hintikka a montré, à propos de ce dernier, que l'un des points d'appui de la démonstration de Descartes tenait à l'inconsistance existentielle de la proposition "je ne suis pas" : je ne puis la prononcer sans prouver par là même le contraire de ce qu'elle dit25. De quoi il découle que la proposition contraire "je suis" est consistante existentiellement. Le "je suis" que je ne puis prononcer sans être est une "performance". Supposons que le cerveau dans une cuve cherche à se faire passer auprès des "vrais" cerveaux - ceux qui ne sont pas dans une cuve, mais dans un corps - pour un "vrai" cerveau. Il dira : "je suis un cerveau qui n'est pas dans une cuve", comme le dirait le cerveau qui n'est effectivement pas dans une cuve. Dans son cas, l'assertion sera fausse, mais le statut du "je suis" qu'il prononcera, revenant à dire : "je suis celui qui dit qu'il est ce qu'il n'est pas", sera une performance comme dans le cas du "vrai" cerveau. Appliquée au jeu de l'imitation, cette constatation revient à considérer que tout se passe comme si la machine, énonçant "je suis", fût-ce en affirmant cette contre-vérité : "je suis un homme", partageait avec ses interlocuteurs humains la consistance existentielle. La machine victorieuse au jeu de l'imitation simule en somme la performance de C et de B disant "je suis" ; or, cette simulation n'est-elle pas sa performance propre - qui implique la consistance existentielle ?

La machine du jeu de l'imitation, toutefois, n'est pas un "cerveau", même dans une cuve. Le raisonnement que nous venons de suivre pourrait, en effet, s'appliquer à une machine conforme au modèle proposé par Searle. La simulation, par le système "chambre chinoise", composé d'un opérateur, de symboles et de règles de manipulation de ces symboles, de la performance de ses interlocuteurs humains pourrait être regardée comme la performance de ce système ; or, quand bien même son adversaire direct serait ainsi conduit à le confondre avec un interlocuteur humain, cela ne démontrerait pas que ce système comprend ce qu'il énonce. En vérité, dans un tel contexte, une victoire de la machine au jeu s'expliquerait par le fait que le processus d'énonciation et de communication dans lequel l'examinateur est engagé détermine ce dernier à accorder au "je" de la machine le même statut qu'au sien propre. Dans le cadre du jeu, la situation exigerait de l'examinateur qu'il prête aux autres protagonistes la consistance existentielle, et c'est là ce qui rendrait possible la victoire de la machine. La consistance même du "je" de l'examinateur s'exprimerait à travers la postulation par celui-ci de la consistance du "je" de l'entité avec laquelle il communique. Sous peine de ne pouvoir s'exprimer lui-même l'examinateur devrait, en somme, considérer la machine comme un "semblable".

Dans une telle perspective, la machine ne l'emporterait-elle pas par défaut ? Sa "réussite" au test ne sanctionnerait-elle pas la défaite de ses adversaires plutôt qu'elle n'attesterait sa propre victoire ? Et, pour autant que le test fasse apparaître quelque chose, ne serait-ce pas à propos de l'énonciation dans le cadre du langage humain plutôt qu'à propos de la machine ? Celle-ci serait victorieuse parce que son adversaire se trompe comme on se trompe dans l'usage d'un outil, à la manière d'un automobiliste qui confondrait la pédale d'accélérateur avec celle de frein. Établir que l'examinateur humain de la machine est conduit à se comporter comme si la machine était un sujet, ne suffit pas à démontrer qu'elle est bien un sujet, que les sons proférés par elle au cours du jeu ont le statut du discours à la première personne qu'émet un locuteur humain.

Cette critique serait certainement sans appel si, comme nous allons le voir, elle ne faisait l'impasse sur un moment décisif de la démarche de Turing : l'hypothèse des "machines qui apprennent".

L'hypothèse des "machines qui apprennent"

Les interprétations que nous venons d'examiner ont en effet en commun de considérer le jeu de l'imitation après l'avoir extrait de la démarche globale de Turing. Dans Les Ordinateurs et l'Intelligence, celui-ci ne soutient pas seulement qu'une "machine universelle" peut faire bonne figure au jeu, il affirme également qu'une machine peut "apprendre". Il établit, en outre, un lien entre les deux thèses : si une machine peut se tirer à son avantage du jeu de l'imitation, alors cette machine est capable d'apprendre. Mieux, la relation s'avère symétrique. L'hypothèse des machines qui apprennent répond manifestement à la question de savoir comment concevoir effectivement une machine pouvant l'emporter au jeu ; à la question : comment construire une machine définie comme la limite d'une série arbitrairement grande de machines réussissant des "tests partiels"? Turing répond : en concevant une "machine-enfant" que l'on éduquera - car c'est bien de cela qu'il s'agit - comme on éduque un petit d'homme. Si une machine peut apprendre, alors elle est en mesure de faire bonne figure au jeu. En vérité, l'intérêt du thème de l'apprentissage n'est-il pas, aux yeux de Turing, qu'apprendre, tel qu'il l'entend ici, implique un "je", une véritable première personne ?

Une fois de plus, c'est dans Intelligent Machinery que Turing expose les principes sur lesquels repose, selon lui, la possibilité d'éduquer une machine. Plusieurs caractéristiques de la machine universelle sont ici sollicitées. En premier lieu, selon la définition donnée en 1937, une telle machine peut être non déterministe : à certains moments de son mouvement, plusieurs états sont possibles26. En second lieu, une machine de Turing universelle est modifiable puisqu'elle peut imiter diverses machines. Il est ainsi possible de concevoir une machine de telle sorte qu'elle reçoive des informations de l'extérieur et qu'elle soit modifiée par ces "interférences". Bien plus, une machine de Turing peut se modifier elle-même : elle stocke en mémoire des tables d'instructions et l'une de ces tables peut comporter des instructions spécifiques visant à modifier les autres tables27.

Dans Intelligent Machinery, Turing décrivait une machine universelle non déterministe et automodifiable en laquelle il voyait le "modèle le plus simple d'un système nerveux ayant un arrangement aléatoire de neurones28" : cette machine était constituée d'un nombre n d'unités semblables, comportant chacune deux entrées et une sortie, laquelle pouvait être connectée à une entrée d'une ou plusieurs autres unités, en fonction d'un nombre tiré au hasard dans l'ensemble des entiers compris entre 1 et n. Une fois mise en marche, une telle machine devait former aléatoirement des combinaisons de "neurones" ; son mouvement était périodique puisque ses états étaient en nombre fini, et, en l'absence "d'interférences", elle devait entrer rapidement dans un cycle répétitif. Or, affirmait Turing, en la soumettant à un système d'interférences conçu selon un modèle simulant des "punitions" et des "récompenses", il serait possible de modifier cette machine de manière à ce qu'elle s'auto-organise. L'interférence subie par elle - le signal qu'elle reçoit - pourrait constituer un analogue des stimuli de douleur ou de plaisir : le signal "douleur" forçant un changement aléatoire de la configuration, et le signal "plaisir" entraînant, au contraire, le renforcement de la configuration associée. Les changements de la machine subiraient ainsi un processus de sélection. Si le système de punitions et de récompenses était établi en fonction de fins déterminées, les configurations non satisfaisantes du point de vue de ces fins devraient tendre statistiquement à disparaître et la machine se rapprocher du modèle visé.

Le cerveau d'un enfant, demande Turing dans Intelligent Machinery, ne peut-il être regardé comme une machine qui, par l'éducation, s'organise ? Cette idée est celle qu'il développera, quelques mois plus tard, dans Les Ordinateurs et l'Intelligence. Plutôt que d'essayer de construire une machine imitant, à sa sortie de l'atelier, en quelque sorte nativement, un cerveau humain adulte, Turing imagine une machine imitant un cerveau humain réduit à sa plus simple expression - du point de vue logique - et devenant adulte par un processus d'éducation. L'hypothèse est, ici, que, si une "machine universelle", non déterministe, automodifiable, et constituant un système logique élémentaire, était dotée d'un dispositif lui permettant de recevoir des signaux de l'extérieur, elle pourrait, à l'aide d'un système de punitions/récompenses tel que celui décrit dans Intelligent Machinery "apprendre", et être "éduquée" comme l'est un petit d'homme. Il ne serait pas nécessaire pour cela que le système logique initial satisfasse les logiciens les plus exigeants29 ; il suffirait que la machine soit capable d'inférence logique. Elle n'aurait pas, non plus, à être dotée d'un "corps", au sens biologique du terme, ou d'un équivalent mécanique de celui-ci, pour autant qu'un moyen de communication réciproque entre elle et ses "maîtres", aussi rustique fût-il, puisse être mis en place30. Turing ajoute que le processus qu'il imagine est comparable à l'évolution biologique, la structure de la machine correspondant au "matériel héréditaire", les changements subis par elle aux mutations et le jugement de l'expérimentateur, c'est-à-dire les choix faits par le "maître", à la sélection naturelle31.

On remarquera que, si les tenants de l'IA classique ont pu voir dans l'argumentation de Turing accompagnant son hypothèse première - la possibilité pour une machine de faire bonne figure au jeu de l'imitation - un énoncé des principes sur lesquels ils fondèrent leur discipline au milieu des années cinquante, ce sont bien plutôt les recherches menées actuellement, après l'abandon des espoirs mis dans l'IA classique, qu'annonce la dernière partie des Ordinateurs et l'Intelligence. Il est permis, en effet, de voir dans la machine qui s'auto-organise, comme dans le recours au modèle épistémologique de l'évolution, une première formulation des principes sur lesquels reposent les "machines connexionistes" ou les "algorithmes génétiques". On notera ainsi que Turing insiste particulièrement, par anticipation, sur l'un des traits qui distinguent la démarche actuelle de celle de l'IA classique, à savoir le fait que la conception d'une machine "intelligente" ne passe pas par une formalisation a priori des réponses attendues d'elle, mais par la réalisation d'un système dynamique, atteignant de lui-même un point d'équilibre, sans que la configuration correspondante ait à être spécifiée de manière formelle, sans qu'il soit besoin "d'avoir une représentation mentale claire de la machine à tout moment du calcul", comme c'est le cas lorsqu'il s'agit d'une machine à calculer classique32.

Or, la prise en compte de cette dimension de la démarche de Turing, généralement oubliée dans les commentaires du jeu de l'imitation, n'est-elle pas susceptible de modifier l'interprétation examinée plus haut, selon laquelle la machine victorieuse au jeu resterait un dispositif purement formel, du type "troisième personne"? La relation décrite par Turing entre la machine "qui apprend" et ses "maîtres" peut-elle être mise sur le même plan que celle établie dans Intelligent Machinery entre un joueur d'échecs et ses deux adversaires ?

À la vérité, Turing tend à montrer dans Les Ordinateurs et l'Intelligence qu'à ses yeux le processus qu'il décrivait un peu plus tôt comme le "modèle le plus simple d'un système nerveux ayant un arrangement aléatoire de neurones" peut être la matrice de la situation de communication permettant l'apprentissage. De sorte que le ressort du jeu de l'imitation ne serait plus la situation de communication formalisée, par là même réduite et particulière, qui accompagne le jeu d'échecs, mais bien la relation humaine de communication en tant que telle. Turing n'entend pas construire une machine capable de jouer aux échecs, puis la faire jouer contre un adversaire humain ; il n'entend pas davantage concevoir une machine "parlante", puis la soumettre, par le biais du langage qu'elle vient d'acquérir, à un apprentissage ; il entend concevoir une machine qui apprenne à parler, une machine d'emblée plongée, comme l'enfant, dans la communication, et qui donne à cette communication, par son "évolution", une forme verbale.

Un processus d'éducation est essentiellement guidé par les fins et non par la connaissance complète de la structure de l'éduqué ; dès lors, tout ne se passe-t-il pas comme si la machine qui apprend résolvait par elle-même des problèmes, puisque la manière dont elle réagit n'a pas à être prévue et ne saurait l'être ? On peut certes relever combien Turing semble sous-estimer les difficultés immenses que présente la réalisation d'une "machine parlante", ou combien trivial est le modèle d'apprentissage qu'il propose, fondé sur le seul système punitions/récompenses33. Cependant, entend-il faire plus qu'établir la compatibilité de son hypothèse avec la définition théorique de la machine universelle ? Peu importe au fond que l'on parvienne ou non à réaliser un jour les "expériences" qu'il imagine, seul compte, dans Les Ordinateurs et l'Intelligence, le fait que la définition autorise la formulation de l'hypothèse. Enfin, Turing ne prétend pas faire de la machine un modèle explicatif du comportement humain ; une "machine-enfant", précise-t-il, ne sera jamais l'exact équivalent d'un enfant humain34, et si elle apprend effectivement à parler, on n'en saura, au fond, pas davantage sur les mécanismes profonds qui auront permis cet apprentissage qu'on n'en sait lorsqu'il s'agit d'un enfant.

Or, on voit bien que, si l'on faisait participer une telle "machine qui apprend" au jeu de l'imitation, celui-ci ne pourrait pas être considéré comme une simple extension de la partie d'échecs à trois joueurs décrite dans Intelligent Machinery, pas plus qu'il ne deviendrait un équivalent du jeu de la chambre chinoise. L'apprentissage de la parole, c'est-à-dire la transformation du processus de communication en échange verbal, n'implique-t-il pas l'émergence de la personne grammaticale, la maîtrise de la déixis, et ceci quelle que soit la nature de l'apprenant et la manière dont l'apprentissage s'effectue ? Une machine qui apprendrait à parler ne pourrait manquer de tenir bientôt un discours à la première personne, et ce serait précisément alors qu'elle pourrait, selon Turing, faire bonne figure au jeu de l'imitation. Dès lors, si une telle machine l'emportait au jeu environ une fois sur trois, comme l'homme qui, dans la situation initiale, cherche à se faire passer pour une femme, s'agirait-il encore d'une victoire par défaut ? Pourrait-on exclure que, entre la "machine qui apprend" et ses interlocuteurs du jeu, ait eu lieu, non pas un simple échange de signaux, comme dans le cas de la chambre chinoise, mais un échange de paroles ? Ce n'est plus seulement du point de vue de ses adversaires qu'il y aurait simulation par la machine de la performance de ceux-ci disant "je", mais également de son propre point de vue, et cette simulation serait bien sa performance ; le "je" énoncé par elle, enfin, aurait le même statut que celui énoncé par ses interlocuteurs.

Se pose alors la question de savoir en quoi le jeu de l'imitation était indispensable à la démonstration de Turing : l'apprentissage ne constitue-t-il pas, à lui seul, un "test" pertinent ? Ne suffisait-il pas à Turing, pour répondre à la question de la "pensée" des machines, d'énoncer l'hypothèse des "machines qui apprennent"? "L'expérience" recherchée ne pouvait-elle être, plutôt que l'épreuve du jeu de l'imitation, celle, tout aussi ambitieuse, de "l'éducation" d'une machine selon un processus pouvant être comparé à celui qui permet d'éduquer un enfant ? Une telle entreprise ne serait guère plus irréelle que celle du jeu même, et certainement pas moins convaincante. L'expérience pourrait, par exemple, consister à tenter d'"éduquer" la machine de telle sorte qu'elle devienne capable de composer un sonnet, puis de le commenter en répondant à des questions posées par un examinateur. Quelle caractéristique présente donc le jeu de l'imitation que ne possède pas l'apprentissage, et qui le rend nécessaire à la démonstration de Turing ?

Supposons que l'on considère "l'expérience" de l'apprentissage comme une épreuve centrée sur l'exercice du sonnet. Les éléments qui constituent la situation seront, outre la machine, l'équipe de ses "éducateurs", et les observateurs de l'expérience. Par hypothèse, la machine parviendra, à un certain stade du processus d'éducation, à composer un sonnet et à le commenter de manière satisfaisante, selon les suggestions faites par Turing dans la première partie des Ordinateurs et l'Intelligence. Les observateurs tireront alors une conclusion, à savoir, dans les termes utilisés par Turing, que la machine "pense". Cependant, et tout particulièrement s'il est vrai que la machine ne doive pas être regardée comme un modèle explicatif du comportement humain, le sentiment d'une étrangeté radicale entre elle et l'homme en sera-t-il atténué ? Dans la conclusion tirée par les observateurs, l'usage du terme "penser" appliqué à la machine ne sera-t-il pas simplement métaphorique, ou de l'ordre d'une commodité de langage permettant de désigner un "quelque chose" qui aura eu lieu lors de l'expérience des "machines qui apprennent", mais dont, en vérité, nous ne savons rien ?

Dans le cas du jeu de l'imitation en tant que tel, la machine et les observateurs demeurent, mais les "éducateurs" disparaissent et sont remplacés par l'examinateur et son partenaire. Par ailleurs, il s'agit, pour l'examinateur, de distinguer ses deux interlocuteurs l'un de l'autre en déclarant, par exemple : "celui-ci est l'homme", l'interlocuteur en question étant la machine dans l'hypothèse d'une victoire de celle-ci. Or, on voit bien que, dans une telle situation, une conclusion est tirée à deux moments différents : d'une part, comme dans le cas de l'apprentissage, lorsque les observateurs de l'expérience, se fiant ici au résultat du jeu - une machine a trompé un examinateur humain - concluent que la machine "pense" (que cette conclusion soit légitime ou non) ; d'autre part, lorsque l'examinateur déclare, au cours du jeu, que la machine est un homme. Ce jugement émis par l'examinateur - jugement qui consacre sa défaite - est précisément ce qui déterminera la conclusion des observateurs. Les deux déclarations, celle de l'examinateur et celle des observateurs du jeu, ne se situent pas sur le même plan. La conclusion des observateurs, que ce soit dans le cas de l'apprentissage ou dans celui du jeu, est tirée à partir d'un test, dont le résultat est considéré par eux comme un critère. Le jugement formulé au cours du jeu par l'examinateur, ne découle pas, quant à lui, d'un test de ce type ; il est énoncé par l'un des protagonistes du jeu et s'inscrit dans la dynamique même de celui-ci. En outre, il apparaît que le jeu est construit de telle sorte qu'il ne s'agisse pas, pour l'examinateur, de reconnaître un homme, et, par là, de constater qu'il y a "de la pensée", mais, à l'inverse, de reconnaître éventuellement de la pensée, et, par là, de croire à la présence d'un homme. L'examinateur du jeu s'appuie, plutôt que sur un "critère", sur des "signes", en l'occurrence la communication qui s'établit entre lui et son interlocuteur mécanique, la capacité de la machine à avoir avec lui un échange de paroles, signes qu'il interprète comme ceux de la pensée. La conclusion à laquelle l'expérience est censée aboutir - l'affirmation, par les observateurs, que la machine "pense" - est en somme entraînée par la reconnaissance de la pensée, à travers les signes de celle-ci, par l'un des joueurs humains du jeu de l'imitation, comme si le critère de la pensée était le fait qu'un homme reconnaisse, dans la dynamique d'une situation de communication, des signes de la pensée. Bref, Turing imagine avec le jeu de l'imitation une situation dans laquelle le "quelque chose" manifesté par l'apprentissage est directement appréhendé sous la forme de ce qu'est, pour les observateurs humains, la pensée au sens humain du terme : nul homme pris dans un échange de paroles ne peut douter qu'il pense, ni que celui avec lequel il a un échange de paroles pense, et nul observateur d'un tel échange ne peut lui-même douter que l'échange auquel il assiste implique le partage de la pensée par les interlocuteurs. Utiliser le terme "penser", ici, ne sera plus métaphorique dans la mesure où le critère à partir duquel les observateurs tireront leur conclusion sera que l'examinateur humain du jeu se comporte au cours de celui-ci à l'égard de la machine comme il se comporte à l'égard d'un individu humain, dont il postule qu'il pense.

Or, nous sommes ainsi ramenés à la problématique qui accompagne la réflexion philosophique classique sur l'idée de "pensée". Il y a du "sens", pour l'examinateur, dans ce que "dit" la machine, et le signe premier qu'il reconnaît est la faculté même de signifier. Cette faculté est ce dont il ne doute ni pour lui-même, ni pour ceux avec qui il communique, elle est ce dont il ne peut douter qu'il le partage avec ses interlocuteurs. De sorte que ce que la reconnaissance du signe de la pensée par l'examinateur met en scène, c'est, en définitive, au-delà de l'examinateur lui-même, la pensée en tant que principe d'intelligibilité : seule la pensée peut reconnaître la pensée. La pensée ne se déduit pas ; elle est toujours déjà-là.

C'est donc bien la question philosophique de la "pensée" des machines que pose Turing dans Les Ordinateurs et l'Intelligence, et non pas une question de psychologie, comme s'il s'agissait, par exemple, de vérifier que la machine peut avoir un équivalent de ce que l'on appelle chez l'homme des "états mentaux". L'originalité de la démarche de Turing, ici, tient certes à ce qu'il traite cette problématique par le biais d'une "expérience", et non par une analyse théorique ; mais elle tient aussi au fait qu'en attribuant à la machine, dans la situation du jeu, le même statut qu'à l'être humain, il prend le contre-pied de la position dont, historiquement, la problématique classique s'est principalement accompagnée, à savoir l'affirmation que la machine se définit par son extériorité même vis-à-vis de la pensée, qu'elle se définit comme non-pensée.

La machine fait en effet bonne figure au jeu de l'imitation car son examinateur est conduit à postuler qu'elle est un sujet ; cette postulation est inscrite dans l'acte de parole de l'examinateur. Mais il y a plus : parce qu'elle apprend et peut être éduquée, la machine se comporte effectivement comme un sujet, ou, plus exactement, comme ce qu'un locuteur humain saisit sous la catégorie de sujet ; il y a un "je" de la machine au même titre qu'il y a un "je" de l'examinateur. Certes, ce dernier se trompe quand il énonce : "A est un homme" ; cependant, disant cela, il énonce : "A dit "je" comme moi, c'est pourquoi il est un homme" ; or, sur ce "je" lui-même, il ne se trompe pas : c'est précisément parce qu'il le reconnaît comme signe de la pensée qu'il se trompe sur le statut de la machine.

Nous l'avons vu : on ne peut rendre compte de ce qui se passe au cours du jeu - le discours à la première personne de l'interlocuteur mécanique de l'examinateur - par la dimension purement formelle de la notion de machine. Si la définition formelle de la machine comme "machine universelle" autorise la formulation des hypothèses de sa victoire au jeu et de sa capacité à apprendre, elle ne peut, en tant que telle, rendre compte des implications de ces hypothèses puisqu'en passant du jeu entre joueurs d'échecs au jeu de l'imitation proprement dit, on passe à autre chose que ce que décrit le seul calcul, à autre chose, par exemple, que la "machine" de la chambre chinoise de Searle.

On ne peut en rendre compte davantage dans le cadre de la conception classique de la "première personne", à savoir la notion philosophique de sujet. Certes, c'est bien ce qui est saisi par la catégorie classique de sujet que l'examinateur met en jeu lors de sa défaite face à la machine : c'est parce qu'il voit en son interlocuteur un semblable - en d'autres termes, parce qu'il postule un cogito de son interlocuteur - qu'il se trompe. Toutefois, les hypothèses de Turing excluent ce sur quoi se fonde la notion classique de sujet, à savoir l'appartenance de l'homme à un autre ordre que celui de la machine.

En vérité, le seul élément dont nous disposions pour rendre compte de "l'expérience" de Turing, est cette expérience même, c'est-à-dire la situation d'"échange de paroles". Le "quelque chose" que nous poursuivons ici n'est pas séparable de cette situation. Si nous persistions à le nommer à l'aide de la catégorie de sujet, nous devrions préciser que ce n'est pas le sujet qui est premier par rapport à l'échange de paroles, mais celui-ci qui est premier par rapport au sujet. L'examinateur du jeu postule un sujet chez son interlocuteur mécanique, et cet acte de postulation est la condition de possibilité de son propre acte de parole au cours du jeu. Il postule un principe à travers l'idée de sujet : le "fondement" de l'échange qu'il a avec ses interlocuteurs ; or, c'est l'échange même qui détermine cette postulation. Le fondement, ici, est second par rapport à l'acte d'énonciation. Dès lors, peut-on encore parler de "fondement"? Telle est la portée véritable de la réflexion de Turing. Elle débouche sur une philosophie de l'énonciation dont tout l'enjeu consiste à saisir l'acte de langage - la parole - au plus près de son émergence, dans son affirmation constitutive. Au prix de quels réaménagements une telle philosophie peut-elle être elle-même énoncée, c'est là ce qu'il resterait à établir.


(1) Turing Alan Mathison, "Computing Machinery and Intelligence", Mind, octobre 1950, n° 59, p. 433-460. In Collected Works of A. M. Turing, Londres, North-Holland, 1993, vol. 3, Mechanical Intelligence. Nous renvoyons à la traduction française de Patrice Blanchard. In Girard Jean-Yves, La Machine de Turing, Paris, Seuil, 1995.

(2) Turing A. M., Intelligent Machinery in Collected Works of A. M. Turing, Mechanical Intelligence, op. cit.

(3) "On Computable Numbers, with an Application to the Entscheidungsproblems", Proceedings of the London Mathematical Society, 1937, vol. 42. In Collected Works of A. M. Turing, op. cit., vol. 2, Mathematical Logic. Publié en français in Girard Jean-Yves, La Machine de Turing, trad. Julien Basch, op. cit.

(4) Voir Hodges Andrew, Alan Turing ou l'Énigme de l'intelligence, trad. Nathalie Zimmermann, Paris, Payot, 1988, p. 186 et suiv.

(5) "Il n'est pas difficile de concevoir une "machine de papier" qui ne jouera pas trop mal aux échecs. Prenons maintenant trois hommes comme sujets de l'expérience, A, B, C. A et C sont des joueurs d'échecs assez limités, B est l'opérateur qui fait fonctionner la machine de papier [...] une partie est jouée entre C et, soit A, soit la machine de papier. C pourrait trouver extrêmement difficile de dire contre lequel il joue." Intelligent Machinery, op. cit., p.127. C'est nous qui traduisons.

(6) "Je crois que dans une cinquantaine d'années il sera possible de programmer des ordinateurs [...] pour les faire si bien jouer au jeu de l'imitation qu'un interrogateur moyen n'aura pas plus de 70 % de chances de procéder à l'identification exacte après cinq minutes d'interrogation." Les Ordinateurs et l'Intelligencee, op. cit., p. 148.

(7) Intelligent Machinery, op. cit., p. 127. C'est nous qui traduisons.

(8) Descartes R., OEuvres philosophiques, Paris, Garnier, 1988, coll. "Classiques Garnier", tome I, Discours de la méthode, p. 628 et suiv.

(9) Ibid., p. 629.

(10) Ce n'est que pour un jugement qu'il y a du vrai et du faux ; l'erreur découle d'un acte de volonté appliqué à ce qui est mal conçu, c'est-à-dire à ce qui n'est pas conçu clairement et distinctement. Le concevoir et le vouloir, en revanche, n'ont pas de sens pour l'automate, qui participe de la seule substance étendue : un moulin à vent ne se trompe jamais, pas même lorsque son fonctionnement est défectueux.

(11) L'expression est de Gérard Moignet, Systématique de la langue française, Paris, Klincksieck, 1981.

(12) À la condition que les questions soient de "bonnes" questions, appelant des réponses purement descriptives.

(13) Ce point, souvent passé sous silence, a été souligné par plusieurs auteurs. Voir, par exemple, Naur Peter, "Thinking and Turing's Test", Nordisk Tidskrift for Informations Behandling, 1986, vol. 26, n° 2 ; Lassègue Jean, "Le test de Turing et l'énigme de la différence des sexes", Les Contenants de pensée, Anzieu D., Haag G. (éd.), Paris, Dunod, 1993 ; Keith William, "Artificial Intelligences, Feminist and Otherwise", Social Epistemology, 1994, vol. 8, n° 4 ; Genova Judith, "Turing's Sexual Guessing Game", Social Epistemology, ibid. ; Vernant Denis, "L'intelligence de la machine et sa capacité dialogique", Penser l'esprit ; des sciences de la cognition à une philosophie cognitive, Rialle V., Fisette D. (éd.), Grenoble, PUG, 1996.

(14) Les Ordinateurs et l'Intelligence, op. cit., p. 138.

(15) Ainsi, P. Blanchard traduit-il dans l'expression "answers that would naturally be given by a man", a man par "l'homme", plutôt que par "un homme". Girard Jean-Yves, La Machine de Turing, op. cit., p. 138.

(16) Aussi bien l'échange, au cours du jeu, peut-il aller, par hypothèse, de la simple conversation à la discussion, et porter sur un sujet quelconque.

(17) Sir Geoffrey Jefferson était professeur de neurochirurgie à l'université de Manchester. Turing participa avec lui, en janvier 1952, à une émission de la BBC sur la question de la "pensée" des machines. Voir le BBC Written Archives Centre.

(18) Les Ordinateurs et l'Intelligence, op. cit., p. 153.

(19) Ibid., p. 155.

(20) En témoigne la célèbre "machine-psychiatre" mise au point par J. Weizenbaum, un programme classique capable de simuler le comportement d'un psychiatre au cours de l'interrogation d'un patient, en réagissant de manière déterminée à un certain nombre de mots-clés. On raconte que la secrétaire de Weizenbaum demanda un jour à celui-ci de sortir de la pièce pour pouvoir parler à sa machine en toute intimité. Voir Weizenbaum J., Computer Power and Human Reason, New York, W. H. Freeman and Co, 1976.

(21) L'argument de J. Searle est exposé dans plusieurs textes : "L'esprit est-il un programme d'ordinateur ?", Pour la science, mars 1990, n° 149 ; Du cerveau au savoir, Paris, Hermann, 1985 ; "Esprits, cerveaux et programmes" in Hofstadter D., Dennett D. (éd.), Vues de l'esprit, Paris, InterEditions, 1987.

(22) "[...] dans une telle situation je vous défie d'apprendre un mot de chinois..." Du cerveau au savoir, op. cit., p. 43.

(23) Putnam Hillary, Raison, vérité et histoire, Paris, Minuit, 1984.

(24) En passant de la première version du jeu - où A, B et C sont tous trois des êtres humains - à la seconde - où une machine prend la place de l'adversaire de l'examinateur - Turing renomme les protagonistes ; désormais A est l'examinateur, B son partenaire et C la machine. Pour la clarté de l'exposé, ici, nous continuerons à nommer la machine A, l'examinateur C, et son partenaire humain B.

(25) Hintikka Jaakko, "Cogito ergo sum : inférence ou performance ?", Philosophical Review, trad. P. Le Quellec-Wolff, 1962, LXXI.

(26) Turing parle d'une "machine à choix" ; voir Théorie des nombres calculables in La Machine de Turing, op. cit., p. 52.

(27) Une machine de Turing peut comporter deux sortes d'instructions : des instructions dites par Turing "normales", et des instructions d'automodification : "Nous pouvons, si nous voulons, diviser les opérations de la machine en deux classes, les opérations normales et celles d'automodification." Intelligent Machinery, op. cit., p. 116. C'est nous qui traduisons.

(28) Ibid., p. 115.

(29) Turing précise, en particulier, qu'il n'est pas nécessaire que le système logique initial soit prémuni contre les paradoxes logiques par une hiérarchie des types.

(30) Turing renvoie au cas d'Helen Keller : "L'exemple de Mlle Helen Keller montre que l'éducation est possible dès lors que la communication se produit dans les deux sens entre le maître et l'élève, quel que soit le moyen employé." Les Ordinateurs et l'Intelligence, op. cit., p. 170. Helen Keller était cette jeune Américaine devenue très jeune sourde, aveugle et muette et qui, confiée à Anne Mansfield Sullivan, apprit, à l'aide du seul sens du toucher, le langage des sourds-muets, puis l'écriture et enfin la parole, avant de faire des études supérieures et de consacrer un livre à son expérience.

(31) Ibid., p. 169.

(32) Les Ordinateurs et l'Intelligence, op. cit., p. 173. "La plupart des programmes que nous pourrons introduire dans la machine auront pour résultat qu'elle fera quelque chose que nous ne pourrons pas du tout comprendre...", ajoute Turing.

(33) D. Andler évoque ainsi "la désinvolture de Turing" à propos de l'apprentissage du langage par la machine, désinvolture qui "semble aujourd'hui incroyable : rien n'indique que [Turing] entrevoie la difficulté pour la machine (ou son programmateur) de passer d'une "pensée" ou d'une "intention" communicative ou informative à une expression linguistique correcte et pragmatiquement adéquate". "Turing : pensée du calcul, calcul de la pensée" in Nef F., Vernant D. (éd.), Le Formalisme en question : le tournant des années 30, Paris, Vrin, 1998.

(34) "Il ne sera pas possible d'appliquer exactement les mêmes procédés d'enseignement à la machine et à un enfant normal. Elle n'aura par exemple pas de jambes, et on ne pourra pas lui demander d'aller remplir le seau à charbon. Il est possible qu'elle n'ait pas d'yeux." Les Ordinateurs et I'intelligence, op. cit., p. 170.

Cahiers philosophiques, n°102, page 20 (06/2005)

Cahiers philosophiques - Alan Turing et le jeu de l'imitation