texte original de Turing section
7
traduction
Patrice Blanchard
6. Vues contradictoires sur la question principale
Nous pouvons maintenant considérer que nous avons déblayé le terrain, et
que nous sommes prêts à entrer dans le débat sur notre question «Les machines
peuvent-elles penser? » et sa variante citée à la fin du paragraphe
précédent. Nous ne pouvons pas complètement abandonner la forme originale
du problème, car les opinions différeront en ce qui concerne la validité de
la substitution, et nous devons au moins être attentifs à ce qui peut être
dit sur ce point. Cela simplifiera les choses pour le lecteur si j'expose
d'abord mes propres vues sur le sujet. Examinons, en premier lieu, la
question sous sa forme la plus précise. Je crois que dans une cinquantaine
d'années il sera possible de programmer des ordinateurs, avec une capacité de
mémoire d'à peu près 109, pour les faire si bien jouer au jeu de l'imitation
qu'un interrogateur moyen n'aura pas plus de 70 % de chances de procéder à
l'identification exacte après cinq minutes d'interrogation. Je crois que la
question originale «Les machines peuvent- elles penser? » a trop peu de sens
pour mériter une discussion. Néanmoins, je crois qu'à la
fin du siècle l'usage, les mots et
l'éducation de l'opinion générale auront tant changé quel'on pourra parler de machines pensantes sans
s'attendre à être contredit. Je
crois de plus qu'il ne sert à rien de dissimuler
ces croyances. L'idée populaire
selon laquelle les savants avancent inexorablement d'un fait bien établi à
un autre, sans être influencés par des
hypothèses non vérifiées, est absolument fausse. Pourvu que nous
sachions clairement quels sont les faits prouvés et quelles sont les
hypothèses, aucun mal ne peut en résulter. Les
hypothèses sont de grande importance puisqu'elles suggèrent d'utiles
voies de recherches. Je vais maintenant envisager les opinions opposées à la
mienne.
1. L'objection théologique Penser est
une fonction de l'âme immortelle de l'homme. Dieu a donné une âme immortelle
à tout homme ou femme, mais à aucun animal ni à aucune machine. En
conséquence, ni l'animal ni la machine ne peuvent pensera. Je ne peux
accepter en rien cette objection, mais j'essaierai d'y répondre en termes
théologiques. Je trouverais l'argument plus convaincant si les animaux
étaient classés avec les hommes, car il y a une plus grande différence, à mon
avis, entre l'animé et l'inanimé qu'il n'yen a entre l'homme et les autres
animaux. Le caractère arbitraire du point de vue ortho a. TI est possible
que cette vue des choses soit hérétique. Saint Thomas d'Aquin (Somme
théologique; cité par Bertrand Russell, A History o/Western Philosophy, New
York, Simon et Schuster, 1945, p. 458) dit que Dieu ne peut pas faire qu'un
homme n'ait pas d'âme. Mais il se peut que cela ne soit pas une restriction
réelle de Ses pouvoirs mais seulement un résultat du fait que l'âme humaine
est immortelle, et donc indestructible. doxe devient plus clair si nous
considérons comment il pourrait apparaître à un membre de quelque autre
communauté religieuse. Comment les chrétiens considèrent-ils l'opinion musulmane:
«Les femmes n'ont pas d'âme»? Mais laissons cela de côté, et revenons à la
discussion principale. Il m' apparaît que l'argument énoncé ci-dessus
implique une sérieuse restriction de la toute-puissance de Dieu. Il est admis
qu'il y a certaines choses qu'Il ne peut faire, comme de faire que 1 soit
égal à 2, mais ne devrions-nous pas croire qu'Il a la liberté de donner une
âme à un éléphant si cela lui semble convenable? Nous pourrions nous
attendre à ce qu'Il exerce seulement ce pouvoir en conjonction avec une
mutation qui fournirait à l'éléphant un cerveau convenablement amélioré
pour s'occuper des besoins de son âme. On peut imaginer unargument
similaire pour le cas des machines, qui peut sembler différent parce qu'il
est plus difficile à «avaler ». Mais cela signifie seulement que nous
envisageons comme moins probable l'éventualité qu'Il considère que les
circonstances sont favorables pour qu'Il leur donne une âme. On discutera les
circonstances en question dans la suite de ce texte. En essayant de
construire de telles machines, nous ne devrions pas plus usurper
irrévérencieusement Ses pouvoirs de créer des âmes que nous ne le faisons en
engendrant des enfants: nous sommes plutôt, dans les deux cas, des instruments de Sa volonté, fournissant des demeures aux âmes qu'Il crée. Cependant,
cela est pure spéculation. Les arguments théologiques m'impressionnent peu,
quel que soit l'objet qu'ils défendent. De tels arguments se sont souvent
montrés peu satisfaisants dans le passé. Au temps de Galilée, on disait que
les textes «Et le soleil s'arrêta [ ... ] et ne se hâta pas de se cacher
pendant toute une journée» (Jos X,13) et «Il posa les fondations de la Terre
pour qu'elle ne bouge à aucun moment» (Ps CV,5) étaient une réfutation appropriée
de la théorie copernicienne. Avec nos connaissances actuelles, un tel
argument paraît futile. Quand ces connaissances n'étaient pas établies, il
faisait une impression tout à fait différente.
2.
L'objection de l'autruche. « Le
fait que les machines pensent aurait des conséquences trop terribles. Il vaut
mieux croire et espérer qu'elles ne peuvent pas le faire. » L'argument est
rarement exprimé aussi ouvertement que ci-dessus. Mais il affecte la plupart
de ceux d'entre nous qui réfléchissent à ce sujet. Nous aimerions croire que
l'homme est de quelque subtile façon supérieur au reste de la Création. Il
serait encore mieux de pouvoir montrer qu'il est nécessairement supérieur,
car alors il n'y aurait aucun risque qu'il perde sa position dominante. La popularité
de l'argument théologique est clairement liée à ce sentiment. Il sera
probablement plus fort parmi les intellectuels, puisqu'ils valorisent plus
que les autres la capacité de penser comme base de leur croyance en la
supériorité de l'homme. Je ne pense pas que cet argument soit suffisamment
substantiel pour rendre nécessaire une réfutation. La consolation serait plus
appropriée: peut-être devrait-on la chercher dans la métempsycose.
3. L'objection mathématique Un certain
nombre de résultats de la logique mathématique peuvent être utilisés pour
montrer qu'il Y a des limites aux pouvoirs des machines à états discrets.
Le plus connu de ces résultats l'est sous le nom de théorème de Godet et
montre que dans tout système logique suffisamment puissant on peut formuler
des affirmations qui ne peuvent ni être prouvées ni être réfutées à
l'intérieur du système, à moins que le système lui-même ne soit inconsistant.
Il existe d'autres résultats, similaires à certains égards, dus à Church,
Kleene, Rosser et Turing. Le dernier de ces résultats est le plus pratique à
examiner, puisqu'il se réfère directement aux machines, alors que les
autres ne peuvent être utilisés que comme des arguments comparativement
indirects: par exemple, si l'on utilise le théorème de Gëdel, il nous faut en
plus nous donner des moyens de décrire les systèmes logiques en termes de
machines, et les machines en termes de systèmes logiques. Le résultat en
question se réfère à un type de machine qui est essentiellement un ordinateur
à capacité infinie. Ce résultat établit qu'il y a certaines choses qu'une
telle machine ne peut pas faire. Si elle est programmée pour répondre à des
questions, comme dans le jeu de l'imitation, il y aura certaines questions
auxquelles soit elle donnera une réponse fausse, soit elle ne donnera pas de
réponse du tout, quel que soit le temps qui lui sera imparti pour répondre.
Il se peut bien sûr qu'il y ait beaucoup de questions de ce genre, et des
questions auxquelles une machine donnée ne saura pas répondre obtiendront
peut-être une réponse satisfaisante de la part d'une autre. Nous supposons
bien sûr pour le moment des questions appelant une réponse en « oui» ou en «
non », plutôt que des questions telles que: « Que pensez-vous de Picasso? »
Nous savons que les machines doivent échouer dans des questions du type: «
Considérez la machine spécifiée comme suit ... Cette machine répondra-t-elle
"oui" à n'importe quelle question? » Les points de suspension
doivent être remplacés par la description d'une machine de forme standard,
qui pourrait ressembler à celle qui figure dans la section 5. Quand la
machine décrite présente une relation évidente et comparativement simple avec
la machine que l'on interroge, on peut montrer soit que la réponse est fausse,
soit qu'elle n' apparaîtra jamais. Voici le résultat mathématique: on en
déduit que cela prouve une incapacité des machines, qui ne se retrouve pas
dans l'esprit humain. Pour répondre brièvement à cet argument, il faut dire
que, bien qu'il soit établi qu'il y a des limites à la puissance de n'importe
quelle machine, il a seulement été affirmé, sans aucune sorte de preuve, que
de telles limites ne s'appliquaient pas à l'esprit humain. Mais je ne pense
pas que nous puissions rejeter ce point de vue si légèrement. Chaque fois que
l'on pose à l'une de ces machines la question cruciale appropriée et qu'elle
donne une réponse définie, nous savons que cette réponse est forcément
fausse, ce qui nous procure un certain sentiment de supériorité. Ce sentiment
est-il illusoire? Il est sans aucun doute tout à fait sincère, mais je ne
pense pas qu'il faille y attacher trop d'importance. Nous donnons nous-mêmes
trop souvent des réponses fausses à des questions pour que nous ayons le
droit de nous réjouir d'une telle preuve de la faillibilité des machines.
Nous ne pouvons de plus, en de telles occasions, ressentir notre supériorité
que par rapport à la machine particulière sur laquelle nous avons remporté un
triomphe insignifiant. Il est exclu de triompher simultanément de toutes les
machines. En bref, il se peut qu'il y ait des hommes plus intelligents que
n'importe quelle machine donnée, mais il se peut aussi qu'il y ait d'autres
machines encore plus intelligentes, et ainsi de suite. Ceux qui tiennent à
l'argument mathématique accepteraient pour la plupart volontiers, à mon
avis, le jeu de l'imitation comme base de discussion. Ceux qui croient aux
deux objections précédentes ne s'intéresseraient probablement à aucun
critère.
4. L'argument issu de la conscience
Cet argument est très bien exprimé dans le discours Lister de 1949 du
professeur Jefferson, dont j'extrais cette citation: «Nous ne pourrons pas
accepter l'idée que la machine égale le cerveau jusqu'à ce qu'une machine
puisse écrire un sonnet ou composer un concerto à partir de pensées ou
d'émotions ressenties et non pas en choisissant des symboles au hasard, et
non seulement l'écrire, mais savoir qu'elle l'a écrit. Aucun mécanisme ne
pourrait ressentir (et non pas simplement produire artificiellement un signal,
ce qui relève d'un artifice facile) du plaisir quand il réussit, du chagrin
quand ses lampes grillent; il ne serait pas ému par la flatterie, malheureux
de ses erreurs, charmé par le sexe, et ne se mettrait pas en colère ou ne se
sentirait pas déprimé quand il ne peut pas obtenir ce qu'il veut. » Cet
argument revient à nier la validité de notre test. Selon ce point de vue
extrême, la seule manière dont on pourrait s'assurer qu'une machine pense
serait d'être la machine et de ressentir qu'on pense. On pourrait alors
décrire ces sentiments au monde, mais bien sûr personne n'aurait de raisons
d'en tenir compte. De même, suivant ce point de vue, la seule manière de
savoir qu'un homme pense est d'être cet homme lui-même. C'est en fait le
point de vue solipsiste. Il se peut que ce soit la position la plus logique à
tenir, mais cela rend difficile la communication des idées. A est enclin à
croire que « A pense, mais B ne pense pas»; de son côté, B croit que « B
pense, mais pas A ». Au lieu de discuter continuellement ce point, on utilise
habituellement la convention polie stipulant que tout le monde pense. Je suis
sûr que le professeur Jefferson ne souhaite pas adopter ce point de vue
extrême et solipsiste. Il accepterait probablement volontiers le jeu de
l'imitation comme test. Le jeu (en omettant le joueur B) est fréquemment
utilisé en pratique sous le nom d'examen oral pour découvrir si quelqu'un
comprend véritablement quelque chose ou a « appris comme un perroquet ».
Imaginons une partie d'un tel examen: L'examinateur: Dans le premier vers de
votre sonnet qui dit: « Te comparerais-je à un jour d'été », est-ce que« un
jour de printemps» serait aussi bien ou mieux? Le témoin: Cela ne rimerait
pas. L'examinateur: Et «un jour d'hiver»? Cela rimerait très bien? ... 2. En
anglais. summer (été) et winter (hiver) ont les mêmes caractéristiques prosodiques. Alors que celles de spring (printemps) sont différentes
(NdT). Le
témoin: Oui, mais personne n'a envie d'être comparé à un jour d'hiver.
L'examinateur: Diriez-vous que M. Pickwick vous fait penser à Noël? Le
témoin: D'une certaine manière, oui. L'examinateur: Et pourtant Noël est un
jour d'hiver, et je ne pense pas que la comparaison ennuierait M. Pickwick.
Le témoin: Je ne pense pas que vous soyez sérieux. Par « un jour d'hiver »,
on veut dire un jour d'hiver typique, plutôt qu'une journée spéciale comme
Noël. Et ainsi de suite. Que dirait le professeur Jefferson si la machine à
écrire des sonnets était capable de répondre ainsi à un examen? Je ne sais pas
s'il considérerait que la machine «produit simplement et artificiellement
un signal» avec ces réponses, mais si les réponses étaient aussi
satisfaisantes et fermes que dans le passage ci-dessus, je ne pense pas qu
'il la décrirait comme un « artifice facile ». Cette expression a, je pense,
pour but de recouvrir des dispositifs comme l'inclusion dans la machine de
l'enregistrement de quelqu'un lisant un sonnet, qu'un système approprié
mettrait en marche de temps en temps. Donc, en bref, je pense que l'on
pourrait persuader la plupart de ceux qui soutiennent l'argument issu de la
conscience de l'abandonner plutôt que d'être contraints d'adopter la position
solipsiste. Ils accepteront alors probablement volontiers notre test. Je
ne voudrais pas donner l'impression de penser qu'il n'y a pas de mystère
relatif à la conscience. Il y a, par exemple, une sorte de paradoxe lié à
toute tentative faite pour la localiser. Mais je ne crois pas que ces
mystères doivent nécessairement être résolus avant que nous puissions
répondre à la question qui nous intéresse ici.
5. Les arguments provenant de diverses
incapacités Ces arguments prennent la forme suivante: «Je vous concède
que vous pouvez fabriquer des machines qui fassent tout ce que vous avez
mentionné, mais vous ne serez jamais capable d'en fabriquer une qui fasse X.
» On énumère à ce moment-là différents traits X. J'en présente une sélection:
Qu'elle soit gentille, débrouillarde, belle, amicale (p. 156- 157), qu'elle
ait de l'initiative, le sens de l'humour, qu'elle fasse la différence entre
le bien et le mal, qu'elle fasse des erreurs (p. 157-158), qu'elle tombe
amoureuse, qu'elle aime les fraises à la crème (p. 157), qu'elle rende
quelqu'un amoureux d'elle, qu'elle apprenne à partir de son expérience (p.
166 sq.), qu'elle utilise les mots correctement, qu'elle soit l'objet de ses
propres pensées (p. 159). (Certaines de ces incapacités sont examinées plus
en détail, comme l'indiquent les numéros de pages.) Aucune preuve n'est
habituellement fournie pour soutenir ces affirmations. Je crois qu'elles sont
surtout fondées sur le principe de l'induction scientifique. Un homme a vu
des milliers de machines dans sa vie. De ce qu'il en voit, il tire un
certain nombre de conclusions générales: elles sont laides; chacune est
conçue dans un but bien précis; quand on leur demande un travail légèrement
différent, elles sont incapables de le réaliser; la variété de comportements
de n'importe laquelle d'entre elles est très restreinte, etc. Il en conclut
naturellement que ce sont des propriétés nécessaires des machines en
général. Beaucoup de ces limites sont associées à la très faible capacité de
mémoire de la plupart des machines. (Je suppose que l'idée de capacité de
mémoire est étendue de manière à recouvrir des machines qui ne sont pas des
machines à états discrets. La définition exacte n'a pas d'importance, puisque
dans la présente discussion on ne revendique aucune exactitude mathématique.)
Il Y a quelques années, alors qu'on avait peu entendu parler des ordinateurs,
il était possible de faire disparaître une grande partie de l'incrédulité à
leur égard en mentionnant leurs propriétés sans décrire leur réalisation.
Cela était probablement dû à une application similaire du principe de
l'induction scientifique. Les applications de ce principe sont bien sûr en
grande partie inconscientes. Quand un enfant qui s'est brûlé craint le feu et
montre qu'il le craint en l'évitant, je peux dire qu'il applique
l'induction scientifique. (Je pourrais, bien sûr, aussi décrire son
comportement de bien d'autres manières.) Les travaux et les coutumes de
l'humanité ne semblent pas être un matériau très adapté à l'application de
l'induction scientifique. On doit étudier une grande partie d'espace-temps si
l'on veut obtenir des résultats fiables. Autrement, nous conclurions (comme
le font la plupart des enfants français) que tout le monde parle français et
qu'il est idiot d'apprendre l'anglais. . Il y a, cependant, des
remarques particulières à faire concernant beaucoup des incapacités
mentionnées. Le lecteur a pu être frappé par la futilité de l'incapacité à
aimer les fraises à la crème. Il est possible qu'on puisse faire aimer ce
plat délicieux à une machine, mais toute tentative pour le faire serait
idiote. Ce qui importe, en ce qui concerne cette incapacité, est qu'elle
contribue à d'autres incapacités: par exemple, on imagine mal comment un
homme et une machine pourraient entretenir des liens d'amitié, comme ceux qui
rapprochent des hommes blancs ou noirs. Le fait d'affirmer que «la machine ne
peut pas faire d'erreurs» semble curieux. On est tenté de répondre: «Est-
elle pire pour cela? » Mais adoptons une attitude plus sympathique et
essayons de voir ce que cela veut dire. Je pense que cette critique peut être
expliquée dans les termes du jeu de l'imitation. On affirme que
l'interrogateur pourrait distinguer la machine de l 'homme, simplement en
lui posant un certain nombre de problèmes d'arithmétique. La machine serait
démasquée à cause de son exactitude implacable. La réplique est simple. La
machine (programmée pour jouer le jeu) n'essaierait pas de donner les
réponses justes aux problèmes d'arithmétique. Elle introduirait
délibérément des erreurs d'une manière calculée pour dérouter
l'interrogateur. Une erreur mécanique se révélerait probablement à cause
d'une décision inopportune à propos du type d'erreur à commettre en
arithmétique. Même cette interprétation de la critique n'est pas
suffisamment sympathique. Mais la place nous manque pour y entrer plus avant.
Il me semble que cette critique vient de la confusion entre deux types'
d'erreurs: nous pouvons les appeler «erreurs de fonctionnement» et «erreurs
de conclusion ». Les erreurs de fonctionnement sont dues à quelque faute
mécanique ou électrique qui fait que la machine ne se comporte pas comme elle
le devrait. Dans les discussions philosophiques, on préfère ignorer la
possibilité de telles erreurs; on discute donc de «machines abstraites ». Ces
machines abstraites sont des fictions mathématiques plutôt que des objets
physiques. Elles sont par définition incapables d'erreurs de fonctionnement.
En ce sens, nous pouvons effectivement dire que «les machines ne peuvent
jamais faire d'erreurs ». Les erreurs de conclusion apparaissent seulement
quand une signification est attribuée aux signaux de sortie de la machine. La
machine peut, par exemple, imprimer des équations mathématiques, ou des
phrases en anglais. Quand une proposition fausse se trouve imprimée, nous
disons que la machine a commis une erreur de conclusion. Il n'y a évidemment
absolument aucune raison de dire qu'une machine ne peut pas faire ce genre
d'erreur. Elle pourrait ne rien faire d'autre qu'imprimer sans cesse «0 = 1
». Pour prendre un exemple moins pervers, elle pourrait disposer d'une méthode
pour tirer des conclusions par induction scientifique. Nous pouvons nous
attendre à ce qu'une telle méthode conduise occasionnellement à des résultats
erronés. Bien entendu, on peut répondre à l'affirmation qu'une machine ne
saurait être l'objet de ses propres pensées que si l'on parvient à montrer
que la machine a des pensées, et qu'elles ont des objets. Néanmoins, 1'«
objet des opérations d'une machine» semble bien avoir une signification, du
moins pour les gens qui travaillent avec elle. Si, par exemple, la machine
essayait de trouver une solution à l'équation x2 - 40x - Il = 0, on serait
tenté de décrire l'équation comme une partie de l'objet de la machine à ce
moment-là. Dans ce sens, une machine peut sans aucun doute être son propre
objet. Elle peut être utilisée pour aider à la confection de ses propres
programmes ou pour prévoir les effets de modifications de sa propre
structure. En observant les résultats de son propre comportement, elle peut
modifier ses propres programmes pour atteindre un but de manière plus
efficace. Il s'agit là de possibilités du futur proche, plutôt que de rêves
utopiques. Souligner le fait qu'une machine ne peut pas avoir une grande
diversité de comportements, c'est dire simplement qu'elle ne peut pas avoir
une grande capacité de mémoire. Jusqu'à une période assez récente, une
capacité de mémoire même de mille chiffres était très rare. Les critiques que
nous considérons ici sont souvent des formes déguisées de l'argument issu de
la conscience. Habituellement, si l'on soutient qu'une machine peut vraiment faire l'une de ces choses, et si l'on décrit le type de méthode que la
machine est susceptible d'utiliser, on ne fera pas une forte impression. La
méthode (quelle qu'elle soit, car elle est forcément mécanique) est en effet
estimée plutôt vile. A preuve, la remarque entre parenthèses dans la
précédente citation de Jefferson.
6. L'objection de lady Lovelace Les
renseignements les plus détaillés que nous possédions sur la machine
analytique de Babbage proviennent du mémoire de lady Lovelace. Elle y
déclare: « La machine analytique n'a pas la prétention de donner naissance
à quoi que ce soit. Elle peut effectuer tout ce que nous savons lui ordonner de faire» (les italiques sont de lady Lovelace). Cet extrait est cité par
Hartree, qui ajoute: «Ceci n'implique pas qu'il ne soit pas possible de
construire des machines électroniques qui "penseront par
elles-mêmes" ou dans lesquelles, en termes biologiques, on pourrait
inclure un réflexe conditionné qui servirait de base à un
"apprentissage". Que cela soit en principe possible ou non est
une question passionnante et stimulante, suggérée par certains
développements récents. Mais il ne semble pas que les machines réalisées ou
qui étaient à l'état de projet à cette époque aient eu cette propriété. » Je
suis entièrement d'accord avec Hartree à ce sujet. On remarquera qu'il
n'affirme pas que les machines en question n'avaient pas cette propriété,
mais plutôt que les preuves dont lady Lovelace disposait ne l'encourageaient
pas à croire qu'elles avaient cette propriété. Il est fort possible que, en
un sens, les machines en question l'aient eue. Car supposons qu'une
quelconque machine à états discrets ait cette propriété. La machine
analytique était un calculateur numérique universel, et, en conséquence, si
sa capacité mémoire et sa vitesse étaient adéquates, on pourrait avec un
programme adapté lui faire imiter la machine en question. Il est probable que
cet argument ne vint pas à l'esprit de la comtesse, ni à celui de Babbage. De
toute façon, ils n'étaient pas dans l'obligation d'avancer tout ce qu'il y
avait à avancer. On reconsidérera entièrement la question en examinant, plus
loin, les machines à facuIté d'apprentissage. Une variante de l'objection de
lady Lovelace affmne qu'une machine ne peut «jamais rien faire de vraiment
nouveau ». On peut y répondre pour l'instant avec le dicton: «Il n'y a rien
de nouveau sous le soleil. » Qui peut être certain que le «travail original»
qu'il a effectué n'était pas simplement la croissance de la semence plantée
en lui par l'enseignement, ou la conséquence de principes généraux bien
connus? Une meilleure variante de l'objection affirme que la machine ne peut
«jamais nous prendre par surprise », Cette affirmation est un défi plus
direct, et on peut y faire face plus franchement. Les machines me prennent
très fréquemment par surprise. La raison principale en est que je ne fais
pas de calculs suffisants pour décider de ce à quoi je peux m'attendre de
leur part ou plutôt que, bien que je fasse des calculs, je les fais de
manière rapide et bâclée, en prenant des risques. Je me dis peut-être: « Je
suppose que le voltage ici devrait être le même que là: de toute façon,
supposons qu'il en soit ainsi. » Naturellement, je me trompe souvent, et le
résultat est surprenant, car au moment de l'expérience ces suppositions ont
été oubliées. Ces suppositions justifient les remontrances qu'on pourrait me
faire sur mes pratiques douteuses, mais ne jettent pas l'ombre d'un doute sur
ma crédibilité quand je parle des surprises que je ressens. Je ne m'attends
pas à ce que cette réponse fasse taire les critiques. On m'objectera
probablement que de telles surprises sont dues à quelque acte de création
mentale de ma part, et ne sont pas à porter au crédit de la machine. Cela
nous ramène à l'argument issu de la conscience et nous éloigne de l'idée de
surprise. C'est une suite d'arguments que nous devons considérer comme
close, mais il faut peut -être remarquer que le fait de trouver quelque chose
surprenant requiert de toute façon un « acte de création mentale », que la
surprise trouve son origine chez un homme, un livre, une machine ou quoi
que ce soit d'autre. Cette opinionselon laquelle les machines ne peuvent pas
nous surprendre est due, à mon avis, à un sophisme dont les philosophes et
les mathématiciens sont tout particulièrement coutumiers. L'idée est que,
dès qu'un fait se présente à l'esprit, toutes les conséquences de ce fait
jaillissent simultanément avec lui dans l'esprit. C'est une hypothèse très
utile dans de nombreuses circonstances, mais on oublie trop facilement
qu'elle est fausse. Une conséquence naturelle est qu'on suppose qu'il n'y a
aucun mérite à découvrir simplement les conséquences d'une information ou de
principes généraux.
7. L'argument de la continuité dans le
système nerveux Le système nerveux n'est certainement pas une machine
à états discrets. Une petite erreur dans l'information sur la taille d'une
impulsion nerveuse affectant un neurone peut nous conduire à nous tromper
grossièrement sur la taille de l' impulsion de sortie. On peut dire que,
puisqu'il en est ainsi, il ne faut pas s'attendre à pouvoir imiter le
comportement du système nerveux avec un système à états discrets. Il est vrai
qu'une machine à états discrets est forcément différente d'une machine
continue. Mais, si nous acceptons les conditions du jeu de l'imitation,
l'interrogateur ne pourra pas tirer avantage de cette différence. On peut
rendre la situation , plus claire en considérant une machine continue plus simple.
Un analyseur différentiel conviendra très bien (un analyseur différentiel est
un type de machine qui n'est pas à états discrets, et qu'on utilise pour
certains types de calculs). Certains d'entre eux impriment leurs réponses et
peuvent ainsi facilement prendre part au jeu. Il ne serait pas possible à
un ordinateur digital de prédire exactement quelles réponses l'analyseur
différentiel donnerait à un problème, mais il serait tout à fait capable de
donner le genre de réponse adéquat. Par exemple, si on lui demandait de
donner la valeur de 1(; (en réalité, à peu près 3,1416), il serait
raisonnable de choisir au hasard entre les valeurs: 3,12,3,13,3,14,3,15,3,16,
avec des probabilités disons de 0,05, 0,15, 0,55, 0,19, 0,06. Dans ces
circonstances, il serait très difficile pour l'interrogateur de distinguer
l'analyseur différentiel de l'ordinateur digital.
8. L'argument du comportement informalisable
Il n'est pas possible de produire un ensemble de règles qui ait la prétention
de décrire ce qu'un homme devrait faire dans tout ensemble concevable de
circonstances. On devrait, par exemple, établir une règle définissant qu'on
doit s'arrêter quand on voit un feu rouge, et passer quand on voit un feu
vert. Mais qu'arrive-t-il si par suite d'une erreur les deux apparaissent en
même temps? On peut peut-être décider qu'il est plus sûr de s'arrêter. Mais
quelque autre difficulté peut bien se faire jour plus tard à cause de cette
décision. Il paraît impossible d'élaborer des règles de conduite pour parer à
toutes les éventualités, même à celles concernant les feux tricolores. Je
partage entièrement ce point de vue. A partir de là, on en déduit que nous ne
pouvons pas être des machines. J'essaierai de reproduire l'argument, mais
j'ai peur de ne pas être très juste à son égard. Il semble qu'il corresponde
à peu près au syllogisme suivant: « Si chaque homme disposait d'un ensemble
défini de règles de conduite d'après lesquelles il organiserait sa vie, il
ne serait pas supérieur à la machine; mais de telles règles n'existent pas;
ainsi, les hommes ne peuvent pas être des machines. » La non-distribution
du moyen terme est manifeste. Je ne pense pas que l' argument soit jamais
énoncé exactement dans ces termes, mais je crois néanmoins que c'est bien
l'argument utilisé. Il se peut cependant qu'il y ait une certaine confusion
entre les« règles de conduite» et les «lois du comportement» qui finisse
d'obscurcir le problème. Par« règles de conduite» j'entends des préceptes
tels que: « Arrêtez-vous quand vous voyez un feu rouge », sur lesquels on
peut agir et dont on peut être conscient. Par «lois de comportement»
j'entends des lois naturelles comme celles qui s'appliquent au corps humain,
par exemple: « Si vous le pincez, il criera. » Si nous substituons « les lois
du comportement qui règlent sa vie» à « les lois de conduite d'après
lesquelles il règle sa vie» dans l'argument cité, la non-distribution du
moyen terme n'est plus un obstacle insurmontable. Car nous croyons non
seulement que le fait d'être soumis à des lois de conduite implique que l'on
soit une machine (bien que non nécessairement une machine à états
discrets), mais que, réciproquement, le fait d'être une telle machine implique
que l'on soit soumis à de telles lois. Cependant, nous ne pouvons pas nous
convaincre de l'absence d'un ensemble complet de lois du comportement aussi
facilement que nous l'avons fait pour l'ensemble complet des règles de
conduite. La seule manière dont nous puissions découvrir de telles lois est
l'observation scientifique, et nous ne connaissons aucune circonstance nous
permettant de dire: «Nous avons assez cherché, de telles lois n'existent pas.
» Nous pouvons démontrer de manière plus convaincante qu'aucune affirmation
de ce type ne serait justifiée. Supposons que nous puissions être sûrs de
découvrir de telles lois si elles existaient. Alors, à partir d'une machine à
états discrets donnée, il devrait certainement être possible de découvrir,
par l'observation, assez d'éléments à son sujet pour prédire son comportement
futur, et cela dans une période de temps raisonnable, disons mille ans.
Mais il ne semble pas que ce soit le cas. J'ai introduit dans l'ordinateur de
Manchester un petit programme utilisant seulement mille unités de stockage,
par lequel la machine, lorsqu'on lui fournit un nombre de seize chiffres,
répond par un autre nombre en deux secondes. Je défie quiconque d'en
apprendre assez au sujet du programme à partir de ces réponses pour être
capable de prédire la réponse pour des valeurs non encore utilisées.
9. L'argument de la perception
extrasensorielle Je pars du principe que le lecteur est familiarisé
avec l'idée de la perception extrasensorielle et les quatre éléments qui en
font partie, c'est-à-dire: la télépathie, la clairvoyance, la préconnaissance et la psychokinésie. Ces phénomènes troublants semblent remettre
en cause toutes nos idées scientifiques habituelles. Comme nous aimerions
les discréditer! Malheureusement, l'évidence statistique, au moins pour la
télépathie, est accablante. Il est très difficile de réorganiser ses idées
pour y intégrer ces nouveaux faits. Une fois que nous les avons acceptés,
ce n'est pas progresser beaucoup que de croire aux fantômes et aux
spectres. L'idée que notre corps se déplace simplement suivant les lois connues
de la physique, et suivant quelques autres qui n'ont pas encore été
découvertes mais qui leur sont relativement similaires, serait la première à
disparaître. Cet argument est, à mon avis, très fort. On peut répondre que
beaucoup de théories scientifiques semblent continuer à fonctionner dans la
pratique malgré les conflits avec la perception extrasensorielle; que l'on
peut, en fait, très bien se débrouiller si on l'oublie. C'est d'un réconfort
relatif, et l'on craint que la pensée ne soit justement le type de phénomène
pour lequel la perception extrasensorielle est particulièrement adéquate. Un
argument plus spécifique, fondé sur la perception extrasensorielle,
pourrait être rédigé en ces termes: « Jouons au jeu de l'imitation, en
utilisant comme témoins un homme qui est un bon récepteur télépathique et un
ordinateur digital. L'interrogateur peut poser des questions comme:
"Quelle est la couleur de la carte que j'ai dans la main droite?"
L'homme, par télépathie ou clairvoyance, donne 130 fois la bonne réponse sur
400 cartes. La machine peut seulement deviner au hasard et peut-être obtenir
104 bonnes réponses. L'interrogateur peut ainsi l'identifier.' » Une
possibilité intéressante apparaît ici. Supposons que l'ordinateur renferme un
générateur de nombres au hasard. Il est alors naturel de l'utiliser pour
décider de la réponse à donner. Mais alors, le générateur de nombres au
hasard sera sujet aux pouvoirs psychokinésiques de l'interrogateur. Cette
psychokinésie fera peut-être que la machine devinera juste plus souvent que
l'on ne s'y attend d'après le calcul des probabilités, et ainsi
l'interrogateur ne pourra toujours pas l'identifier correctement. D'un
autre côté, il se pourrait qu'il soit capable de deviner juste sans poser de
questions, par clairvoyance. Avec la perception extrasensorielle, tout peut
arriver. Si la télépathie est admise, il sera nécessaire de renforcer notre
test. La situation pourrait être considérée comme analogue à celle qui se
produirait si l'interrogateur se parlait à lui- même et si l'un des
participants écoutait avec l'oreille collée au mur. Le fait de placer les
participants dans une «pièce à l'épreuve de la télépathie» satisferait toutes
les exigences.
section précédente ---
section suivante
|