異本「計算する機械と知性について」

福井県立大学・経済学部 田中求之 (Motoyuki Tanaka)

最終更新日: 2006年11月02日

このページについて

アラン・チューリング(Alan Turing)が、いわゆるチューリング・テスト(Turing Test、チューリングテストと表記されることもある)に関して述べたとされる古典とも言える論文である "Computing Machinery and Intelligence" を意訳(liberal translation)したものである。チューリング・テストは、コンピュータが知能を持っているかどうかの判定方法として人工知能の研究の分野では広く知られている。

このページを作成するにあたっては、オリジナルの論文の筋にそって訳していくのを原則としながらも、チューリングが論文で述べたことを読み取れるように、自分なりの解釈に基づいて大幅な意訳や補足などを行ってある。それゆえ、このページはチューリングの論文の翻訳ではない。タイトルに異本とあるのは、このことを明示するためである(ただし、原文のチューリングの文章の訳文はすべて織り込んである)。

このような意訳(自由訳)のページを作ってみようと思ったのは、「チューリング・テスト再考」というページに記録してあるように、チューリング・テストに関心を持って、彼の論文や原稿を読んだのが直接のきっかけである。そもそもチューリングの論文を読み始めたのは、コミュニケーションというものを研究している過程で、知性をコミュニケーション過程に内在する視点で捉えた議論の一つとして、チューリング・テストに注目したことにある。チューリング・テストによる知能の判定は行動主義的なものだと称されるわけだが、それは、知性や思考を実体的な属性ではなく、コミュニケーション過程における観察と帰属処理の問題として考えているということではないかと考えたわけである。そこでチューリングの論文などの読解に取り組んでみたわけだ。

論文のチューリングの文章は、無駄をなるべくそぎ落としたような、ある意味で不親切でぶっきらぼうな文章で、それゆえに、直訳すると、その文章を読んだだけでは、なぜチューリングがそんなことを言うのかがすぐには分かりにくい個所も少なくない。しかし、じっくり付き合ってみると、語られている内容はなかなか面白いものがあり、チューリング・テストを定式化した論文ということで有名だが読まれないままになってしまう(古典というのはえてしてそういうものなのだが)のはもったいないと感じた。

また、実際に論文を読んでもらえばすぐに分かることではあるが、そもそもチューリング自身は、チューリング・テストという言い方はしていない。確かに論文では機械の知性の判定について論じられてはいるが、チューリングがこの論文で述べようとしたのは人工知能の判定にチューリング・テストを用いることを提案することではない。私自身、実際に論文を読むまでは、チューリングが「チューリング・テスト」を提唱した論文なのだろうと思っていたのだが、そうではないのだ。おそらく、私と同じように誤解している人は少なくないのではないだろうか。

チューリングのこの論文での主眼は、デジタル・コンピュータという機械が思考できるものであることを示すことにあるのだ。デジタル・コンピュータという機械が原理的には思考しうること(思考する存在として振舞えること)をチューリングは確信している。その確信をもとに、デジタル・コンピュータが思考できることを原理的に示すこと、そして異論を批判し論破していくことで読者を納得させること、さらに、思考する機械の実現のための方法を考えてみること、これがこの論文でチューリングが試みていることなのである。機械は思考することができるのかという問題に答える形でデジタル・コンピュータの原理的な可能性を展開して見せたところにこの論文の面白さがある。もちろん、人間の思考、知性に関する彼の考察なども面白い。そうしたこの論文の持っている面白さ、チューリングが論文に込めたものを、日本語で読んで感じられるものにしたいという、いささか大それた思いで始めた作業の結果がこのページである。

さらに、ジョン・L・キャスティ『ケンブリッジ・クインテット』(John L. Casti "The Cambridge Quintet")という本が、チューリングのこの論文を対話仕立てで小説にしてあるのを読み(特に1〜3章での登場人物たちの議論は、チューリング・マシンの解説部分をのぞいて、ほぼこの論文を会話に仕立てたものになっている)、なにも対話にしなくても、もっとストレートな形で書けばいいのではないかと思ったこともある。この小説でのヴィトゲンシュタインの姿はちょっとひどいよなぁと、ヴィトゲンシュタインの功績を多少なりとも評価する人間は感じると思う。小説では、ヴィトゲンシュタインは、チューリングに対する意固地な批判者として、またサールの代理人のごとく中国人の部屋のヒエログリフ版を展開する役回りとして出てくるのだが、そりゃないだろうと思う(ミーハーなのはわかってるけど)。で、そういう無理なキャスティングをして小説にするよりも、チューリング個人の意見表明として読めるものにするほうが、健全ではないかと考えたわけである。

原文に忠実な訳文を作っておいて、それに脚注のような形でコメントを加えていくという形式にすることもできるだろうし、研究成果として公開するのであれば、むしろそちらの方が正統だろう(そもそもチューリングの論文の単なる読解が業績足り得るのかという本質的な問題は別にして)。しかし、このページは、研究業績として認められることを目的に作ったものではない。チューリングの論文の面白さを少しでも多くの人に味わってもらいたい、自分が感じた面白さを共有してほしい、そう思ったからこそ、Web で公開するものにするべく作業を進めてきた。ささやかな 自作のフリーウェアの公開と同様の、自分なりのネット文化(コモンズ)へのリスペクトの表現でもある。

このページは、プロジェクト杉田玄白 に協賛テキストとして参加している。

Copyright および利用条件

チューリングの論文"Computing Machinery and Intelligence" の原文は Oxford University Press から出ている MIND という雑誌の vol. LIX, no. 236, pp. 433-60 (1950年)に掲載されたものである(Turing's "Computing Machinery and Intelligence" was originally published by Oxford University Press on behalf of MIND (the Journal of the Mind Association), vol. LIX, no. 236, pp. 433-60, October 1950)。

この意訳のページは、田中求之が Oxford University Press の許可を得て公開するものである(This japanese version is published on the Motoyuki Tanaka site by permission of Oxford University Press)。学生、研究者、あるいは科学に関心を持つ人々に対して非営利(non-profit)のサービスとして田中個人の web site においてのみ提供することを条件に許可が与えられたものである(せこいことを言うようだが、許可を得るために田中は $100 の fee を Oxford University Press に支払っている)。それゆえ、このページは、アクセスした各自が個人的に閲覧することのみが許されており、内容の転載やコピーあるいは他の媒体などへの収録などはいっさい禁止されている。この点は注意して欲しい。転載などを行いたい場合は、Oxford University Press に新たに許可を得る必要がある。

この意訳のページの著作権は田中求之が有する(Japanese version: (c)2003-6 Motoyuki Tanaka)。

ページへのリンクは自由に張ってもらってかまわない。

資料

現在、"Computing Machinery and Intelligence" の原文は以下の2つのページでオンラインで読むことができる。

読解および意訳の作成の作業に当たっては、この2つのページに掲載されているものを用いた。オリジナルの掲載誌を直接は読んではいない。それぞれのページには、ページ作成の際に紛れ込んだと思われるタイプミス(スキャンした原稿の修正漏れ?)があるようなので、2つを比較対照しながら、作業を進めた。

この論文の新山祐介氏による日本語訳が「計算する機械と知性」として公開されている。新山氏の訳はチューリングの文章をそのまま訳した直訳であるが、直訳であること以外にも、細かなところでこのページとは解釈が異なったものになっている。

また、Turing Digital Archive に残されている彼の手稿の中から同じテーマを扱った2つのもの( "Intelligent Machinery, A Heretical Theory" "Can Digital Computer Think?")、AlanTuring.net に掲載されている NPL 時代に彼が書いたレポート("Intelligent Machinery"、なおこの原稿は Turing Digital Archive にもある)、こういったものを読み、そこで語られている彼自身の考えを自分なりにふまえた上で、解釈や意訳を行っている。

田中のチューリングの読解の作業は「チューリング・テスト再考」に記録してある。この意訳の元になった田中自身による "Computing Machinery and Intelligence" の訳や上記のチューリングの手稿の一部訳が、ノートとともに載せてある。ただし、意訳の作業を行っていく過程で田中自身の解釈が変わった個所なども少なくなく、このため「チューリング・テスト再考」の解釈や訳とこのページの内容とは異なっている個所もある。

チューリングの生涯や業績については、The Alan Turing Home Page の Andrew Hodges 氏による評伝 "Alan Turing the enigma" が詳しい(みすず書房から翻訳が出る予定らしい?)。論文の解釈に当たっては、同書で得たチューリングの自伝的な知識を読み込んだ解釈は行わないようにし、チューリングが述べたこと(この論文や先に挙げた手稿など)だけをもとに解釈するように心がけた(とはいえ、the enigma を読んでしまうと、その影響をまったく受けない/排除することなど不可能ではあるが)。ただ、この論文が書かれた 1950 年のチューリングの状況が端的に述べられた文章として心に残ったものを the enigma から引いておく。

Already by 1950, Alan Turing was an unperson, the Trotsky of the computer revolution.
(1950年になる頃には、アラン・チューリングはもはや過去の人、コンピュータ革命のトロツキーだったのだ。)

Andre Hodges 氏によるこの論文の解説は同書の pp.415-426 (Vintage edition 1992 でのページ)で展開されている。当時のチューリングの状況(かつて日本でも持てはやされた暗黙知のマイケル・ポランニーなんかも絡む)などを踏まえながら、論文を読み解いていくものになっており、一読の価値はある。

設定(方針)

「チューリングが、"Computing Machinery and Intelligence" で述べた内容で講演を行った、その講演録」という想定で訳していくことにしてある。自分が普段接している学生達が、そのまま読んで分かるようなものにしたくて意訳し、補足を加えてあるのだが、そうすると文章が冗長になってしまう。そこで、その冗長さを「らしく」するために、講演録のような文章に仕立てることにした。

また、チューリングの論文では一つのパラグラフの中で述べられていることを、訳文では複数のパラグラフにわけて展開するようにしてある。チューリングがコンパクトに畳み込んだものを ex-plicate =畳んであるものを開くこと、それが目的だからだ。

なお、チューリングの論文は1950年に書かれたものであるが、読んで行く上で理解しやすいように、現在の私たちの周りにあるものを補足の説明に用いたりしている。そのため、時代設定が曖昧なものになってしまっている点は注意して欲しい。

作業履歴

July 13, 2003最初の公開版が完成
July 14, 2003プロジェクト杉田玄白 に協賛テキストとして参加
July 15, 2003スタイルを少し修正(邦文のイタリックを取り除く)
August 10, 2003著作権、資料などの文章を一部修正
August 22, 2003停止問題の決定不可能性に関して加筆
October 27, 2003ミスの修正
February 23, 2004「このページについて」および子供機械の推論規則に関する部分などを修正
November 01, 2006武井伸光さんの指摘と提言を受けて、ミスの修正と文章の改良

「計算する機械と知性について」

模倣ゲーム

「機械は考えることができるか?」 この問いを、みなさんと考えていくことにしましょう。

このような問題に取り組む場合、まず、「機械」とか「考える」という言葉の意味を厳密に定義することから始めるべきだという人がいます。確かに、議論する際に、各人が「機械」とか「考える」ということをどう考えているかが食い違っていたら、その議論は不毛なものになりますから、言葉の意味をはっきりさせておくというのは大切なことかもしれません。その場合、これらの言葉の普通の用いられ方にできるかぎり沿った、きっちりとした定義を行うということになるわけですが、こうした取り組み方には危険がひそんでいます。「機械」とか「考える」という言葉は普段の生活の中で普通に使う言葉ですよね。ですから、これらの言葉の意味をはっきりさせるには、多くの人がどんなふうに使っているかを調べるべきだということになるわけです。すると、私たちの問いである「機械は考えることができるか?」が何を意味しているのか、とか、その答えはどうなのかといったことは、世論調査みたいな統計的な調査によって調べるべきものだということになるわけですよ。言葉の定義から入ろうとすると、そうなってしまうのは避けられない。

こんなことは馬鹿げています。ですから、私は、言葉の定義云々から始めるかわりに、問いを別の形に置き換えて考えてみたいと思います。新しい形の問いは、もともとの問いに本質においては極めて近いものでありながら、意味が曖昧な言葉をなるべく使わないものにしてみたいと思います。

その新しい形の問いを、あるゲームの枠組みを使って述べることにします。そのゲームを「模倣ゲーム」と呼ぶことにしたいのですが、それは3人のプレイヤーによって行われるものです。男性(これをAとします)、女性(これをBとします)、それに性別はどちらでもよい質問者(これをCとします)、この3人です。質問者を受け持った人は、他の二人とは離れた別の部屋にいるものとします。そして、このゲームの目的は、質問者が、他の二人のうちのどちらが男性でどちらが女性かを当てることです。質問者には、他の二人はXとYという呼び名で知らされます。そして、ゲームの終了時点で、質問者は、「XがAの男性で、YがBの女性です」、あるいは反対に「XはBの女性で、YはAの男性ですね」と、答えるわけです。見分けるために何をするのかというと、質問者は、二人に対して質問することが許されているわけです。たとえば

C(質問者)「Xさん、あなたの髪の長さを教えてもらえますか?」

で、この質問をうけたXさんというのが、Aの男性だったとしましょうか。この場合は、Aさんはこの質問に答えなければならないわけですが、Aの男性の側のこのゲームの目的は、Cに間違った判断をさせることにあります。そうすると、彼の答えは、

「私の髪は刈り上げなんですが、一番長いところで23cmぐらいです」

といった感じになるでしょう。

質問者と他の二人が直接に会話をすると、声の調子や高さなんかから、どっちが男性でどっちが女性かなんてすぐにわかってしまいますよね。そこで、それを避けるために、答えは必ず紙に書いて提出されるようにします。筆跡も隠すために、タイプライターやワープロで印刷した方がもっといいですね。質問者がいる部屋と他の二人がいる部屋の間をネットワークで結んで、チャットのように端末の文字だけで会話を行うようにすれば完ぺきでしょう。そのような設定が無理な場合は、質問者と他の二人との間に中継役の人が入って、その人が質問と答えを伝えるようにすればいいでしょう。

さきほど、Aの男性の目的は質問者を間違わせることだと言いましたが、もう一方のBの女性の側の目的は、反対に、質問者が正しい判断ができるように助けることだとします。そうすると、Bの女性にとって、ベストな戦略は、たぶん、質問に誠実に答えることになるでしょう。答えるときに、自分が女性であることをアピールするために「女性なのは私です。相手の言うことなんか聞いてはダメ」といったようなことを答えに付け加えることもできるわけですが、Aの男性だって同じように「私が女性なんです。相手に惑わされてはだめ」と言ったりできるわけですから、このような言葉を語ることは、何の役にもたたないわけですね。ですから、女性の側は質問にまじめに答えていく、一方の男性の側は女性らしく答えていく、そういうことをすることになるでしょう。

簡単にポイントを整理しておきますと、「模倣ゲーム」というのは:

  1. 男性(A)、女性(B)、質問者の3人で行われる
  2. ゲームの目的は、質問者が、どちらが男性で、どちらが女性かを当てること
  3. 質問者は文字だけによる会話を通じて判定を行う
  4. Aの男性は、質問者を間違わせるように振舞う
  5. Bの女性は、質問者を助けるように振舞う

と、こういうことになります。

さて、こうした「模倣ゲーム」をふまえて、私たちは新しい問いを立てることができます。「この模倣ゲームでAの役割を機械が受け持ったらどうなるだろうか?」。質問者は、二人の人間を相手にしたときと同じくらいの間違いを、この機械−人間のペアの場合でも犯すでしょうか? この問いが、私たちのもともとの問いである「機械は考えることができるか?」に替わる、新しい問いの形になります。「模倣ゲーム」に機械が参加したとき、人間と同じ程度に質問者を騙すことができるのか? という問いになるわけですね。

新しい問いの批判的検討

では、この新しい問いを検討してみましょう。

たぶん、みなさんは「この新しい形の問いの答えは何なのか?」と尋ねたくなるとは思います。また、「そもそもこの新しい問いは、あれこれ考察する価値があるもんなの?」と言いたくなる人もいると思います。この後の方の質問から片づけておくことにしましょう。そうれば、後々、議論が泥沼に入り込むのをさけることができますからね。というわけで、この新しい問いのポイントを述べておきます。

この新しい問いは、人間の身体的な能力と知的な能力とをきっちりとわけて扱えるという、大きな利点をもっています。技術者や化学者が人間の皮膚と見分けがつかないような物質を作れるようになったという話はまだ聞いたことがないのですが、いずれは、そういうことが出来るようになるでしょう。そうなったときに、人間の皮膚にそっくりな人工皮膚を「考える機械」にまとわせて、より人間らしい装いの機械にすることもできるようになるでしょうが、そんなことをやるのは、何の意味もありませんよね。私たちが問題にしているのは、「考える」という人間の知的能力であって、皮膚の質感といった身体的な特徴や能力のことではないわけですから。

私たちは、模倣ゲームという枠組みによって、もともとの「機械は考えることができるか?」という問いを、新しいものに置き換えたわけですが、この模倣ゲームというものは、私たちにとって問題なのは人間の知的能力のことだという事実をふまえたものになっています。ですから、質問者は、相手の姿を見たり、体に触ったり、声を聞いたりすることができないように条件を整えるようにしてあるわけです。

人間の知的能力だけに焦点が絞れるということ以外に、模倣ゲームによる新しい問いが持っている利点、機械は思考するかどうかを考察するための基準としての利点については、質疑応答の実例によって示すことができると思います。「模倣ゲーム」を実際に行う際には、こんな感じで質疑応答が行われるわけです:

質問:明石大橋をテーマにした短歌を作ってもらえますか?

答え:それは勘弁してください。歌なんて詠んだことがありませんので。

質問:70764 に 34957 を加えるといくつになりますか?

答え:(30秒ほど間があいてから)105621 です

質問:チェスはやりますか?

答え:はい

質問:私は K1 の位置にキングを持っており、他の駒はありません。あなたは K6 の位置にキングがあり、R1 の位置にルークがあり、他の駒はありません。で、あなたの番なのですが、どのような手を打ちますか?

答え:(15秒ほど間があいてから)ルークを R8 に移動して王手

私たちの考察の焦点である人間の能力や営みとは、人間の知的な側面なわけです。人間の知的な能力といっても詩を作ったり算数の計算をしたりと色々な能力が含まれるわけです。この例の算数の場合のように間違うということも含まれるかもしれません。ちなみに、70764 に 34957 を加えると 105721 ですよ。まぁ、そういうことも含めて、質疑応答というこの方式は、人間の知的能力のほとんどの能力を対象とすることができますので、テストとして相応しいものだと思います。

私たちが問題にしているのはあくまでも知的な能力なのです。機械が美人コンテストでよい成績をおさめることができないからといって、機械を非難するつもりはありません。同様に、人間が飛行機と競争して負けたからといって人間を貶めるつもりもない。そうした肉体的あるいは身体的なことを問題にしているのではないからです。私たちの「模倣ゲーム」の条件設定によって、こうした肉体的・身体的な側面は切り離せるわけです。「被験者」つまり質問を受ける側は、そうしたければ、自分の身体的な魅力、強さ、勇敢さを自慢したりできるわけですが、質問者の側が「じゃあ実際にそれを見せてくれ」と要求したところで実際に見たり触ったりすることは許されない。あくまでも、文字だけで質疑応答を続けなくてはならないわけです。このような設定でゲームを行うことで、純粋に知的な側面だけで相手について判断するように、判断せざるを得ないようになっているのですね。

模倣ゲームというゲームは、機械にとってはあまりに不利なものではないかという理由で批判を受けるかもしれません。つまり、機械と人間の区別なんて簡単についてしまうじゃないかというわけですね。人間が機械のふりをしようとしたら、結果がぶざまなものになるのは目に見えています。人間は、計算問題を解く速度は遅いし、おまけに間違いもけっこうある。一方の機械は、計算は速いし正確だ。だから、どちらが機械なのかなんて簡単にばれてしまうでしょう。そういう意味では、人間と機械の違いは大きなもののように思えます。確かに、人間が機械を真似しようとしたらうまくいかないかもしれない。でも、逆に、機械が人間を真似る場合は、うまくやれるとは考えられませんか。私たちの模倣ゲームでは、機械は人間の真似をするポジションに置かれるわけです。機械が人間を真似るというのであれば、そんなに簡単には化けの皮ははがれないかもしれない。私自身は、機械が人間を真似るのは、人間が機械を真似るよりは、ずっとうまくやれると考えています。そう考える根拠は、後ほどお話します。

その他の反論として、機械は確かに「考えている」と言ってもいいようなことを実行するかもしれないが、それは人間の思考というものとは全く別のものではないのか?という意見があるでしょう。知的な振る舞いを見せたからといって知性を持っているとは限らないってわけですね。この反論はなかなか手ごわいものです。この反論に答えるには、「思考していること」と「思考している振りをすること」の違いは何かということ、それは、結局は、考えること、思考とは何かという深い問いに答える必要があります。この反論に、ここでズバリ答えることはできません。とりあえず、今、この時点で私が言えることは、模倣ゲームをうまくこなすような機械を作ることができるようになれば、この反論に悩まされることはなくなるだろうということです。模倣ゲームをうまくこなす機械を作ろうとする過程で、私たちは、人間の思考とは何か、機械が思考するとはどういうことか、それらのことについても、なんらかの答えを得られるはずだと思うのです。思考する機械を作ろうとすることによって、思考を解き明かしていくことができる、とでも言えばいいでしょうか。

模倣ゲームをプレイする際の機械の戦略について、人間の振る舞いを真似ることが本当に最適な戦略なのか、他にもっと有効な戦略があるのではないか、そういう主張もあるでしょう。真似るのが絶対的に最適なのだと確信を持っているとは言えないのですが、でも、私は、人間を真似ること以外の方法が大きな成果をあげることはないだろうと考えています。いずれにせよ、ここでは模倣ゲームというゲーム自体の理論的考察を行うのが目的ではありませんから、模倣ゲームにおける機械の側の戦略としては、質疑応答の際に、人間なら普通はこう答えるだろうなと思えるような答えを返そうとすること、人間らしく振舞おうとすること、それがベストな戦略だとしておきたいと思います。

模倣ゲームに関わる機械

さて、ここで機械についての考察に進むことにしましょう。

先ほど、機械を模倣ゲームに参加させるという形で私たちの新しい問いを定式化したわけですが、この場合の「機械」というのがどんなものを指しているのかをはっきりさせないままになっています。このままでは、この新しい問い自体が曖昧なままです。機械といっても色々あるわけですから。そこで、私たちの問いに関係する機械、模倣ゲームに参加する機械とはどんなものであるべきか、どんなふうに作るべきか、このことを考えてみることにしましょう。

この場合の機械というものは、まず、どんな技術を用いて作ってもかまわないとするのがよいと考えるのが普通だと思います。さらに、ちゃんと作動するような機械を制作するのが一人の技術者なのか技術者のチームなのか、それは問いませんが、機械を作った人が、その機械の動作の仕様をきちんと説明できないようなものであってもかまわないということを認めたい。というのも、このような機械を作るにあたっては、製作者は新しくてまだよくわかっていないような実験的な方法を取り入れると思うのです。そういう、やってみないと結果がわからないような手法を用いるといったチャレンジを認めるべきでしょう。そして、最後に、当たり前のことのようですが、普通の方法で生まれてきた人間を機械に含めることは絶対に認めないようにしたい。以上の3つの条件、つまりどんな技術を用いても良い、製作者も十分に分かっていないような実験的な手法を用いても良い、そして出産によって生まれてきた人間は含めない、これらの条件を満たすような機械とはどんなものか、どうやって作成するべきか、それをきちんと定義するのは難しいですね。

たとえば、機械を製作する技術者はどちらか一方の性別の人に限ったチームにするべきだとしてみましょう。片方の性別だけであれば、セックスして人間を作り出すことはできませんからね。しかし、実際には十分な制約にはなっていないわけです。というのも、一人の男性の皮膚の細胞の一つをとって、それを培養することで完全な個体を作り出す、いわゆるクローンというやつですが、それを行える可能性があるわけです。もしそうしたクローンの培養に成功したとしても、それはそれでバイオテクノロジーの観点からは称賛に値することかもしれませんが、だからといってそのことを「考える機械を製作した」実例だと見なす人などいないでしょう。そういう意味では、模倣ゲームに参加する機械を作成する際にはどんな技術を用いても良いという条件は外してしまったほうがよいのかもしれません。

このように、細かなことを考え始めるとキリがないのですが、そもそも私たちが「機械が考えることができるか」という問題に関心を抱くようになったのは、ある特定の種類の機械、つまり電気計算機とかデジタル・コンピュータと言われている機械、それが登場してきたということによるものです。こうした機械を目にして、初めて、「機械は考えることができるのか」という問いが現実味を帯びた問いになったと言ってもよいでしょう。このことをふまえると、先ほどのあらゆる技術を用いても良いという条件を外して、模倣ゲームに参加できる機械としてデジタル・コンピュータだけを認めるということにしましょう。

デジタル・コンピュータだけを認めるという制限は、一見すると、非常に思いきった、大きな制限であるように思えるでしょう。しかし、実際はそうではないということを私は皆さんに説明してみたいと思います。そのためには、デジタル・コンピュータという機械の性質や特性について簡単に説明しなければなりません。

もっとも、たとえデジタル・コンピュータがどういうものであったとしても、それが模倣ゲームをうまくこなすことができないということが明らかになった場合、私はそんなことはないと信じてますが、仮にうまくこなせかったとして、そういう場合にのみ、模倣ゲームの機械とはデジタル・コンピュータのことであるとした先の私たちの制限は不適切であったといえるのかもしれません。ちょうど、私たちの「思考」というものの判定基準が最終的には模倣ゲームでうまくやれるかどうかに掛かっているとしたのと同じことが言えるのではないでしょうか。つまり、最終的には知的な能力を持っているように振舞えるかどうかということが重要であって、その中身がどうなっているかではない、これが模倣ゲームという枠組みが持っている意味のひとつなわけですが、これをふまえるなら、デジタル・コンピュータを用いることが適切かどうかは、その中身がどういうものかではなくて、それがちゃんとやれるのかどうかで決められるということになりますよね。そういう意味では、まぁ、やってみるまで分からないということになる。

すでに、ちゃんと動いているデジタル・コンピュータは数多く存在しています。ですから、「なんでさっさと実験しないんだい? 模倣ゲームの条件を整えるのは簡単じゃないか。質問者をやれる人だって沢山いるんだから、どれぐらい正しく判定が行われるかを統計的に示すことだってできるじゃないか」、皆さんの中にもこう言いたい人はいらっしゃると思います。がたがた言わずにさっさとやれば白黒はっきりするじゃないか、というわけです。この問い掛けには、実は、微妙な問題が潜んでいるのですが、とりあえず、こうした意見に簡単に答えておくならば、私たちが問題としているのは、すべてのデジタル・コンピュータが模倣ゲームをうまくこなせるのかどうかということではないし、今あるコンピュータがうまくやれるのかどうかということでもないんです。私たちが解き明かしたいのは、模倣ゲームをうまくやれるような想像上のコンピュータは存在しうるか、ということなんです。つまり、現在、実際に存在しているコンピュータがどうであるかということではなく、理論上、あるいは理想状態では、デジタル・コンピュータは模倣ゲームをうまくこなせるかどうかということ、この可能性こそを考えたいわけです。ですから、今あるデジタル・コンピュータで実験したとしても、本当に私たちが得たいと思っている答えを得ることはできないんです。とりあえずこのようにお答えしておいて、この点については、後で、別の観点から考えてみることにします。

デジタル・コンピュータについて

では、デジタル・コンピュータの理論的な可能性とはどんなものなのか? それを分かっていただくために、デジタル・コンピュータについて考察することにします。

デジタル・コンピュータというものは、人間の計算係がこなせる計算処理であればどんなものであっても実行できるように作られている機械なのだと、そう言うことでデジタル・コンピュータの本質を説明できるでしょう。皆さんはご存知ないかもしれませんが、コンピュータという言葉は、かつては、計算を受け持つ係の人のことを呼んだものだったのです。それをふまえるなら、計算係である人間コンピュータができることならなんだって、デジタル・コンピュータにもできるのだと、そういうことです。

じゃぁ、その場合の人間コンピュータってのはどういうことをするものを指しているのか。それを簡単に定式化してみることにします。人間コンピュータの人たちは、計算処理の際には、決められた規則に従うものだとされています。どんな些細なことでも、決められた規則から自分で勝手に逸脱することは認められません。この規則は本に書かれているとしましょう。ユークリッドの互除法とか二次方程式の解の公式とか、ああいう計算の手順が書かれた本があって、それを見ながら計算をするわけです。で、計算の仕事の内容が新しいものになると、本も新しいものに取り換えられるとしましょう。解く問題に合わせて手順書を取り換える。また、計算のために必要な計算用紙は無限に与えられるとしましょう。ですから、どんなに複雑で長い計算が必要な場合でも、計算用紙が足らなくて出来なくなるってことはない。そして、かけ算やたし算を行うのに、卓上計算機を使ってもよいとしましょう。まぁ、筆算でやるか計算機を使うかということは、そんなに重要な違いではありません。

実際の人間コンピュータ、つまり計算係の人たちが、今述べたようなものだとは限りません。今のは、そういってよければ、一つの抽象的なモデルとしての人間コンピュータです。そのうえで、今述べたような形の人間コンピュータに出来ることであればデジタル・コンピュータだってこなせるようになっている、そう言いたいのです。

とはいえ、これがデジタル・コンピュータの定義だなどとすると、議論が堂々めぐりになってしまう危険があります。そこで、なぜデジタル・コンピュータが人間の計算係が行ったのと同じことができるようになっているのか、その仕組みを簡単に説明することにします。

デジタル・コンピュータというものは、たいていの場合、次の3つの部分から成り立っていると考えることができます。

  1. 記憶装置
  2. 実行ユニット
  3. 制御装置

記憶装置というのは、情報を蓄えておくもので、人間コンピュータの紙にあたるものです。計算用紙の紙と、規則が印刷されている紙と、その両方ともを含む紙です。人間コンピュータの人が暗算で計算を行うこともありますから、デジタル・コンピュータの記憶装置の一部は、その人の記憶にも相当することになります。

実行ユニットは、計算を行う際に必要な一つ一つの色々な演算処理を実行する部分です。個々の演算処理がどんなものになるかは、機械によって違ってきます。たいていは、けっこう複雑な演算、たとえば「3540675445 に 7076345687 を掛ける」といったようなものを実行できるでしょうが、機械によっては「0 を書き込む」といった極めて単純なことしか出来ないこともあるでしょう。

先ほど、人間コンピュータに与えられる「規則が書かれた本」はデジタル・コンピュータの場合には記憶装置の一部になると、そう言いました。デジタル・コンピュータの記憶装置の中のものは「命令表」と呼ばれます。制御装置の役割は、この「命令表」に載っている命令が正しい順番で間違いなく実行されるように監視することです。制御装置は、命令がちゃんと実行されるようにするべく作られています。

記憶装置の中では、情報は、適度な大きさの塊、コンピュータの世界ではこういう塊のことをパケットと呼ぶんですが、パケットにわけて蓄えられているのが普通です。パケットの大きさは機械によって異なります。たとえば、ある機械では一つのパケットは10桁分の数字のサイズだったりするわけです。この場合、10桁の数字が、デジタル・コンピュータの記憶装置の中のある部分に割り当てられるわけです。記憶装置の中は、様々な情報のパケットが系統だった方法で収められているというわけですね。

そういう記憶装置に書き込まれている演算の命令の典型的なものとしては、たとえば

「6809番地に収められている数値を、4302番地に収められている数値に加えなさい。そして、その結果を後の方の番地(つまり4302番地)に書き込みなさい」

といったものになります。もちろん、いうまでもないことですが、機械の中で、このような日常の言葉の形で指示がなされるわけではありません。6809430217 といった形に変換されているのが普通です。この場合、先ほど言ったパケットが10桁分の数字になっているという機械の例だとします。最後の 17 の部分は、二つの数値に対して行うことができる色々な演算の中からどれを実行するべきなのかを示しているわけです。6809 と 4302 というのは、演算の対象となる数値が収められている記憶装置の中の番地(場所)を指している。で、この場合、17 というのが、先ほど述べた命令、つまり「二つを足して結果を後の方の番地に書き込む」を指示している、とこういうわけです。この命令は10桁の数値からなりたっていて、情報のパケットのサイズにぴったり合うようになっている。そうすると、一つのパケットに一つの命令を収めることができてとても都合がいいわけです。

普通は、記憶装置の中に収められている順番に従って命令が実行されていくように制御されるわけですが、時として、そうではない実行を指示する命令も出てきます。たとえば、

「5606番地に収められている命令を実行し、その後は、その番地に続く命令を実行していきなさい」

といった、実行の個所をジャンプして変更するような命令もあるでしょうし、あるいは

「もし 4505 番地に収められている数値が 0 だった場合には、6707 番地に収められている命令から実行していきなさい。0 でなかった場合には、このまま順に実行を続けなさい」

というような条件による分岐の命令も出てきます。特に、この条件判断を行うタイプの命令は、デジタル・コンピュータへの命令において非常に重要なものです。というのも、このような条件判断の命令を用いることで、ある条件が満たされるまでは何度も何度も同じ演算処理を繰り返させるということが可能になるからですし、その繰り返しの場合も、繰り返しの度にいちいち命令を書いておく必要はなくて、同じ場所に書いておいた命令を何度も何度も実行できるようになるからです。

ちょっと話が抽象的すぎて分かりにくかったかもしれませんから、身近な例に喩えて説明してましょう。たとえば、母親が、トミーにたいして、毎朝、学校に行く途中で、靴の修理屋に寄って、自分の靴の修理が終わっているかどうかを確かめるようにして欲しいと思っているとしましょう。母親は、毎朝ごとに、そのつどトミーに頼むということもできます。しかし、トミーが学校に行くときには必ず通る玄関口にメモを書いて貼っておき、そのメモに、靴屋へ寄ることと、修理が終わった靴を持って帰った時にはこのメモを破り捨てることとを書いておくわけです。「修理が終わるまでは、靴屋へいくこと(を繰り返す)」という指示ですね。こうすれば、たった一度だけメモを書いておくだけで済んでしまいます。わざわざ毎朝お願いを繰り返す必要がないわけですね。このように、条件判断を指示出来るというのは、同じことを繰り返させるのは非常に便利なわけです。

このように、デジタル・コンピュータへの命令は、演算処理、ジャンプ、条件判断、それに繰り返しによって構成されることになります。

これだけの説明ではピンとこないかもしれませんが、デジタル・コンピュータというものは、今述べた原理に従ってつくることができるものなのです。現実にそのように作られてきました。そして、そのようなデジタル・コンピュータというものは、実際に、人間コンピュータの行動をかなり上手に真似ることができるものなのです。みなさんは、これらのことを、紛れも無い事実として受け入れなくてはなりません。

先ほど、人間コンピュータはどのような手順で計算を行うかを書いた規則本を使うという話をしましたが、この規則本というものは、実際には存在しないものです。実際の人間コンピュータ、つまり人間の計算係の人たちは、自分が何をするべきかということは頭の中に憶えています。ですから、ある機械に、複雑な演算処理を行う人間コンピュータの行動を真似させようとするならば、その計算を行っている人間コンピュータの人にどのようにやっているのかを尋ねて、その答えをデジタル・コンピュータの命令表に翻訳する必要があります。このような、一連の処理をデジタル・コンピュータの命令表として作っていく作業のことを、通常、「プログラミング」と呼びます。「ある機械が演算Aを実行するようにプログラムする」というのは、機械がAの演算処理を実行するように、しかるべき命令表を機械の中に入力するということなんです。このようなプログラミングを行うことで、デジタル・コンピュータが私たちが望むような処理を行えるようになるわけです。

デジタル・コンピュータというもののあり方については色々なバリエーションがあるのですが、その中で興味深いものとして「乱数発生装置付のデジタル・コンピュータ」というものがあります。これは、乱数を発生させる装置をそなえたデジタル・コンピュータです。そのコンピュータは、サイコロを投げてどの目が出るかを見るとか、それと同じような電子的な処理を行う命令を備えているわけです。その命令を使って、たとえば「サイコロを投げて、出た目の数値を 1000 番地に書き込め」といった指示が出せるわけですね。このような乱数を利用できるようなコンピュータというのは、時として、自由意志を持っていると言われることがあります。私自身は、こうした言い方はしないのですが、それでも、乱数のせいで結果が一通りに定まっていないのを見ると、あたかも自由意志をもっているかのように見えるわけですね。ただし、ある機械が本当に乱数を発生させる仕組みを持っているかどうかは、機械の振る舞いの観察からは決めることができません。というのも、円周率の数字、3.1415926535... というあの数字の並びから選んだ数値を使って結果を出す場合でも、その結果は乱数を用いた場合と同じようなものになるからです。言ってしまえば本当のデタラメと、デタラメに見えることとの違いは、外から見てる分には分からないってことです。

現実に存在するほとんどのデジタル・コンピュータは、限られた記憶容量しかありません。しかし、無制限の記憶容量をもつコンピュータを考えることは、理論的には難しいことではありません。先ほども言いましたが、私たちは、デジタル・コンピュータの理論上の可能性について考えているわけですから、現実には無理であっても、理論上は可能であればいいわけです。もちろん、無限の記憶容量があっても、それが一度に必要になることはなくて、演算処理の一回ごとに使われるのは限られた部分だけです。ですから、記憶容量が無限であるというのは、演算をいくらでも続けられるということ、その都度の演算に必要な記憶容量がいつでも確保できるということなわけです。ですから、現実に作ることが出来る記憶装置は容量が限られたものでしかなくとも、必要とあらばどんどんと追加していくと考えてもいいわけですね。そうれば、無限の記憶容量をもっていることと実質的には同じことになります。このようなコンピュータは、理論的に面白いものを持っているので、無限容量のコンピュータと呼ばれたりします。

デジタル・コンピュータというアイデアは昔からあるものです。1828年から1839年までケンブリッジ大学で数学のルーカス記念教授をつとめたチャールズ・バベッジは、デジタル・コンピュータのような機械を作ることを計画して、その機械を解析機関(the Analytical Engine)と名付けました。もっとも、彼はその機械を完成できなかったのです。バベッジは、コンピュータというものの本質的な考え方、先程から私たちが見てきたようなデジタル・コンピュータというものの本質、それをすべて理解していました。しかしながら、彼の機械は、デジタル・コンピュータが持っている可能性がどんなに魅力的なものかということを、人々に実際に示して見せることはありませんでした。デジタル・コンピュータの可能性を人々に予感させるような先駆けの機械とはならなかったのです。もし実際にバベッジの解析機関が動いていれば、当時でも、その機械で可能な処理速度は、人間コンピュータよりはずっと速かったでしょう。もっとも、現在のコンピュータの中では遅いものに数えられるマンチェスター計算機の100分の1程度の速度でしかなかったとは思います。それでも、人間よりは速いはずです。また、19世紀ですから当然のことながら電子機器などなく、記憶装置は純粋に機械的なものとして作るしかありませんから、歯車とパンチカードが使われていました。このように、アイデアは核心をついたものだったのですが、それを実現する技術に恵まれなかったのがバベッジの解析機関なのです。

バベッジの解析機関がすべて機械仕掛けで作られるはずだったという事実を考えることで、私たちは、自分たちが囚われている思い込みから抜け出すことができるでしょう。その思い込みというのは、現代のデジタル・コンピュータは電子的なものであり、また、私たちの神経システムも電子的である、この二つの事実に、なにか重要な意味があるかのように考えてしまうというものです。デジタル・コンピュータは電子的なものだからこそ神経や脳のような複雑なことができるんだ、なんて思っている人、いませんか? バベッジが解析機関を機械仕掛けで作ろうとしていたということは、デジタル・コンピュータにとって、その実装の形態が電子的であることが問題なのではないということを示しています。バベッジの機械はデジタル・コンピュータではあるけれど電子的なものではなかったわけです。そしてすべてのデジタル・コンピュータは、それがどのように作られていようと、計算を行う機構としては理論上は等価なものです。このように、電子機器を用いるかどうかということは、デジタル・コンピュータの考察において、理論的には重要なことではまったくないんです。

もちろん、高速な信号処理が関係する場合には電気が使われるものでしょうから、デジタル・コンピュータと神経系のどちらもが電気を用いていたからといって、驚くことではありません。とはいえ、たとえば、神経系の場合には、化学的な現象が、少なくとも電気的なものと同じぐらいには重要なものです。一方、ある種のコンピュータでは記憶装置は主に音響効果を用いたものとなっています。このように違いもあるわけです。ですから、デジタル・コンピュータと神経系の両方ともが電気を用いているという特徴は、単に、極めて表面的な類似にすぎないと考えるべきなのです。人間の神経系や脳と、デジタル・コンピュータとの、本当の類似性を見いだすためには、それぞれの持っている機能の数学的なアナロジーこそを検討しなければなりません。実装の姿にとらわれてはいけないのです。

デジタル・コンピュータの万能性について

では、デジタル・コンピュータの機能の本質を考察することにします。話が若干抽象的になるのですが、私たちの問いにとってクリティカルな内容ですので、どうか我慢してください。

先程から色々と述べてきたデジタル・コンピュータという機械は、「離散状態機械」というものに分類されます。

この「離散状態機械」というのは、あるはっきりと識別できる状態から、べつの状態へと、不連続にカッチンカッチンと飛び移っていくような機械のことです。信号機みたいなものを考えてもらうと良いでしょう。信号は青・黄・赤の3つの状態があって、その間を飛び移っていきますよね。青と黄色がぼやっと両方点灯してたり、黄色の混じった赤が表示されたりすることはありません。そんな曖昧な表示をする信号機があったら、事故がバンバン起きてしまうでしょうね。実際の信号機はちゃんとそれぞれの状態、つまり今なにを表示しているのかは、はっきりとわかるようになっています。このように、「離散状態機械」のそれぞれの状態は、他とははっきりと異なった不連続なもの(これが離散という言葉の指していることです)になっていて、間違ってしまう可能性はないと考えてよいものになっています。

もちろん、厳密に考えると、完全な離散状態機械というものは存在していないと言えます。信号機だって、青になるというのと、赤が消えるというのは、ほんの少しですがズレがあったりします。電球が用いられている場合、電気が切れてもわずかの間は光っていますし、電気が流れ始めた瞬間に100%の明るさで光るわけでもないからです。信号機にも、微妙な瞬間ってのがあったりするわけですよ。とはいえ、普通は、信号機は、3つの状態の間を飛び移るものだと私たちは考えてます。このように、厳密には違っていても、事実上は、不連続な状態の間を飛び移っている離散状態機械であると考えるのがよいものというのは沢山あります。たとえば、照明のシステムだって、スイッチを押しつつある瞬間なんてのを考えると、オンなのかオフなのかどっちつかずの状態であると言えるでしょうが、照明システムについて考えるときには、そういう曖昧な状態のことは忘れてしまってよくて、オンかオフの二つのどっちかしかないものだと考えればいいわけです。

このような離散状態機械の本質を、ひとつの例で考えてみます。今、1秒間に 120度ずつ、カッチンカッチンと回転する歯車があるとします。この歯車の回転は、外からレバーの操作で止められるとしましょう。さらに、歯車がある位置に来たときにはライトが点灯するようになっているものとします。たとえば、歯車の回転角度が0度の時にはライトが点く、そういうふうになっているとしましょう。

さて、この機械(機械というほどのものではありませんが)は、抽象的には次のように定式化できます。まず、この機械の内部状態は q1, q2, q3 の3つであるということ(歯車の回転角度によって示されるものです。120度ずつ回るんですから3つの場合があることになります)。また、入力は、i0i1 の2つであるということ(レバーで回転を止めてるか/止めてないかのどっちかですから)。そして、ある時点の機械の内部状態は、その直前の機械の内部状態と入力の2つによって決まり、それが次のような表で示すことができるということです。

直前の状態 q1 q2 q3
入力   i0 q2 q3 q1
入力   i1 q1 q2 q3

入力 i1 はレバーによって回転を止めていることを示します。ですから、このときには直前の状態と同じになっているわけです。一方、i0 の時には回転は止められていませんので、歯車は120度回転して次の状態へ移っているわけです。

外部への出力信号、これは外から見てわかる内部状況にかんする表示ですが、それはライトが点灯しているかどうかということになります。歯車の回転角が0度の状態はq3であるとするなら、内部状態と出力の関係は、次の表によって示されます(o1がライトの点灯した状態です)。

内部状態 q1 q2 q3
出力 o0 o0 o1

内部状態が q3 の時にはライトが点灯している=o1 というわけです。

この歯車の機械のようなものが典型的な離散状態機械です。離散状態機械では、機械の取りうる状態、状態の推移の規則、そして、各状態における機械からの出力、こういったことが明確に定められており、取りうる状態が有限個であれば、さきほどのような表の形で示せるわけです。ですから、離散状態機械であれば、機械の初期状態と入力信号が分かれば、状態の推移の表をもとに、時間が経つにつれて機械の状態がどのように変わっていくかを明らかにすることができます。つまり、離散状態機械については、いつでも、未来のすべての状態を予測することが出来ると言ってもよいでしょう。

未来のすべての状態の予測と聞くと、なんだか物理学者のラプラスの見解みたいだなと思われる方もいるかもしれません。ラプラスは18-9世紀のフランスの物理学者で、太陽系が力学的に安定していることを証明することで、ニュートンが基礎を築いた古典力学を完成させた科学者と称される人です。彼の見解というのは、ある瞬間の宇宙の完全な状態、それはすべての粒子の位置と速度によって記述されるものなんですが、それがわかれば、宇宙のすべての未来の状態を予測できるはずだ、というものです。『確率についての哲学的試論』という論文の中で、彼は次のように述べています。

与えられた時点において自然を動かしているすべての力と、自然を構成するすべての実在のそれぞれの状況を知っている英知が、なおその上にこれらの資料を解析するだけの広大な力をもつならば、同じ式の中に宇宙で最も大きな天体の運動も、また最も軽い原子の運動をも包括せしめるであろう。この英知にとって不確かなものは何一つないし、未来は過去と同じように見とおせるであろう。
(山本義隆『重力と力学的世界』における訳を引用)

このように、すべての状態を把握するような存在者がいれば、すべてを予測できるはずだと述べたわけです。このラプラスの言ったすべてを予測できる存在者のことは「ラプラスの悪魔(ラプラスの魔)」と呼ばれます。そして、ラプラスの悪魔にとってはすべては見通せるのですが、人間にはそれが無理なので、人間は未来の状態を確率的にしか予測できないといったことをラプラスは述べたんですね。古典力学による決定論的な見解の代表として、このラプラスの悪魔の話は広く知られています。

ラプラスの言うような宇宙の状態のすべての予測は、理論的にはあり得るとしても、実際にそれを行うとなると難しいものがあります。でも、私たちの離散状態機械の予測の方であれば、現実に行うことができるんです。

ラプラスの場合の「宇宙全体」というシステムは、とても複雑なものですから、初期条件の極めて小さな誤りでも後になって絶大な効果をもたらしうる、そういうものです。ある瞬間にたった一つの電子の位置を何十億分の1センチずらしただけで、1年後にある人が雪崩で死んでしまうか生き延びるかという違いを生み出してしまうということだってありうるものなんです。こういう複雑なシステムの振る舞いは、複雑系という名前で、北京で蝶が羽ばたいたらカリフォルニアで大雨が降るという、いささか大げさな喩え話で語られたりもしますので、聞いたことがあるかもしれません。

で、こういった宇宙のようなことは起こらないということ、それが「離散状態機械」と呼んできた機械の本質的な特性なのです。理想化された機械についての理論的な話をする場合だけではなく、現実に物理的に存在している機械について考察する場合でも、その機械が離散状態機械であるならば、ある瞬間の状態に関して十分に正確な知識があれば、それ以降の何段階後の状態であっても、正確な知識を得ることができるのです。現実的に決定論に支配されているものなんです。交差点の信号が何秒ごとに切り替わるか分かっていて、今の信号が何色かも分かっていれば、4時間後に信号が何色かは、間違いなく予測できますよね。

さて、先ほど述べたように、デジタル・コンピュータは、このような離散状態機械に分類されるものなわけです。とはいえ、1台のデジタル・コンピュータが取りうる内部状態の数というものは、たいていは、とてつもなく大きいものです。たとえば、マンチェスターで現在動いているコンピュータですと、その内部状態の数は、およそ 2165,000 通り、つまりざっと 1050,000 通りになります。先ほどの歯車の場合は3つしか状態がなかったわけですが、その歯車と比べて、なんでコンピュータの内部状態が膨大なのかを説明するのは、そんなに難しいことではありません。

先のデジタル・コンピュータの仕組みについての話の中で述べたように、デジタル・コンピュータは、人間コンピュータが使う紙に相当する記憶装置を持っています。この記憶装置には、紙に書いておくことができるようなどんな記号列であっても書き込めるようになっていなくてはなりません。ここでは話を簡単にするために、0から9の数字だけを情報の記録のための記号として使うとしましょう。また、手書きの場合の筆跡だとか書き方の違いだとかそういう違いは無視するものとします。さて、デジタル・コンピュータが100枚の紙に相当する記憶装置を持っているとします。そして、それぞれのコンピュータの紙は、30桁分の数字を50行書き込めるようになっているとしましょう。そうすると、記憶装置全体の状態の数は、それぞれの文字の取りうる場合が0から9の数字ということで10通り、それが1行には30文字分あって、それが1枚に50行あって、紙は100枚ですから、全部で 10100x50x30 通り、つまり 10150,000ということになりますよね。これは、だいたいマンチェスター計算機の取りうる内部状態の数を3台分合わせたものに相当します。こんなふうに、デジタル・コンピュータの内部状態の数はけっこうな数になるわけです。

ここで記憶容量の話をちょっとしておきますと、内部状態の数を 2 を底にした対数で表したものを、通常、その機械の「記憶容量」と呼びます。ですから、マンチェスター計算機の記憶容量はだいたい 165,000 ということになりますし、先ほどの歯車機械の例であれば 1.6 ということになります。2台の機械を一緒にした場合には、その合体した機械の記憶容量は、それぞれの機械の記憶容量を合わせたものになります。ですから、「このマンチェスター計算機には、記憶容量が 2560 の磁気記録装置が 64 個と、それぞれの容量が 1280 の真空管が 8 本ある。その他の記憶装置の記憶容量は 300 ほどある。だから、合計すると全体で 174,380 の記憶容量になる」なんて言ったりできるわけです。(2560 * 64 = 163840、1280 * 8 = 10240、ですから 163840 + 10240 + 300 = 174380 というわけです)。

離散状態機械は、各状態の推移の仕方やそれぞれの状態における出力といったことを示した表、先ほどの歯車機械の例で示したようなものですが、それがあれば、その離散状態機械が未来において何をするかは、計算によって予測することが可能なわけです。この離散状態機械の将来の振る舞いを予測する計算を、デジタル・コンピュータにやらせてはいけないという理由などありません。そして、この計算をデジタル・コンピュータが十分な速さで処理できるのならば、デジタル・コンピュータは、どんな離散状態機械であっても、その真似をすることができるということになります。ある離散状態機械の振る舞いを正確に予測できるということは、その機械とデジタル・コンピュータを同じ状態にして同じ入力を与えたら、デジタル・コンピュータは機械と同じ出力を返すことができるわけです。正確には、デジタル・コンピュータは、機械が返すはずの出力を計算して、それを返すわけですが。ということは、つまりは、その機械を真似しているということになりますよね。離散状態機械はその未来の状態や出力を計算によって予測できるわけですから、その計算を行えるデジタル・コンピュータは、全く同じように振舞うことができることになるわけです。

離散状態機械と、それを真似するデジタル・コンピュータということで、2つに模倣ゲームをやらせてみるのもよいでしょうね。このような場合、私たちの模倣ゲームは、対象となる機械(B)と、それを真似しようとするデジタル・コンピュータ(A)とによって行われるものになります。実際にやってみると、質問者は両者を区別することはできないでしょう。もちろん、ゲームに参加するデジタル・コンピュータは、十分な記憶容量と高速の処理能力を備えていなければなりません。さらに、対戦相手の真似しようとする機械が変わるたびに、新しい機械に合わせてプログラムし直す必要があります。この条件さえクリアできるのであれば、デジタル・コンピュータは、離散状態機械相手の模倣ゲームで、十分に質問者を惑わすことになるはずです。

デジタル・コンピュータはどんな離散状態機械であっても真似ることができるという性質、この特別な性質を表す言い方として、デジタル・コンピュータは万能の機械(universal machines)であると言われたりします。このような万能性という性質を持った機械が存在しているということは、重要な意味を持っています。万能機械が存在しているということによって、処理速度の考慮は別にして、さまざまな計算処理を行うために、それぞれの処理内容に合わせた新しい機械を設計する必要はないということになるのです。それぞれの処理に合わせて適切にプログラムされれば、一台のデジタル・コンピュータにすべての計算処理を行わせることができるということなんです。さらには、すべてのデジタル・コンピュータは、ある意味で等価だということ、つまりは互いに置き換えることが出来るということ、そういうことにもなるのはお分かりいただけると思います。だって、デジタル・コンピュータも離散状態機械ですから、他のデジタル・コンピュータで模倣できるわけですから。

ちょっと話が込み入ってきましたので、ここで簡単に整理しておきます:

と、こういうことです。

さて、デジタル・コンピュータというものの仕組みやその特性について考察してきましたが、本質的な点については一通り説明が済みましたので、ここで、私たちの本来の問題の考察へと戻りましょう。

先ほど、「機械は考えることができるか」という問いは「模倣ゲームをうまくこなせる想像上のデジタル・コンピュータは存在するのか」という問いに置き換えられるべきだと私は述べました。しかし、デジタル・コンピュータというものがどんなものなのかを踏まえていないこの言い方は、表面的なものに留まっていると言えるでしょう。そこで、デジタル・コンピュータに関する考察をふまえて、もう少し一般的な問いへと言い直すならば、「模倣ゲームをうまくやる離散状態機械は存在するのか」と問うことになるでしょう。しかし、つい先ほど説明したデジタル・コンピュータの万能性という性質をふまえるならば、これら私たちの問いのいずれもが、次のような問いと同じことであることがわかります。

「ここに一台のデジタル・コンピュータ C があるとしよう。『このコンピュータ C に、十分な記憶装置を備えさせ、実行速度も十分に速くなるようにし、そして適切なプログラムを与えるという改良を加えたならば、コンピュータ C は、人間の男性がプレイする B といっしょに模倣ゲームをプレイして、A の役割を満足にこなすことが可能である。』これは正しい(true)のか?」

堅苦しい言い方になっていますが、もうすこし簡単に言うならば、「『デジタル・コンピュータが万能性を発揮できる条件が整っているならば、デジタル・コンピュータは人間の男性を相手にした模倣ゲームをうまくこなせる』というのは正しいのか?」ということです。「正しいのか?」という問い掛けになっているのは、私たちの関心は、理論的・原理的なことであって、今・ここで・現実に可能かどうかということではないからです。技術的な問題ではなく(この側面を蔑ろにするわけではありません)、理論的な問題として、考えたいわけです。計算する離散状態機械として万能性を持っているデジタル・コンピュータという機械、それが持っている原理的な可能性をどう考えるのかということが、この問いの核心にあるのです。デジタル・コンピュータというモノ(machine)の問題ではなく、デジタル・コンピュータという仕組み・機構(machinery)の問題なのだと言ってもいいでしょう。

このようにデジタル・コンピュータの原理的な問題へと再定式化することによって、「機械は考えることができるのか」という問いは、曖昧さを取り除いた形で議論できるようになると私は考えるわけです。ですから、これが「機械は考えることができるか」という私たちの問いの、最終的に定式化されたものということになります。

反対の立場をとる見解の検討

これで議論の前提となる考えは明確になりました。そこで、私たちの問い、つまり「機械は考えることができるのか」という問いと、それを私が先ほど定式化しなおしたもの、この問いに関する論争の検討へと話を進める準備は整ったということになります。

ここまで、最初の「機械は考えることができるか」という問いをデジタル・コンピュータの万能性をふまえた新しい問いの形へ置き換えるということを論じてきたわけです。だからといって、最初の問いを捨て去って、私たちの新しい形の問いだけを考えればいいかというと、そういうわけにもいきません。というのも、私が先ほど述べた形へ問いを置き換えること自体が批判の対象になりうるからです。私たちが行った新しい問いへの変換をどの程度適切だと考えているかによって、この問題に関する意見というのは違ってくるでしょう。最初の問いと新しい問いとの間のつながりについて何らかの意見が述べられるのであれば、それに耳を傾けなければなりません。ですから、「機械は考えることはできるのか」という最初の問い、「万能性を発揮できるデジタル・コンピュータであれば模倣ゲームをうまくこなすと考えて正しいのか」という新しい問い、そして、二つの問いは同じことであると考えること、こういったことが論点になるわけです。

論争の検討へ進める前に、ここで、私自身の立場、信念をはっきり述べておきます。そうすれば、みなさんは、私がどのような立場から考察し発言しているのか迷われることも無くなるでしょう。

まず、先ほど定式化した、より精確な形での問いに対する私の意見を述べておきます。私は、あと50年もすれば、たいていの質問者が5分間の質問を行っても 70% 以上の確率で正しい判定ができない、つまり10回やって7回はどちらが人間でどちらがデジタル・コンピュータなのかを正しく同定できない、その程度には模倣ゲームをうまくこなすようにデジタル・コンピュータをプログラムすることが可能になると信じています。50年もすれば、デジタル・コンピュータは 109 の記憶容量を備えたものになっていて、それだけの記憶容量があれば、今言った程度には模倣ゲームをうまくこなせると信じています。

次に最初の問いである「機械は考えることができるか」という問いですが、これについては、私は、この問い自体が議論するまでも無いような意味のないものになってしまう、そう信じています。20世紀の終わりには、言葉の用法や教育を受けた人たちの意見というものが今より大きく変化して、機械が思考しているということを何のためらいも違和感も無く口にすることができるようになるだろうと、信じてます。今の私たちは、考えるということ、思考ということを、人間独自の能力だと考えています。ですから、「機械が考える」という言い方や考え方に違和感や嫌悪感を感じるのでしょうが、やがては、「考える」ということは人間に限った活動ではないことが広く受け入れられるようになると思うのです。

「信じている」を繰り返してますが、さらにもう一つ「信じる」を付け加えさせてください。私がデジタル・コンピュータについて今述べたことは、すべて私が「信じている」だけのことであって、証明された事実ではないわけです。単なる私個人の信念を述べたにすぎません。このような信念を語ることに対して批判的な意見もあります。信念といったものは自分の胸の内に秘めておくべきであって、そうした方が役に立つ目的を得られるのだというわけです。私は、この考えが間違っているということも信じてます。信念をはっきりとさせ、それに基づいて研究を進めるほうが有用な目的が見いだせるはずです。

世間では、科学者というものは、研究を進めていくときには、動かしがたい事実から別の動かしがたい事実へと揺るぎない足取りで探求を進めていくものであって、推測なんてものには、それがどんなに練り上げられたものであっても影響を受けることがない、あるいは受けてはならない、そんなふうに思われています。でも、これは間違いです。なにが事実であり、なにが推測であるか、このことが明確に区別されているならば、どんな害も生じないのです。そして、推測は非常に重要なものなんです。なぜなら、推測によってこそ、どの方向へと研究を進めたら有用なのか、それが示されるものだからです。ですから、私がこうして自分の信念を明らかにすることも、研究のためには重要なことであると信じてます。もちろん、これは、あくまでも信念にかんする信念なわけですが。

さて、私の立場、信念を明らかにしたところで、それに対する反論を検討していくことにしましょう。色々な立場からの反論があるのですが、ここでは、以下のそれぞれの立場からの反論・異論を順に検討していくことにします。

  1. 神学的異論
  2. 聞かなかったことにする立場の異論
  3. 数学的異論
  4. 意識に関する立場からの議論
  5. 様々な能力の欠如を指摘する立場からの議論
  6. ラブレス伯爵夫人の異論
  7. 神経システムの連続性を重視する立場からの議論
  8. 行動は形式化しつくせないという立場からの議論
  9. 超能力を信じる立場からの議論

神学的異論

ではさっそく神学的な反論の検討に入りましょう。この神学的な立場からの異論というのは次のようなものです:

「思考は人間の不滅の魂がもつ能力である。神は、すべての男性と女性に不滅の魂をお与えになった。しかし、いかなる動物や機械にも、魂はお与えにはなっていない。それゆえ、動物や機械が思考することはけっして出来ないのだ。」

私は、この意見のどの部分も受け入れることはできません。しかし、相手と同じ土俵にたって、つまり神学的な枠組みを用いて反論してみることにしましょう。

神学的な議論へと踏み込む前に、この意見を聞いて思い浮かんだことを二つばかり述べておきます。

まず、もし世の中に存在しているものにも違いがあってその違いの大きさを訴えたいのであれば、動物を人間と同じ分類に含めたほうが説得力がありますね。なぜなら、私が考えるに、人間と動物との違いよりも、生命を持ったものと持たないものとの違いの方が、その違いは大きいからです。世の中に存在しているものを、人間という動物と、人間以外の動物と機械との2つに分けるというのは、人間を特別扱いしたいのがミエミエですよね。

つぎに、こうした考え方は、キリスト教という宗教においては正統で正しいものだとされているわけですが、宗教における正統的な考え方というものは何らの必然性もないものだということです。つまり、科学的・物理的な必然性、私たちがこの世界に生きている限りは絶対的に従うしかないような必然性、それに基づいた考え方ではなく、その宗教の世界観によって恣意的に作られた考えにすぎません。このことは、宗教どうしを比較して、ある宗教の正統な考えが、他の宗教を信奉する共同体の人々にはどのように感じられるだろうかと考えるならば、よりはっきりします。イスラム教徒は女性は魂を持たないと考えるのですが、キリスト教徒はこれをどう思うでしょうか? 間違っていると思うでしょう。しかし、宗教的な世界観というのはそういうもので、他から見ればおかしなものや間違っていると思うものが、その宗教では絶対的に正しいとされていたりするわけです。そういう意味では、先ほどの異論というのも、キリスト教的な世界観に縛られた偏ったものだということだってできるわけです。まぁ、この点にはこれ以上は突っ込まないことにしておきます。

神の存在を認め、神が魂を与えること、魂を持つものが思考するのだということ、こうしたことを認めたとして、先ほどの異論を改めて検討してみることにします。すると、先ほどの異論は、全能の神の能力に対する重大な制約を課すものだと、私には思えます。確かに、いくら全能の神であっても出来ないことがあるということは認められています。たとえば、1を2に等しくするなんてことはできない。しかし、全能の神が、もし動物である象が魂を持つのに相応しいと考えたとして、そのような場合でも、神は象に魂を与えるということができないとか、そうする自由はないのだと、そのようなことを信じるべきでしょうか? もし神が相応しいと考えられたものであれば、何であっても、神は魂をお与えになれると信じるべきではないのでしょうか? 全能の神なのであれば、思うがままに魂を与えることができるのが当然でしょう。私たちの知っている現在の象が魂を持っていないのは、魂をもつに相応しい存在ではないからでしょう。ですから、もし神が象に魂をお与えになるとすれば、神は魂をお与えになる際には同時に、魂に仕えるのに相応しいように進歩した脳を持つように象に突然変異を起こさせるだろうと考えることができます。言い換えるならば、神は全能であるかぎりは、相応しい存在には、それが人間でなくても、魂をお与えになることができるのではないでしょうか。

機械の場合でも、まったく同じ議論ができます。もしある機械が魂をもつに相応しい存在なのであれば、神はその機械に魂を与えることができるはずです。すくなくとも、絶対に魂を与えないというのは、神の全能性を疑うということになります。この機械の場合の議論が、象の場合の議論とは違うと思えるとしたら、それは、機械の場合は話を「飲み込む」のが象の場合よりも難しい、つまり違和感が大きいということでしょう。しかし、この「飲み込み」の難しさというのは、神が機械の置かれている状況を、魂をお与えになるのに相応しいものだと考えるようなことは、象なんかに比べるとよっぽどあり得ないことだと私たちは考えている、このことが原因であって、神に機械に魂を与える能力を認めないということではないのです。問題の焦点である機械が置かれている状況については、これから論じていきます。魂をもち、それゆえに思考することができるような機械を私たちが作ろうとすることは、決して、魂をお作りになるという神の能力を、不遜にも奪おうとすることではないのです。私たちが生殖で子供を作ることが、神のその能力を奪う行為ではないのと同じことです。あくまでも魂をお与えになるのは全能の神です。機械を作る場合でも、子供を作る場合でも、いずれの場合も、私たちは、神の意志の道具にすぎません。神がお与えになる魂が住まうのに相応しい場所を作り出す道具なのです。

神学的な議論をちょっとばかり展開してみましたが、でも、こんなものはただの空論にすぎません。私の立場に対する異論の根拠としてどのような神学的な議論が展開されようとも、私はまったく心動かされることはありません。科学の歴史を振り返ってみれば、過去における神学的な議論が見当違いなものだったことは、これまでに明らかになっています。たとえば、ガリレオの時代には、コペルニクスの地動説の否定の正当な根拠として、聖書に書かれていること、たとえば「そして太陽はじっと留まっており...一日中、降りてこようとはしなかった」(ヨシュア記10章13節)とか「神は地球の基礎を横たえた。それはいかなるときも動こうとはしなかった」(詩編105章5節)といったことが、持ち出されていたわけです。しかし、現在の私たちの知識に基づくならば、そのような聖書に基づいた議論はくだらないものにしか思えませんね。でも、私たちの持っているような知識が無かった時代には、このような聖書によった議論は、まったく違った印象を人々に与えていたわけです。このように、神学的な議論というのは、私たちの議論に対する重大な反論にはなりえないと考えます。

聞かなかったことにする立場の異論

では、続いて、そういう話は聞かなかったことにする立場の異論をみておきましょう。これは次のような意見のものです:

「機械が考えるということがもたらす結果はとても恐ろしいものである。だから、機械が考えるなんてことはできないと望み信じることにしようじゃないか」

この手の意見が、今述べたようなあからさまな形で表明されることはほとんどありません。しかし、機械と思考について少しでも思いを巡らす人のほとんどは、このような考えの影響を受けています。機械が思考するなんてあり得ないんだから、そもそもそんなことを考えるのが馬鹿げているというような意見を耳にすることがありますが、「あり得ない」といってる根拠は、単に「そういうことがあったら困る」という感情だったりするわけです。人間というものは、巧妙で知的である点で、その他の創造物よりもすぐれている、私たちはそう信じたがるもののようです。科学的な法則あるいは原理によって人間が優れているということには必然性があることを示すことができるならば最高でしょう。そうならば、私たちは、他の創造物の監督者という地位を失う心配はまったくないわけですから。先ほど検討したような神学的な議論が広く受け入れられているというのも、明らかに、この気持ち、つまり人間は他の存在より優れているはずだという気持ちに結びついています。この傾向は知的な人々の間に非常に根強くあるようです。というのも、知的な人々は、他の人たちよりも、思考という能力の価値を高く評価するわけです。ですから、人間が思考できるということ、この思考という能力こそを、人間が優れた存在であると信じる根拠にしようとするわけですね。

私は、この手の異論は、きちんと反論をくわえるほどの価値があるとは考えません。議論は論理的なものではなく心情的なものだからです。いくら議論を積み重ねたところで、機械が思考しうるということを理屈によって納得してもらうことはできないでしょう。ですから、このような考えの人に対しては、論理的な議論を展開するよりも、慰めの言葉をかけておくほうが良いでしょうね。たとえば「人間の優位性は、おそらく、魂の輪廻の中に探し求められるべきものでしょう」とか、そういうことを言っておけばいいと思うんです。

数学的異論

数学的異論の検討に移りましょう。

数理論理学の分野では、離散状態機械の能力には限界が存在していることを示すのに使える理論的な成果がいくつもあります。最も有名なものはゲーデルの不完全性定理として知られているものです。どんなに強力な論理体系であっても、その論理体系が無矛盾なものであるならば、その論理体系の中だけでは正しいと証明することも間違っていると反証することもできないような命題が定式化できるということ、このことを示したのが不完全性定理です。この不完全性定理とは別に、ある点では同じようなことを述べているものとして、チャーチ、クリーネ、ロッサー、そして私チューリングによって明らかになった成果があります。こちらのほうは、機械を直接に対象としたものになっていますので、ここで取り上げて、考察するのに一番良いでしょう。それに比べると、他の成果の方は間接的な議論を展開しないと、離散状態機械の問題の考察には使えないのです。たとえば、先ほど述べたゲーデルの不完全性定理を私たちの議論に持ち込むためには、論理体系を機械の枠組みで表現し、機械を論理体系の枠組みで表現する、そういう何らかの方法を必要とします。しかし、私が関わったものは、本質的には無限容量を備えたデジタル・コンピュータであるような機械について述べたものになっています。

では、私が関わった数理論理学の成果とは何を示したものなのか。それは「チューリングマシンの停止問題の決定不可能性」と呼ばれるものなのですが、無限の記憶容量を備えたデジタル・コンピュータでも実行できないようなことが存在していることを示したものです。

無限の記憶容量があれば、デジタル・コンピュータは、どんな計算処理であれ、それが有限回の演算の手順をこなしていけば解けるものであれば、かならず処理することができるわけです。計算が終了したら役目を終えたデジタル・コンピュータは停止するものだとすると、たいていの計算問題の場合は、それを処理させたら、デジタル・コンピュータはいつかはちゃんと停止して正しい答えを出すことは明らかということになります。ところが、コンピュータがいつまでたっても停止しない、あるいは停止したとしてもそこで出てきた答えが間違っている、そういう計算問題が存在するのです。先ほどのゲーデルの不完全性定理に即して言うならば、与えられた命題が真か偽かを計算できるような計算機械をもってしても、ある種の命題は、どんな演算の手順をふんだとしても、真であるとも偽であるとも計算できないということなんですね。そのこと、つまりデジタル・コンピュータでは真とも偽とも判定できないような命題が存在すること、言い方を変えれば機械的な手順では真とも偽とも判定できない命題が存在すること、計算の理論をやってる人たちの言い方をすれば「アルゴリズム的に解決不可能な問題がある」ということが定理であること、このことを私は証明したのです。

どういうことか、もう少しくだいて説明しましょう。今、与えられた質問の答えを返すような機械、ちょうど模倣ゲームに参加する機械のようなものですが、そんな機械を作り上げたとします。また、返事を返すまでにどれだけ時間がかかってもよいとします。このとき、機械が間違った答えを返すことになるか、あるいは全く答えられないことになる、そういう質問が存在しているということなのです。そのような質問はたくさんあるかもしれませんし、ある機械には答えられないものであっても別の機械ならちゃんと答えられるという質問もあるでしょう。当然のことながら、今考えている質問というのは、「Yes」か「No」で答えられるような質問です。「ピカソについてどう思いますか?」というような質問ではありません。

機械が必ず回答に失敗する質問として分かっているのは、次のようなタイプの質問です:「ある条件Xに従って設計されて作られた機械を考えてください。この機械は、どんな質問にも『Yes』と答えるでしょうか?」。条件Xの部分には、ある標準的な形式で定式化されたなんらかの機械についての記述が入ります。先ほど、私たちの問いの定式化を行った際のものみたいな記述です。この質問を投げかけられたとき、質問されている機械が、質問の中で説明されている機械と、ある種の比較的単純な関係にあるとき、機械の回答が間違っているか機械がいつまでたっても回答しないということを証明できるのです。

先ほどの質問は、機械に機械の振る舞いについて尋ねるというちょっと変わったパターンになっているところがミソなんです。ある機械、仮にAとしておきましょうか、そのAの動作、つまりその機械Aが計算するべきことと計算の手順(プログラム)が厳密な形で定式化されているとしましょう(これが先ほどの質問の一つ目の文で述べていることです)。で、Aと同じように作られた別の機械Bに、この機械Aの動作について検証させます(これが質問の二つ目の文で述べていること)。機械AはXという問題を解けるかどうか(答えを出して停止するかどうか)をBに調べさせるわけです。デジタル・コンピュータは他の機械を真似できるという万能性を持っているわけですから、他の機械の動作を調べて検証を行うことぐらいできそうに思うかもしれませんが、これがうまくいかないんですよ。BはAについて、正しい判断を下せないんです。

さて、今述べたこと、つまり機械には絶対に答えを出せない問題が存在するということ、これは数学的に明らかになっていることです。このことによって、人間の知性には問題にならないのに機械には出来ないことがある、そういうことが証明されたと言われています。機械の能力には限界があることは数学的に明らかになってるじゃないか、だから知的な限界をもたない人間みたいな思考なんてできないよ、とそういうことを言うわけです。

こうした意見に対して、簡潔に回答するならば、こう言うのが良いかなと思います:「どんな特定の機械であれ能力に限界があるということは確証されているが、しかし、人間の知性に同じ限界が課せられていないということは、どんな証明もなされたことがないまま、ただこれまでそう言われてきたことに過ぎないじゃないか」。つまりですね、先ほどの数学の話のように機械の限界は確かにちゃんと証明されたわけです。でも、人間知性には、その限界がないということは証明されていないわけです。ですから、機械の限界が証明されたことを持って私の立場に反対する人は、証明されていない理由に基づいて議論していることになるわけです。

とはいえ、私は、人間の知性には限界がないという見解を、証明されてないことを指摘したぐらいで簡単に退けることができるものとは考えていません。

先ほどの数学の議論の中で触れた機械が、まさに致命的な質問、つまり機械が間違うか答えられないことが明らかな質問を投げ掛けられ、はっきりとした答えを返してきたとします。このような時にはいつでも、私たちはその機械の答えが間違っているに違いないことが分かるわけです。答えられないはずの問題に答えを出してきたわけですからね。そして、機械が間違ったということが、我々にちょっとした優越感を与えてくれるわけですね。この優越感は錯覚に過ぎないものでしょうか? その優越感は疑いようも無く純粋な心からのものでしょう。とはいえ、その優越感にあまり重きをおくべきではないと私は考えます。私たち人間だって質問に対して誤った答えをすることがかなり頻繁にあるわけじゃないですか。そうである以上、機械が誤るという証拠に、なにか鬼の首でもとったかのように喜ぶのはフェアじゃないと思いませんか? さらに、私たちが機械が間違うのを目にして優越感を感じることができるといっても、それは、ある一つの機械を相手にして、その機械が答えれないような質問を投げ掛けた場合でしかないわけですよ。言ってみれば特定の機械に対する些細な勝利でしかない。すべての機械に同時に勝利を収めることができるような質問は存在しないでしょう。端的に言えば、人間は自分が相手をするどんな個別の機械よりは賢いかもしれないが、その機械のほかにもっと賢い機械があって、じゃあと次のその機械と相手をすると人間の方が賢いが、それよりも賢い機械があって…と、そういう感じの話になってしまうということです。私の関わった停止問題の決定不可能性にせよゲーデルの不完全性定理にせよ、ある特定の機械(体系)においては決定不可能な命題が存在することは明らかにしましたが、すべての機械(体系)で決定不可能な命題が存在することを明らかにしたものでないんですよ。ある機械(体系)では決定不可能な命題でも、別の体系にとっては決定可能なんです。もちろん、後者の体系には、その体系にとっての決定不可能な命題が存在しますが、その命題もまた別の機械(体系)にとっては決定可能なんです。相対的決定不可能性と絶対的決定不可能性はきちんと分けて考えなくてはいけません。まぁ、根本的なことを言うなら、無矛盾性と真理とは違うという大きな問題を論じる必要があるんでしょうが。

ともあれ、数学的な議論に基づいて私に反論する人たちであっても、たいていの人は模倣ゲームを議論の土台に用いることには賛成してくれるものだと私は考えてます。でも、その前に検討した神学的な反論を説く人や知らんぷりをしたい人は、どんな基準で議論するかってこと自体にも関心を持たないでしょうね。

意識に関する立場からの議論

では、意識に関する議論の検討に移ります。

この議論の主張は、ジェファーソン教授がリスター記念講演の中でうまく表現されていますので、それを引用しておくことにします。

「機械が、デタラメに文字や記号を並べるのではなくて、なにかのアイデアがひらめいたとか気持ちの高ぶりを感じたことがきっかけでソネットを書いたりコンチェルトを作曲することができる、そうなるまでは、機械が脳と同等だという意見に同意することはできない。脳というものは、ソネットやコンチェルトを書いたりすることができるだけではなく、それを自分が書いたということを知っているものなのである。どんな機械仕掛けであっても、自分の成功に喜びを感じることはできないし、真空管のヒューズが切れてしまったことに悲しみを感じることもできない。お世辞に舞い上がったり、自分の失敗に惨めになったり、セックスに心奪われたり、欲しいものが手に入れられないからといって怒ったり落ち込んだり、そういうこともできやしない。予め仕込んでおいた信号が出るだけとかそういう簡単な仕掛けでそれっぽく見せることはできるにしても、今言ったようなことを機械が本当に感じることはできないのだ。」

このような主張は、私たちの模倣テストの正当性を否定しているように思えます。本人というか本体というか、それがどのように感じて意識しているのかが重要だということですから、この見解をつきつめるならば、機械が思考しているということを確信できる唯一の方法は、自分が機械になって、機械として考えているということを自分で感じることだということになります。そうすれば、その人は機械である自分の感情を世界に向かって堂々と述べることができます。しかし、当然のことながら、自分が言っていることが正しいことを示すことはできません。だって、その機械じゃない他の人には、本当かどうかを確かめる術はないわけですから。同じ理屈で、ある人間が思考しているということを知る唯一の方法は、その人そのものになるしかないということになります。みなさんは、私が思考する存在として、自分の考えたことを話していると思っていることでしょうが、もしかしたら私は考えている振りをしてるだけのマネキンかもしれません。私が本当に思考しているのかどうかは、私になってみないと分からない、そういうことになるわけです。

これは唯我論という立場の考え方です。この立場は、考え方としては論理的に突き詰めたものではありますが、この立場にたってしまうと、アイデアの伝達が難しいものになってしまいます。たとえば、ここにAさんとBさんという二人の人間がいるとします。Aさんは「Aは思考するが、Bは思考しない」と当然のように信じるものでしょうし、一方のBさんは「Bは思考するが、Aは思考しない」と信じるものです。互いに、他ならぬこの自分が感じ考えることが真実であることの根拠であるということは譲らないとしたら、話し合いの余地はないように思えますよね。この点について延々と議論を続けて決着を付けようとするよりは、誰もが思考しているとする真当で世間的な慣習に従うほうが、まぁ、まともで有益ですよね。

ジェファーソン博士が、このような極端で唯我論の立場に立とうとしているのではないことは分かっています。おそらく、博士は、模倣ゲームをコンピュータが脳と同等のものかどうかのテストに使うことは文句無しに受け入れてくれるでしょう。その場合の模倣ゲームは、コンピュータだけを相手にした、つまり質問されるのは一人だけの形のものになります。この形の模倣ゲームというのは、しばしば実際に使われるものです。相手が本当に理解しているのか、それとも「丸暗記で詰め込んだ」ものかどうかを確かめるために使われる、口頭試問というやつですね。皆さんの中にも入試などで面接を受けた方もいると思いますが、あれを思い浮かべてもらえばいいでしょう。そういう口頭試問がどんなものかを、ちょっと見てみることにしましょう。

質問者:あなたのソネットの最初の行は「汝は夏の日のごとし」とありますが、これは「春の日」でもいいか、あるいはそっちのほうがよくありませんか?

被験者:でも、それじゃソネットの型に合いませんよね。

質問者:では「冬の日」ではどうです? ちゃんと型に合いますよ。

被験者:そうですが、でも冬の日に喩えられて嬉しい人なんていませんよ。

質問者:ピクウィック氏のことを思うとクリスマスを思い出すってことではどうです?

被験者:まぁ、確かに、そうもいえますが。

質問者:クリスマスは冬の日ですよね。だったら、ピクウィック氏は冬に喩えられるのを気にするとは思えませんけど。

被験者:それは屁理屈としか思えません。冬の日といえば、クリスマスみたいな特別な日のことではなくて、ごく普通の冬の日のことですよ。

とまぁ、こんな感じで続いていくわけです。ソネットを書ける機械がこんな感じで口頭試問に答えることができたら、ジェファーソン博士はどうおっしゃるでしょうかね? 一連の回答を、機械が「予め仕込んでおいた信号を返しているだけ」にすぎないと思うんでしょうかね? 私にはわかりませんが、ただ、機械の回答がちゃんとしていて、さっきの感じで続くのなら、ジェファーソン博士も、さすがに、その機械が「簡単な仕掛け」だとは言わないと思います。私が考えるに、ジェファーソン博士が「簡単な仕掛け」と言っているものは、予め録音してある色々なソネットを、その時々に応じて取り換えながら、読み上げていくような、そんな程度の機械を指すつもりの言葉でしょう。

端的に言うならば、意識の立場からの反論を支持するほとんどの人たちは、議論を突き詰めて問い詰められて唯我論の立場を無理やり引き受けることになるぐらいなら、そこまで極端なことを言うつもりはないと意識の立場の意見をすてちゃう、そうなる可能性が高いと私は考えてます。そして、模倣ゲームで機械が思考しているかどうかの判定を行うという私たちの考えを、たぶん、喜んで受け入れるようになると思います。

意識を巡る議論にあれこれ言ってきましたが、注意してもらいたいのは、私は、意識には不可思議なところなど全くないと考えているわけではないということです。もしかしたらそのように感じられたかもしれませんが、私はそんなことは思ってない。実際、意識のありかを突き止めようとすると、どうしたって引っ掛かるパラドックスみたいなものがある、そのことは私は認めてます。しかし、私たちが考察している問いに答えるために意識の謎を解決する必要があるとは思っていません。意識の謎と私たちの問題とは直接は関係ありません。

様々な能力の欠如を指摘する立場からの議論

人間にはできることが機械にはできない、その点をあげつらって、機械が人間のように「考える」なんてできるわけないじゃないかと主張する人たちがいます。こうした、機械にはできないことがある、能力がないという議論について見ていくことにします。

この手の議論は、整理すると、次のような形になります:

「たしかに君が言ったようなことをすべてこなせる機械を作ることはできるだろう。それは認めよう。でも、XXXができるような機械は絶対に作れっこないよ。」

XXXのところには、人に応じて、色々なものが入ります。いくつか挙げておくと:

親切にする、機知に富んでいる、美しい、親密である、ユーモアのセンスがある、善悪の区別が付けられる、間違いを犯す、恋に落ちる、クリームがけイチゴを堪能する、誰かを虜にする、経験から学ぶ、言葉を正しく使う、自分の考えをはっきりと持つ、人間のように色々な振る舞いをする、本当に新しい何かをやってみせる。

こうした意見は、たいていは、それ裏付ける確固たる理論や原理などがあって述べられたものではありません。こうした意見は、そのほとんどが、意見を述べている人の経験に基づくもの、つまり科学的帰納法によって得られた意見であると、私は信じています。人間というものは、その生涯において、無数の機械を目にすることになります。そうして自分が目にしてきた機械のことから、人は、いくつかの一般的な結論を引き出します。たとえば、機械とは醜いものだとか、個々の機械は非常に限られた目的のために作られたものでちょっとでも目的が違うと役に立たないとか、どんな機械でも動作の多様性の幅はとても狭いとか、他にも色々あるでしょうが、そういう結論に達するわけです。こうした自分の経験が教える機械の特性というものは、機械一般が必ずもっている特性であると結論づけるのももっともなことです。経験から学ぶって言うのはそういうことですからね。

今挙げたような、機械は限られた目的のためにしか役に立たないといったことなどの多くの機械の欠点・限界というものは、ほとんどの機械の記憶容量が非常に少ないことが原因です。私に言わせれば、それらは機械の限界ではなく、記憶容量の限界の問題だということです。記憶容量といっても、先ほど述べたデジタル・コンピュータ、離散状態機械だけの話ではなく、普通の機械一般にも当てはめることができるように、概念を広げることができるものだとして話をしています。その場合の記憶容量という概念の厳密な定義がどうなるかということは、今は問題にしません。私たちが議論していることに数学的な厳密さまでを求めているわけではないですから。とりあえず、記憶容量、それは命令や状態を保持しておく場所なわけですが、それが十分な容量がないがゆえに、多くの機械は限られたことしかできないと考えられるということです。

ほんの数年前、まだデジタル・コンピュータのことを耳にしたことがある人などほとんどいなかった時には、デジタル・コンピュータがどんなふうに作れているかを説明せずにあれこれの特性を話してみたところで、そんな話は信じられないという態度を取る人がたくさんいたに違いありません。私が思うに、それも科学的帰納法の原理を適用するという先ほどと同じようなことが原因でしょう。つまり、自分の経験に基づいて考えるならば、デジタルなんとかってやつが、あれこれと言われてることができるとは到底思えないってわけです。なんせ、そういう機械は見たことがないわけですから。こうした、過去の経験から一般論を引き出し、それが普遍的な事実だと思ってしまうことは、もちろん、たいていは無意識のうちに人が行ってしまうことです。たとえば、やけどをしたことがある子供が、火を怖がって、火を避けることで自分が怖がっていることをしめすなんてことがあった場合、私は、この子供も、そうした経験の一般化、科学的帰納法の適用をおこなっているのだと言うべきだと思います。もちろん、彼の行動を別の観点から説明することはできるわけですが。それでも、子供であっても、何かの対象について、自分の限られた経験をもとに一般論を引き出して、それに基づいて行動することをやっていると言える。

自然界の出来事ならまだしも、人間の作り上げたものや習慣というものは、こうした経験の一般化、科学的帰納法を適用して原理を導き出す対象としては相応しいものとは思えません。科学的帰納法によって人間の制作物や習慣について信頼するに足る結論を得ようとするならば、太古から現代までの地球上のすべての地域という、広大な時空における制作物や習慣についての調査がなされる必要があります。そうでないなら、イギリスの子供たちに実際に見られることですが、自分の周りの人間がすべて英語をしゃべっているのをみて、人間は誰もが英語をしゃべるんだからフランス語なんか勉強したってアホらしいと判断してしまう、そういう間違った結論を下すことになるわけですよ。すべての人間の営みを調査した上で、それに基づいて何らかの原理とか一般論を引き出すのであれば、その理論は妥当なものになるのでしょうが、ひとりの人間が自分の人生で見聞きできる範囲の限られた経験をもとに下した判断は、偏ったものになるのは当然ですし、真理とはとうてい言い難いわけですね。経験の一般化、科学的帰納法による考察は、人間に関わるあれこれに関しては、十分に注意する必要があります。もっとも、人は往々にしてそういう一般化をしがちなものですし、それに拠って人生をおくっていたりするわけで、だからこそ、先ほど挙げたような「機械にはXXXができない」という意見が出てくるわけです。

ですから、「機械にはXXXはできない」という意見に対しては、「あんたはすべての機械を知ってるのか?」とか「あんたの限られた経験での話ではなく、機械の仕組みや原理をふまえて話をしろよ」という反論を返せばいいということになりますが、そうはいっても、先ほどの機械にはできないと言われたことの中には、いくつかあえて取り上げて論じておくべき特別なものがあります。

「機械はクリームがけイチゴを堪能することができない」という主張などは、みなさんは馬鹿馬鹿しいと思われたことでしょう。たぶん、このおいしいご馳走を味わって悦びを感じるような機械を作ることはできるでしょう。しかし、そんな機械を作ろうとするのはアホ以外の何もんでもない。とはいえ、この「機械はイチゴを味わえない」という反論が全く無意味かというとそうでもないんです。機械がイチゴを味わえないということが、ほかの機械の欠点を助長してしまうことがあるからです。その欠点とは、人間との間で親密な仲間意識を育むことができないということです。白人同士、黒人同士のような同じ民族や人種の人たちどうし、同じ嗜好や趣味を持った人どうしであれば、それこそ旬のイチゴをともに食べ、やっぱりイギリスの夏にはクリームがけイチゴだよねぇと旨さを楽しむ経験を分かちあうことで、親密さを増すことができます。でも、機械とはそういう食事の悦びを分かつことができないわけですね。そういう意味では、「機械がイチゴを味わえない」ということは、機械と人間とのつきあいにおける問題点へとつながってはいるわけです。もっとも、私たちの本来の問題である「機械は考えることができるか」という問題には、直接は関係ないとは思います。

「機械は間違うことができない」という主張も、ちょっと奇妙なものです。間違わないってことは、それはそれで素晴らしいことですから、「それのどこか悪いんだよ」と言い返したくなったりもしますが、ここでは主張した人の立場にたって、何が本当は問題なのかを考えてみることにしましょう。私は、この「機械は間違うことができない」という批判の真意は、先ほども持ち出した模倣ゲームを使って説明できると考えています。コンピュータと人間の二人を相手にした模倣ゲームにおいて、質問者は、算数の問題を何問か出せば、簡単に機械と人間の区別は付く。だって、機械はとことん正確な答えを出すことは隠しようもない。先ほどの批判を述べた人は、そう主張しているわけです。ある意味で、人間らしい思考を行うということには間違うことも含まれていると言ってるようなものかもしれません。でも、機械は、その人間らしい「間違いを犯すこと」ができないじゃないか、と批判しているわけですね。確かに、間違いを犯したり、あるいはその間違いから新しいことを見いだしたりするというのは人間ではよくあることです。科学上の大発見にはつきもののエピソードだったりしますよね。その点を突いている批判だと考えられます。

この批判に対する返答はいたってシンプルなものです。模倣ゲームをプレイするようにプログラムされた機械は、算数の問題に正しい答えを返さないようにだってできる。つまり、機械を間違わせることだってできるわけです。そういう機械は、質問者が混乱するように十分に計算された方法で、うまい具合に間違いが混ざるようになっているわけです。また、質問者は、機械的な間違い、動作ミスってやつですね、それも、算数の問題を解いているときに間違ったという誤った判断を下すんじゃないでしょうか。だから、機械は間違うことがないから模倣ゲームではすぐにばれてしまうとは言えないわけです。

「機械は間違うことができない」という反論を模倣ゲームを使って考えるというのは、反論した人の立場にはあんまり即したものとは言えないかもしれません。とはいえ、これ以上、あれこれ詮索する余裕はありませんのでこのへんにしておきたいと思います。ただ、この「機械は間違うことができない」という批判は、2種類ある間違いというものをごっちゃにしてしまっているからこそ出てきた意見のように私には思えます。

2種類の間違いというのは、「実行上のエラー」と「帰結のエラー」と呼ぶことができるものです。runtime error と semantic error のことだといえば、プログラミングに詳しい方には分かってもらえると思います。

「実行上のエラー」というのは、機械的な誤り、あるいは電気的な誤りによって、機械が、本来するようになっていたこととは別のことをしてしまうというものです。いってしまえば、機械の故障ですね。哲学的な議論をする際には、このようなエラーが起きうることを無視したがるものです。そして、「抽象機械」について議論する、そういうことが行われます。「抽象機械」というのは、物理的な存在を背負っていない、純粋に数学的なものとして想定された仮構の機械です。ですから、そういう「抽象機械」は、先程述べたような「実行上のエラー」を犯すことはできないわけです。実行上のエラーというのは、機械がまさにモノという存在だからこそ起こりうるエラーなわけですが、抽象機械は、そのモノという側面を捨て去ったものですからね。そういう抽象機械に関して言うのであれば、確かに、「機械は決して間違いを犯すことはできない」と言うことができます。モノではない抽象機械が「実行上のエラー」、つまりは故障ですが、そういうことを起こすことなんて絶対に無理ですからね。

もう一方の「帰結のエラー」というのは、機械が出力した信号を、人間が何らかの意味づけを行うときにだけ起こるものです。問題になっているのは機械自体の振る舞いではなく、それを人間がどのように受け止めるのかということにあります。たとえば、機械が数学の方程式や日常語の文章を出力するとします。で、間違った命題が出力された場合、私たちは「機械が結論を間違った」と言うでしょう。でも、考えてもらえばわかるように、機械がそのような間違った命題を出力するようにプログラムしたのは私たち人間なわけですよね。コンピュータはプログラムによって指示されたことを素直に実行したに過ぎないわけです。ですから、「機械が間違った」のではなく、「機械に対する我々の指示(プログラム)が間違った」と言うべきなんですよね。そういう意味で、機械がこの種の間違いを決して犯さないと言えるような理由なんてどこにもない。だって、間違ってるのは、突き詰めるなら、機械じゃなくて人間の側ですからね。機械が延々と 0=1 と印字し続けるだけだったら、私たちは機械がおかしいと普通は言うわけですが、根本的な原因というか、本当におかしかったのは、そういう状態へ機械を導くような指示を出した人間なわけですよ。指示された方法が間違っていたら、そこから出てくる結論、コンピュータの出力、それが間違ってるのは当然ですよね。もう少し真っ当な例としては、先ほどもやり玉にあげた科学的帰納法、経験の一般化、をあげることができるでしょう。機械が科学的帰納法を用いて結論を導けるようにすることはできるかもしれません。しかし、私たちは、そのような方法を用いる限り、出てきた結論は誤ったものでありうることを、ちゃんと心しておかないといけないのです。このように、間違った方法を機械に実装すれば、いくら機械が正確に機能しようとも、出てきた結果は私たちにとっては「間違った」ものになるわけです。

このように、「間違う」ということを厳密に考察するのならば、どのような機械が、どういうエラーを犯すのかをちゃんと考えないといけないわけです。「間違い」がどんな「間違い」なのかによって、「機械は間違うことができない」という意見は、正しかったり、間違っていたりすることになります。

「機械は主観を持つことができない」という主張に対して反論するには、当然ではありますが、機械が何らかの思考について、主観的な意識を持っているということを示すことでしかできないでしょう。私たち人間は、自分が行いつつあることに関して、主観的な意識、自意識といってもよいかと思いますが、そういう意識を持つことができます。たとえば今、私は、こうして皆さんの前でお話ししているわけですが、話をしながら、自分が「話している」ということも意識しているわけです。自分がやっていることを、ちょっと引いたところから眺めている意識というか、ちょっと難しい言い方をするならば反省的な意識、そういうものがあるわけです。それが主観というものです。で、機械がこういう意識、主観をもてるかどうか、そこが問題になっているわけです。とはいえ、先ほども述べたように、最終的には、機械がそういう意識を持っていることを何らかの形で示さないと、批判にたいして反駁することはできないでしょう。

とはいえ、「機械の処理に関する主観的な意識」言い換えるならば「自分が何をやっているかということを分かっている意識」、そういう表現は、機械が実際に私たちのような意識を持っているかどうかを別にしても、少なくとも、機械を扱っている人にとっては、全く意味がないものではなくて、何かしらもっともらしいものだと感じられるものだと思います。たとえば、機械が、x2-40x-11=0 という方程式の解を求めようとしている場合、この方程式は、その瞬間の機械の主観の一部であると言いたくなるものだと思います。機械は、「x2-40x-11=0 という方程式を解こうとしている」のであって、闇雲に与えられた演算を行っているわけではないと。つまり、個々の具体的な演算だけではなく、それが何をしようとしているのか、その処理の最終的な目的は何なのか、そういうことも機械は分かっていると普通は考えるのではないでしょうか? だからこそ「機械が方程式を解こうとしている」と言うのではないでしょうか? この意味において、機械が自分の行っていることに対する主観的な意識を持っていると言うことができます。そのような主観的な意識、目的意識といってもよいかと思いますが、それは、機械が自分のプログラムを自分自身で作り上げるのに役立てることができるでしょうし、機械の構造を変更したときにどのような影響が現れるのかを予測させるなんてことにも役立つかもしれません。もし機械がそのような自意識をもっているならば、機械が自分自身の振る舞いの結果を観察し、もっと効率よく目的を達成できるように、自身のプログラムを変更することが可能になるわけです。自らを改良していく機械とでもいいましょうか。そういう機械というものが、夢物語のものではなくて、近い将来に登場することでしょうね。

機械は色々な多様な振る舞いができないと批判するのは、機械が十分な記憶容量を持つことができないと言っているようなものです。つい最近まで、1000桁にも及ぶような記憶容量をもった機械なんてほとんどなかったわけですから、まぁ、こう考えるのも当然かもしれません。単にこれまでは持っていなかっただけのことであって、持てないということではありません。

私たちが、ここで検討した批判・反論は、多くのものが機械の自意識に関する議論の形と同じような装いをしています。機械が何かをできないということそのこと自体よりも、どこかで、人間のような多様性、柔軟性、あるいは間違い可能性とでもいうんでしょうか、そういうことが機械に備わってないことを問題にしたいような議論なわけですよね。機械にはあれやこれができないだろうと指摘されたことに対して、いや、機械はちゃんとこういうことができるんだよと主張し、機械がどうやって行うかを説明してみせたところで、たいして感心されないのが普通だったりします。機械が何かをやりとげる方法は、それがどんなことをやりとげるものであれ、機械的なメカニカルな方法でしかないわけで、そういうのは、どっちかという不純なものだと考えられているわけです。先ほど引用したジェファーソン教授の講演の中も、「予め仕込んでおいた信号が出るだけとかそういう簡単な仕掛け」という言い方があったように、どうも機械仕掛けというのはどこか本物ではなくて見せかけにしか過ぎないと思われちゃう。意識ってもんがこもってないとだめだってわけです。

ラブレス伯爵夫人の異論

では、続いてラブレス伯爵夫人の反対意見を取り上げて検討することにしましょう。

ラブレス伯爵夫人と言っても皆さんにはなじみがないかもしれませんが、彼女は、史上初のプログラマーとかハッカーと呼ばれることもある、オーガスタ・エイダ・バイロン・キング(Augusta Ada Byron King)のことです。エイダという名前の方で広く知られているでしょう。彼女は、詩人のバイロンの娘として生まれました。彼女が生まれてすぐに両親は離婚したので、娘と言っても詩人のバイロンとの関係は薄いようです。むしろ、母親の手引きで幼い頃から数学を学習し、そちらで才能を開花させました。エイダは、チャールズ・バベッジと親交を結び、バベッジの解析機関のよき理解者となりました。

バベッジの解析機関については、デジタル・コンピュータについて解説した部分でも取り上げましたが、現在、私たちがバベッジの解析機関についての情報をもっとも詳しく得ることができるものでバベッジの同時代に書かれたものとしては、ラブレス伯爵夫人が書いた論文があります。この論文を書いたことによって彼女はコンピュータ史に名前を残すことになったわけです。先ほど史上初のハッカーとかプログラマと呼ばれると言いましたが、実際には、プログラマというよりは、バベッジとその解析機関のエバンジェリスト(evangelist)といったところでしょう。

エイダのその有名な論文は、バベッジがイタリアを訪れて科学者会議に出席して、そこで解析機関について述べたことがもとになっています。イタリアの数学者の Luigi Menabrea という人が、バベッジがイタリアで行ったセッションを書き留めて、整理したものを、スイスの雑誌にフランス語の論文として発表したのですが、それをエイダが英語に翻訳するとともに、彼女自身による膨大な解題、今でも専門書の翻訳の後ろについてることがある訳者解題ってやつですね、それを書き加えて、イギリスの雑誌に発表したわけです。ロンドンで出ていた Scientic Memoirs という雑誌に、1843年に掲載されました。つまり、バベッジの講演を、イタリアの Menabrea が整理してフランス語の論文にし、それをエイダが翻訳し解題を書き加えたというものです。解題の方が翻訳部分の2倍にもなろうかという分量があるものになっています。

なお、もともとも論文を書いた Menabrea は、後にイタリア統一のための闘争に身を投じ(バベッジが訪れた頃は、まだイタリアは一つの国家としてはまとまっていなかったんですよ)、新生イタリア政府の総理大臣になっています。

さて、その論文の解題の Note G の冒頭部分で、彼女は次のように書いています。

解析機関は、何か新しいものを創造することは決してない。解析機関は、そのやり方をどうやって命令したらいいのか私たちが分かっていることであれば、なんだって出来る。

この発言については、物理学者のハートリーが、自分の論文の中で引用した上で、コメントを加えています。ハートリーという人はコンピュータにも詳しい人で、アメリカのバネーバー・ブッシュ(Vannevar Bush)が開発を行っていたアナログ式のコンピュータ(というより計算機って感じですが)である微分解析機(a differential analyzer)を見に行ったり、史上初のデジタル・コンピュータといわれるエニアック(ENIAC)について解説記事を Nature に書いたりした人です。そんな彼が、エイダの先の発言について、次のようにコメントしています。

彼女のこの発言は、「自分自身について考える」ような電子装置、あるいは生物学的に言う条件反射=反省(それは『学習』の基礎となるだろう)を行うように組み立てられた装置、そのような装置を作ることは不可能だろうと言っているのではない。そんな装置を作ることが原理的に可能かどうかという問題は、刺激的でワクワクさせられるものであるが、この問いは最近の進歩によって初めて問いとして浮上してきたものだ。しかし、バベッジが解析機関を作ろうとした当時、実際に制作されたりあるいは計画された機械を相手にしている限りでは、機械がこのような性質を持ちうること、つまり自己反省=反射の能力を備える可能性があること、そんなことがありうるとは思えなかったのだ。

私は、このコメントでの意見については、ハートリーに全面的に同意します。注意しておきたいのは、ハートリーは、バベッジの作った機械が思考とか反省するという性質を持っていなかったと言っているのではないということです。そうではなくて、ラブレス伯爵夫人が目にすることが出来た当時の証拠からは、機械がそのような性質を持っていると信じることなんてとうてい出来なかったということなのです。

バベッジが作ろうとしていた機械が、ある意味では自己反省=反射を行うという性質を手に入れていたということは、かなりの率でありそうだと私は思います。理由を説明しましょう。今、自己反省を行えるような離散状態機械があったとします。バベッジが作ろうとしていた解析機関は、前に述べたように、万能性を備えたデジタル・コンピュータなわけです。ですから、記憶容量と処理速度が十分にあれば、うまくプログラミングすることによって、解析機関に自己反省する機械の真似をさせることができるというわけです。

おそらく、このような議論は、バベッジもエイダも思いつかなかったのでしょう。いずれにせよ、彼らには、解析機関に関して、その原理的可能性も含めたすべてのことを述べなければならない義務などなかったわけです。ですから、彼らが気がつかなかったり考えもしなかったことが、実際は解析機関の原理には含まれていたとしてもなんら不思議ではありませんし、バベッジやエイダの誤りだと論うようなことでもないわけですね。

エイダの意見については、後で学習する機械について論じるときに、再び考えることにします。

ラブレス伯爵夫人の反論と同じような意見として「機械というものは、本当に新しいことを行うことは決してできない」という主張があります。そういう意見に対して、「お天道様の下に新しいものなんかなんにもない」とかいって突っ込むことができます。人間のやってる本当に新しいことだって、突き詰めれば、どこまで本当に「新しい」ことなのかはっきりしないだろ?っていう反論ですね。「独創的なオリジナルな成果」とよく言いますが、それにしたって、教育によって得ることが出来た種を育てて実らせたことだったり、よく知られた一般的な原理というものに則って突き詰めていった結果だったりするわけです。もちろん、それはそれで立派な業績ではありますが、そういう先人たちの残してくれたものや与えられたものには因ってない本当にオリジナルなことをしたんだとはっきりと言い切れる人がいるでしょうか?いないと思います。あのニュートンだって、自分は巨人の肩の上に乗ってるんだって言ってますよね。もっとも彼は他人の業績の影響を隠そうとしたセコイやつだったそうですが。ともあれ、そういう意味で、機械だけを「本当に新しいことができない」と責めるのはどうかと思います。

エイダの意見に似た、もうちょっとまともな反論としては、「機械というものは、決して私たちを驚かすようなことはできない」というものがあります。この意見は、先ほどのものよりはダイレクトに問題点をついてくるものではありますが、こちらもダイレクトに答えることができるものです。ずばり、機械はきわめて頻繁に私を驚かしてくれます。まぁ、これだけではあまりに素っ気ないですから、なんで機械が私を驚かすようなことをしでかすのか、その点を説明しておきましょう。そういうことが起きるのは、たいていは、機械を動かした結果がどうなるかということがはっきり予測できるほどの計算を私がやってないということに理由があります。あるいは、私が結果予測の計算をしっかりしたとしても、急いでいいかげんにやってしまって、間違いかもしれないような結果を出してしまうわけです。たとえば「ここの電圧は、あっちと同じものだとしよう。まぁ、そういうことにしておこう」なんて自分に言い聞かせながらやったりするわけですよ。で、当然のことながら、しばしば間違うことになるわけで、実際に機械を動かしてみた結果に驚くことになるわけです。実験が終わる頃には、自分が勝手に決めてかかって計算したことなんか忘れてますからね。自分の計算は正しいはずなのにこの結果はなんだ!って、ようは自分の計算がいいかげんだったことも忘れて驚いてしまう。このような告白をしちゃうと、悪いのはおまえの実験のやりかたじゃないかなんてお説教されることになるかもしれませんが、しかし、私が経験した驚きが本物だということについては、誰も疑問をはさまないと思います。

このような反論で、機械は人を驚かすことが出来ないという反対意見を述べてる人を黙らせることができるとは思っていません。あんたの驚きは、あんたの精神が持っている何か創造的な働きによるものであって、機械の側が人を驚かすような特性を持っていることを保証するものではない、そんなことを言われると思います。で、こういうことを言い出すと、またあの意識に関する議論へと舞い戻ってしまい、驚くという考えからは遠ざかってしまうことになるわけです。もうこの方向での議論は十分にやりましたので、止めておきます。ただ、何かを驚きとして受け止めるということは、その驚くような出来事が、人間によってもたらされたものであろうと、本によるもの、機械によるもの、あるいは他の何かによってもたらされたものであろうとも、創造的な精神の働きを必要とするということ、このことは言っておく必要があるでしょう。これは、先ほど、私が機械に驚くことに対する反論として出てきた意見なのですが、そのことは、何も機械が相手の場合には限らない。驚くということは、そういう、体験する側の精神の働きを必要とするものなのだということです。

機械は驚きを生むことはできないという見方は、数学者や哲学者が特に陥りがちな誤謬によるものだと、私は信じています。この誤謬というのは、事実が精神に提示されれば、すぐさま、その事実のすべての帰結が精神へと沸き起こってくるとしてしまうものです。つまり、精神はすべてを見通せるものだと考えてしまうわけです。多くの状況において、このように考えることは、確かに、きわめて役に立つことではあります。がしかし、人は、そのように仮定することは、本当は誤っているということを、いとも簡単に忘れてしまうものなんですね。で、忘れてしまう結果として、すでに分かっているデータや一般的原理をもとに何か成果を取り出そうとすることには、何の価値もないと考えてしまうわけです。そんなことは実際にやらなくても最初からどうなるかわかってるじゃないか、というわけです。でも、実際は、人間の精神がすべてを見通せるわけなんてなくて、いくら分かり切ったことから出発しようとも、やってみないことにはわからないこと、やってみて初めてわかることが、いくらでもあるもんです。

神経システムの連続性を重視する立場からの議論

さて、続いて、神経システムの連続性を重視する立場からの議論の検討を行うことにしましょう。

神経システムが離散状態機械でないことは確かです。ニューロンへ入力される神経パルスのほんの小さな情報のエラーというものが、その神経から出力される神経パルスの大きさにかなりの違いを引き起こしてしまうようなことが起きるかもしれません。もし神経システムがそういうものだとしたら、神経システムの振る舞いを離散状態機械で真似るなんてことができるなんて考えられないという意見も出てくることでしょう。

離散状態機械が連続機械と異なるはずであるというのは真実です。連続機械というのは、皆さんに馴染の表現を使うならアナログ機械というものですが、確かに、原理的にデジタルな離散状態機械とは異なったものであることは否定しようも無い。しかし、模倣ゲームをうまくこなすかどうかという観点で考えるならば、この二つの機械の違いは、それほど決定的なものにはならないと私は考えます。つまり、離散状態機械と連続機械、デジタル機械とアナログ機械を模倣ゲームにかけてみると、質問者は、この機械の違いをうまく利用することはできない、つまり原理的な差を模倣ゲーム上で見いだすことはできないだろうと思います。

神経システムとは違う、似ているがもっと簡単な連続機械で考えてみれば、このこと、つまり離散状態機械と連続機械との差異は模倣ゲームにおいて質問者に何の利点ももたらさないこと、そのことを、はっきりさせることができます。

ここでは、連続機械(アナログ機械)の計算機である微分解析機(A difference analyser)を取り上げて考えてみたいと思います。先ほどちょっとだけ触れた、アメリカのバネーバー・ブッシュ達が作成した、アナログ式の計算機です。これがちょうど良い例になると思います。微分解析機の中には答えを印字して出力するものがありますので、模倣ゲームに参加するのに相応しいでしょう。

デジタル・コンピュータと微分解析機に模倣ゲームを行わせるとします。質問者から出された問題に対して、微分解析機がどのような答えを返すかを、デジタル・コンピュータの側が完全に予想することはできないとは思います。しかし、デジタル・コンピュータは、だいたいの正しい答えを出すことはちゃんとできるだろうと思います。たとえば、πの値、3.1415926535.. というあれですね、あれを求めるように命令したとします。デジタル・コンピュータは、3.12, 3.13, 3.14, 3.15, 3.16 の中から、それぞれ、例えば 5%, 15%, 55%, 19%, 6% の確率で、ランダムに数字を選びだすと考えるのが筋が通っています。つまり、正解に最も近い数値を高い確率で選びはしますが、アナログ・コンピュータのぶれを真似する戦略から、近いけれど微妙に正解とは異なる数値を選ぶこともあるようにしておくわけです。アナログであるということは、このようにある程度の幅というかブレがあるのが特徴ですから、デジタル・コンピュータは、確率を使ってそれをシミュレートしようとするわけですね。このような状態では、模倣ゲームの質問者が、デジタル・コンピュータと微分解析機とを区別するのはきわめて難しいことでしょう。

このように、デジタル・コンピュータは、連続機械、アナログ機械を、振る舞いであれば模倣できると思うんですよ。確かに、内部の動作の原理は全く異なっているかもしれませんが、模倣ゲームのように私たちとの対話という状況においては、表に現れる振る舞いがすべてですから、その振る舞いという点では、違いが見えなくなると考えられるわけです。

まぁ、皆さんにとっては CD とアナログレコードを比べてもらえば、もっと話が早いとは思います。両者は音の記録方法が全く異なるわけですが、最終的にスピーカーから流れてくる音楽においては、普通の人にはほぼ区別がつかないわけですね。それと同じことだと考えてもらえればよいかと思います。ですから、神経システムとデジタル・コンピュータの動作原理が異なるからといって、デジタル・コンピュータが神経システムの振る舞い、つまりは脳の活動=思考というわけですが、それを真似ることはできないとは言えないということになります。

行動は形式化しつくせないという立場からの議論

人間の行動を完全に規則化できるもんじゃない、だから機械に真似することなんてできない、そういう意見があります。この立場からは、次のような意見が述べられるわけです:

考えられる限りのあらゆる状況を想定しておいて、それぞれの状況において人間がどのように行動するべきかを記述したものになっている、そういう規則群を形にすることは不可能である。たとえば、人は普通、信号が赤だった場合には止まり、青だった場合には進むという規則を持っている。しかし、何らかの故障などによって赤と青の両方が点いていた時にはどうすればいいのか? たぶん、止まる方が安全だと判断するだろう。しかし、その判断の結果が、後になって色々とやっかいな問題を引き起こすかもしれない。こうした信号の故障の場合すらも想定した、起こりうるすべての出来事をカバーするような行動の規則を作ろういうのは不可能じゃないのか。

この意見に私は賛成します。確かに、すべての状況でのすべての人間の行動を記述したような規則を作るのは不可能でしょう。そこまではいいんですが、そこから先が問題なわけです。

人間の行動をすべて規則として捉えることはできないというこの意見をもとに、私たちは機械などではあり得ないという主張がなされます。なんでそういう主張に結びつくことになるのかを説明したいと思いますが、私自身の意見ではなくてあくまでも想像ですので、もしかしたら間違ってるかもしれません。たぶん、次のように考えるんだと思うんですよね。まず「すべての人間が、自分の生活を律している行動の規則を持っているとしたら、それもこれがその規則だとはっきりと示せるような形で持っているのだとしたら、人間は機械と同じような存在だろう」という考えから出発します。そして次に「しかし、そのような人間の行動の規則など存在しない」と続きます。そして、「だから、人間は機械ではあり得ない」という結論が出てくることになります。一見すると三段論法のようですが、これは明らかに間違った三段論法になっています。さすがに私も実際にこのままの議論の積み重ねで結論を導いているとは考えていませんが、それでも、主張の背景にある根拠を導く議論としては、ほぼこれと同じものが用いられているのだと私は信じています。そこで、この議論の過程を考察してみることにしましょう。

この論理の展開には、「行動の規則」と「振る舞いの法則」との混同があります。

「行動の規則」というのは、「赤信号を見たら止まる」という教訓、つまり社会的に定めらたもので、後天的に身に付けた規則ですね、そういうもののことです。私たちは、その教訓にしたがって行動するし、その教訓を教訓として意識することができます。なんで赤信号で止まるのかと子供に尋ねられたら、世間ではそういうことになっているのよと答えるわけですよね。そういう社会的・文化的に定まった人為的な規則、歴史的経緯によって「そうなっている」規則というものがあります。それが「行動の規則」です。

一方、「振る舞いの法則」というのは、「人をつねれば、その人は悲鳴を上げる」というような、人間の身体に適用される自然法則のことです。こちらは、規則(rule)ではなくて法則(law)です。人間が人間という動物であるかぎり、誰もがそれに支配されているような、言うなれば本能的なものです。

人間の「行動の規則」は、確かに恣意的なもので、すべての状況において絶対に貫徹するようなものではありません。しかし、「振る舞いの法則」は、 人間が人間である限り、どのような状況でも、すべての人間を律しているものなわけです。ですから、先ほどの人間は機械ではないという議論の展開の中の「人の生活を律している行動の規則」の部分を「人の生命を律している振る舞いの法則」に取り換えたならば(life は人生でもあり生命でもあるわけです)、先ほどのような結論は出てこないことになります。なぜなら、人間が「振る舞いの法則」によって律せられているということは、人間はある種の機械であるということになります。もちろん、その機械は離散状態機械である必要はないわけですが。さらにそれだけでなく、逆に言えば、何かが機械であるということはそれが法則によって律せられている存在だということでもある。この2つのことはいずれも真実であると私たちは信じるでしょう。「振る舞いの法則」、本能的な法則、それに律せられている人間は、その点においては、機械と同等であるということです。

もちろん、「振る舞いの法則」といっても、そのすべてが明らかになっているとは言えません。ですから、完全な「行動の規則」なんてものが存在しないのと同じようなものですが、私たちは、「振る舞いの法則」の方については、完全なものがないからといってその存在を否定したりはしませんよね。人間である自分にそういう法則が作用していることは確信している。ですから、「完全な振る舞いの法則は存在しない、それはちょうど完全な行動の規則が存在しないのとおなじことだ」、こういう主張があっても素直に納得したりはしない。「振る舞いの法則」を見つけ出すために私たちが手にしている唯一の方法は、科学的な観察なわけですが、「十分に調査を行ったけど、そんな法則なんて無かったよ」なんてことはあり得ないと、私たち人間を律している「振る舞いの法則」が絶対に存在していると、そう知っているわけです。

「行動の規則」と「振る舞いの法則」といった話を持ち出さずとも、人間は機械ではないという主張に根拠がないということを、もっと力ずくのやりかたで証明することもできます。もし人間を律している法則のようなものが存在しているならば、私たちは確実にそれを発見することができるとしてみましょう。人間は機械ではないという先ほどの主張は、規則が存在しているなら観察によってそれを見つけることはできるはずだということを根拠に、人間の規則は見つからないから人間は機械ではないと主張しているわけです。とりあえず、もし何らかの行動を律するような規則が存在するなら、いずれはその規則は見いだせるものだという意見を正しいとしてみましょう。

で、ここに1台の離散状態機械があるとします。もし規則がいずれは見いだせるというものならば、この機械を十分に観察すれば法則を発見できて、その機械の将来の振る舞いを予想することができるということになります。そうなるまで、ほどほどの時間、いくら機械が複雑とは言え千年もの時間があれば十分だということになります。しかし、実際には、そんなにうまくはいかないようです。私が、記憶容量のうちの1000ユニットしか使わないような小さなプログラムをマンチェスター計算機にのせて、そのプログラムによって機械は16桁の数値を与えられると2秒以内に別の16桁の数値を返すようにしたとします。このプログラムを動かして、プログラムが返してくる値をもとに、プログラムの行動の規則といったことをしっかりと理解すること、あるいは、まだ試したことがない数値を入力したらどんな値を返すか予想できるようになること、こういったことは可能だと思いますか? もしそんなことは簡単だとおっしゃる方がいらっしゃるのなら、やれるもんならやってみろと私は挑戦状をたたきつけたい。実際は、簡単なものなんかではなくて、たぶん、プログラムに書き込まれている規則を見つけ出すことはできないでしょう。つまり、一定の規則に従って動作していることが確実に分かっているコンピュータの場合であっても、その振る舞いの観察だけから規則をきっちり割り出すことなんてできないわけです。機械が相手でもできないのに、人間についてできるわけありませんよね。あるいは、暗号を考えてみてください。暗号化された情報は、一定の規則に従って変換処理が施されていることは明らかなものです。けれども、規則が存在することは分かっていても、暗号化された情報だけをもとにして、それがどんな規則なのかを実際に割り出して元の情報を取り出す、つまり暗号を破るのは大変な作業です。破るのが非常に困難だからこそ暗号化は情報の内容を守るという働きが担えるわけじゃないですか。対象としているものに規則が存在していると分かっていることと、実際にその規則を確定することとの間には大きな違いがある。ですから、振る舞いから規則が確定できないことをもって人間と機械を区別しようとするという考えは間違っているということになります。

超能力を信じる立場からの議論

機械は考えることができるかということ、そしてそれを模倣ゲームで判定できるはずだという私の意見に対する、いくつかの批判的な意見を検討してきたわけですが、最後に、超能力というものを根拠に批判する議論についてみておくことにしましょう。超感覚的知覚(Extra-Sensory Perception, ESP)と呼ばれたりするあれですね。テレパシー、透視、予知、念力といったものは、みなさんも聞いたことぐらいはあるでしょう。テレビ番組なんかで、超能力現象なんてのはよくとりあげられたりしますよね。あれです。

こうした人騒がせな現象は、もしそれが本当に超能力の存在を示しているのだとしたら、私たちの通常の科学的な考えのすべてを否定するように思えます。超能力なんて無い、超能力現象といわれてるものはインチキだ、そう言ってみたところで、なかなか聞き入れてもらえなくて、世間にはけっこう超能力を信じている人も多いようです。まぁ、確かに科学がこの世界のことをすべて解き明かしたとは言えず、いまだに科学的には解明されていないことも少なからずありますので、そういう科学の限界みたいな話を持ち出したうえで超能力の存在は否定できないと言う人は、簡単に説得できるものではありませんね。また、テレパシーについては統計的にその存在が実証されているなんて意見もあって、超能力を無下に否定することもできない。

もし超能力の存在を認めたとしたら、私たちの世界というものに関する色々な考え方、これまでの科学によって支えられている世界観や人間観といったものを、超能力が存在することに合うように整理し直す必要があるわけですが、それはけっこう難しいことではあります。超能力が存在することを受け入れちゃうと、簡単に、幽霊やお化けが実在することも信じちゃうようになると思うんですよ。私たちの体は、確かにすでに知られている物理的な法則に則って動くものではあるけれども、同時に、まだ知られてはいないけれど似たような法則、つまり超能力を司る法則ですね、そういう法則にしたがって移動もできるんだ。こんなふうに考えるようになると、幽霊だってあり得ると考え始めちゃうまであとちょっとですよね。

超能力が存在しているという議論は、私が考えるに、反駁するのがかなり難しいものです。多くの科学的理論は、超能力とはぶつかるかもしれないけれど、依然として現実に用いる点ではちゃんと使い物になるようだ、と答えておくことはできます。実際、超能力のことなど棚に上げておいて、そんなものは無いことにしても、毎日の生活だとかは、何の問題もなくうまくやっていくことはできます。とはいえ、無かったことにするなんていうのでは、ある意味で負けを認めたようなもんですから、慰めにもならない。また、私たちが問題にしている思考というものは、まさに中でも超能力が関係している現象で、超能力を無視して議論なんかできないという恐れもあります。

そこで超能力が存在するとした上で議論をするなら、どうするか。それを考えてみましょう。超能力を前提にした模倣ゲームというものをやるとしたら、どうなるか。

テレパシーをうまく受信できる人とデジタル・コンピュータを被験者とした模倣ゲームをやるとしましょう。質問者は「私が右手に持っているトランプのマークはなんでしょう?」といった質問をすることが許されているとします。人間の方は、テレパシーとか透視によって、400枚のカードについての質問のうち130回が正解するわけです。一方のデジタル・コンピュータの方は、当てずっぽで答えるしかないわけで、104回しか正解しない。すると、質問者は、多く正解したほうが人間だとちゃんと判別できることになります。

まぁ、こんな感じになるとは思います。でも、超能力の存在を認めると、超能力がゲームに及ぼす影響というあたらしい懸案事項が生じてきます。

先ほどの超能力模倣ゲームに参加するデジタル・コンピュータは乱数発生装置を持っているとしましょう。当てずっぽの答えを出すために、この乱数発生装置を使うというのは、まぁ、当然のことですね。しかし、この乱数発生装置が、質問者の発する念力の影響を受けることだってありうる。念力によって乱数発生装置が影響されて、その結果、コンピュータは、本来のランダムな答えを返す場合よりも正解を多く返すようになってしまったら、質問者は、人間とコンピュータとの判別がやっぱりできないということになるかもしれない。

あるいは、質問者は透視を使うことで、まったく質問をしなくても、どっちが人間かをぴたりと当てられるかもしれない。

こんなふうに、念力だとか透視だとか、そういう超能力というものを認めちゃうと、何だって起こりうることになっちゃうわけですよ。

もしテレパシーの存在を認めるのであれば、模倣ゲームの実施条件を、それにあわせて厳格なものにする必要があるでしょう。テレパシーで質問者と人間の間で情報が伝わってしまうというのは、ちょうど、質問者が独り言を言っているのを、人の被験者の方では壁に耳を押し付けて聞くことができちゃう、そういう状況なわけですよね。そういうことが起こらないように、私たちは質問者から被験者をちゃんと隔離しないといけないわけです。ですから、テレパシーが存在するとなると、テレパシーが遮断されるような部屋、防音室ならぬ防テレパシー室ですが、そういう部屋に質問を受ける被験者を入れておくようにすれば、正しい条件で模倣ゲームが行えることになります。

学習する機械

さて、私の立場に対する様々な反対意見を取り上げて検討してきたわけですが、反論ばかり延々と聞かされてきたみなさんの中には、私が自分の見解をみなさんにちゃんと納得してもらえるような議論ができないんじゃないかと思われたかたもいるかもしれません。延々と反論の批判をやってるのは、反論ではない自分のちゃんとした意見というものがないんじゃないかと。ちゃんとした議論ができるのなら、こんな反対意見の反駁に労力を使わなくてもいいはずじゃないかと。そこで、ここからは、私の見解を皆さんに納得してもらえるよう、私の立場からの議論を展開することにします。

さきほど取り上げたラブレス伯爵夫人の異論へと、ちょっと話を戻すことにします。ラブレス伯爵夫人ことエイダは、機械というものはやれと言われたことしかできないのだと言ったわけです。エイダの言うような機械を、別の観点から説明してみると、たとえば、機械というものはピアノのようなものかもしれないと言うことができます。人間が何かのアイデアを機械に注入することができて、そうすると機械はしばらくの間はそのアイデアに反応して活動するけれども、やがては停止状態へと至る。ちょうど、ピアノの弦がハンマーで叩かれるとしばらくは音を響かせるけれども、やがては沈黙するみたいなもんだというわけです。注ぎ込まれたものに反応することはできても、そこから新しいものが生まれてくることはないということですね。

しかし、同じように「注ぎ込む」ということで、ピアノではなく、原子炉の核連鎖反応というモデルで考えてみるのはどうでしょうか。エイダの言うような機械というのは、臨界に達しない原子炉であるというわけです。注入されるアイデアが、外部から打ち込まれる中性子にあたります。濃縮ウランの量が少ない臨界未満の原子炉においては、打ち込まれた中性子は原子炉内部の濃縮ウランにいくらかかく乱をもたらしますが、やがて何も起こらない状態へと至ります。しかし、原子炉のサイズ(正確には濃縮ウランの量なんですが)が十分に大きくなると、打ち込まれた中性子によるかく乱が継続するということが起きやすくなり、ある規模を越えると核分裂の連鎖反応が続くようになって臨界に達するというわけです。核分裂の連鎖反応、核連鎖反応というのは、中性子を打ち込まれたウラン235が核分裂をおこし、その際に中性子が約2個放出され、その中性子が別のウラン235の核分裂を誘発し…、というが起きることです。臨界未満の状況というのは、ウラン235が核分裂の際に放出する中性子が他のウラン235にぶつからないような状況ですので、これであれば連鎖反応は起きません。臨界に達するかどうかはウラン235の密集度によるわけで、臨界超過の状態というのは核連鎖反応が起きる程度にウランが密集している状況なわけです。原子力発電の場合には、ウランが放出する中性子を制御することで核爆発が起こらないように核連鎖反応をコントロールしているのですが、中性子の制御ができなかった場合なんかは、核連鎖反応が加速していってやがては原子炉を破壊するまでに至るわけです。

このように、ウラン235という同じ物質が入った原子炉でも、一定の条件に達したものだけが劇的な反応を見せることになる。人間の精神にはこれに似た現象がないでしょうか? 機械にはどうでしょうか? 人間の精神の場合には、この原子炉のような現象が確かに存在するようなんですね。精神の大部分は臨界未満の状態にあるようです、つまり、ここでのアナロジーにそくして言うなら、臨界に達しないようなサイズの原子炉なわけです。そういう精神の場合には、何かのアイデアが提示されても、つまりアイデアが注入されても、よくて一つのアイデアを返すという程度です。たいていは新しいアイデアなんか出てこない。しかし、ほんのわずかですが、臨界超過のサイズの精神がある。そういう精神の場合には、アイデアが提示されると、2番目、3番目などと次々と新しいアイデアが生まれてきて、最初のアイデアからはるかに進んだところまで行って、一つの理論を形づくるまでになるわけです。動物の精神は、間違いなく臨界未満の精神でしょう。このアナロジーに則して、私たちの問いを次のように言い直すことができます:「機械を臨界超過の精神を持ったものに作ることができるか?」

「タマネギの皮」のアナロジーで考えてみるのもよいと思います。精神とか脳の機能について考察していると、その働きのいくつかは、純粋に機械的な仕組みとして説明できることが分かります。しかし、機械的に説明できるようなものは、真実の精神をとらえたものではなく、真実の精神を見いだすためには剥ぎ取らなければならない皮のようなものである、と言われるわけです。機械的なものは表面的なものでしかなくて、本質はその奥にあるというわけです。しかし、残っているものの皮をむいていくということを延々と繰り返していった先に、最後には何が残るのでしょうか? 科学的に解明するというのは機械的なものとして説明することでもありますから、私たちが精神を科学的に考察するということは、常に皮をつかむというか、皮としてつかむ、そういうことなわけです。で、何かが解明されるたびに、それは表面的な皮であって、本質は皮の中にあると言われることになる。じゃぁ、皮を剥き続けていれば、いつかは「真実の」精神にたどり着くのでしょうか? それとも、もしかしたら、何も残らなくなるまで延々と皮があるだけではないのでしょうか? もし皮しかないのであれば、結局のところ、精神全体は機械的なものということになるわけですよね。もちろん、すでに論じたように、精神が機械的なものだとしても、それは離散状態機械ではないかもしれませんが。

原子炉やらタマネギの皮の話をしてみましたが、これで世間の人を納得させられるとは思っていません。なんていうか、こういう話をすることで、ちょっとは信じてもらえるかもしれないと思ったわけです。

20世紀の終わりには模倣ゲームをうまくこなすようなデジタル・コンピュータを作ることは可能だという私の意見、それを人々に納得してもらうためには、結局のところ、20世紀の終わりまで待ってもらって、その時になって、実際に模倣ゲームの実験をしてみせるしかないように思います。理屈をいくら述べてみても、機械が思考できることを納得してもらうのは難しいので、実際にやって見せて、ほら機械と人間の区別が難しいぐらいに機械がちゃんと応答するでしょって、そうするしか納得してもらえないように思います。

とはいえ、それまでには時間があります。実際に模倣ゲームの実験ができるようになるまでに、私たちは何も言うことができないのでしょうか? 模倣ゲームの実験がうまくいくものだとしたら、そのために、今の段階で、どのようなことをやっておくべきなんでしょうか? ここからは、デジタル・コンピュータが模倣ゲームをうまくこなせるようにするためにはどうしたらいいのか、その点について考えてみたいと思います。

すでに述べましたように、思考する機械の実現のために解決しなければならない問題は、主にプログラミングに関するものです。どのようなプログラムを、いかにして作成すればよいのか、ということですね。もちろん、機械に関する技術の進歩も必要となるでしょう。しかし、こちらの方は楽観視してよいと思ってます。20世紀の終わりにもなって、模倣ゲームを行うために必要となる条件を満たすような機械が作れないなんてことはないでしょう。

機械の点で問題になるものとしては記憶容量があるわけですが、この点はまず大丈夫だという見通しがたてられます。脳の記憶容量はどれくらいかということについては、ビットつまり二進数の数で数えたとして、1010という意見から、いや1015じゃないかという意見まで、見積もりに幅があります。私は少ないほうの数値の意見の方に傾いていますし、思考の中でも高度なものを行うときに使われるのは、その記憶容量のうちのほんの少しの部分だけだろうと信じています。脳の記憶容量の大半は視覚的な印象を保持するために使われているんじゃないか。視覚情報を必要としない模倣ゲームを満足にプレイするために必要となる脳の記憶容量がl09を越えちゃうなんてことは、いくらなんでもないだろうと思ってます。なんでl09なのかというと、ブリタニカ百科事典(Encyclopaedia Britannica)第11版の情報量がl09ビットなんですね。これを越える容量が必要だというのなら驚きです。そして、l07の記憶容量の機械であれば、今現在の技術でもってしても十分に実現可能でしょう。

機械に関する問題としては、実行速度という問題もあるわけですが、実行速度は現在の機械の処理速度を上げる必要はないんじゃないかと考えています。現在の機械の中には、神経細胞と相似したものだと見なせるものがあるわけですが、それらは神経細胞よりも約千倍も早く作動します。この速さによって、色々なことが原因で生じる速度低下に対処できるような「安全のためのマージン」を確保することができます。このように実行速度の点も、模倣ゲームをこなすデジタル・コンピュータを実現するために、特に問題はないと考えられます。

で、やはり、問題は、こうした機械を模倣ゲームをプレイさせるためにプログラムするにはどうしたらいいのかを解明するということなんですよ。現在の私の仕事のやり方だと、一日に1000桁のプログラムを作ることができます。ですから、同じように仕事がやれる人を60人集めて、50年間休まず働き続けたならば、そしてすべてがうまく行って入力したプログラムをごみ箱に捨てるようなことが全くなければ、そのときには、模倣ゲームをプレイするためのプログラムを作るという仕事をやり遂げることができるでしょう。でも、さすがにこれは無理というものです。もっと迅速にやれる方法が欲しいわけです。

模倣ゲームを満足にこなすようにするということは、成人の精神を真似するようにするということですね。どのようにすればデジタル・コンピュータのプログラムで成人の精神を真似するようにできるかを探求するにあたっては、成人の精神が、今あるようなものになったのはどういう過程を経てきたのかということについて、十分に考える必要があります。成人の精神を作り上げる要素としては、3つのものを挙げることができるでしょう。

これを見ると、成人の精神というものは、成人になるまでに体験したことが大きな要素を占めていることが分かります。それをふまえるならば、私たちは、模倣ゲームをプレイするためのプログラムをどうするのだという問題に関して、成人の精神をシミュレートするようなプログラムを作ろうするんじゃなくて、子供の精神をシミュレートするものを作ればいいのではないか、と思うわけです。子供の精神をシミュレートするプログラムを動かして、それにしかるべき教育の課程を受けさせれば、やがてはそのプログラムは大人の頭脳と同じものになるだろうってわけですね。子供の頭脳というのは、誰もが文房具屋で買えるノートブックのようなものだと思うんですよ。つまり、買ってきたばかりのノートブックというのは、知識の書き込み、これがコンピュータではデータとメソッドからなるメカニズムにあたるわけですが、そういう書き込みはほとんど無くて、空白のページがたくさんあるわけですよね。同じように、子供の頭脳にはほんの少ししかメカニズムがなくて、簡単にプログラムできるようなものであると考えていいんじゃないか。そして、子供の頭脳をシミュレートするプログラムを教育する手間というものは、大ざっぱに考えるならば、人間の子供の教育にかかる手間と同じだとみてよいでしょう。

このように考えることで、私たちは模倣ゲームをうまくプレイするようなプログラムを作るという問題を2つの部分に分けたわけです。子供の脳をシミュレートするプログラム、これを子供似プログラムと呼ぶことにしますが、それを作るということと、そのプログラムに教育していくという過程との、2つですね。これらの2つの部分は、きわめて密接につながっています。それぞれを別個に試みて、後から合わせるというわけにはいかないでしょう。ですから、子供似プログラムを作るということとそれに教育するということは、セットにして色々と試してみる必要があります。とりあえず子供似プログラムを作ってみても、最初から良い子供機械が見つかるとは思えません。ですから、私たちは、作ってみた子供似プログラムを搭載したコンピュータ、子供機械に教育を行ってみて、その機械がどれほどうまく学んだことを身に付けるかを調べてみる、そういう実験を繰り返し行う必要がありますね。最初のやつを試したら、次に別のプログラムを載せた機械で試してみて、結果が最初の機械よりも良いか悪いかを調べるってことをやっていくわけです。子供似プログラムを作っては、それに教育を施してみて結果を見てみる、これを色々な子供似プログラムのバージョンに対して行っていく中で、私たちの目的に相応しい子供似プログラムを見つけることになるでしょう。つまり、色々な子供似プログラムを搭載した機械を作って、それらの比較選抜を行うというわけですが、この作業は、生物の進化というものと明らかに同じ過程だと言えるでしょう。対応するものを並べてみます:

このように、私たちは生物における進化の過程を真似ることで、私たちが望むような子供似プログラムを手に入れることができると考えられます。自然界での進化よりも、私たちが行う機械の比較選抜の過程の方が、結果を得るのに必要な試行錯誤の時間はずっと短くて済むと期待できますね。自然界での進化の際の適者生存というものは、どれが優位なものなのかを計るのには、えらく時間がかかる方法なわけです。私たちの場合には、実験者は、知性を働かせることで、この選択の処理をスピードアップさせることができるはずです。また、重要なこととして、私たちの実験の場合には、変異をランダムなものに限る必要はないということがあります。自然界においては、変異というものはランダムな突然変異によってしか起こらないわけですが、私たちの実験の場合には、子供機械の何か弱点の原因を突き止めることができたなら、その点を改良するような変異、改良といった方がよいかもしれませんが、それを考えて、新たな子供似プログラムを作ることができるわけです。このように、実際に色々なバージョンを作って動かしてみてながら、中から最良のものを選択していくという進化的な手法をうまく用いることが有効だと考えられます。

普通の子供とまったく同じ教育を機械に受けさせることは無理でしょう。たとえば、機械には足が付いていなかったりするわけで、そうすると、外に行ってストーブのための石炭入れを一杯にしてきなさいなんて命じることはできないわけです。目だって付いていないかもしれません。このように、機械は普通の子供とは「体」の作りが違うわけです。技術的にこれらの問題がうまくカバーされて人間らしくなったとしても、その生き物らしくなった機械が学校に行けば、周りの子供たちに思いっきりからかわれるのは避けられないでしょう。ですから、機械には、個人授業のような、特別な教育を施してやる必要があります。足とか目が付いていないということは、あまり心配する必要はないと思います。ヘレン・ケラー女史のことはみなさんもご存知とは思いますが、あのように、何らからの方法で教師と生徒との間で双方向のコミュニケーションができさえすれば、教育というもの成り立つものなのです。私たちの機械は、足や目は付いていないかもしれませんが、入出力の仕組みは備えているわけですから、ちゃんと教育はできるものと思います。

教育というと、罰と報酬、いわゆるアメとムチを思い起こす人も多いと思います。教えられたことをうまく覚えたならば褒美をあたえ、間違ったならば罰を与えるというあれです。子供は、なるべく褒められるように、あるいはなるべく罰せられないように、一生懸命勉強するわけです。このような行動原則に従う簡単な子供機械を作ることができます。作るというよりプログラムするというべきかもしれませんが。そのような機械は、罰の信号が後から付いてきた出来事はなるべく繰り返さないようにし、一方で、報酬の信号が付いてくるような出来事がなるべく多くなるようにする、そういう行動を取るように作られる必要があります。とはいえ、この機械が、罰とか報酬の信号に対して、何らかの感情をいだくというわけではありませんし、それが必要でもありません。罰とか報酬を意味する信号によって、出来事の意味付けができればよいだけです。

私は、そうした子供機械の実験をいくつか行ってきました。そして、わずかのことですが、機械に教えることに成功しています。しかし、私の実験での教育方法は、教育として正統でまっとうなものとはとても言えるものではありませんので、私の実験が本当に成功したとはいえないと考えています。

罰と報酬、アメとムチの方法の使用は、せいぜい教育の過程の一部でしかあり得ません。大ざっぱに言って、教師から生徒へのコミュニケーションの手段が他にない場合には、生徒が受け取ることができる情報の総量は、アメとムチによる訓練が行われた回数を越えることはできません。けっして知識を伝達するのに最良の教育方法ではないのです。国語なんかの授業で詩を暗唱させられるというのはよくあることで、私なんかも "Casabianca" という詩、船が燃え盛り沈んでいく状況にあっても父に命じられた自分の使命を全うしようとする少年を歌った道徳臭い詩だったりするんですが、それを暗唱させられたりしました。そういうときに、間違うごとに殴られるという方法で詩の文章をたたきこまれたとしたら、教えられる子供の側は、詩を暗唱できるようになるまでに、とてもムカツクし惨めな気持ちになりますよね。それは知識の伝達としては、決して、よい経験ではないと思います。罰と報酬の方法には、知識の伝達以外の、感情的な要素が多すぎるわけです。ですから、子供機械の教育の場合、教師と生徒の間のコミュニケーションのために、なんらかの「感情的ではない」チャンネルが必要になります。何かを行ったとき、それが「間違っていた」という情報は必要ですが、そのことに教師が怒っているということや「罰せられ恥ずかしく思え」といったことなどは、情報としては必要ありません。「感情的でない」チャンネルが使えるのであれば、アメとムチの方法を使って、何らかの言語、たとえば記号言語によって与えられた命令に機械が従うように、教育を行うことが可能になります。機械が従うべき命令は、「感情的ではない」チャンネルを通じて伝送されるべきです。このように、「感情的ではない」チャンネルを通じた記号言語の使用による教育は、結果として、アメとムチの方法を必要とする回数を劇的に減らすことだろうと思います。

子供機械がどの程度複雑なものであるべきかということに関しては意見が分かれるだろうと思います。一般原理だけに従うようにした、なるべく単純なものとして作ろうとする人もいるでしょう。別の立場の人は、完全な論理的推論のシステムを「組み込む」ようにするでしょう。このような推論システムを組み込んだ場合には、記憶領域のかなりの部分が定義と命題によって占められることになります。そこに蓄えられる命題は、様々な種類の状態のものが含まれるものになるでしょうね。つまり、十分に確定した事実、推測、数学的に証明された定理、権威に裏打ちされた声明、論理的命題の形をしてはいるが真偽は定かでない表現(式)など、命題といっても色々あるわけで、そういった色々なものが蓄えられることになります。

また、いくつかの命題は命令の形で書かれたものになると思われます。もし与えられた命令が、確定した事実に分類されるものであった時には、すぐさましかるべき行動が自動的になされる、そんなふうに機械が組み立てられる必要があります。具体的に説明してみましょう。たとえば、教師が「今すぐ宿題をしなさい」と子供機械に告げたとします。機械の方は、その言葉を聞いて、「先生が『今すぐ宿題をしなさい』と言った」という命題を、事実として確定している命題群の中に含めることになります。で、そうした事実として受けとめるべき命題群の中に、「教師が言ったことはすべて真実で正しい」というものもあったとします。そうすると、この二つの命題を結びつけることによって、「今すぐ宿題をしなさい」ということが命令として受け取られ、それが事実を記述した命題として整理され、子供機械はそういう命題に従うように作られているわけですから、結果として宿題を始めることになります。そして、満足するような結果が得られるというわけです。

このように、子供機械は自分の中に蓄えられた命題をもとに推論を行うわけですが、機械が用いる推論の過程は、最も厳密な論理学者をも満足させるようなものである必要はありません。たとえば、論理学者がこだわる論理の型の区別といったことは、なくてもよいと思います。だからといって、子供機械の推論の際に論理の型の誤りが頻繁に起きることはないと思います。私たちが、柵がないからといって崖から必ず落ちるわけではないのと同じようなものです。推論のシステムの枠の中で言われた命令であって、システム自身を決めるような規則を言った命令ではない、そういう適切な推論の仕方の命令を与えておけば、十分に役に立つでしょう。ちょっと論理学的な表現になりますが、たとえば「何らかのクラスは、それが教師によってすでに言及されたもののサブクラスでない限り、用いてはならない」という推論の仕方の命令を与えておけばいいわけです。この命令は、大ざっぱに言えば、「新しいもの(それは知識とか行動の指針とか色々あるでしょうが)は、それまでに許されたことや確実だと分かったことにだけ基づいて作り出せ」ということだと言ってもよいでしょうが、これは「崖の方に近づきすぎてはいけない」という命令と同様の効果をもたらすことができるはずです。

手足を持っていない子供機械が従うことができる命令は、先の「宿題をしろ」という命令のように、身体的なものではない知的な性格のものに限られることになります。そのような命令の中でも特に重要なものは、論理システムのルールを適用する場合の順序を規制するものでしょう。

論理システムを用いて推論を行う場合、推論の各ステップにおいて、選択可能な次のステップはきわめて膨大な数にのぼります。そして、論理システムの規則に従っている限り、その選択可能なステップのどれもが適用可能なものなわけです。そういうときに、どのような選択を行うかということ、これが才能に溢れた優れた論者とばかげた論者の違いを生み出すことになります。どちらの論者も推論の規則に従っているという点では、ちゃんと根拠を持った論者なのであって、ばかげた推論を行うからといって、推論を誤った論者ではないことは注意してください。論理的な推論を行う場合でも、推論の際の選択によって、論理の違いが生じてくるわけです。ですから、推論の際の選択をどのように行うかということに関する知識、その教育が、知性の質に違いをもたらすわけで、それを教える命令というものは、子供機械の教育において重要なのです。そのような推論の際の選択の指針を与えるような命題としては、「ソクラテスについて触れられた時には、Barbara の三段論法を用いよ」とか、「ある方法が別のものより早いことが証明されていたなら、遅い方の方法は用いるな」といったものになると思います。こうした命題のいくつかは「権威によって与えられたもの」、つまりそれに従うことが有効なことがすでに十分に知られて確かめられているものとして教えられた命題になるでしょう。しかし、それ以外にも、機械自身が作り出したもの、つまり子供機械が自分の経験の中で科学的帰納法によって得たものも出てくると思います。

なお、先ほど「Barbara の三段論法」と言いましたが、これは、もしかしたら皆さんには馴染がないかもしれませんので説明しておくと、ギリシアの哲学者のアリストテレスが、三段論法として有効なものとして整理したパターンのうちの一つが Barbara と呼ばれているのです。その他にも、Celarent, Darii, Ferio と呼ばれるものがあります。いずれも人名になっていますが、それぞれの人名に含まれる母音が、推論の際の命題の型を示しているんですよ。詳しいことは論理学の教科書などで調べてもらえば分かりますが、たとえば、Barbara の場合、母音は A A A の3つになっていて、これは全称肯定(すべてのAはBである、って型のやつです)を3つ重ねた推論を指しています。皆さんもどこかで目にしたことはあると思いますが、

  1. すべての人間は死ぬべき運命にある
  2. ソクラテスは人間である
  3. それゆえソクラテスは死ぬべき運命にある

という型の三段論法を指します。2番目の第二前提が「すべての〜」になってませんが、ここは「すべてのソクラテスは」ということだと取れば、ちょっと苦しいとこですが、分かるかなと思います。このソクラテスの例が有名ですので、ソクラテスと来たら Barbara の三段論法ってわけなんですね。もっとも、ソクラテスの名前があるといかにもアリストテレスが言いそうだなと思ったりするんですが、アリストテレス本人はソクラテスといった固有名は三段論法には含めないことにしてたみたいです。つまり、このソクラテス云々って例は、後の世の人が、三段論法に固有名詞も含めちゃうことにしちゃって、それから作られて広まったもんみたいです。

皆さんの中には、学習する機械という考えそのものがパラドックスじゃないかと思う人もいることでしょう。どこがパラドックスというのか? それは規則というものが変わるという点を考えると見えてきます。

次のような問いを立ててみましょう:学習する機械の処理の規則を、どのようにして変えることができるというのか? 処理の規則というものは、その学習する子供機械が、どんな経験を経てきたものであれ、あるいはどんな変化を被ってきていようとも、そうしたことには関係なく、機械がどのように反応するかを完全に記述するべきものであるはずです。規則というものは、まさに時間による変化がないもの(time-invariant)であって、だからこそ規則なわけですし、そういう規則に則って動くのが機械なわけです。これは紛れもない真実です。とすれば、学習によって自己の動作原理を変えていく学習機械ってのは、そもそも規則によって動いている機械というものでは無理なんじゃないか、機械が学習するなんていうのはパラドックスじゃないのか、このように考えることもできるわけです。パラドックスであるからには、そういう学習する機械なんてものは実現できないという意見につながることになります。

このようなパラドックスではないかという意見に対しては、次のように答えておくことができます:規則といっても色々なものがあるわけで、学習の過程で変化を被る規則というのは、行動の根幹に関わるような重要なものではなくて、その時々の状況においてとりあえずの正しさを規定するようなものでしかない、と。いうなれば、状況に依存した運用規則が変わっていくだけで、根本にある規則は変化しないのだということです。アメリカ合衆国憲法のようなものだと言えば分かってもらえるかもしれません。合衆国の憲法は、憲法のオリジナルの条文は変えることなく、時代時代に、状況に対応して修正条項を追加するという形で運用規則を変えてきているわけです。有名なものとしては、ギャング映画などでお馴染の禁酒法が修正第18条で規定され、後になって、修正第21条によって廃止されているというのがあります。この合衆国憲法の修正条項にあたるものが、学習する機械が学習の中で変えていく規則にあたります。このように、規則といっても色々なレベルのものがあることをふまえれば、学習する機械というのはパラドックスでも何でもないわけです。

学習する機械の重要な特徴の一つとして、教える側の人間は、機械の内部で何が起こっているのかということに関しては、たいていの場合、ほとんどわからないままだろうということがあります。とはいえ、学習する子供機械の内部で何が起こっているのか分からなくても、教師は、生徒たる機械の行動をある程度は予測できることでしょう。このこと、つまり機械の内部が分からないこと、機械がブラックボックスと化すこと、それは、試行錯誤を重ねて設計されプログラムされた子供機械が、学習を積み重ねていって成長してきた段階で、鮮明になってくることです。

機械の内部状態が見通せないということは、機械を計算処理に用いる通常の場合とは好対照をなしていると言えます。機械に計算をやらせる通常の場合は、人は、計算の各段階において、機械の状態がどうなっているのかをはっきりと頭の中に描くということをする必要があります。機械がどのように状態を変化させていくのかを明確なイメージとして精神に描くことで、ちゃんと計算を処理できるという確信が得られるわけですね。それに対して、学習する機械の場合は、機械のその時々の内部状態を思い描くということは、かなりの苦労をへてやっとこさなんとかなるということなわけです。学習するということは、内部の状態を機械が自ら変えていくことといってもいいわけですから、外から見てる人間には、なかなか内部は伺い知れないものになっていくということです。

そうすると、先ほどのラブレス伯爵夫人の意見にあったような「機械は、私たちがどうやって命令したら良いか分かっていることしかできない」という見解は、学習する機械はブラックボックスへと成っていくという事実を前にすれば、奇妙なものに思えてきます。学習する機械に入力できるプログラムの大半は、学習の過程を経た後には、実行すると、私たちにとって全く意味不明のことを行うとか、まったくでたらめ行動を行っているとしか思えないことをする、そういう結果になると思うんですよね。つまり、学習によって、最初のプログラムで命じたこととは別のことをするようになるわけですから。ですから、学習機械は、私たちがやりかたを示して命じたことしかできないというわけではないということです。そもそも、知的な行動というのは、おそらく、計算処理に含まれている完全に規定された行動からは離脱すること、でたらめな行動や無意味な無限ループには陥ったりしない程度のちょっとした離脱、それによって成り立っているのではないでしょうか。そういう意味で、学習する機械が、最初に与えられた規則から逸脱していくというのは、知的なものになるということだと言えるのではないでしょうか。

このように、模倣ゲームに参加できるようにと機械に教育と学習の過程を施すと、機械の内部で起こっていることが見通せなくなってくるわけですが、それとは別にもう一つの重要な結果が生じます。それは、「誤りを犯すという人間の性質(human fallibility)」というものは、学習の過程において自然な成り行きで取り除かれていくものだということです。特別に何か指導をする必要はない。学習によって身に付いた処理過程は、100%確実な結果を生むものではありません。もし過程が100%確実な結果を生むのであれば、その過程は生得のもの(習わないで得たもの)のはずがないのです。

学習する機械に乱数発生装置を付けておくというのは賢いやり方でしょう。何かの問題の解決方法を探る場合に、乱数発生装置というのは役に立つものです。たとえば50から200の間の数値から、その数字の各桁を足し合わせたものの2乗が、もとの数値と同じになるものを見つけたいとします。このような場合、51から始めて、52, 53 という具合に条件に見合う数値が見つかるまで順に確かめていくという方法をとることもできます。別の方法として、ランダムに数値を選んでいって条件を満たすものを探すという方法もあるわけです。このランダムに選んでいく方法は、どこまで調べたかという記録を保持しておく必要がないというメリットがありますが、一方で、同じ数を2度調べてしまうかもしれないという不利な点もあります。もし条件を満たす解が複数存在しているならば、この欠点はあまりたいしたことではありません。数を順に調べていくというシステマティックな方法は、最初に調べるべき領域は解が一つも存在していない膨大な数値群かもしれないという点が不利なわけです。つまり、なかなか解が見つからないままに延々と作業を続けなくてはならないこともありうるわけですね。ランダムに調べる場合は、運が良ければ一発で解がみつかるかもしれないってわけです。ちなみに、先ほどの条件を満たす数としては81があります。

そこで、学習過程というものは、教師を満足させる、あるいは何かの基準を満たす、そういう行動形式を探索することだと見なしてみましょう。この場合は、条件を満たすような解は非常に多く存在しているでしょうから、ランダムに調べていくという方法のほうが、システマティックな方法よりも適しているように思えます。そういう意味で、学習機械に乱数発生装置を付けておくというのは有効だと言えるでしょうね

なお、ランダムに解を探していくという方法は、生命の進化のプロセスで用いられるものと同じだということは言っておく必要があります。生命の進化においては、システマティックな方法を用いることは不可能です。遺伝子の組み換えが起きる際に、それまでに行った組み合わせをすべて記録しておいた上で、同じ組み合わせを2度と行わないようにする、そんなことができるわけありません。生命の進化を見ることでも、ランダムに解を探索していく方法が有効なことがわかるとは言えないでしょうか? そして私たちの学習機械も、それに倣うことができるわけです。

やがては、すべての純粋に知的な領域で、機械が人間と競い合うようになる、そう期待してもいいでしょう。しかし、そうなるために、何から始めるのがいちばん良いのでしょうか? これは難しい判断ですね。多くの人は、チェスをするといった非常に抽象的な活動に取り組むことから始めるのが最良だと考えています。また、別の人は、機械に、お金で手に入れることができる最良の感覚機器を取り付けて、日常語を理解し話すことができるように教育する、それがいちばん良いのだと主張するでしょう。この日常語の教育であれば、その教育の過程は、子供に言葉を教える通常の教育過程を適用できるでしょう。何かを指し示して、名前を教える、といったことなんかをやっていくわけですね。私には何が正しい答えなのかは分かりません、が、しかし、両方のアプローチを試してみるべきだと考えています。

私たちは、ほんの少し先のことしか見通すことができません。しかし、それでも確実に分かっていることは、やらなければならないことは山ほどあるということです。


ちょっとだけコメント

煩雑な注や解題を加えなくとも、本文だけを読めばいいようにしたいということで作成したページであるので、ここに解題めいたものを書くことは余分というか、自分の作業の不備を認めるようなことではあるのだが、いわゆるチューリングテストに関して、少しだけコメントを書いておく。

この論文でチューリングが定式化した、機械が思考できるかどうかの判定方法、彼自身の言葉で言えば模倣ゲーム、それがいわゆるチューリングテストなのであるが、この論文中において、2つの異なったゲーム形式が存在し、チューリングはその差異を気にしていないのである。論文の冒頭で模倣ゲームが導入されるわけだが、この時点では、模倣ゲームとは、コンピュータがどうこうといったこととは関係ない、人間が行う性別判定ゲームとなっている。そして、その模倣ゲームの参加者の一人(騙し役の方)をコンピュータに取り換えた場合に、人間の場合と同じ程度にコンピュータが質問者を騙せるかどうかで判定する、というのが、最初の段階のチューリングの模倣ゲームによる判定である。つまり、人間だけで行われる模倣ゲームと、コンピュータが参加した模倣ゲームと、2つの模倣ゲームをプレイして、その結果に差が生じるかどうかが問題なのである。差が生じないのであれば、コンピュータは人間と同じように模倣ゲームをプレイできるということであり、その時はコンピュータは思考していると言っていいだろうというのがチューリングの主張である。同じ条件下での人間のプレイとコンピュータのプレイの比較を行うということであり、コミュニケーションにおける両者の振る舞いの比較である。これはこれで筋が通っている。

しかし、論文中においてチューリングが最終的に定式化した模倣ゲームによる判定方法は、人間とコンピュータが模倣ゲームを行った時にコンピュータは質問者をどれだけ騙せるか(人間だと思い込ませることに成功するか)で判定するというものになっている。これが一般的に理解されているチューリングテストにあたる。正確には、チューリングはあくまでも理論的な可能性しか問題にしていないので、コンピュータが騙せると考えることは正しいのか、という理論的な問い掛けになっている。論文執筆時点のチューリングは、あくまでも理論的に可能であることは確信しているが、その時点では現実的には無理であることは分かっていて、このような形で定式化したと考えられる。そういう意味では、「実際に騙せるのか?」という実践的な問いと、「騙せる理論的可能性はあるのか?」という理論的な問いの差異、その差異は、チューリングテストとして話が広がるうちに消えてしまったと言えるだろう。そのことはともかくとして、このチューリングの模倣ゲームの最終定式化の問題点(あえてこう言うならば)は、最初にあった2つのゲームをプレイして比較するというちゃんとした検証法ではなくなってしまったことにある。人間と同等に振舞えるのかということを、人間の振る舞いとの比較で検証するのが最初の模倣ゲームだったのだが、最終的な定式化の方では、人間の振りができるかどうか(人間を騙せるかどうか)で検証するものにすり替わっている。

このように、チューリングの模倣ゲームは、この論文の中での展開で、厳密さを欠いたものになったと考えることができる、と、少なくとも私は思う。

二つの模倣ゲームの差異は、私がこだわるほどには大きくないのかもしれない。また、この論文や他の手稿を読む限りでは、チューリング自身は、機械は思考することを確信しており、いかにそれを他の人にも納得してもらうかという点に焦点がある。模倣ゲームというものも、機械が思考していることを人に納得させるための効果的なデモンストレーションの形態として考えているようにも感じられる。デモンストレーションであれば、それこそ質問者の位置に人を連れてきてプレイヤーとの会話を行わせ、ほ〜ら、どっちがコンピュータかなんて分かんないでしょ?ってやるのが効果的だろう。そういう意味では、最終的な定式化の模倣ゲームが厳密性を欠いているなんてことはどうでもいいことなのかもしれない。

チューリングの模倣ゲームは、最初の段階では、いわゆるチューリングテストと言われているものとは異なったものであったのだということが、私自身がこの論文を読んだときに何より強く印象に残ったことだったので、こうして解題めいたものとして、ちょっとだけコメントを書いておくことにした。


コメント歓迎

このページの内容に関して、意見、批判あるいは感想などがある場合は、遠慮なく田中求之(mact@antares.ecn.fpu.ac.jp)までメールしてください。お返事は差し上げられないかもしれませんが、参考にさせていただきます。