ツイッターに書ききれないことを書くところ

ツイッターに書ききれないことを書きます

中国語の部屋と、1+1=2の証明と、「東ロボくん」について

f:id:sawasdeeclap:20170408130812j:plain

前に一度、同じ言葉でも個々人の経験によって使い方などは変わってくるのだ、という当たり前のようなことを書いたが、これが実は結構面白いことだったと知った。言語学でいうところの、「推論モデル」という考え方に、知らず知らずのうちに触れていたということになる。

辞書的な意味を言葉に固定してしまう「通信モデル」では、たとえば、皮肉や間接的なお願いなどのコミュニケーションの説明がつかない。受け取り手が経験に拠って意味を推論することではじめて、複雑なコミュニケーションが成立するのだ。前の記事でも触れた『バカの壁』の「話せばわかる、は大ウソ」も、この考え方と通じるだろう。

今回は「通信モデル」の考え方からはじめて、少し別のテーマについても考えてみたい。

 

中国語の部屋、という、ジョン・サールというひとによる思考実験がある。

中国語の部屋 - Wikipedia

 

この実験でいう部屋の中の英国人は、まさしく通信モデルに沿って情報を処理している、というわけだ。ジョン・サールはこの思考実験によって、「強いAI」、つまり人間の脳のような(またはそれ以上の?)はたらきをするAIの実現を否定した。

書物と英国人、つまり部屋をセットとしてみればこれは知能といえるのではないかという反論も、ある。それに対するサールの反論は次の通りだ。

システム全体が統語論から意味論に移行するということはそもそも不可能である。中央処理装置としての私はそのさまざまな記号が何を意味するかということを割り出す手段を持たない。それなら、システム全体もそのような手段を持たないのだ。(サール「心・脳・科学」邦訳p36)

引用元:

中国語の部屋がダメなわけ<心は実在するか16>: 独今論者のカップ麺

意味論、つまり、ここで問題となってくるのは、人間の「理解や解釈」とはどのようなものなのかという話だ。その特徴とは何か。大学でも人工知能に関する議論をやったような気が(おぼろげながら)あるが、意識というものの難しさから、漠然としたものになりがちだ。ある観点、この場合なら言語学、で固定して見ていくのが良いのかもしれない。

ウェブサイトを少し見ただけの僕がえらそうにだが、サールの考え方には納得できない。僕としては、この部屋はもう知能といえるんじゃないかな、と思ってしまう。それは理解というものに対する線の引き方が漠然としているからだ。先のサイトでは、「言語ゲームの意味論」を持ち出して、コンピュータが経験を積むことができる状況が仮定されていたが、僕は人間側の理解というもののあいまいさから見ていきたい。

 

高校のころ、数学の定期テストで、試験範囲の問題集から数字が変わっただけの同じ問題が出る、ということがあった。今思い返してもあまりいいやり方ではなかった気がするが、これは試験範囲の問題を繰り返しやればだれでも点が取れるように、という配慮だったのだろう。

極端な話、問題集と数字が変わっていないのなら、これは中国語の部屋と全く同じ。模範解答をひたすら何度も書いて暗記すれば、満点を取ることができるだろう。では問題の数字が少し変わっていさえすれば、これはその問題を理解して解いているといえるのか?これには大多数の人が、そうとはいえない、というのではないかと思う。

昔どこかの大学の入試問題で(京大だったか?検索しても出てこない)、必要十分条件の問題で、「ならば」と「である」をひっくり返した形で問題を出して、多くの受験生をひっかけたらしい、ということを高校の先生に伺った覚えがある。順番で覚えるだけできちんと理解していない学生を振るい落としたということだ。

僕は、そのような間違いを犯す人々を笑うことはできない。果たしてどうであれば、理解に基づいて問題を解いていると言えるのか。公式を覚えていれば?公式を自力で導出できれば?1+1=2であることを「理解」するとはどういうことか?(ちょっとググったら1+1=2の証明は大学ノート一冊分になるらしい。恐ろしい。)

人間の理解というものがフワフワしているものだなとはよく感じていた。どれだけ深く理解しようとしても、ある程度のところで割り切るほかないと。知らないことを知らないと認められることのほうがよほど大事だとは、紀元前からいわれていることではないか。

 

と、さんざん人間の理解というものに疑問を挟んでおいてだが、今のところ人間とAIとの「理解の仕方」の線引きは存在するといえる。それはあくまで結果論的なものではあると思うが。東大合格を目指すAI「東ロボくん」のことだ。

www.dailyshincho.jp

上の記事は「技術的特異点」への到達に否定的だ。一方でこんな不気味な記事もある(光の加減も不気味だ。AIかと思った)。

news.yahoo.co.jp

さて、なぜこの記事で言語学的なアプローチをとったかというと、これこそ「推論モデル」の話なんじゃないかと思ったからだ。現時点での人間とAIの違い。いまのところ推論できるのは人間のみ、ということか。しかしいつそれが覆るかはわからない。もしかしたら技術的特異点への到達は、人間側の退化によってなされるのかもしれないでしょう。人間とAIの知能"力"というのは、既に同じパイを分け合ってるみたいな感じなのかもしれない、というのは大げさだろうか。

もしも、技術的特異点が来るとしても、それはせめて僕が死んだ後にしてほしい。

音楽:Who Are You - The Who