感情移入の可否

加藤　意思や心といったものと言葉との関係についてもう少し考えていきたいのですが、ここで大森荘蔵の「ロボットの申し分」というエッセーの一節を引用したいと思います。

『たまりかねて、証拠を見せろ、という人もあります。そういう人には私の方から問い返すことにしています。ではその前にあなたの方からあなたにも心があることの証拠を見せて下さい。あなたが証拠を見せてくれるなら立ち所に私もそれと同じ証拠をお見せします、と。ところがあなた方同士の間ではそんな証拠を出す必要があるなどとは夢にも思わないのです。ここに私の不満があるのです。あなた方と私は全くお互いさまであるにもかかわらず不審の念はただ一方的に私にだけ向けられるのです。私に向けられる不審はまたあなたがたの親兄弟にも、あなた方同士の間にも向けられてしかるべきなのに』

（『大森荘蔵著作集　第五巻』109頁）

 中村　これは「心があるなら見せてみろ」という人間に対し、ロボットが反論しているわけですね。あなたたち人間同士だって相手の心を見ることなんてできないでしょ。それなのになぜ自分に対してだけそんな要求をするのかって。これはもう、おっしゃる通りなんですよね。

　繰り返し言っている通り、われわれはそれぞれが「私」というワンルームマンションにいて、そこから出ることも、そこに他人を招き入れることもできないわけですが、その構造は相手がロボットでもまったく同じです。もしもわれわれと同じように話しているのがロボットだとしても、そのロボットのワンルームマンションには入れない以上、心があるかないかを判断することはできません。

　なので、フィリップ・K・ディックの小説のように、人間とまったく見分けがつかないロボットやアンドロイドが登場したら、われわれは同じ人間として扱うべきだと思います。でもそこではロボット差別、アンドロイド差別のようなことが起こるかもしれません。あの人もしかしてアンドロイドじゃない、みたいな。そういうことまで想定して、大森荘蔵はこのエッセーを書いていると思います。 

加藤　ちょうどいま名前を出していただきましたが、フィリップ・K・ディックという作家に『アンドロイドは電気羊の夢を見るか』という作品があります。ハリソン・フォードが主演した『ブレードランナー』という映画の原作にもなったんですけど、本当に面白い小説です。内容をざっくりご紹介すると、人類が移住した火星で奴隷として働かされていた8人のアンドロイドが、火星を脱出し、地球の人間社会に紛れ込んだ。それで、賞金稼ぎである主人公のリック・デッカードがそのアンドロイドを見つけ出して「処理」していくという話なんですけど、この作品では人間とアンドロイドを見分けるための「違い」が物語の鍵の一つになっています。たとえば次のような描写です。

アンドロイドが、感情移入度測定検査にかぎって、なぜ無残にも馬脚をあらわすのか――たいていの人間が一度はいだくその疑問を、リックも考えたことがある。ある程度の知能が、クモ類を含めたあらゆる門と目の生物種に見いだされるのに対して、感情移入はどうやら人間社会だけに存在するものらしい。

（フィリップ・K・ディック『アンドロイドは電気櫃の夢を見るか』（早川書房） 41頁）

 

「アンドロイドってやつは、いざとなると仲間にてんで薄情なんだな」とリック。
　ガーランドは吐きすてるようにいった。「そのとおり。われわれにはきみたち人間に備わったある特殊能力が欠けているらしいのさ。感情移入とやらいうものだそうだが。

（同書 160-161頁）

　つまりこの小説では、「感情移入」できるかどうかが人間とアンドロイドを分ける基準になっているんですね。この感情移入というのは、他人も「心」をもっていることが当然の前提になっていると思うんですけど、さっき「ロボットの申し分」で見た通り、その前提は決して証明することができない。なので、感情移入できるかどうかは、人間だってわからないということになります。

中村　フッサールなんかも「人間は誰もが感情をもっているんだ」ということを基に独我論を破ろうとしていますが、おそらくうまくいっていないと思います。

　ワンルームマンションの例でいうと、感情移入という時の感情は、自分のマンションの中にあるものなんですよね。だから、それが他人のマンションの中にあるものと同じかどうか、そもそも他人のマンションにそんなものがあるかどうかさえ、原理的にわからない。

　思いやりを持ちなさいってよく言いますけど、その「思い」も結局は「自分の思い」じゃないですか。それをそのまま相手に当てはめる、意地悪な言い方をすると、押し付けているだけなのかもしれない。つまり、感情移入や思いやりというのは、私＝ワンルームマンションという構造からして、不可能だと思うんです。

　仮に可能だったとしても、人間にもアスペルガーやサイコパスといった、いわゆるコミュニケーション障害の方がいるわけですよね。それを踏まえると、人間とアンドロイドの間には感情移入の可否に基づく明確な境界線があるというより、グラデーションになっていると考えるのが妥当だと思います。

加藤　今お聞きしていて思ったんですけど、感情移入というのは文字通り感情を移し入れているわけですね。相手を器か何かに見立てて、そこに自分の感情をボコっとはめ込んでいる。それは、相手に心や感情があるかどうかとは、明らかに別の話ですね。

中村　そうなんですよ。なので、もしも本当に相手に心や感情があることを確かようとするのであれば、コロンブスが「新大陸」を見つけたときのように、「感情発見」とか「感情確認」というタームを使わないといけない。でも、私＝世界という構造上、その発見は結局私というワンルームマンションの中の出来事であって、他人と共有することは不可能なんです。

 加藤　『アンドロイドは電気羊の夢を見るか』では、アンドロイドかどうかを見極めるために「感情移入度測定検査」というものが行なわれるんですけど、これと似たものに「チューリングテスト」があります。コンピュータの基礎をつくったアラン・チューリングが考案したもので、隔離された部屋にいる判定者が、ディスプレイを介して人間と機械を相手に文字による会話をする。その結果、どちらが人間でどちらが機械か判別できなかった場合、この機械はテストに合格したことになるというものです。

　個人的には、企業のカスタマーセンターに問い合わせるときのチャットサービスがすぐに思い浮かぶんですけど、いまやり取りしている相手は人間なのかAIなのか、もはや判断がつかなくなっているように思います。 

中村　おっしゃる通りですね。チューリングテストというのは要するにAIやコンピュータに特有の挙動、言葉選びや話し方のクセのようなものがあるかどうかというテストです。生成AIがこれだけ人口に膾炙したところ見ると、われわれは、人間とAIの話し方にはっきりとした違いはないと認めたことになるのではないでしょうか。

　チューリングは実はウィトゲンシュタインと浅からぬ関わりがあって、ケンブリッジでのウィトゲンシュタインの講義に学生として出席しているんです。チューリングは数学者なので、ウィトゲンシュタインと数学の議論をたたかわせたんです。

加藤　そうだったんですか。コンピュータの起源と論理学の革命に因縁があったというのは興味深いですね。

意味とは何か

加藤　話を一度「言語ゲーム」に戻すと、われわれがやりとりしているのはあくまでも言葉であり、その時相手がどんな感情を抱いているのか、そもそも相手に心や感情があるかどうかさえ構造的にわからないんだということでした。とはいえ、実際の会話の場においては、話者の言葉と意図（心）がイコールではないといったことが往々にして起こると思うんです。

　たとえば、ある人が部屋に入ってきて「暑いな」と言ったとしたら、われわれはそれを字義どおりにではなく、「窓開けろよ」とか「エアコンつけろよ」といったメッセージとして受け取ってしまう。それを仮に「意味」だとすると、AIはその「意味」を理解できるのかどうかということに興味があります。

中村　いま言われたのは、ウィトゲンシュタインと同時期に活躍したオースティンという哲学者の「言語行為論」ですね。これは、言語というのは世界を描写したり出来事を記述したりするものではなく、言葉として現れた瞬間に行為としてまわりに影響を及ぼすという考え方です。「暑いな」と言われて、窓をちょっと開けようかなとか、エアコンつけた方がいいのかなと思うのは、まさに言葉が行為として働いているからです。この行為を促すものが「意味」だとすると、今の例のように言葉と「意味」がイコールではない場合、AIはおそらく「意味」を理解することはできないと思います。

　言葉の字義どおりではない「意味」を理解するには、その言葉が発せられた状況、すなわちコンテキストを踏まえる必要があります。「暑いな」という言葉は、街中でも、会議室でも、サウナでも発せられる可能性がありますが、そのどれなのかによって「意味」はまったくといっていいほど異なります――まさかサウナでエアコンをつけようとする人はいないでしょう――。そのため、ある言葉の「意味」をAIに理解させようと思ったら、その言葉が発せられるすべてのコンテキストをメタレベルの情報としてインプットする必要がありますが、そんなことは現実的に考えて不可能です。

加藤　言葉の意味について、先生は次のようにも書かれていますね。

こういう意味で、言葉の意味は使用なのです。ちゃんと使えれば、意味を理解しているということなのです。意味が、その言葉とべつのところに存在しているのではなく、実際に使っている場面での、言葉の使用そのものだと言えるかもしれません。

（『ウィトゲンシュタイン、最初の一歩』（亜紀書房）84頁）

内側に「意味」なるものがあって、それを語で表現したのではない。語が最初から使われていて、その語をちゃんと間違いなく（他の人が違和感をもたないように）会話で使っているときに、「意味」なるものがあると言えばある、といった感じです。

（同書 83頁） 

中村　これは「意味」という従来の実体的な概念に対するウィトゲンシュタインのアンチテーゼを説明した箇所ですね。彼は、意味というのは語と一対一で対応しているものではなく、語の使い方であると主張しました。

　われわれはふつう、意味は言葉にくっついているものだと考えますよね。たとえば「リンゴ」という語の意味は実在する赤い（あるいは緑色の）果物のことだとふつうは考えますが、ウィトゲンシュタインはそれは間違いだと言います。

「リンゴ」であればこういった考えでもさほど不具合は生じないのですが、たとえば「哲学」であるとか「友情」、あるいは「抽象」といった語の場合、これらに対応するものはこの世に実在していません。そのため、会話の中でこういう語が出てきた場合、われわれはその意味を、その時々の使用のレベルで受け取るしかない。つまり、発話者がその語を適切なコンテキストで使えていれば、その人はその語の意味を理解していると考えるしかないわけです。

加藤　「友情」という語を、他の人が聞いた時にも違和感なく使えていれば、その人はこの語の意味を理解しているとみなすわけですね。『ジャンプ』といえば友情だよね、みたいな。

中村　そういうことです。逆に、「お腹すいたから、ちょっとコンビニで「友情」買ってくるわ」と言ってきたら、その人は「友情」を理解していないことがわかる。

加藤　それで言うと、生成AIは言葉の意味を理解しているということに……

中村　なります。

加藤　私なんかより、よっぽど的確に言葉を使っていますもんね。

中村　ウィトゲンシュタイン的に言うと、言葉の意味を理解しているというのはつまり「言語ゲーム」に参加できるということなんです。人間だろうがアンドロイドだろうが生成AIだろうが、言語ゲームに参加できているのであれば、それはもう意味を理解しているとみなすしかない。私＝ワンルームマンションという構造上、確認できるのはそこまでなんですから。 

生物に現れる「意味」

加藤　AIが意味を理解できるかどうかという問いに対して、オースティンの「言語行為論」とウィトゲンシュタインの「言語ゲーム」で見解が分かれました。ここで話をさらに複雑にしてしまうかもしれませんが、情報学者の西垣通先生はこの問題に対し、トイビトのインタビューで次のようにおっしゃっています。

『つまり、個別の生物にとって『価値があるもの』として出現するのが意味なんです。私は今のどが渇いているのでこのお茶を飲みます。すると、おいしい。これが意味です。一方私は酒が飲めないので、ここにいくら高級なワインがあっても意味がない。ワインは私が生きていく上で価値のないものなんです（…）個々の生物の生存にとっての価値および重要性、それこそが意味なんですよ』

（西垣通「人間とはどのようなシステムなのか」）

『文章を生成するチャットGPTのようなAIは、データベースにある大量の文章データを分析して単語列のパターンを分類し、出現確率の高い単語列をつなげて文章を作る。なので、一見もっともらしい文章を上手に出力します。でもAIは、それが何を意味するのかはまったく理解していません。著者の意図も、事実かどうかも関係なく、ただ確率にしたがって文章を作っている（…）』。

（同上）

加藤　西垣先生の議論は生命の次元の意味論といった感じで、個人的にはすごく共感するのですが、「意味」という言葉は同じでも、オースティンやウィトゲンシュタインのそれとはまた違うものを指しているように思います。

中村　そうですね。西垣先生がここでおっしゃっている「意味」はウィトゲンシュタイン的にいうと「価値」に近く、「語りえないもの」に属することになると思います。

加藤　西垣先生の見方だと、AIがどれだけもっともらしい文章を出力したところで、それはデータベースにある言葉を出現頻度に従ってまさに機械的に組み合わせているだけであり、そもそも生命ではないAIに「意味」が理解できるわけがない、ということになります。

中村　それはまったくその通りだと思います。ただ、もしもわれわれがそのようなAIの仕組みを知らずに出力された文章だけを見たとしたら、AIは意味を理解しているとみなすしかありません。ウィトゲンシュタインが言っているのはそのことなんです。

　すこし話がそれるかもしれませんが、私は他人どころか自分自身でさえ言葉の意味を理解しているかどうかわからないときがあって、さっきも出た「友情」とか「感謝」とかなんですけど。

加藤　たしかに、メールで「心より感謝いたします」って書いたのを自分で見て、きっと自分はこの人に「感謝」しているんだろうなと思うことはありますね。

中村　感謝するというのが実際にどういうことかよくわからないけど、感謝してるからこういう風に書けるんだと自分を説得するみたいな感じですよね。

　言葉って不思議だなっていつも思うんですけど、言語化すると自分の内側にあるものが出てきたような気になるじゃないですか。でも、本当にそうなのかどうかは、自分を含めて誰にもわからない。だからこそ、どんな言葉をどのように使うかということが重要であり、そのやりとりの場に注目しようというのが「言語ゲーム」という考え方なんです。