「AIによる心の再現」について調べてみた

– 物理主義、心身二元論、自由意志、哲学的ゾンビ、機械の中の幽霊、心の再現、チューリングテスト、行動心理学 –

I don’t see that human intelligence is something that humans can never understand.⁽¹⁾

~ John McCarthy March 1989

GMOリサーチ株式会社　グローバルシステム本部　CTO室の廣橋と申します。
今回は、私の前回ブログ「AIの未解決問題を調べてみた」(2022.09.22)⁽²⁾の続編になります。

前回ブログの約2ヶ月後に公開された生成型AI「ChatGPT」は、圧倒的なスピードで世界中に広がり、既にAGIが完成されたのではないかという噂もあるようです。そこで、「AIによる心の再現」について調べてみたので、それについて書きます。

エピグラフは、前回と同じくMcCarthy先生の、”I don’t see that human intelligence is something that humans can never understand.”を引用させていただきました。

自己紹介

2014年後半にGMOリサーチ株式会社に入社し、インフラチーム、情報セキュリティチームを経て、現在は、CTO室で、主にAI関連技術を担当しています。仕事とは別に、Kaggle⁽³⁾のコンペに参加したりもしています。

今回の内容・調べてみたわけ

ChatGPTを始めとするLLMが世界中に広がり、openAI社⁽⁴⁾は、”Our mission is to ensure that artificial general intelligence benefits all of humanity.”として、AGI⁽⁵⁾を彼らのミッションとして掲げています。これだけ、AI技術が進歩してくると、気になるのは、「AIに人間の心は、再現できるのか?」あるいは、「再現できたとして、それは本当の心なのか」ということです。

心については、哲学者、心理学者、神経学者などが議論を重ねているにもかかわらず、未だ答えは出ていない状況だと思いますが、その中で気になる以下について調べてみました。

1. 物理主義
2. 心身二元論
3. 自由意志
4. 哲学的ゾンビ
5. 機械の中の幽霊
6. 心の再現
7. チューリングテスト
8. 行動心理学

基本的な考え方は、「心は脳の活動が作り出したもの」であるという物理主義と、「体とは別に心は存在する」という心身二元論になると思います。

AIによる心の再現

物理主義

物理主義⁽⁶⁾とは、あらゆるものが物理的なものであると考えるもので、科学万能論と言っても良いかもしれません。したがって、心についても、脳内のシナプスの働きによって実現されるということになります。最近では、例えば、fMRI（機能的磁気共鳴画像法）⁽⁷⁾を用いることで、脳の活動をリアルタイムで記録・分析することができ、脳の特定の領域の活動が、特定の感情や認知と関連していることが明らかにされています。

例えば、「海馬」は「記憶」と深く関わっており、「前頭前野」は「考える」「記憶する」「アイデアを出す」「感情をコントロールする」「判断する」「応用する」などと関わっているようです。AIで海馬を再現した⁽⁸⁾という話もあります。
心が脳の働きでできている点に関しては、多分その通りだと思いますが、それで全てが説明できるかは疑問です。

物理主義に基けば、AGIまたは、AGIの先には心があることになります。人間の心を機械で再現できるとなると、その心を情報として電子的に保存することも可能だろうし、光瀬龍の「百億の昼と千億の夜」⁽⁹⁾に出てくる人間を1枚のカード情報として保存し、その人間が半永久的に生きる?ことも可能になりそうです。

心身二元論

心身二元論⁽¹⁰⁾とは、心と体は別のものとして考えるべきであるというもので、近代哲学の父とも呼ばれるルネ・デカルト⁽¹¹⁾は、その代表的な人物です。彼の「方法序説」⁽¹²⁾にある「我思う、故に我あり」というように、心は他のものとは独立に存在するという、考え方です。

その当時としては、画期的な考えでその後の世界に大きな影響を与えましたが、現代において、体とは別に心が存在するというのは、専門家にはほとんど受け入れられていないようです。

自由意志

私たちは自由意志⁽¹³⁾を持っていて、例えば、今からお茶を飲むか飲まないかは、自分の意思で決めていると思っています。
ところがです。ところがですよ(城塚翡翠⁽¹⁴⁾の真似です:-P）。私たちは、自分たちの意思で将来の行動を決めていると思っていますが、実は、因果律によって私たちの行動はすでに決まっているという考えがあります。
これが正しいとすると、世の中なる様にしかならないという気楽な考えにもなれますが、犯罪なんかも既に決まっているかのようなことになりかねず、ちょっとどうなのかなって思います。

さらに、ベンジャミン・リベット⁽¹⁵⁾が行った実験によれば、私たちが行動を起こす場合、人間の意思より先に無意識的な動作が起こるというものです。そうなると、私たちの行動は意識的に決められている訳ではなく、「自身の行為を意識的に生じさせた」と、私たちが感じていること自体が「幻想」であるという事になります。咄嗟の行動とかを考えると、そういうものかなという気もします。

哲学的ゾンビ

哲学的ゾンビ⁽¹⁶⁾とは、「外面的には普通の人間と全く同じように振る舞うが、その際に内面的な経験（意識やクオリア⁽¹⁷⁾）を持たない人間」として定義された仮想の存在で、デイヴィッド・チャーマーズ⁽¹⁸⁾が1990年代にクオリアの説明に用いた思考実験であり、心の哲学者たちの間で有名になったとのことです。

哲学的ゾンビとは、罪悪感の希薄な人や、冷たい人などのことでも、精神疾患を意味する精神医学関連の用語でもありません。哲学的ゾンビは、普通の人間と全く区別がないのですが、楽しいとか怒りとかの意識を持たないとのことです。

私たちの世界には、楽しいとか怒りとかの意識が存在する。物理学的には、私たちの世界と同一でありながら、意識に関する事実が存在しない世界が想像可能である。現在の物理法則には、楽しいとか怒りとかの意識は含まれていない。したがって、物理主義は誤りであるというのが、ゾンビ論法と言われるもので、意識あるいはクオリアと呼ばれるものが存在するという心身二元論を論証するものになっています。

機械の中の幽霊

ギルバート・ライル⁽¹⁹⁾が心身二元論を批判するときに用いた表現です。自然が複雑な機械であり、人間がその中の小さな機械だとすれば、人間の特性である知能や自発性の説明がつかないから、この小さな機械の中に幽霊がいるとしなくてはならなくなるというものです。幽霊かどうかはわかりませんが、二元論は当初から体と心はどうやって相互作用するのか？という問題を抱えていたようです。

心の再現

現在の主流のAIモデルである、Large Language Model(LLM)を使ったChatGPTなどは、非常に人間的な受け答えをしますが、それは単語の出現確率を計算して、一番ありそうな文章を作っているだけで、人間の喜びや悲しみ、怒りなどの感情を理解できたとは言えないと思います。したがって、LLMだけでは心を持つことは無理だと思います。

ですが、心を真似るソフトウェアを作ることは、それほど難しくはなさそうな気がします。既に、文章、声、表情、生体情報から感情を認識するモデルはありますし、強化学習を用いることで、AIが環境から学習し、自律的な行動をすることもできます。

他人の本当の痛みを理解することはできないので、見かけが悲しんでいるとか怒っているとかで、他人の心を判断することになります。人間の心を真似したものは、見かけは心があるのと同じように振る舞いますが、それは本当の心と言えるかどうかが問題です。

既に、デジタルクローンを作ることも研究されている^{(20 )} ようですし、さらに、最近のライフサイエンスの研究では、まだ実用化はされていないようですが、体の機能を再生・修復することが可能になっており⁽²¹⁾、究極的には、解剖したとしてもオリジナルの人間と区別がつかない人体が作られる可能性すらありそうです。

チューリングテスト

チューリング・テストは、アラン・チューリング⁽²²⁾が提案した、上記3-6.心の再現

に記載したような考え方で、ある機械が「人間的」であるかどうかを判定するためのテストです。

以前から、機械が人間に思えてしまうという「ELIZA効果」⁽²³⁾というものはありましたが、最近では、機械がさらに賢くなっており、チューリングテストに合格できる気がします。この時、美しい絵画とか、美味しい食べ物とかを機械が理解できているかという疑問は残りますが、それらも学習することによって、外から見ただけでは分からない様にできるかもしれません。

行動心理学

行動心理学は、ジョン・ワトソン⁽²⁴⁾が「行動主義者の立場からの心理学」で、意識を研究するのではなく、行動そのものを研究する学問としての心理学を主張したのが始まりのようです。

「科学が扱う対象は、客観的に観察可能な行動に限るべき」という考え方に基づいていて、心の存在というものは認めないので、物理主義の一種であると考えられます。

行動心理学は、マーケティングなどにも関わる実用的な学問で、マーケティング心理学は、人間の行動のパターンを理解する事によって、消費者の行動を理解しようとします。例えば、つい値段が真ん中のものを選んでしまうという「松竹梅の法則」⁽²⁵⁾なんかも、この一種になると思います。

また、心理学者のダニエル・カーネマン⁽²⁶⁾が2002年にノーベル経済学賞を受賞して行動経済学が脚光を浴び、その成果とされるプロスペクト理論の「損失回避性」⁽²⁷⁾が、知られる様になりました。一方では、「行動経済学は死んだ」⁽²⁸⁾のかという議論もある様です。

あとがき

ここまでお読み下さり、ありがとう御座います。

やはり心は、人間にとって最大の謎の一つですね。しかし、今のAI技術の進歩のスピードだと、そのうちAGIを超えて心も機械で再現できそうな気がします。

心が機械で再現できるとすると、人間と友達になれるロボットなんていう前向きなものも出てくるとは思いますが、機械で作られた心は本当の心なのか？という問題もあると思います。

人間より賢くて作られた心を持った機械を考えると、なんか恐い世界が誕生しそうな気がします。私の杞憂であれば良いのですが。
人間にとっては、美しくて豊かな心はとても大切なものだと思います。

【参考文献/URL】

1. Stanford Univ.: Professor John McCarthy: http://jmc.stanford.edu/
2. 廣橋昭: AIの未解決問題を調べてみた, https://gmor-sys.com/2022/09/22/unsolved-problems-in-ai/
3. Kaggle: https://www.kaggle.com/
4. OpenAI: https://openai.com/
5. Wikipedia: 汎用人工知能（略称: AGI), https://ja.wikipedia.org/wiki/%E6%B1%8E%E7%94%A8%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD
6. Wikipedia: 物理主義, https://ja.wikipedia.org/wiki/%E7%89%A9%E7%90%86%E4%B8%BB%E7%BE%A9#:~:text=%E6%A4%85%E5%AD%90%E3%82%84%E6%9C%BA%E3%82%84%E7%9F%B3%E3%81%93%E3%82%8D,%E3%81%8C%E7%89%A9%E7%90%86%E4%B8%BB%E7%BE%A9%E3%81%A7%E3%81%82%E3%82%8B%E3%80%82
7. Wikipedia: fMRI, https://ja.wikipedia.org/wiki/FMRI
8. Med IT Tech: 「脳型AIハードウェア」で海馬機能の一部を再現させることに成功, https://medit.tech/johns-hopkins-toshiba-made-ai-hippocampus/
9. 光瀬龍: 百億の昼と千億の夜, ハヤカワ文庫JA
10. Wikipedia: 二元論, https://ja.wikipedia.org/wiki/%E4%BA%8C%E5%85%83%E8%AB%9
11. Wikipedia: ルネ・デカルト, https://ja.wikipedia.org/wiki/%E3%83%AB%E3%83%8D%E3%83%BB%E3%83%87%E3%82%AB%E3%83%AB%E3%83%88
12. デカルト ルネ: 方法序説, 岩波文庫
13. Wikipedia: 自由意志, https://ja.wikipedia.org/wiki/%E8%87%AA%E7%94%B1%E6%84%8F%E5%BF%97
14.  相沢沙呼: Medium 霊媒探偵城塚翡翠, 講談社文庫
15. Wikipedia: ベンジャミン・リベット, https://ja.wikipedia.org/wiki/%E3%83%99%E3%83%B3%E3%82%B8%E3%83%A3%E3%83%9F%E3%83%B3%E3%83%BB%E3%83%AA%E3%83%99%E3%83%83%E3%83%88
16. Wikipedia: 哲学的ゾンビ, https://ja.wikipedia.org/wiki/%E5%93%B2%E5%AD%A6%E7%9A%84%E3%82%BE%E3%83%B3%E3%83%93
17. Wikipedia: クオリア, https://ja.wikipedia.org/wiki/%E3%82%AF%E3%82%AA%E3%83%AA%E3%82%A2
18. Wikipedia: デイヴィッド・チャーマーズ https://ja.wikipedia.org/wiki/%E3%83%87%E3%82%A4%E3%83%B4%E3%82%A3%E3%83%83%E3%83%89%E3%83%BB%E3%83%81%E3%83%A3%E3%83%BC%E3%83%9E%E3%83%BC%E3%82%BA
19. Wikipedia: ギルバート・ライル, https://ja.wikipedia.org/wiki/%E3%82%AE%E3%83%AB%E3%83%90%E3%83%BC%E3%83%88%E3%83%BB%E3%83%A9%E3%82%A4%E3%83%AB
20. 信原幸弘他: 「デジタルクローンについての研究者たちの視点」を公開, https://alt.ai/news/news-1659/
21. 中辻憲夫（京都大学再生医科学研究所）, 人の体はどこまで再生できるのか, https://www.nikkei-science.com/page/magazine/0306/sp_1.html
22. Wikipedia: アラン・チューリング, https://ja.wikipedia.org/wiki/%E3%82%A2%E3%83%A9%E3%83%B3%E3%83%BB%E3%83%81%E3%83%A5%E3%83%BC%E3%83%AA%E3%83%B3%E3%82%B0
23. Wikipedia: ELIZA, https://ja.wikipedia.org/wiki/ELIZA
24. Wikipedia: ジョン・ブローダス・ワトソン, https://ja.wikipedia.org/wiki/%E3%82%B8%E3%83%A7%E3%83%B3%E3%83%BB%E3%83%96%E3%83%AD%E3%83%BC%E3%83%80%E3%82%B9%E3%83%BB%E3%83%AF%E3%83%88%E3%82%BD%E3%83%B3
25. ゴルディロックス効果とは？真ん中の選択肢に人気が集中してしまう理由: https://www.unprinted.design/articles/goldilocks-principle/
26. Wikipedia: ダニエル・カーネマン, https://ja.wikipedia.org/wiki/%E3%83%80%E3%83%8B%E3%82%A8%E3%83%AB%E3%83%BB%E3%82%AB%E3%83%BC%E3%83%8D%E3%83%9E%E3%83%B3
27. Wikipedia: プロスペクト理論, https://ja.wikipedia.org/wiki/%E3%83%97%E3%83%AD%E3%82%B9%E3%83%9A%E3%82%AF%E3%83%88%E7%90%86%E8%AB%96
28. 中川功一: 「行動経済学は死んだ」のか【行動経済学15】, https://yasabi.co.jp/is-behavioral-economic-dead/