–フレーム問題(1)、シンボルグラウンディング問題(2)、クオリア(3)、汎用AI(4) について-
“I don’t see that human intelligence is something that humans can never understand.“
~ John McCarthy(5), March 1989
GMOリサーチ株式会社・グローバルシステム本部・CTO室の廣橋と申します。
今回は、第3次AIブームと言われる中で、AIの未解決問題のうちの4種を調べてみたので、それについて書きます。
自己紹介
私は、2014年後半からGMOリサーチのインフラチームで、オンプレミスからクラウドへのシステムの移行（同時にデータセンターも移行）、システムのインフラの更新・メンテナンス、DBのバックアップ、アカウント管理などに関わっていました。2019年からは、情報セキュリティチームで、主にISMS認証取得に向けた体制・ドキュメント整備をやっていました。
また、Elasticsearch(6)などを使ったログ解析システムを作ったり、NESSUS(7)によるプラットフォーム/アプリのセキュリティチェックを行ったりもしていました。今年(2022年)からは、データ・BIチームで、主にAI関連技術を担当しています。業務終了後は、Kaggle(8)のコンペに参加したりもします。
AIの未解決問題の内容・調べてみたわけ
今年から、AI 関連の業務をすることになって、そもそもAIって何ができるのかが気になりました。最近は、AIで画像・ビデオ・音声や文章の認識、言語翻訳、画像・ビデオ生成、予測分析、ゲーム、ロボット、自動運転など、いろんなことができます。
ですが、いざやろうとすると、データやシステムの準備、データの分析、クレンジング・モデルの作成、デプロイ、評価、メンテナンス、改善などを上手くやっていく必要があり、なかなか大変です。
そこで、AIの限界を探ろうと、以下の未解決問題を調べてみました。
1.フレーム問題
2.シンボルグラウンディング問題
3.クオリア
4.汎用AI
どれも難しい問題ですが、AIの巨人である故McCarthy先生は、本稿のタイトル直後に引用したように「人間の知性というものは、人間には理解できないものだとは思わない。」と仰ってますし、完全には解決していなくても、Deep Learningの進展を含め、かなり改善されてきたと思います。ワクワクする一方で、ちょっと怖いですが。
フレーム問題
フレーム問題とは、特定の問題を解くようなAIでは無く、人間のように過去の経験や知識に基づいて一般的な問題を解く場合に起こるものです。
1969年に、コンピュータサイエンティストのJohn McCarthyとPatrick John Hayesの論文「SOME PHILOSOPHICAL PROBLEMS FROM THE STANDPOINT OF ARTIFICIAL INTELLIGENCE」(9)で述べられたのが最初とのことです。
フレーム問題は、道路を渡るときにどこまで気を付けたら良いかというような話にすると少しわかりやすい気がます。右を見て左を見てもう一度右を見て、車が来てなければ渡って良いっていう話だと思うのですが、実は、見えにくいところから自転車が来るとか、上空からドローンが飛んで来るとか、考え出すときりがなくなって、AIの思考がストップしてしまう（一所懸命考えていると思いますが）というものです。
現在、すでに自動運転なども行われているので、この問題も解決されつつあるということだと思います。もし、これが解決されていないなら、自動運転の車なんて怖くて乗れないし、公道を走行するのも無理ですよね。
フレーム問題は、早坂 吝の小説「探偵AIのリアル・ディープラーニング」(10)にも登場する問題で、AIの古典的かつ本質的な問題です。この小説は、AIの探偵である相似(あい）が事件を解決していくという探偵小説で、なかなか面白いです。
シンボルグラウンディング問題
シンボルグラウンディング問題とは、以下のようなものです。
人間に、「ウマってどんなもの？」と聞いたら、「キリンほどじゃ無いけど、首が長くて、立髪があって早く走れる動物でしょう。」と答えられます。
AIでも、似たような答え、あるいはそれ以上の答えはできるのですが、「本当に理解しているのだろうか？」という問題です。
この問題が最初に取り上げられるのは、1990年の認知科学者のStevan Harnadの論文「THE SYMBOL GROUNDING PROBLEM」(11)のようです。
この論文では、シマウマに関する以下のような例が取り上げられています。
2.「シマ」と言う名前も同様に識別されているとします。
3.「シマウマ」とう言うのは、「シマ」と「ウマ」から構成されるとします。
上記の条件で、人間は、シマウマを初めてみた場合でも識別できますが、AIには無理でしょうと言うことのようです。
シンボルだけで理解しているAIでは、上記のようなことは無理ですが、最近のDeep Learningの世界では、「ウマ」と言う名前とウマの画像とを学習しているので、この問題は解決に近づいているとも言えそうです。それでも、AIが本当に「ウマ」や「シマウマ」を理解しているのかという疑問は残ります。
シンボルグラウンディング問題も、上記の早坂 吝の小説「探偵AIのリアル・ディープラーニング」に登場します。
クオリア
クオリアとは、主観的な経験にもとづく感覚ということのようです。「山を彩る美しい紅葉」とか、「秋の夜の美しい月」とか、「オーケストラによる感動的な音楽」とか、「頭を何処かにぶつけて痛い」とかも、これになると思います。
例えば、赤いリンゴがあるとすると、それが625nmから780nmあたりの光を反射して、網膜、視神経を通して脳に刺激が伝わります。その結果としての「赤い」という感じがクオリアということになるのですが、「赤い」という感じがどんなものなのかを説明するのは難しいです。
クオリアという言葉は、ギリシャ哲学の時代からありましたが、上記のような意味で使われたのは、哲学者クラレンス・アービング・ルイス(12)の「Mind and The world Order」(1929年)(13)が最初とのことです。
AIが心を持つなんてできそうも無いですが、そもそも人間の心って、脳にありますよね。じゃあ、心って脳の活動ですよね。そうなると脳に似た機械/AIを作れば、そこには、心もあるのではないか？ということになり、AIが心を持てる可能性もありそうです。
一方では、「心」と思っているものは、脳の活動に過ぎず、全ては物理的に説明でき、クオリアや「心」というものは存在しないという考えもありそうです。
クオリアとは、とても分かりにくいものですが、日本感性工学会という学会もあり、工学的な研究や応用も行われているようです(感性とクオリアは、微妙に違うのかもしれませんが)。
松岡圭祐の「千里眼 ノン=クオリア の終焉」(14)では、クオリアの存在を否定する「ノン＝クオリア」という集団が登場し、ヒロインの岬美由紀(千里眼)と戦うというもので、アクション小説としてとても面白いです。
汎用AI
汎用AI(AGI, artificial general intelligence)は、ウィキペデアによれば、人間のように学習し言葉や物事を理解する能力のある架空の機械知能とのこと。
一旦、これが出来上がると、AIは自律的に強化/バージョンアップを行うので、加速度的に強化されて行き、人間の能力をはるかに超えたAIが作られるという問題です。この人間の脳と同等のAIが作られた時点のことを、シンギュラリティ(技術的特異点)(15)と呼びます。
米国の発明家、思想家、未来学者であるレイ・カーツワイルが2005年に「ポスト・ヒューマン誕生」(16)にて「特異点は近い」と宣言したとのことです。
勿論、AGIはAIの到達目標ですが、未来学やサイエンスフィクションにおけるトピックで、到達しないだろうとの意見もあります。
シンギュラリティに到達すると仕事がなくなるとか、逆に働かなくて良くなるとかの意見もあります。絵画や音楽のような芸術は、AIにはできないから、シンギュラリティ後も生き残るだろうという意見もありましたが、今の状況だと芸術だからAIにできないというわけでも無いようです。
起こる方の意見では、2045年にシンギュラリティが起こり、その前に2030年にはプレシンギュラリティが起こるというのが有力な意見です。2005年から既に17年が経過していますが、誰も本当のことは分からないのが現状だと思います。
あとがき
ここまでお読み下さり、ありがとう御座います。
最初は、面白いテーマだと思ったのですが、堅苦しく重苦しい話になってしまった気がします。汎用AIの実現は、非常に難しいとは思いますが、果たしてシンギュラリティに到達する日はいつくるのか？それとも来ないのか？もし、人間の知性を超えたAIが出現したら、どうしたら良いのか分からないですね。ですが、できることを楽しみながら、頑張るしか道はなさそうです。 今思えば、McCarthy先生の時代は夢があってよかったなあという気もします。
ーーーーーーーーーーーーーーーーーーーーーーーーーーーーーー
参考文献/URL
(1)ウィキペディア: フレーム問題
(2)ウィキペディア: シンボルグラウンディング問題
(3)ウィキペディア: クオリア
(4)ウィキペディア: 汎用人工知能
(5)Stanford Univ.: Professor John McCarthy
(6)Elasticsearch B.V. Elastic Stack
(7) 東陽テクニカ: NESSUS
(8) Kaggle
(10)早坂 吝: 「探偵AIのリアル・ディープラーニング」 新潮社文庫, 2018年
(11)Stevan Harnad: THE SYMBOL GROUNDING PROBLEM
(12) ウィキペディア: C・I・ルイス
(13)CLarence Irving Lewis: Mind and The World-Order outline of a theory of knowledge
(14) 松岡圭祐: 「千里眼 ノン=クオリア の終焉」 角川文庫, 2021年
(15)ウィキペディア: 技術的特異点
(16)レイ・カーツワイル: 「ポスト・ヒューマン誕生 コンピュータが人類の知性を超えるとき」NHK出版, 2007年
