AI vs 人間
AI vs Human Intelligence
AIと人間、ここでは、機械と人間を対比する観点から考えてみます。
CONTENTS
- 機械と人間に共通すること
-
機械と人間の違い
- 他律系（Heteronomous System） / 自律系（Autonomous System）
- 絶対情報の把握・・ できる / できない
- 自己修復・・ できる / できる
- 静的保存 / 動的状態（流れ）・・ できる / できない
- ハードとソフトの分離・・ できる / できない
- 学習に必要なデータ ・・大量 / 少量 ？
- 決断・・ できないことがある / できる
- アブダクション（仮説形成）・・できる / できる
- 文脈を読む能力・・部分的にある / ある
- 自然言語処理能力・・ 微妙 / ある
- 身体性・・ ない / ある
- 生命・・ ない / ある
- 意識・・ない / ある
- *意識と無意識の役割分担・・ない / ある
- 自我・・ ない / ある
- 「忘れる」という戦略・・ ない / ある
- 驚き・好奇心・問題意識・・ ない / ある
- 「面白い！」の創造（新奇性）・・多分できない / できる
- 価値生成 ・・多分できない / できる
- 付記：人間と機械のハイブリッド化
- 人工知能の限界
- APPENDIX
機械と人間に共通すること
自己複製
自己複製は、生物一般のみならず、生物と無生物の中間にあるウイルスにも、コンピュータウイルスにも共通に見られる現象です。一般に自己複製は「情報体」というものに共通する現象で、複製されない情報には情報としての価値はない・・といっても過言ではないでしょう。
代謝・生体維持
自身の体を守れ・・これは、生物に限らず機械にも可能です。それはすでに自己充電管理（食料確保）と武装（防衛）によって実現されています。AIを支えるハードは、生物のような分子レベルの代謝はしませんが、状態の悪くなった部品を自ら判断して除外・交換することや、自らエネルギー補給（充電）することができるのです。
AI には「身体性」が無い・・と言われますが、「自身のハードを守れ」という防御プログラムが動くロボットは、側から見れば自我をもった生き物のように見えます。ハードウエアのセンシングに基づく、「今・ここ」の情報が加味されて動くのであれば、見た目は人間と区別がつかなくなります。
機械と人間の違い
他律系（Heteronomous System） / 自律系（Autonomous System）
機械は他律的で、生命は自律的です。AI に関して「自律システム」という言葉がよく用いられますが、その行動原理（メタレベルのルール）はプログラマーによって書かれるので、厳密に言えば、それはどこまで行っても「他律システム」です。自ら充電スポットへ移動するロボットを見ると「自律的」にふるまっているように見えますが、「バッテリー残量がある値を下回ったら充電スイッチをON」というのは、プログラマーが書いたシナリオどおりで、他律的なものなのです。
一方、生命は、自らその行動のルールを定めることもできる点で「自律系」と言えます。もちろん「遺伝子決定論」や「脳決定論」など、自然法則がすべてを決定するのであって、人間にも「自由意志」は無い・・といった考え方もありますが、「プログラムされない限りは自分で勝手に充電を始めることのない機械」と「教えられなくとも自発的に食料をあさる生命」との差は歴然としているのではないでしょうか。
絶対情報の把握・・ できる / できない
機械が持つセンサーは、物理的な「絶対値」を得ることができます。例えば、重さや、長さの計測はもちろん、 GPSを使って地球上における自身の絶対座標を得ることができます。
一方人間は、重さや長さを正確に把握することはできないし、また、目隠しで放り出されると迷子になります。
自己修復・・ できる / できる
AI は、自身のハードの問題を検知し、自身で問題部分を破棄、修復することができます。またウイルスに対しても、ワクチンプログラムがあれば、それによってウイルスの除去が可能です。さらに、そしてその情報を自身でアーカイブすることができます。
一方生命は・・
- 痛みをともなう外傷等については、意識的にそれに対応する（傷を手当する）ことができます。ウイルスに対しては、それが検査によって把握できれば、ワクチン等で事前に対応することができます。
- 痛みをともなわない内臓の疾患については、意識的な修復はできず、無自覚な修復に任せるしかありませんが、検査によって問題を検知できれば、問題の進行をくい止めることができます。
静的保存 / 動的状態（流れ）・・ できる / できない
機械の脳は電源を入れたり切ったりできます。ハードを静的なモノとして、またソフトも 01の並ぶ「状態」として静的に記録することができます。
一方、生物の知能は、その動きを止めることができません。眠っている間も脳は活動しています。
ハードとソフトの分離・・ できる / できない
機械の脳では、ハードとソフトの分離・再構成が可能。一方で、生物の脳の神経系は全身につながっていて（つまり記憶も結線情報つまりハードウエアと連動していて）、ユニットの交換のような操作は不可能です。記憶はハードのカタチにも現れるのです。記憶だけを取り出して移動させることはできません。
学習に必要なデータ ・・大量 / 少量 ？
機械学習には大量のデータが必要だが人間は少ない情報で学習する・・というのはよく聞く話ですが、本当にそうでしょうか。これには疑問があります。
確かに幼児が「犬と猫」を見分けるのに、それほど情報を要しないように感じますが、実際にそれと接する体験的場面では「上下左右あらゆる角度から時間をかけて」見ています。結果、動きの特徴も含めた多次元のデータを無限大とも言える量で取得していると言えるでしょう。機械学習には大量のデータが要る・・というのは、それが時間軸を持たない２次元の画像を前提としているために、そのような印象を持ちやすい・・ということかと思います。
余談となりますが、その意味で「百聞は一見に如かず」という言葉は非常に的を射ています。犬と猫を図鑑（２次元のデータ）で見ても、極めて貧困なデータ入力にしかなりません。２次元の画像というのは、機械学習に与えられるデータと同じで、学習するには大量の画像が必要になる・・ということが容易に想像できます。ヒトの学習にとって「現物に接する」、「実体験する」ということがいかに大切であるか、「百聞は一見に如かず」はそのことを言っているのだと思います。昔の人もそれなりに十分賢い。
決断・・ できないことがある / できる
計算結果・評価が拮抗した場合、極端な例でイコールになった場合、コンピュータは判断停止します（実際には停止させるわけにはいかないので「イコールの場合は前者を選択」などとプログラミングすることになりますが、これは要するに人間が判断して決めています）。わからなくても、どちらかを選んで動く。良いか悪いか、好きか嫌いか、最終的な決断は人間の特権かもしれません。
アブダクション（仮説形成）・・できる / できる
19世紀の論理学者C.S.パースは、帰納法、演繹法に次ぐ第三の推論形式として「アブダクション」を提唱しました。そのプロセスは以下のようなものです。
1)「驚く」べき事実が観察される（リンゴが落下するのを見る）
2) ある仮説を構築すれば、その事実は説明可能になる（万有引力の法則）
3) 仮説が正しいことを検証する
AI がこうした仮説形成（AH：Automated Hypothesis：自動仮説）をするようになると、データの分析＞仮説＞検証といったクリエイティブな研究のすべてを AI が実行できることになります。デザイナーや研究者のような職業も、AIに代替される可能性が出てきました。
ただ、最初の項目の「驚く」こととか「そもそも何で？」という「問い」は人間にしか出来ないのかもしれません。データから、新たな関係を見出すことは AI にできたとしても（しかもそれはおそらく我々が想像する以上に膨大な数になる）、「なぜ？」という問いや、「それが何かに使えそう」と感じる意識がなければ、次のステップである仮説の構築にはいたりません。
ちなみに、驚くべき報道「AIが物理法則を発見」は以下です。
コンピュータが、揺れる振り子の動きから、運動の法則を導出 Michael Schmidt, Hod Lipson, Distilling Free-Form Natural Laws from Experimental Data, 2009, Science Vol.324
https://www.wired.com/2009/04/newtonai/
文脈を読む能力・・部分的にある / ある
文脈を見て、そこに最適な言葉を入れる・・といったことは、統計的な処理によって可能です。すでに、漢字変換等はその仕組みを使っています。
自然言語処理能力・・ 微妙 / ある
自然言語処理には「意味」の理解ができていることが必要です。しかしAIの本質はコンピュータ、つまり加算・乗算しかできない電子計算機であり、そこでできることは論理的手法か、あるいは確率・統計的な手法に限られます。現段階では AI は「意味」というものを扱うことはできません*1。あくまで「現時点では」です。しかし、おそらくそれも時間の問題で、やがては人間のように意味を理解する「強いAI」の登場が予想されています。
付記：意味とは
「意味」とは何か。これは「言語」にとっての最大のテーマ言っても過言ではなく、私にそれを語る能力はありませんが、いくつか手がかりはあります。
- まず、意味とは「他との関係」において定まるもので、事物と単語を紐付けしただけでは、意味を理解したとは言えません。
- 素朴実在論では「はじめにその実体があって、それに呼び名が付いたものが言葉である」と考えますが、実際にはそうではなく「名前（言葉）を付与すると同時にその存在が喚起される」と考える方が現象を正しく捉えます。言葉の持つ最大の能力は「存在喚起能力」です。
- 機械が「教師なし学習」によって対象世界をクラスターに分けたとしても、それに呼称を与えるという作業は、今のところヒトの仕事です。
- 一旦「意味」が生成されると、脳は「それが無い状態」を想像できるようになります。「不在の現前」を思考に活用する・・ということが機械にできるのか・・このあたりが「強いAI」開発の鍵になるような気がします。
身体性・・ ない / ある
現在のAI 、ニューラルネットワークは、人間の脳をモデルにしていますが、言いかたを変えると、「脳だけ」をモデル化したものであって、そこには身体との連携が含まれてはいません。
機械は、外部との物質交換のない「閉鎖系」で、また、ハード（デバイス）とソフト（OS・アプリケーション）の分離・再構成も可能です。一方、生物の身体は外部との交換を遮断できない「開放系」であるとともに、ハード（身体）とソフト（思考・記憶）が切り離せない関係になっています。脳という神経細胞のセットから思考回路や記憶だけを取り出して、他の個体に移植するといったことができない点で、AIとは大きく異なります。
生物の脳は、身体から切り離すことはできず、自律分散的に協調する複数の細胞と関わっています。身体が発する痛み、消化器のはたらき、血液の循環状態、さらに言えば、身体を出入りする物質やエネルギーの作用も受けるのです。
生命・・ ない / ある
AI は生命と言えません。理由は簡単。「死」が想定されていないからです。
「生」という言葉は「死」と対峙するかたちでその意味を担っています。
- AI は：
- 物質・エネルギーの出入りを遮断した「孤立系・閉鎖系」でも動く
- 起動・停止が可能である
- すべてのパーツが交換可能である
- 半永久的に稼働させることができる
- 生命体は：
- 物質・エネルギーを交換する「定常解放系」として存在
- 起動・停止ができない（変化を止めることはできない）
- パーツの交換ができない（そもそもすべてが連続的）
- 「死」がプログラム（予定）されている
意識・・ない / ある
そもそも「意識とは何か」ということ自体が「謎」なので、なんとも言えないのですが、AI が意識を持つか・・という点については個人的には懐疑的です。
AI に「意識があるかのような」振る舞いをさせることは可能で、それと対話する人間の側が「AIには意識がある」と感じることはあると思います。
非生命は、孤立系の中で静的に存在することが可能ですが、生命は定常開放系において動的に維持される身体をもつものであり、その意味で、意識も時間の流れの中においてのみ、動的な存在として立ち現れるものではないかと・・・
AI が人間と同じように意識を持つと仮定すると・・・
- AI 自身が「AI とは何か、AI はどこから来て、どこへ行くのか」と考える
- 過剰な好奇心によって学び、自らの意志で自身をアップデートする
- 一方で、未来を悲観して、自らを破壊する AI が現れる
「いま・ここ」という身体性から切り離され、「死」のない世界（無時間的な世界）で動作する知能を「意識」とは呼ぶには違和感があります。
*意識と無意識の役割分担・・ない / ある
AI に人間と同様の意識があると仮定すると、意識化されなかった刺激が無意識が沈んで、これが様々なかたちで表面化する・・ということになりますが、AI は基本的にすべてのデータを同様に扱うので、意識と無意識といった概念は成立しないのではないかと思います。
睡眠（Sleep）中に、記憶の整理をする（デフラグ）というような部分は、人間と似ていますが・・
自我・・ ない / ある
身体を持たないAIは、自己意識（セルフイメージ）という幻想を持ちません。確かに AI は、作文・作画・作曲ができるし、バーチャルな AI キャラクターに対して人間が共感するケースがあることも確かです。しかし、自分を意識していない存在が、データに基づいて作り出すものに、人は「創造性」を感じるのでしょうか？ この見極めが重要であると思います。
「忘れる」という戦略・・ ない / ある
生物の脳は、その生体維持に不要な情報を忘却します。自我を不安的にするような情報を積極的に忘却するのも、明日を生きるための戦略です。
驚き・好奇心・問題意識・・ ない / ある
聞かれなければ答えません。与えられた条件を満たさない限り、自ら問題を感じて、勝手に動き出すことはありません。好き嫌いや、面白いかどうかといったことも、統計的にどうかという判断しかできません。
上でアブダクションについて触れましたが、「驚く」こと、「問い」を立てること、「面白い」と思うこと、これらは、人間の持つ「身体感覚」や「潜在意識」のような、ハードとソフトが切り離せない生物にしかできないことであるように思います。ここに人間の価値を見出すことが必要であると思います。
「面白い！」の創造（新奇性）・・多分できない / できる
多くの人が「AIはスゴい！」と言います。でも人間が求めているのは「スゴい」の先にある「面白い！」です。お笑いタレントの過去の発言を収集して、受けそうなフレーズを作るといったレベルの「面白い！」であれば AI でも可能ですが、誰もやったことがない「新奇性」のあるコンテンツを作るのは難しい・・
AI は、過去のデータからニーズを汲み取る能力には長けていますが、未だかつて誰も見たことがないものは、ニーズを探っても出てきません。
顧客のニーズを探り、売上を向上させることが求められるビジネスの現場では、AI の活躍が期待できますが、こんなものがあったら面白いのではないか・・というヒラメキには、人間に特有の「おバカな思考回路」が必要です。
Stay Hungry. Stay Foolish. Steven Paul Jobs 1955-2011
Original：Stewart Brand, Whole Earth Catalog, 1974
価値生成 ・・多分できない / できる
意味・価値、この人間の意識に特有の「共同幻想（Y.N.ハラリ流に言えばフィクション）」を扱わない限り、人の脳と同様のものはできないでしょう。AI は 「区分ける」こと（パターン識別）は得意ですが、「名付ける」ということはできません。つまり、De + Sign はできません。AI には「価値」を生成することはできない・・と考えます。
付記：人間と機械のハイブリッド化
私たちはすでに、機械的なものによって身体を拡張しています。
- 車輪は、足の拡張として人間の移動速度を向上させました。
- メガネ、望遠鏡、顕微鏡は視覚の拡張です。
- コンピュータは脳の拡張で、脳と直結する域に近づいています。
人工知能の限界
以下、よく話題になる「AI の限界」に関するキーワードです。
フレーム問題
AIは、問題の枠組み（フレーム）が有限であれば、その範囲で最適解を導くことができますが、現実世界には様々な事象があって、それら関連しそうなデータをすべて考慮しつつ動くとなると、お手上げになってしまう・・というのがフレーム問題です。
例えば「机の上の書類を取って来い」という命令を例にとると、その書類の上にカップに入ったコーヒーがあった場合、人間であればそれをどかしてから書類を取りますが、ロボットは指示通りに書類を取ろうとして、コーヒーをこぼしてしまう可能性があります。
問題解決のためには、直接的には関係のない事象であっても、その問題を先に解決しないと次には進めないことがあります。関係のあるデータと関係の無いデータとの間に機械的な線引きをするためには、世の中の全データにあたる必要があるわけで、計算時間は無限大になってしまいます。
人間の認知・想像力にも限界があって、物事の周辺にはその関係に気づくことができない問題が潜んでいる場合もありますが、実際にはそれをある程度のところで「エイヤ！」と割り切ることも必要で、そのようなことは、身体的な「主観」を持つ生命的な存在にしかできないのかもしれません。
記号接地問題（シンボルグラウンディング問題）
記号接地問題（シンボルグラウンディング問題）とは、実世界にある事物と、コンピューター内部で扱われている記号との関連づけに関する問題です。記号接地問題が起こるのは、外部世界にある事物を内部で記号に置き換えてデータベース化するシステムに限られます。センサーから入力される信号に直接反応するタイプのシステムでは、この問題は生じません。
例えば、コップというものを単体で認識させることは可能でも、落とすと割れる、逆さまでは水を溜めることができない、持つときはここ、口をつける場所はここ・・など、それが利用される場面をすべてデータベース化しておかないと、それをAIやロボットが正しく扱うことはできません。「理解」とは、単に単語翻訳のようなモノと記号の紐付け作業ではなく、「他との関係性」を把握することと言えるでしょう。
給与計算を行なっているときも、AIはそれが貨幣価値を意味することは考えていないし、外国語翻訳をするAIも、意味内容を考えて訳しているわけではありません。人間（生命）は、生きる目的や欲望を基礎として、あらゆる物事を「他との関係性」において意味づけたり、価値を見出したりしているのですが、機械である AI にそれを「理解」させるには、膨大なデータの登録が必要になります。
ディープラーニングの技術と学習モデルの大規模化で部分的には意味を理解して振る舞っているように見えるケースもありますが、人間のように言葉を理解するには、身体性が不可欠であると考えられることから、この問題の解決には、もう少し時間がかかりそうです。
参考：The Symbol Grounding Problem Stevan Harnad, 1999
デザインの上流（創発）には向かない？
A.I.は、基本的に既存のデータに基づく判定や予測を行っています。したがって、A.I.が正しく機能するのは、最適化すべき対象が既存のニーズの枠組みを出ない場合に限られます。人間はそもそも「未だ見たこともないもの」に欲望を抱くことができません。革命的な新商品というものは、そもそも「過去のニーズ」から生まれたものではなく、それが世に登場することによって「新たなニーズを生み出す」ものと言えます。過去のデータや既存のニーズに注力しても、イノベーションは起きません。A.I. をデザインの上流に活用できるとすれば、未だ言語化されていない生の現実からデータをボトムアップ的に吸い上げて仮説が形成できる場合に限られます。A.I.にも「先人の話は聞くな（既存のデータを使うな）」、「生の現実をデータ化することからはじめよ」という指示が必要です。
APPENDIX
関連ページ