シンギュラリティが到来して「人間を超える」というのは、あくまでも「機械」の能力が人間の様々な情報処理能力を超える（ちなみに、計算スピードや記憶の正確さにおいては、とうの昔に人間を超えています）・・という話であって、人間（生命）を超える「超人」が登場するわけではない・・と個人的には思います。以下、よく話題になる「AI の限界」に関するキーワードです。
AIは、問題の枠組み（フレーム）が有限であれば、その範囲で最適解を導くことができますが、現実世界には様々な事象があって、それら関連しそうなデータをすべて考慮しつつ動くとなると、お手上げになってしまう・・というのがフレーム問題です。
例えば「机の上の書類を取って来い」という命令を例にとると、その書類の上にカップに入ったコーヒーがあった場合、人間であればそれをどかしてから書類を取りますが、ロボットは指示通りに書類を取ろうとして、コーヒーをこぼしてしまう可能性があります。
問題解決のためには、直接的には関係のない事象であっても、その問題を先に解決しないと次には進めないことがあります。関係のあるデータと関係の無いデータとの間に機械的な線引きをするためには、世の中の全データにあたる必要があるわけで、計算時間は無限大になってしまいます。
人間の認知・想像力にも限界があって、物事の周辺にはその関係に気づくことができない問題が潜んでいる場合もありますが、実際にはそれをある程度のところで「エイヤ！」と割り切ることも必要で、そのようなことは、身体的な「主観」を持つ生命的な存在にしかできないのかもしれません。
実世界にある事物と、コンピューター内部で扱われている記号との関連づけに関する問題です。例えば、給与計算を行なっているときでも、コンピュータはそれが貨幣価値を意味することは考えていないし、外国語翻訳をするAIも、意味内容を考えて訳しているわけではありません。人間（生命）は、生きる目的や欲望を基礎として、世界を意味づけたり、価値を見出したりしますが、機械である AI には、それは起こりえない・・と言えるでしょう。
A.I.は、基本的に既存のデータに基づく判定や予測を行っています。したがって、A.I.が正しく機能するのは、最適化すべき対象が既存のニーズの枠組みを出ない場合に限られます。人間はそもそも「未だ見たこともないもの」に欲望を抱くことができません。革命的な新商品というものは、そもそも「過去のニーズ」から生まれたものではなく、それが世に登場することによって「新たなニーズを生み出す」ものと言えます。過去のデータや既存のニーズに注力しても、イノベーションは起きません。A.I. をデザインの上流に活用できるとすれば、未だ言語化されていない生の現実からデータをボトムアップ的に吸い上げて仮説が形成できる場合に限られます。A.I.にも「先人の話は聞くな（既存のデータを使うな）」、「生の現実をデータ化することからはじめよ」という指示が必要です。
自己複製は、生物一般のみならず、生物と無生物の中間にあるウイルスにも、コンピュータウイルスにも共通に見られる現象です。一般に自己複製は「情報体」というものに共通する現象で、複製されない情報には情報としての価値はない・・といっても過言ではないでしょう。
自身の体を守れ・・これは、生物に限らず機械にも可能です。それはすでに自己充電管理（食料確保）と武装（防衛）によって実現しています。AIを支えるハードは、生物のような分子レベルの代謝はしませんが、状態の悪くなった部品を自ら判断して除外・交換することや、自らエネルギー補給（充電）することができるのです。
AI には「身体性」が無い・・と言われますが、「自身のハードを守れ」という防御プログラムが動くロボットは、側から見れば自我をもった生き物のように見えます。ハードウエアのセンシングに基づく、「今・ここ」の情報が加味されて動くのであれば、見た目は人間と変わりません。
機械は他律的で、生命は自律的です。AI に関して「自律システム」という言葉がよく用いられますが、その行動原理（メタレベルのルール）はプログラマーによって書かれるので、厳密に言えば、それはどこまで行っても「他律システム」です。自ら充電スポットへ移動するロボットを見ると「自律的」にふるまっているように見えますが、「バッテリー残量がある値を下回ったら充電スイッチをON」というのは、プログラマーが書いたシナリオどおりで、他律的なものなのです。
一方、生命は、自らその行動のルールを定めることもできる点で「自律系」と言えます。もちろん「遺伝子決定論」や「脳決定論」など、自然法則がすべてを決定するのであって、人間にも「自由意志」は無い・・といった考え方もありますが、「プログラムされない限りは自分で勝手に充電を始めることのない機械」と「教えられなくとも自発的に食料をあさる生命」との差は歴然としているのではないでしょうか。
機械が持つセンサーは、物理的な「絶対値」を得ることができます。例えば、重さや、長さの計測はもちろん、 GPSを使って地球上における自身の絶対座標を得ることができます。
一方人間は、重さや長さを正確に把握することはできないし、また、目隠しで放り出されると迷子になります。
AI は、自身のハードの問題を検知し、自身で問題部分を破棄、修復することができます。またウイルスに対しても、ワクチンプログラムがあれば、それによってウイルスの除去が可能です。さらに、そしてその情報を自身でアーカイブすることができます。
一方生命は・・
機械の脳は電源を入れたり切ったりできます。ハードを静的なモノとして、またソフトも01の並ぶ「状態」として静的に記録することができます。
一方、生物の知能は、その動きを止めることができません。眠っている間も脳は活動しています。
機械の脳では、ハードとソフトの分離・再構成が可能。一方で、生物の脳の神経系は全身につながっていて（つまり記憶も結線情報つまりハードウエアと連動していて）、ユニットの交換のような操作は不可能です。記憶はハードのカタチにも現れるのです。記憶だけを取り出して移動させることはできません。
機械学習には大量のデータが必要だが人間は少ない情報で学習する・・というのはよく聞く話ですが、本当にそうでしょうか。これには疑問があります。
確かに幼児が「犬と猫」を見分けるのに、それほど情報を要しないように感じますが、実際にそれと接する体験的場面では「上下左右あらゆる角度から時間をかけて」見ています。結果、動きの特徴も含めた多次元のデータを無限大とも言える量で取得していると言えるでしょう。機械学習には大量のデータが要る・・というのは、それが時間軸を持たない２次元の画像を前提としているために、そのような印象を持ちやすい・・ということかと思います。
余談となりますが、その意味で「百聞は一見に如かず」という言葉は非常に的を射ています。犬と猫を図鑑（２次元のデータ）で見ても、極めて貧困なデータ入力にしかなりません。２次元の画像というのは、機械学習に与えられるデータと同じで、学習するには大量の画像が必要になる・・ということが容易に想像できます。ヒトの学習にとって「現物に接する」、「実体験する」ということがいかに大切であるか、「百聞は一見に如かず」はそのことを言っているのだと思います。昔の人もそれなりに十分賢い。
計算結果・評価が拮抗した場合、極端な例でイコールになった場合、コンピュータは判断停止します（実際には停止させるわけにはいかないので「イコールの場合は前者を選択」などとプログラミングすることになりますが、これは要するに人間が判断して決めています）。わからなくても、どちらかを選んで動く。良いか悪いか、好きか嫌いか、最終的な決断は人間の特権かもしれません。
19世紀の論理学者C.S.パースは、帰納法、演繹法に次ぐ第三の推論形式として「アブダクション」を提唱しました。そのプロセスは以下のようなものです。
1)「驚く」べき事実が観察される（リンゴが落下するのを見る）
2) ある仮説を構築すれば、その事実は説明可能になる（万有引力の法則）
3) 仮説が正しいことを検証する
AI がこうした仮説形成（AH：Automated Hypothesis：自動仮説）をするようになると、データの分析＞仮説＞検証といったクリエイティブな研究のすべてを AI が実行できることになります。デザイナーや研究者のような職業も、AIに代替される可能性が出てきました。
ただ、最初の項目の「驚く」こととか「そもそも何で？」という「問い」は人間にしか出来ないのかもしれません。データから、新たな関係を見出すことは AI にできたとしても（しかもそれはおそらく我々が想像する以上に膨大な数になる）、「なぜ？」という問いや、「それが何かに使えそう」と感じる意識がなければ、次のステップである仮説の構築にはいたりません。
ちなみに、驚くべき報道「AIが物理法則を発見」は以下です。
コンピュータが、揺れる振り子の動きから、運動の法則を導出 Michael Schmidt, Hod Lipson, Distilling Free-Form Natural Laws from Experimental Data, 2009, Science Vol.324
https://www.wired.com/2009/04/newtonai/
文脈を見て、そこに最適な言葉を入れる・・といったことは、統計的な処理によって可能です。すでに、漢字変換等はその仕組みを使っています。
自然言語処理には「意味」の理解ができていることが必要です。しかしAIの本質はコンピュータ、つまり加算・乗算しかできない電子計算機であり、そこでできることは論理的手法か、あるいは確率・統計的な手法に限られます。現段階では AI は「意味」というものを扱うことはできません*1。あくまで「現時点では」です。しかし、おそらくそれも時間の問題で、やがては人間のように意味を理解する「強いAI」の登場が予想されています。
付記：意味とは
「意味」とは何か。これは「言語」にとっての最大のテーマ言っても過言ではなく、私にそれを語る能力はありませんが、いくつか手がかりはあります。
現在のAI 、ニューラルネットワークは、人間の脳をモデルにしていますが、言いかたを変えると、「脳だけ」をモデル化したものであって、そこには身体との連携が含まれてはいません。
機械は、外部との物質交換のない「閉鎖系」で、また、ハード（デバイス）とソフト（OS・アプリケーション）の分離・再構成も可能です。一方、生物の身体は外部との交換を遮断できない「開放系」であるとともに、ハード（身体）とソフト（思考・記憶）が切り離せない関係になっています。脳という神経細胞のセットから思考回路や記憶だけを取り出して、他の個体に移植するといったことができない点で、AIとは大きく異なります。
生物の脳は、身体から切り離すことはできず、自律分散的に協調する複数の細胞と関わっています。身体が発する痛み、消化器のはたらき、血液の循環状態、さらに言えば、身体を出入りする物質やエネルギーの作用も受けるのです。
AI は生命と言えません。理由は簡単。「死」が想定されていないからです。
「生」という言葉は「死」と対峙するかたちでその意味を担っています。
そもそも「意識とは何か」ということ自体が「謎」なので、なんとも言えないのですが、AI が意識を持つか・・という点については個人的には懐疑的です。
AI に「意識があるかのような」振る舞いをさせることは可能で、それと対話する人間の側が「AIには意識がある」と感じることはあると思います。
非生命は、孤立系の中で静的に存在することが可能ですが、生命は定常開放系において動的に維持される身体をもつものであり、その意味で、意識も時間の流れの中においてのみ、動的な存在として立ち現れるものではないかと・・・
AI が人間と同じように意識を持つと仮定すると・・・
「いま・ここ」という身体性から切り離され、「死」のない世界（無時間的な世界）で動作する知能を「意識」とは呼ぶには違和感があります。
AI に人間と同様の意識があると仮定すると、意識化されなかった刺激が無意識が沈んで、これが様々なかたちで表面化する・・ということになりますが、AI は基本的にすべてのデータを同様に扱うので、意識と無意識といった概念は成立しないのではないかと思います。
睡眠（Sleep）中に、記憶の整理をする（デフラグ）というような部分は、人間と似ていますが・・
身体を持たないAIは、自己意識（セルフイメージ）という幻想を持ちません。確かに AI は、作文・作画・作曲ができるし、バーチャルな AI キャラクターに対して人間が共感するケースがあることも確かです。しかし、自分を意識していない存在が、データに基づいて作り出すものに、人は「創造性」を感じるのでしょうか？ この見極めが重要であると思います。
生物の脳は、その生体維持に不要な情報を忘却します。自我を不安的にするような情報を積極的に忘却するのも、明日を生きるための戦略です。
聞かれなければ答えません。与えられた条件を満たさない限り、自ら問題を感じて、勝手に動き出すことはありません。好き嫌いや、面白いかどうかといったことも、統計的にどうかという判断しかできません。
上でアブダクションについて触れましたが、「驚く」こと、「問い」を立てること、「面白い」と思うこと、これらは、人間の持つ「身体感覚」や「潜在意識」のような、ハードとソフトが切り離せない生物にしかできないことであるように思います。ここに人間の価値を見出すことが必要であると思います。
多くの人が「AIはスゴい！」と言います。でも人間が求めているのは「スゴい」の先にある「面白い！」です。お笑いタレントの過去の発言を収集して、受けそうなフレーズを作るといったレベルの「面白い！」であれば AI でも可能ですが、誰もやったことがない「新奇性」のあるコンテンツを作るのは難しい・・
AI は、過去のデータからニーズを汲み取る能力には長けていますが、未だかつて誰も見たことがないものは、ニーズを探っても出てきません。
顧客のニーズを探り、売上を向上させることが求められるビジネスの現場では、AI の活躍が期待できますが、こんなものがあったら面白いのではないか・・というヒラメキには、人間に特有の「おバカな思考回路」が必要です。
Stay Hungry. Stay Foolish. Steven Paul Jobs 1955-2011
意味・価値、この人間の意識に特有の「共同幻想（Y.N.ハラリ流に言えばフィクション）」を扱わない限り、人の脳と同様のものはできないでしょう。AI は 「区分ける」こと（パターン識別）は得意ですが、「名付ける」ということはできません。つまり、De + Sign はできません。AI には「価値」を生成することはできない・・と考えます。
私たちはすでに、機械的なものによって身体を拡張しています。
ページを独立させました。＞ AIは神になるのか?