九州産業大学 公開講座 2024.09.10（2回目）
生成系AIの威力によって世界は大きく変わりました。AIはあらゆる分野に浸透し、社会の構図を大きく作り替えています。この講座では、人類史を遡って人と機械の関係を紐解くとともに、未来を見据えて今何をすべきかを、具体的な事例を交えながら解説します。
ICT / AI に関わる知識・技術は、現代を生き延びるために必須のもの
関連する諸分野との関係を図で表すと、以下のようになります。
GoogleImage:Data Science Machine Learning AI
言語（自然発生）、文字（以後すべて恣意的）、活版印刷、写真、電子計算機・・
ASIは高確率で世界戦争の引き金をひく その危機は2030年ごろまでに現実になる「今後10年の状況認識」, レオポルド・アッシェンブレナー（OpenAIの元研究者）
NHKと京都大学によるAIを用いた６つの予測
https://www.nhk.jp/p/special/ts/2NY2QQLPM3/episode/te/MK57RX32P8/
パソコンやスマホが身近にある現在、AI は誰もが使える身近なツールとして存在しています。好奇心があるかないか、学ぶ気があるかないか・・だけです。
私たちはすでに、機械的なものによって身体を拡張しています。
現在のAI 、ニューラルネットワークは、人間の脳をモデルにしていますが、言いかたを変えると、「脳だけ」をモデル化したものであって、そこには身体との連携が含まれてはいません。
機械は、外部との物質交換のない「閉鎖系」で、また、ハード（デバイス）とソフト（OS・アプリケーション）の分離・再構成も可能です。一方、生物の身体は外部との交換を遮断できない「開放系」であるとともに、ハード（身体）とソフト（思考・記憶）が切り離せない関係になっています。脳という神経細胞のセットから思考回路や記憶だけを取り出して、他の個体に移植するといったことができない点で、AIとは大きく異なります。
生物の脳は、身体から切り離すことはできず、自律分散的に協調する複数の細胞と関わっています。身体が発する痛み、消化器のはたらき、血液の循環状態、さらに言えば、身体を出入りする物質やエネルギーの作用も受けるのです。
AI は生命と言えません。理由は簡単。「死」が想定されていないからです。
「生」という言葉は「死」と対峙するかたちでその意味を担っています。
人間も社会も動的な「定常開放系」。内部と外部の境界は目に見えるような明確なものではありません。AIは脳をモデルにしていますが、人間は脳だけで考えているわけではなく（そもそも「脳」は言葉によって存在喚起された概念であって実体ではない）、その思考には、全ての細胞、そしてそこを出入りする物質・エネルギー・情報が関与しています。
一方 AIは「孤立系・ 閉鎖系」として存在していて、電源のON/OFF、静的な情報保存、部品単位の交換ができます。身体性を伴わないAIは「自ら生成したプログラムによって、自ら電源を入れる」など、意思を持ったかのような行動をしたとしても、所詮機械であることには変わりないと考えます。
私たちは人間の意識を完全には理解してはいない。「AIは意識をもつのか」という議論が難しい理由はここにある。
AI に「意識があるかのような」振る舞いをさせることは可能で、それと対話する人間の側が「AIには意識がある」と感じることはあると思います。
非生命は、孤立系の中で静的に存在することが可能ですが、生命は定常開放系において動的に維持される身体をもつものであり、その意味で、意識も時間の流れの中においてのみ、動的な存在として立ち現れるものではないかと・・・
AI が人間と同じように意識を持つと仮定すると・・・
「いま・ここ」という身体性から切り離され、「死」のない世界（無時間的な世界）で動作する知能を「意識」とは呼ぶには違和感があります。
意識とは、基本的に「流れ」であり、過去・現在・未来と動的にアップデートしつづけるものの中にしか生まれないのでは・・。ただ、インターネットに接続されたサーバーは、情報の流れとアップデートを止めないと言う点で、それに近い現象が起きているとも言えます。
基本的には「人間の脳」も AI も、仕組みは同じニューラルネットワーク なので、人間にできる頭脳労働の大半は、やがて AI にもできるようになる（肉体労働の大半は、すでに機械・ロボットが担っている）。ただし、身体性が関わる部分は生物に特有のものとして残る。
日本語には、この２つの概念をともに「問題」と一括していますが・・
Fall in love with the problem, not the solution Google, 2019
ついでに言うと・・・
ひながなを [ 漢字に変換する ]、ひらがなで [ 書く ]
ひらがなを [ 洗う ]、ひらがなで [ 滑る ]
多くの人が「AIはスゴい！」と言います。でも人間が求めているのは「スゴい」の先にある「面白い！」です。お笑いタレントの過去の発言を収集して、受けそうなフレーズを作るといったレベルの「面白い！」であれば AI でも可能ですが、誰もやったことがない「新奇性」のあるコンテンツを作るのは難しい・・
AI は、過去のデータからニーズを汲み取る能力には長けていますが、未だかつて誰も見たことがないものは、ニーズを探っても出てきません。
顧客のニーズにもとづく売上向上をめざすビジネスの現場では、AI の活躍が期待できますが、こんなものがあったら面白いのではないか・・というヒラメキには、人間に特有の「おバカな思考回路」が必要です。人間は「ボケ」（出現確率の低い情報｜突然変異）を「面白い！」と感じる生き物ですが（そもそも、生物は突然変異を契機に進化してきた）、AIにとってイレギュラーな情報は、学習収束の妨げとなっているだけ・・？。
Stay Hungry. Stay Foolish. Steven Paul Jobs 1955-2011
Original：Stewart Brand, Whole Earth Catalog, 1974
話はシンプル。社会の構造が変わっているのだから、常識・考え方を変えればいい。しかし、過去の常識に洗脳された頭がそれを阻害する。まずは、そのことに気づく必要がある。
何かを作り出す際、その生産に直接関わる材料費や人件費以外に、それがもたらす副作用の処理に必要となる費用を外部費用といいます。一般に、テクノロジーの発展に伴って生じる外部費用は、テクノロジーによって生み出される利益よりも小さいと想定されているので、例えばそれが公害をもたらしたとしても、その処理にかかる費用は吸収できる・・と考えられています。短期的にはそうかもしれませんが、長期的には（持続可能かと言えば）そうではありません。
新たなテクノロジーが登場すれば、それがもたらす社会的な問題を解決するために、新たなインフラ、新たな法律とその番人が必要になる・・その負担は、テクノロジーの収益が社会にもたらす利益よりも結果的には大きくなります。
特殊なテクノロジーによって、副次的に惹き起こされた無秩序な状態は 別のテクノロジーを応用すれば一時的に解決がつくことはつく。 ところが、解決を得たのはいいとしても、それに必ず伴うのは 以前にもまして大きな無秩序の出現である。 再び、ジャック・エリュールの言葉を借りよう。 「技術が連続して生まれるのは、それ以前の技術が、 必然的に次の技術を生まざるを得ないように仕向けているからだ」 ・・これこそ、（熱力学）の第２法則であり、それ以外の何ものでもない。
エントロピーの法則, ジェレミー・リフキン
テクノロジーは未来を開いている・・と思われていますが、テクノロジーは、自らが生み出す無秩序（高エントロピー）を処理するために、さらに新しいテクノロジーを生み出さざるを得ないのです。つまり文明は「成長」という名の負のスパイラルの中にあるのではないか・・という視点も必要です。
人類の脳において生まれた言語は、「意味生成」「存在喚起能力」を持ち、「不在の現前」（そこに無いものを思い浮かべるという「意識」特有の現象）を可能にします。
AI がもたらす未来を予見するとともに、持続可能な社会を計画するには、「言葉を使って考える」という、当面 AI には実現できないであろう、しかし、人間にとっては自然な能力を健全に養うことが必要だと思います。
Education First. マララ・ユスフザイ
残念ながら、日本の従来型教育は Education とは程遠く、Teaching, Training, Instruction, Indoctrination*1 が大半を占めます。つまり、大半は AI に代替可能なものです。
外部費用が嵩むとはいえ、現実にはテクノロジーの進歩を止めることはできず、私たちはこの先 AIとの共存関係を最適化すべく学び続けなければなりません。
みなさん個人の将来にとっても、AI に関する知見、AI を適正に活用する能力は必須のものとなります。
同時に、AI と人間とが、うまく協働できる社会の実現を目指すべく、自らを相対化し（「人間とは何か」についてメタレベルで思考し）、自らの動機で学び、知的に成熟して欲しいと願っています。
身近なものを寄せ集めて、本来の役割とは（次元の）異なる新たなものをつくる行為をブリコラージュ（器用仕事）と言います。これは、人間特有の身体性を伴う持続可能な創造行為の原点です。
多くのテクノロジーは「・・だったらいいな」という、予見・ニーズから生まれました。しかし世の中には「何の役に立つかはわからないけれど、純粋に面白い」という好奇心から生まれたものも多くあります。
例えば、楽器というものは、その存在以前に、それで何ができるのかを予見して作られたものではありません。それは、身体性をともなう「あーでもない、こーでもない」という模索から進化的に生まれたもので、生成系AIのようなパターン認識機能の延長から生まれたものではありません。
予見的ニーズに対する「解」を見出す作業は、やがてAIが担うでしょう。
人間が学ぶべきことは、楽しみながら・遊びながら、新たなものをブリコラージュする喜び・・ではないでしょうか。
学業成績に代表されるように、能力評価は一般に「個人」を対象に行われますが、その常識には違和感があります（例えば「コミュニケーション能力」というのは、個人の能力というよりメンバー間の「関係力」ではないでしょうか）。
人類が生き延びたのは、個人の能力によってではなく、集団（バンド）としての能力が高かったから。であれば、個々がその特性を発揮して、お互い助け合ってバンド全体のパフォーマンスを上げるすることを目指すべきではないかと・・。
「自立」への不安を煽り、個人の経済的能力を高めるべく、競争させる今の教育は、我々が生き延びることに寄与しているとは思えません。競争原理・等価交換、それらが招く結果は「自立」ではなく「孤立」ではないでしょうか。
自立するとは、頼れる人を増やすことである 熊谷晋一郎
のろまなカメでもいいから、ゴール？に向かってコツコツ努力しましょう
うさぎは山の幸を採りに、カメは海にもぐって海の幸を獲りに それぞれの特性を活かして助け合いましょう
以下、極端に言えば、すべて考え方は異なります。何が正しいのか、そもそも正しい答えはあるのか、様々な考え方に触れて自分で考えるしかありません。