九州産業大学 公開講座 2024.09.10（2回目）
ASIは高確率で世界戦争の引き金をひく その危機は2030年ごろまでに現実になる「今後10年の状況認識」, レオポルド・アッシェンブレナー（OpenAIの元研究者）
言語（自然発生）、文字、活版印刷、写真、電子計算機・・、新たなメディアの登場は、常に負の側面を伴うものです。リスクを正しく認識すると同時に、歴史を俯瞰した柔軟な意識改革が求められます。
NHKと京都大学によるAIを用いた６つの予測
https://www.nhk.jp/p/special/ts/2NY2QQLPM3/episode/te/MK57RX32P8/
AIと協働する社会を見据えて、はじめに、人間と機械の違いがどこにあるのか、その見極めをしておきましよう。
人間の感覚は、明るさ、音の大きさ、長さ、重さといった物理量を測定することができません。また、地球上における現在地を知ることもできません。
機械が持つセンサーは、物理的な「絶対値」を得ることができます。例えば、重さや、長さの計測はもちろん、 GPSを使って地球上における自身の絶対座標を得ることができます。
生物の脳の神経系は全身につながっていて（つまり記憶も結線情報つまりハードウエアと連動していて）、ユニットの交換のような操作は不可能です。
一方、機械の脳では、ハードとソフトの分離・再構成が可能です。
生物の脳は、その活動を止めることができません。人間の記憶とは「動的な状態維持」であり、常に書き換えられている・・といっても過言ではありません。
機械の脳は電源を入れたり切ったりできます。ハードを静的なモノとして、またソフトも 01の並ぶ「状態」として静的に記録することができます。
生物の脳は、その生体維持に不要な情報を忘却します。自我を不安的にするような情報を積極的に忘却するのも、明日を生きるための戦略です。
現在のAI （ニューラルネットワーク）は、人間の脳をモデルにしていますが、言いかたを変えると、「脳だけ」をモデル化したものであって、そこには身体との連携が含まれていません。
機械は、外部との物質交換のない「閉鎖系」で、また、ハード（デバイス）とソフト（OS・アプリケーション）の分離・再構成も可能です。一方、生物の身体は外部との交換を遮断できない「開放系」であるとともに、ハード（身体）とソフト（思考・記憶）が切り離せない関係になっています。脳という神経細胞のセットから思考回路や記憶だけを取り出して、他の個体に移植するといったことができない点で、AIとは大きく異なります。
生物の脳は、身体から切り離すことはできず、自律分散的に協調する複数の細胞と関わっています。身体が発する痛み、消化器のはたらき、血液の循環状態、さらに言えば、身体を出入りする物質=エネルギーの作用も受けるのです。
AI は生命と言えません。理由は簡単、「死」が想定されていないからです。
「AIは意識をもつのか」という議論は非常に難しいものです。なぜなら「意識とは何か」ということ自体が謎だからです。
AI に「意識があるかのような」振る舞いをさせることは可能で、それと対話する人間の側が「AIには意識がある」と感じることはあります。
しかし、「いま・ここ」という身体性から切り離され、「死」のない世界（無時間的な世界）で動作する知能を「意識」とは呼ぶには違和感があります。
意識とは、基本的に「流れ」であり、過去・現在・未来と動的にアップデートしつづけるものの中にしか生まれないのでは・・。ただ、インターネットに接続されたサーバーは、情報の流れとアップデートを止めないと言う点で、それに近い現象が起きているとも言えます。
基本的には「人間の脳」も AI も、仕組みは同じニューラルネットワーク なので、人間にできる頭脳労働の大半は、やがて AI にもできるようになると考えられます（肉体労働の大半は、すでに機械・ロボットが担っています）。生物に特有のものとして残るのは、感情や意思を生み出す身体性が関わる部分かと・・。
私たちはすでに、機械的なものによって身体を拡張しています。
AIと協働する社会における、AIと人間との役割分担を考えてみます。
現状では、AI はコパイロット（Copilot：副操縦士）の位置付けです。
日本語には、この２つの概念を区別なく「問題」と一括していますが・・
Fall in love with the problem, not the solution Google, 2019
ついでに言うと・・・
ひながなを [ 漢字に変換する ]、ひらがなで [ 書く ]
ひらがなを [ 洗う ]、ひらがなで [ 滑る ]
多くの人が「AIはスゴい！」と言います。でも人間が求めているのは「スゴい」の先にある「面白い！」です。お笑いタレントの過去の発言を収集して、受けそうなフレーズを作るといったレベルの「面白い！」であれば AI でも可能ですが、誰もやったことがない「新奇性」のあるコンテンツを作るのは難しい・・
AI は、過去のデータからニーズを汲み取る能力には長けていますが、未だかつて誰も見たことがないものは、ニーズを探っても出てきません。
顧客のニーズ（過去＞現在）にもとづく売上向上をめざすビジネスには AI の活躍が期待できますが、こんなものがあったら面白いのではないか・・というヒラメキには、人間に特有の「おバカな思考回路」が必要です。人間は「ボケ」（出現確率の低い情報｜突然変異）を「面白い！」と感じる生き物です（そもそも、生物は突然変異を契機に進化してきた）。
Stay Hungry. Stay Foolish. Steven Paul Jobs 1955-2011
Original：Stewart Brand, Whole Earth Catalog, 1974
身近なものを寄せ集めて、本来の役割とは（次元の）異なる新たなものをつくる行為をブリコラージュ（器用仕事）と言います。これは、人間特有の身体性を伴う持続可能な創造行為の原点です。
多くのテクノロジーは「・・だったらいいな」という、予見・ニーズから生まれました。しかし世の中には「何の役に立つかはわからないけれど、純粋に面白い」という好奇心から生まれたものも多くあります。
例えば、楽器というものは、その存在以前に、それで何ができるのかを予見して作られたものではありません。それは、身体性をともなう「あーでもない、こーでもない」という模索から進化的に生まれたもので、生成系AIのようなパターン認識機能の延長から生まれるものではありません。
予見的ニーズに対する「解」を見出す作業は、やがてAIが担うでしょう。
人間が学ぶべきことは、楽しみながら・遊びながら、新たなものをブリコラージュする喜び・・ではないでしょうか。
学業成績に代表されるように、能力評価は一般に「個人」を対象に行われますが、その常識には違和感があります（例えば「コミュニケーション能力」というのは、個人の能力というよりメンバー間の「関係力」ではないでしょうか）。
人類が生き延びたのは、個人の能力によってではなく、集団（バンド）としての能力が高かったから。であれば、個々がその特性を発揮して、お互い助け合ってバンド全体のパフォーマンスを上げるすることを目指すべきではないかと・・。
「自立」への不安を煽り、個人の経済的能力を高めるべく競争させる今の教育は、我々が生き延びることに寄与しているとは思えません。競争原理・等価交換、それらが招く結果は「自立」ではなく「孤立」ではないでしょうか。
自立するとは、頼れる人を増やすことである 熊谷晋一郎
のろまなカメでもいいから、ゴール？に向かってコツコツ努力しましょう
うさぎは山の幸を採りに、カメは海にもぐって海の幸を獲りに それぞれの特性を活かして助け合いましょう
以下、極端に言えば、すべて考え方は異なります。何が正しいのか、そもそも正しい答えはあるのか、様々な考え方に触れて自分で考えるしかありません。
何かを作り出す際、その生産に直接関わる材料費や人件費以外に、それがもたらす副作用の処理に必要となる費用を外部費用といいます。一般に、テクノロジーの発展に伴って生じる外部費用は、テクノロジーによって生み出される利益よりも小さいと想定されているので、例えばそれが公害をもたらしたとしても、その処理にかかる費用は吸収できる・・と考えられています。短期的にはそうかもしれませんが、長期的には（持続可能かと言えば）そうではありません。
新たなテクノロジーが登場すれば、それがもたらす社会的な問題を解決するために、新たなインフラ、新たな法律とその番人が必要になる・・その負担は、テクノロジーの収益が社会にもたらす利益よりも結果的には大きくなります。
特殊なテクノロジーによって、副次的に惹き起こされた無秩序な状態は 別のテクノロジーを応用すれば一時的に解決がつくことはつく。 ところが、解決を得たのはいいとしても、それに必ず伴うのは 以前にもまして大きな無秩序の出現である。 再び、ジャック・エリュールの言葉を借りよう。 「技術が連続して生まれるのは、それ以前の技術が、 必然的に次の技術を生まざるを得ないように仕向けているからだ」 ・・これこそ、（熱力学）の第２法則であり、それ以外の何ものでもない。
エントロピーの法則, ジェレミー・リフキン
テクノロジーは未来を開いている・・と思われていますが、テクノロジーは、自らが生み出す無秩序（高エントロピー）を処理するために、さらに新しいテクノロジーを生み出さざるを得ないのです。つまり文明は「成長」という名の負のスパイラルの中にあるのではないか・・という視点も必要です。
人類の脳において生まれた言語は、「意味生成」「存在喚起能力」を持ち、「不在の現前」（そこに無いものを思い浮かべるという「意識」特有の現象）を可能にします。
AI がもたらす未来を予見するとともに、持続可能な社会を計画するには、「言葉を使って考える」という、当面 AI には実現できないであろう、しかし、人間にとっては自然な能力を健全に養うことが必要だと思います。
Education First. マララ・ユスフザイ
残念ながら、日本の従来型教育は Education とは程遠く、Teaching, Training, Instruction, Indoctrination*3 が大半を占めます。つまり、大半は AI に代替可能なものです。
外部費用が嵩むとはいえ、現実にはテクノロジーの進歩を止めることはできず、私たちはこの先 AIとの共存関係を最適化すべく学び続けなければなりません。
みなさん個人の将来にとっても、AI に関する知見、AI を適正に活用する能力は必須のものとなります。
同時に、AI と人間とが、うまく協働できる社会の実現を目指すべく、自らを相対化し（「人間とは何か」についてメタレベルで思考し）、自らの動機で学び、知的に成熟して欲しいと願っています。
参考：note/FD研修会2023