九州産業大学 公開講座 2024.09.10｜13:40 - 15:20｜3304
生成系AIの登場によって世界は大きく変わりました。AIはあらゆる分野に浸透し、社会の構図を大きく作り替えています。この講座では、人類史を遡って人と機械の関係を紐解くとともに、未来を見据えて今何を考えるべきかを、事例を交えながら解説します。
井上 貢一｜芸術学部 ソーシャルデザイン学科 教授
産業革命以来の大革命（肉体労働が機械に ＞ 頭脳労働がAIに）
文字、活版印刷、写真、電子計算機・・、新たなメディアの登場は、常に負の側面を伴うものです。リスクを正しく認識すると同時に、歴史を俯瞰した柔軟な意識改革が求められます。
NHKと京都大学によるAIを用いた６つの予測
https://www.nhk.jp/p/special/ts/2NY2QQLPM3/episode/te/MK57RX32P8/
あらゆる情報処理システムを理解するための基本概念「関数」について
例えば、 \(y=2x+1\) というのは、入力データを２倍して１加えたものを出力する・・という意味です。
ソフトウエア開発の世界では プログラム ≒ 関数 です。あらゆるプログラムは「何らかの入力に対して、一定の処理を行なって、結果を出力する」という形で、記述されます。
入力（input）と出力（output）の関係は、話し手の専門分野によって表現が異なりますが、以下の組み合わせ、基本的にすべて同じことです。
入力（input）と出力（output）をデバイスの視点で語ると・・
機械と生物の大きな違いは、フィードバックループのあり方。生物の場合、出力器官からのフィードバックが常に働いています。
「画像を見せて、犬か猫かを判別させる AI を育てる」を例にとると、犬と猫の大量の画像データと、それが犬であるか猫であるかというターゲット（ラベル）をセットにして大量に与えて、システムが正しい解答を出すようになるまで、画像（入力）と判定（出力）の間に存在する推論機構（
\(f(x)\)
）を調整します。このような手法を教師あり機械学習と言います。
人間の感覚は、明るさ、音の大きさ、長さ、重さといった物理量を測定することができません。また、地球上における現在地を知ることもできません。
一方、機械が持つセンサーは、物理的な絶対値を得ることができます。例えば、重さや、長さの計測はもちろん、 GPSを使って地球上における自身の座標を得ることができます。
人間の処理系や記憶は神経回路の「動的な状態維持」であり、常にあいまいなまま更新され続けています。また、その活動を止めることができません。同じ刺激に対しても、そのときの状態で反応は異なります。
一方、機械は、情報をゆるぎなく処理、また静的に記録することができます。媒体によっては、電源を切っても、その仕組み（プログラム）とデータ情報は誤りなく保持されます。基本的には、同じデータを与えた場合の出力は同一です。
人間は、手・足・声帯といった身体部位を使って、フィードバックを伴う出力を行います。意志が先か、動くのが先で意志が後付けか・・についても様々です。
一方、機械は、プログラムされた手順にしたがって、メモリ上の情報を加工して外部へ出力します。フィードバックを伴うか否かはシステムによります。
生物の身体は、常に外部との物質・エネルギー交換を行う「開放系」で、ハード（身体）とソフト（思考・記憶）が切り離せない関係になっています。
一方、機械は外部との物質交換のない「閉鎖系」で、また、ハード（デバイス）とソフト（OS・アプリケーション）の分離・再構成も可能です。
現在のAI （ニューラルネットワーク）は、人間の脳をモデルにしていますが、言いかたを変えると、「脳だけ」をモデル化したものであって、そこには身体との連携が含まれていません。
生物の脳は、身体から切り離すことはできず、自律分散的に協調する複数の細胞と関わっています。身体が発する痛み、消化器のはたらき、血液の循環状態、さらに言えば、身体を出入りする物質=エネルギーの作用も受けるのです。
AI は生命と言えません。理由は簡単、「死」が想定されていないからです。
AIは意識をもつのか・・という議論は非常に難しいものです。なぜなら「意識とは何か」ということ自体が謎だからです。
AI と対話する人間の側が「あの機械には意識がある」と感じることはあるかもしれませんが、「いま・ここ」にある身体から切り離されて動作する知能を「意識」とは呼ぶには違和感があります。
意識とは、基本的に「流れ」であり、過去・現在・未来と動的にアップデートしつづけるものの中にしか生まれないのでは・・。ただ、インターネットという存在は、情報の流れとアップデートを止めないと言う点で、それに近い現象が起きているとも言えます。
私たちはすでに、機械的なものによって身体を拡張しています。
現状では、AI はコパイロット（Copilot：副操縦士）の位置付けですが、これまで人間が行なっていた頭脳労働のうち「パターン認識」や「それを応用した文章・絵画・映像・音楽などの生成」は、AIが得意とする分野です。
人間の脳も AI も、仕組みは同じニューラルネットワーク なので、人間にできる頭脳労働の大半は、やがて AI にもできるようになると考えられます（肉体労働の大半は、すでに機械・ロボットが担っています）。
日本語には、この２つの概念を区別なく「問題」と一括していますが・・
Fall in love with the problem, not the solution Google, 2019
多くの人が「AIはスゴい！」と言います。でも人間が求めているのは「スゴい」の先にある「面白い！」です。
ひながなを [ 漢字に変換する ]、ひらがなで [ 書く ]
ひらがなを [ 洗う ]、ひらがなで [ 滑る ]
AI は、過去のデータからニーズを汲み取る能力には長けていますが、未だかつて誰も見たことがないものは、ニーズを探っても出てきません。
顧客のニーズ（過去＞現在）にもとづく売上向上をめざすビジネスには AI の活躍が期待できますが、こんなものがあったら面白いのではないか・・というヒラメキには、人間に特有の「おバカな思考回路」が必要です。人間は「ボケ」（出現確率の低い情報｜突然変異）を「面白い！」と感じる生き物です（そもそも、生物は突然変異を契機に進化してきた）。
Stay Hungry. Stay Foolish. Steven Paul Jobs 1955-2011
Original：Stewart Brand, Whole Earth Catalog, 1974
身近なものを寄せ集めて、本来の役割とは（次元の）異なる新たなものをつくる行為をブリコラージュ（器用仕事）と言います。これは、人間特有の身体性を伴う持続可能な創造行為の原点です。
多くのテクノロジーは「・・だったらいいな」という、予見・ニーズから生まれました。しかし世の中には「何の役に立つかはわからないけれど、純粋に面白い」という好奇心から生まれたものも多くあります。
例えば、楽器というものは、その存在以前に、それで何ができるのかを予見して作られたものではありません。それは、身体性をともなう「あーでもない、こーでもない」という模索から進化的に生まれたもので、生成系AIのようなパターン認識機能の延長から生まれるものではありません。
予見的ニーズに対する「解」を見出す作業は、やがてAIが担うでしょう。
人間が学ぶべきことは、楽しみながら・遊びながら、新たなものをブリコラージュする喜び・・ではないでしょうか。
学業成績に代表されるように、能力評価は一般に「個人」を対象に行われますが、その常識には違和感があります（例えば「コミュニケーション能力」というのは、個人の能力というよりメンバー間の「関係力」ではないでしょうか）。
従来型の教育現場で行われている成績評価は、多くの学修者の「自己肯定感」を奪う結果を招いているように思えてなりません。
筆記試験、資格取得、様々な分野の「診断」など、パターン認識的な頭脳労働については、人間よりも AIの方が優秀です。そのような能力競争に対しては、学習者の方から「離脱」が進行するでしょう（すでに不登校 30万人）。
人類が生き延びたのは、個人の能力によってではなく、集団（バンド）としての能力が高かったから。であれば、個々がその特性を発揮して、お互い助け合ってバンド全体のパフォーマンスを上げるすることを目指すべきではないかと・・。
「自立」への不安を煽り、労働者としての個人の能力を高めるべく競争させる今の教育は、我々が生き延びることに寄与しているとは思えません。競争原理・等価交換、それらが招く結果は「自立」ではなく「孤立」ではないでしょうか。
自立するとは、頼れる人を増やすことである 熊谷晋一郎
のろまなカメでもいいから、ゴール？に向かってコツコツ努力しましょう
うさぎは山の幸を採りに、カメは海にもぐって海の幸を獲りに それぞれの特性を活かして助け合いましょう
以下、極端に言えば、すべて考え方は異なります。何が正しいのか、そもそも正しい答えはあるのか、まずは、様々な考え方に触れる・・
何かを作り出す際、その生産に直接関わる材料費や人件費以外に、それがもたらす副作用の処理に必要となる費用を外部費用といいます。一般に、テクノロジーの発展に伴って生じる外部費用は、テクノロジーによって生み出される利益よりも小さいと想定されているので、例えばそれが公害をもたらしたとしても、その処理にかかる費用は吸収できる・・と考えられています。短期的にはそうかもしれませんが、長期的には（持続可能かと言えば）そうではありません。
新たなテクノロジーが登場すれば、それがもたらす社会的な問題を解決するために、新たなインフラ、新たな法律とその番人が必要になる・・その負担は、テクノロジーの収益が社会にもたらす利益よりも結果的には大きくなります。
特殊なテクノロジーによって、副次的に惹き起こされた無秩序な状態は 別のテクノロジーを応用すれば一時的に解決がつくことはつく。 ところが、解決を得たのはいいとしても、それに必ず伴うのは 以前にもまして大きな無秩序の出現である。 再び、ジャック・エリュールの言葉を借りよう。 「技術が連続して生まれるのは、それ以前の技術が、 必然的に次の技術を生まざるを得ないように仕向けているからだ」 ・・これこそ、（熱力学）の第２法則であり、それ以外の何ものでもない。
エントロピーの法則, ジェレミー・リフキン
テクノロジーは未来を開いている・・と思われていますが、テクノロジーは、自らが生み出す無秩序（高エントロピー）を処理するために、さらに新しいテクノロジーを生み出さざるを得ないのです。つまり文明は「成長」という名の負のスパイラルの中にあるのではないか・・という視点も必要です。
しかし、外部費用が嵩むとはいえ、現実にはテクノロジーの進歩を止めることはできず、私たちはこの先 AIとの共存関係を最適化すべく学び続けなければなりません。みなさんの今後にとっても、AI に関する知見、AI を適正に活用する能力は必須のものとなります。 同時に、AI と人間とが、うまく協働できる社会の実現を目指すべく、自らを相対化し（「人間とは何か」についてメタレベルで思考し）、自らの動機で学び続けて欲しいと願っています。