九州産業大学 公開講座 2024.09.10（2回目）
生成系AIの威力によって世界は大きく変わりました。AIはあらゆる分野に浸透し、社会の構図を大きく作り替えています。この講座では、人類史を遡って人と機械の関係を紐解くとともに、未来を見据えて今何をすべきかを、具体的な事例を交えながら解説します。
ボーッとしていられない現実
「言語モデル」とは、文章の並び方に確率を割り当てる確率モデル。
AIが誤認や矛盾を含む事象、事実とは異なる情報を作り出してしまう現象
NHKと京都大学によるAIを用いた６つの予測
https://www.nhk.jp/p/special/ts/2NY2QQLPM3/episode/te/MK57RX32P8/
工業社会に適応したスタイルからの脱却
| プロイセン型 | プロジェクト型 | セッション型 | |
| 担当教員 | 毎回固定 | 都度流動 | 不要＞ 座長 |
| 役割 | 教える | アドバイスする | コーディネート |
| 学びの型 | 暗記型 | 探究型 | 共有型 |
| 教科書 | 標準教科書 | 資料配布 | 個々が持ち寄る |
| 実施形態 | 科目別 | 科目融合 | テーマ別 |
| 評価手法 | 期末試験等 | 成果報告 | パネルと意見交換 |
| 評価方法 | 個別評価 | 講評（公評） | |
| 授業後 | 完結・終了 | 完了＞解散 | 随時更新 |
竹内薫 「わが子を AI の奴隷にしないために」を参考に筆者が妄想
基本的には人間の脳とAIの脳の仕組みは同じ NN なので・・
＞ 人間にできる頭脳労働はやがてできるようになる。ただし、物質・エネルギーの流れとしての身体性を伴う部分は人間（生物）に特有のものとして残る
現状では、AIはコパイロット（Copilot：副操縦士）
物事は、人とAIのハイブリッドで・・チェックは人間が行う必要あり
人間も社会も動的な「定常開放系」。内部と外部の境界は目に見えるような明確なものではありません。AIは脳をモデルにしていますが、人間は脳だけで考えているわけではなく（そもそも「脳」は言葉によって存在喚起された概念であって実体ではない）、その思考には、全ての細胞、そしてそこを出入りする物質・エネルギー・情報が関与しています。
一方 AIは「孤立系・ 閉鎖系」として存在していて、電源のON/OFF、静的な情報保存、部品単位の交換ができます。身体性を伴わないAIは、所詮機械であって、「自ら学ぶ動機」が生まれることはありません（多分）。
先人の「真似」をしたいという動機からはじまるのが「学び」の本質であるとすれば、人がやりたくないことを任せるべく登場したAIは、歓迎すべきツールではないかと思います。学修者本位の教育を推進するのであれば、学びの中での人間と AIとの「棲み分け」と「協働」の検討が求められていると思います。
Fall in love with the problem, not the solution Google, 2019
ついでに言うと
ひながなを [ 漢字に変換する ]、ひらがなで [ 書く ]
ひらがなを [ 洗う ]、ひらがなで [ 滑る ]
機械が持つセンサーは、物理的な「絶対値」を得ることができます。例えば、重さや、長さの計測はもちろん、 GPSを使って地球上における自身の絶対座標を得ることができます。
一方人間は、重さや長さを正確に把握することはできないし、また、目隠しで放り出されると迷子になります。
人間の受容器は「相対的な関係」を把握することで「意味」を理解します。物事の意味や価値は所与のものではありません。文化や価値観の違いによって対象の捉え方や判断が変わる（善悪の判断すら変わります）・・これはデータが同じであれば同じ結論を出す機械とは異なる点です。
現在のAI 、ニューラルネットワークは、人間の脳をモデルにしていますが、言いかたを変えると、「脳だけ」をモデル化したものであって、そこには身体との連携が含まれてはいません。
機械は、外部との物質交換のない「閉鎖系」で、また、ハード（デバイス）とソフト（OS・アプリケーション）の分離・再構成も可能です。一方、生物の身体は外部との交換を遮断できない「開放系」であるとともに、ハード（身体）とソフト（思考・記憶）が切り離せない関係になっています。脳という神経細胞のセットから思考回路や記憶だけを取り出して、他の個体に移植するといったことができない点で、AIとは大きく異なります。
生物の脳は、身体から切り離すことはできず、自律分散的に協調する複数の細胞と関わっています。身体が発する痛み、消化器のはたらき、血液の循環状態、さらに言えば、身体を出入りする物質やエネルギーの作用も受けるのです。
AI は生命と言えません。理由は簡単。「死」が想定されていないからです。
「生」という言葉は「死」と対峙するかたちでその意味を担っています。
私たちは人間の意識を完全には理解してはいない。「AIは意識をもつのか」という議論が難しい理由はここにある。
AI に「意識があるかのような」振る舞いをさせることは可能で、それと対話する人間の側が「AIには意識がある」と感じることはあると思います。
非生命は、孤立系の中で静的に存在することが可能ですが、生命は定常開放系において動的に維持される身体をもつものであり、その意味で、意識も時間の流れの中においてのみ、動的な存在として立ち現れるものではないかと・・・
AI が人間と同じように意識を持つと仮定すると・・・
「いま・ここ」という身体性から切り離され、「死」のない世界（無時間的な世界）で動作する知能を「意識」とは呼ぶには違和感があります。
意識とは、基本的に「流れ」であり、過去・現在・未来と動的にアップデートしつづけるものの中にしか生まれないのでは・・。ただ、インターネットに接続されたサーバーは、情報の流れとアップデートを止めないと言う点で、それに近い現象が起きているとも言えます。
多くの人が「AIはスゴい！」と言います。でも人間が求めているのは「スゴい」の先にある「面白い！」です。お笑いタレントの過去の発言を収集して、受けそうなフレーズを作るといったレベルの「面白い！」であれば AI でも可能ですが、誰もやったことがない「新奇性」のあるコンテンツを作るのは難しい・・
AI は、過去のデータからニーズを汲み取る能力には長けていますが、未だかつて誰も見たことがないものは、ニーズを探っても出てきません。
顧客のニーズを探り、売上を向上させることが求められるビジネスの現場では、AI の活躍が期待できますが、こんなものがあったら面白いのではないか・・というヒラメキには、人間に特有の「おバカな思考回路」が必要です。
Stay Hungry. Stay Foolish. Steven Paul Jobs 1955-2011
Original：Stewart Brand, Whole Earth Catalog, 1974
私たちはすでに、機械的なものによって身体を拡張しています。
話はシンプル。社会の構造が変わっているのだから、常識・考え方を変えればいい。しかし、過去の常識に洗脳された頭がそれを阻害する。まずは、そのことに気づく必要がある。
自然環境を人工環境につくりかえてきたが、あらゆる常識は、我々が世界をそのように捉えているだけ＝幻想にすぎない。
何かを作り出す際、その生産に直接関わる材料費や人件費以外に、それがもたらす副作用の処理に必要となる費用を外部費用といいます。一般に、テクノロジーの発展に伴って生じる外部費用は、テクノロジーによって生み出される利益よりも小さいと想定されているので、例えばそれが公害をもたらしたとしても、その処理にかかる費用は吸収できる・・と考えられています。短期的にはそうかもしれませんが、長期的には（持続可能かと言えば）そうではありません。
新たなテクノロジーが登場すれば、それがもたらす社会的な問題を解決するために、新たなインフラ、新たな法律とその番人が必要になる・・その負担は、テクノロジーの収益が社会にもたらす利益よりも結果的には大きくなります。
特殊なテクノロジーによって、副次的に惹き起こされた無秩序な状態は 別のテクノロジーを応用すれば一時的に解決がつくことはつく。 ところが、解決を得たのはいいとしても、それに必ず伴うのは 以前にもまして大きな無秩序の出現である。 再び、ジャック・エリュールの言葉を借りよう。 「技術が連続して生まれるのは、それ以前の技術が、 必然的に次の技術を生まざるを得ないように仕向けているからだ」 ・・これこそ、（熱力学）の第２法則であり、それ以外の何ものでもない。
エントロピーの法則, ジェレミー・リフキン
テクノロジーは未来を開いている・・と思われていますが、テクノロジーは、自らが生み出す無秩序（高エントロピー）を処理するために、さらに新しいテクノロジーを生み出さざるを得ないのです。つまり文明は「成長」という名の負のスパイラルの中にあるのではないか・・という視点も必要です。
現代社会における多くの経済活動は、市場の原理によって動いています。競争があることが当然とされ、その競争に勝ち残るべく、あらゆる物事の「効率化」が優先課題となっています。
企業でも、スポーツでも、学校教育でも、人よりも高い数値を出すことが「良いこと」とされていますが、それで人は幸せになったのでしょうか。
競争が激化する中で、効率を優先すると「優秀な独裁者の出現」を期待するようになってしまいます。しかしこれが失敗することは歴史を見れば明らかです。
民主主義はもともと非常に効率の悪いものだ・・という認識は重要です。
様々な価値観がぶつかると物事は決まりません。しかし「目の前の問題に対処すべく物事がスピーディーに決まる」ことよりも、「取り返しのつかない愚かな決定を先送りすることができる」という点に、民主主義の価値はあるのではないかと思います。
グローバル化、選択と集中・・そうしたビジネスの世界のワードが学問の世界をも覆い尽くそうとしている現状には、個人的は危惧を感じます。
自然界を見れば明らかなように、多くの無駄が多様性を作り出し、それが全体のバランス維持と持続可能性に寄与しています。
我々人間は、何よりもまずレアな自然から学ぶという、謙虚な姿勢が必要なのではないでしょうか。自然の道理に合わない取り組みが成功するとは思えません。
人類の脳において生まれた言語は、「意味生成」「存在喚起能力」を持ち、「不在の現前」（そこに無いものを思い浮かべるという「意識」特有の現象）を可能にします。
AI がもたらす未来を予見するとともに、持続可能な社会を計画するには、「言葉を使って考える」という、当面 AI には実現できないであろう、しかし、人間にとっては自然な能力を健全に養うことが必要だと思います。
Education First. マララ・ユスフザイ
残念ながら、日本の従来型教育は Education とは程遠く、Teaching, Training, Instruction, Indoctrination*1 が大半を占めます。つまり、大半は AI に代替可能なものです。
外部費用が嵩むとはいえ、現実にはテクノロジーの進歩を止めることはできず、私たちはこの先 AIとの共存関係を最適化すべく学び続けなければなりません。
みなさん個人の将来にとっても、AI に関する知見、AI を適正に活用する能力は必須のものとなります。
同時に、AI と人間とが、うまく協働できる社会の実現を目指すべく、自らを相対化し（「人間とは何か」についてメタレベルで思考し）、自らの動機で学び、知的に成熟して欲しいと願っています。
以下、極端に言えば、すべて考え方は異なります。何が正しいのか、そもそも正しい答えはあるのか、様々な考え方に触れて自分で考えるしかありません。