#author("2024-09-10T11:41:51+09:00;2024-08-23T12:09:38+09:00","default:inoue.ko","inoue.ko") #author("2024-10-02T12:42:39+09:00;2024-08-23T12:09:38+09:00","default:inoue.ko","inoue.ko") *AIが拓く未来社会 &small(人とテクノロジーの交差点); 九州産業大学 公開講座 2024.09.10｜13:40 - 15:20｜3304 ~ #qrcode(,right,20%) 生成系AIの登場によって世界は大きく変わりました。AIはあらゆる分野に浸透し、社会の構図を大きく作り替えています。この講座では、人類史を遡って人と機械の関係を紐解くとともに、未来を見据えて今何を考えるべきかを、事例を交えながら解説します。 &small(井上 貢一｜芸術学部 ソーシャルデザイン学科 教授); ~ ~ //***CONTENTS //#contents2_1 //~ **今、何が起きているのか &scale(55){13:45}; ~ #image(images/人類史_時代区分.png,right,30%) ***人類と社会 -人類史上の大きな革命＞右図 -ターニングポイント 言語 / 定住 / 農耕（文字）/ 産業革命 / 情報革命 //科学の台頭によって「神」がいなくなった 現代の常識は、人類史全体から見れば非常識 //-__[[人類は生物世界における異端児である>https://design.kyusan-u.ac.jp/OpenSquareJP/?HomoSapiens]]__ //-__[[多様性・相対性>Diversity]]__ -__[[AI 略史>ArtificialIntelligence/History]]__ -参考：今日の若年層の状況 #clear //#image(情報共有の歴史/Fig1.png) ~ ***AI がもたらす情報環境の変化 産業革命以来の大革命（肉体労働が機械に ＞ 頭脳労働がAIに） -認識系AI と 生成系AI --Discriminative AI：認識系AI / 識別系AI（文字・音声・画像認識等） --Generative AI：生成系 AI（文章生成・楽曲生成・画像生成等） -LLM（Large Language Models：大規模言語モデル）の実現・実用化 -AGI（Artificial General Intelligence：汎用人工知能） 近未来 //さまざまな分野に対応。自ら学習して判断し、行動する -ASI（Artificial Super intelligence：人工超知能） 近未来 //人間の知能を超える人工知能。自分で自分のプログラムを書き換える // ASIは高確率で世界戦争の引き金をひく // その危機は2030年ごろまでに現実になる ・・・？ //&small(「今後10年の状況認識」, レオポルド・アッシェンブレナー（OpenAIの元研究者）); ~ ***情報革命がもたらすリスク //言語（自然発生）、 文字、活版印刷、写真、電子計算機・・、新たなメディアの登場は、常に負の側面を伴うものです。リスクを正しく認識すると同時に、歴史を俯瞰した柔軟な意識改革が求められます。 -新たな技術の登場が、それ以前の技術職の仕事を不要にするのは歴史の必然 &small(写真術は肖像画家から仕事を奪ったが、その後肖像画家の多くが写真館を開業); &small(AIに仕事を奪われるのではなく、「AIを使いこなす人」に仕事を奪われる); -新たな社会問題をどう考えるか・・ &small(人間・社会の側の意識改革によって、問題が問題でなくなることもある); --ハルシネーション((Hallucination（幻覚）：AIが誤認や矛盾を含む事象、事実とは異なる情報を作り出してしまう現象))・・すでに世の中ウソだらけ --フェイク・・「嘘」は、言語（共同幻想）の誕生とともにある --著作権侵害・・情報を「囲い込んで所有する」という発想自体にも限界？ //&small(この考え方は、人から学ぶ（まねぶ）意欲、創造する意欲を奪っている); --機密情報・・オープン化の推進でその管理負担が減ることもある -最大の問題は、日本人の AI（AGI・ASI）に対する__[[関心度・危機感の低さ>Google:生成系AI 活用率 日本]]__ //--危機感を感じている人とそうでない人に大きな格差が生じることは必至 //&small(2022年11月からすでに 2年。我々の現状は危機的); ~ ***想定される未来 #image(NHK20240104.jpg) NHKと京都大学によるAIを用いた６つの予測 https://www.nhk.jp/p/special/ts/2NY2QQLPM3/episode/te/MK57RX32P8/ #clear ~ ~ **AIの仕組みを疑似体験 //パソコンやスマホが身近にある現在、AI は誰もが使える身近なツールとして存在しています。好奇心があるかないか、学ぶ気があるかないか・・だけです。 //~ ***はじめに &scale(55){14:00}; あらゆる情報処理システムを理解するための基本概念「関数」について #mathjax(y=f(x)、y=f(x_1, x_2, ・・・x_n)) CENTER:入力：x ＞ 処理：f ( ) ＞ 出力：y 例えば、&mathjax(y=2x+1); というのは、入力データを２倍して１加えたものを出力する・・という意味です。 ソフトウエア開発の世界では ''プログラム ≒ 関数'' です。あらゆるプログラムは「何らかの入力に対して、一定の処理を行なって、結果を出力する」という形で、記述されます。 入力（input）と出力（output）の関係は、話し手の専門分野によって表現が異なりますが、以下の組み合わせ、基本的にすべて同じことです。 -入力 出力 ・・コンピュータ -独立変数 従属変数 ・・__[[統計>Statistics]]__・__[[データサイエンス>DataScience]]__ -説明変数 目的変数 ・・統計・データサイエンス -特徴量 ラベル ・・データサイエンス -データ ターゲット ・・データサイエンス -条件 反応 ・・実験 入力（input）と出力（output）をデバイスの視点で語ると・・ -センサー アクチュエータ ・・機械工学 -目・耳 手・足・声帯 ・・人間工学 -感覚神経 運動神経 ・・神経科学 機械と生物の大きな違いは、フィードバックループのあり方。生物の場合、出力器官からのフィードバックが常に働いています。 ~ ***AI のモデルとなった人間の脳 = ニューラルネットワーク &scale(55){14:10}; -__[[人間の脳>BrainScience]]__ 参考：__http://ncase.me/neurons/ __ -__[[ニューラルネットワーク>NeuralNetwork]]__ 参考：__https://playground.tensorflow.org/ __ -付記： 大規模言語モデル (LLM) は、数＋億から数千億のパラメータを持つ・・と言われますが、すごく荒っぽく言えば、1000億のパラメータを持つモデルは、1000億個の ニューロンを持つ人間の脳・・と例えることができます。AIの性能は、学習するデータの量と質にも依存するのですが、一般にこの数が大きいほど性能が上がります。 ~ ***機械学習 「画像を見せて、犬か猫かを判別させる AI を育てる」を例にとると、犬と猫の大量の画像''データ''と、それが犬であるか猫であるかという''ターゲット（ラベル）''をセットにして大量に与えて、システムが正しい解答を出すようになるまで、画像（入力）と判定（出力）の間に存在する推論機構（&mathjax(f(x));）を調整します。このような手法を''教師あり機械学習''と言います。 ~ ***認識系AI： &scale(55){14:25}; -__[[TeachableMachine]]__（機械学習の仕組みを簡単に体験） -[[Google翻訳>https://translate.google.co.jp/]] -[[Image to Text>https://www.imagetotext.info/]] ~ ***生成系AI： &scale(55){14:35}; -Google Gemini：https://gemini.google.com/app -Microsoft Copilot：https://www.microsoft.com/ja-jp/microsoft-copilot -OpenAI ChatGPT：https://openai.com/blog/chatgpt/ --LINE AIチャットくん（LINEに組み込まれたチャットボット） //---[[Blender ChatGPT>Google:Blender ChatGPT]]（3DCGソフトのプラグイン） -Stable Diffusion：https://stability.ai/ デモサイト：https://huggingface.co/spaces/stabilityai/stable-diffusion ~ ***AI開発 -[[GoogleColaboratory]]（開発環境） --[[Python]]（開発言語）：https://www.python.org/ --[[scikit-learn]]（機械学習ライブラリ） -簡単な事例（いくつかの質問に答えることで、男性か女性かを推測） --[[モデルの生成>https://colab.research.google.com/drive/1M3RHsIexIO-c8pGZ98rYqEcPyrcl4aBz?usp=sharing]] --[[モデルを使った推測>https://colab.research.google.com/drive/1hG5LFbVNZKxyixOcW2mx0tPHzjiniNIa?usp=sharing]] ~ ~ **人間と機械の違い &scale(55){14:45}; ***センサー（入力）について 人間の感覚は、明るさ、音の大きさ、長さ、重さといった物理量を測定することができません。また、地球上における現在地を知ることもできません。 一方、機械が持つセンサーは、物理的な絶対値を得ることができます。例えば、重さや、長さの計測はもちろん、 GPSを使って地球上における自身の座標を得ることができます。 ~ ***処理系とメモリー（記憶）について 人間の処理系や記憶は神経回路の「動的な状態維持」であり、常にあいまいなまま更新され続けています。また、その活動を止めることができません。同じ刺激に対しても、そのときの状態で反応は異なります。 一方、機械は、情報をゆるぎなく処理、また静的に記録することができます。媒体によっては、電源を切っても、その仕組み（プログラム）とデータ情報は誤りなく保持されます。基本的には、同じデータを与えた場合の出力は同一です。 ~ ***アクチュエーター（出力）について 人間は、手・足・声帯といった身体部位を使って、フィードバックを伴う出力を行います。意志が先か、動くのが先で意志が後付けか・・についても様々です。 一方、機械は、プログラムされた手順にしたがって、メモリ上の情報を加工して外部へ出力します。フィードバックを伴うか否かはシステムによります。 ~ ***身体性 生物の身体は、常に外部との物質・エネルギー交換を行う「開放系」で、ハード（身体）とソフト（思考・記憶）が切り離せない関係になっています。 一方、機械は外部との物質交換のない「閉鎖系」で、また、ハード（デバイス）とソフト（OS・アプリケーション）の分離・再構成も可能です。 現在のAI （ニューラルネットワーク）は、人間の脳をモデルにしていますが、言いかたを変えると、「脳だけ」をモデル化したものであって、そこには身体との連携が含まれていません。 生物の脳は、身体から切り離すことはできず、自律分散的に協調する複数の細胞と関わっています。身体が発する痛み、消化器のはたらき、血液の循環状態、さらに言えば、身体を出入りする物質=エネルギーの作用も受けるのです。 ~ ***生命体との違い AI は生命と言えません。理由は簡単、「死」が想定されていないからです。 //（終わりが想定されている「地球」は生き物と言っても違和感ありません。） //「生」という言葉は「死」と対峙するかたちでその意味を担っています。 -生命体は： --物質・エネルギーを交換する「定常解放系」として存在 --物質・エネルギーを交換する「定常開放系」として存在 --起動・停止ができない（変化を止めることはできない） --パーツの交換ができない（そもそもすべてが連続的） --「死」がプログラム（予定）されている -AI は： --物質・エネルギーの出入りを遮断した「孤立系・閉鎖系」でも動く --起動・停止が可能である --すべてのパーツが交換可能である --半永久的に稼働させることができる ~ ***意識（自己認識、自由意志）について AIは意識をもつのか・・という議論は非常に難しいものです。なぜなら「意識とは何か」ということ自体が謎だからです。 AI と対話する人間の側が「あの機械には意識がある」と感じることはあるかもしれませんが、「いま・ここ」にある身体から切り離されて動作する知能を「意識」とは呼ぶには違和感があります。 意識とは、基本的に「流れ」であり、過去・現在・未来と動的にアップデートしつづけるものの中にしか生まれないのでは・・。ただ、インターネットという存在は、情報の流れとアップデートを止めないと言う点で、それに近い現象が起きているとも言えます。 ~ //***「忘れる」という戦略 //生物の脳は、その生体維持に不要な情報を忘却します。自我を不安的にするような情報を積極的に忘却するのも、明日を生きるための戦略かもしれません。 //~ ***付記：人間と機械のハイブリッド化 私たちはすでに、機械的なものによって身体を拡張しています。 -車輪は、足の拡張として人間の移動速度を向上させました。 -メガネ、望遠鏡、顕微鏡は視覚の拡張です。 -コンピュータは脳の拡張で、脳と直結する域に近づいています。 ~ ~ **AI と 人間との棲み分け &scale(55){15:00}; 現状では、AI はコパイロット（Copilot：副操縦士）の位置付けですが、これまで人間が行なっていた頭脳労働のうち「パターン認識」や「それを応用した文章・絵画・映像・音楽などの生成」は、AIが得意とする分野です。 人間の脳も AI も、仕組みは同じニューラルネットワーク なので、人間にできる頭脳労働の大半は、やがて AI にもできるようになると考えられます（肉体労働の大半は、すでに機械・ロボットが担っています）。 //一方で、AI は以下のような領域を苦手とします。 //-学習用のデータが少ない分野（AIは「大量のデータ」で学習するので） //-刻々と大きな変化を伴う現象（AIは「過去のデータ」で学習するので） //-説明責任（推論過程がブラックボックスなので説明責任を果たせない） //Baldwin, Richard, The Globotics Upheaval, Weidenfeld & Nicolson, (paperback edition), 2021. (First published in 2020.) ~ ***Question と Problem 日本語には、この２つの概念を区別なく「問題」と一括していますが・・ -問題（Question）を解くのは AIの仕事 -問題（Problem）に気づき、それを共有し、対応するのが人間の仕事 Fall in love with the problem, not the solution Google, 2019 ~ ***スゴイ vs 面白い（新奇性） 多くの人が「AIはスゴい！」と言います。でも人間が求めているのは「スゴい」の先にある「面白い！」です。 -一般的・常識的回答（出現確率の高い言葉の連鎖）を期待するなら AI ひながなを [ 漢字に変換する ]、ひらがなで [ 書く ] -斬新なアイデア（出現確率の低い言葉の連鎖）を期待するなら人間 ひらがなを [ 洗う ]、ひらがなで [ 滑る ] AI は、過去のデータからニーズを汲み取る能力には長けていますが、未だかつて誰も見たことがないものは、ニーズを探っても出てきません。 顧客のニーズ（過去＞現在）にもとづく売上向上をめざすビジネスには AI の活躍が期待できますが、こんなものがあったら面白いのではないか・・というヒラメキには、人間に特有の「おバカな思考回路」が必要です。人間は「ボケ」（出現確率の低い情報｜突然変異）を「面白い！」と感じる生き物です（そもそも、生物は突然変異を契機に進化してきた）。 //AIにとってイレギュラーな情報は、学習収束の妨げとなっているだけ・・？。 Stay Hungry. Stay Foolish. Steven Paul Jobs 1955-2011 '''&scale(80){Original：[[Stewart Brand, Whole Earth Catalog, 1974>https://archive.org/search?query=creator%3A%22Stewart+Brand%22]]};''' ~ ~ **最後に &scale(55){15:10}; //社会の構造が変わっているのだから、常識・考え方を変えればいい。しかし、過去の常識に洗脳された頭がそれを阻害する。まずは、そのことに気づく必要があります。 //~ ***創造の原点「ブリコラージュ」 身近なものを寄せ集めて、本来の役割とは（次元の）異なる新たなものをつくる行為を__[[ブリコラージュ>Bricolage]]__（器用仕事）と言います。これは、人間特有の身体性を伴う持続可能な創造行為の原点です。 多くのテクノロジーは「・・だったらいいな」という、予見・ニーズから生まれました。しかし世の中には「何の役に立つかはわからないけれど、純粋に面白い」という好奇心から生まれたものも多くあります。 例えば、楽器というものは、__その存在以前に、それで何ができるのか__を予見して作られたものではありません。それは、身体性をともなう「あーでもない、こーでもない」という模索から進化的に生まれたもので、生成系AIのようなパターン認識機能の延長から生まれるものではありません。 予見的ニーズに対する「解」を見出す作業は、やがてAIが担うでしょう。 人間が学ぶべきことは、楽しみながら・遊びながら、新たなものをブリコラージュする喜び・・ではないでしょうか。 -テクノロジー（栽培的思考）：ツリー型・中央制御 「解」は標準化・グローバル化 / 想定外のリスク（外部費用）を伴う -ブリコラージュ（野生の思考）：セミラティス型・自律分散協調 「解」は多様なかたちに進化 / 進化の過程でリスクは解消済み ~ ***個人の能力 ＜ 集団（バンド）の能力 学業成績に代表されるように、能力評価は一般に「個人」を対象に行われますが、その常識には違和感があります（例えば「コミュニケーション能力」というのは、個人の能力というよりメンバー間の「関係力」ではないでしょうか）。 従来型の教育現場で行われている成績評価は、多くの学修者の「自己肯定感」を奪う結果を招いているように思えてなりません。 筆記試験、資格取得、様々な分野の「診断」など、パターン認識的な頭脳労働については、人間よりも AIの方が優秀です。そのような能力競争に対しては、学習者の方から「離脱」が進行するでしょう（すでに不登校 30万人）。 人類が生き延びたのは、個人の能力によってではなく、集団（バンド）としての能力が高かったから。であれば、個々がその特性を発揮して、お互い助け合ってバンド全体のパフォーマンスを上げるすることを目指すべきではないかと・・。 「自立」への不安を煽り、労働者としての個人の能力を高めるべく競争させる今の教育は、我々が生き延びることに寄与しているとは思えません。競争原理・等価交換、それらが招く結果は「自立」ではなく「孤立」ではないでしょうか。 自立するとは、頼れる人を増やすことである 熊谷晋一郎 [[Google:熊谷晋一郎 自立とは]] ~ のろまなカメでもいいから、ゴール？に向かってコツコツ努力しましょう CENTER:'''ではなく''' うさぎは山の幸を採りに、カメは海にもぐって海の幸を獲りに それぞれの特性を活かして助け合いましょう CENTER:'''ではないでしょうか。''' ~ ~ ~ CENTER:'''橋をデザインするのではなく、川を渡るしくみを考える''' ~ #image(images/AS03.png,center,35%) CENTER:&small(九州産業大学 芸術学部｜Faculty of Art & Design); ~ ~ ~ ~ ~ ~ ~ ~ **APPENDIX ***読書案内 以下、極端に言えば、すべて考え方は異なります。何が正しいのか、そもそも正しい答えはあるのか、まずは、様々な考え方に触れる・・ -[[井上智洋, 人工知能と経済の未来 , 文芸春秋, 2016>Amazon:井上智洋 人工知能と経済の未来]] -[[宇沢弘文, 人間の経済, 新潮新書, 2017>Amazon:宇沢弘文 人間の経済]] -[[オードリー・タン, まだ誰も見たことのない「未来」の話をしよう, SB選書>Amazon:オードリー・タン まだ誰も見たことのない「未来」の話をしよう]] -[[斎藤 幸平, 人新世の「資本論」, 集英社新書>Amazon:斎藤幸平 人新世の「資本論」]] -[[ジェレミー・リフキン, エントロピーの法則 , 祥伝社 , 1982>Amazon:ジェレミー・リフキン エントロピーの法則]] -[[瀬名 秀明 他 ,「神」に迫るサイエンス , 角川文庫 , 2000>Amazon:瀬名秀明「神」に迫るサイエンス]] -[[孫泰蔵, 冒険の書, 日経BP, 2023>Amazon:孫泰蔵 冒険の書]] -[[ニック・ボストロム, スーパーインテリジェンス 超絶AIと人類の命運, 日経>Amazon:ニック・ボストロム スーパーインテリジェンス]] -[[ノーバート・ウィーナー, サイバネティックス 動物と機械における制御と通信 第２版, 岩波文庫, 2011>Amazon:サイバネティックス]] -[[松尾 豊, 人工知能は人間を超えるか, KADOKAWA>Amazon:松尾 豊, 人工知能は人間を超えるか]] -[[松原 仁, AIに心は宿るのか, 集英社>Amazon:松原 仁 AIに心は宿るのか]] -[[丸山俊一, AI以後, NHK出版新書>Amazon:丸山俊一, AI以後]] -[[ユヴァル・ノア・ハラリ, サピエンス全史, 河出書房新社>Amazon:サピエンス全史 ユヴァル・ノア・ハラリ]] -[[Dan Brown, ORIGIN, 角川書店, 2018>Amazon:ダン・ブラウン オリジン]]((ORIGINは小説ですが、AIの現在（すでに実現されていること）と未来（それを目指して研究されていること）について、綿密な取材にもとづいて書かれたもので、未来を哲学したい人におすすめの一冊)) ~ ***テクノロジーの外部費用 何かを作り出す際、その生産に直接関わる材料費や人件費以外に、それがもたらす副作用の処理に必要となる費用を''外部費用''といいます。一般に、テクノロジーの発展に伴って生じる外部費用は、テクノロジーによって生み出される利益よりも小さいと想定されているので、例えばそれが公害をもたらしたとしても、その処理にかかる費用は吸収できる・・と考えられています。短期的にはそうかもしれませんが、長期的には（持続可能かと言えば）そうではありません。 新たなテクノロジーが登場すれば、それがもたらす社会的な問題を解決するために、新たなインフラ、新たな法律とその番人が必要になる・・その負担は、テクノロジーの収益が社会にもたらす利益よりも結果的には大きくなります。 特殊なテクノロジーによって、副次的に惹き起こされた無秩序な状態は 別のテクノロジーを応用すれば一時的に解決がつくことはつく。 ところが、解決を得たのはいいとしても、それに必ず伴うのは 以前にもまして大きな無秩序の出現である。 再び、ジャック・エリュールの言葉を借りよう。 「技術が連続して生まれるのは、それ以前の技術が、 必然的に次の技術を生まざるを得ないように仕向けているからだ」 ・・これこそ、（熱力学）の第２法則であり、それ以外の何ものでもない。 &small(エントロピーの法則, ジェレミー・リフキン); テクノロジーは未来を開いている・・と思われていますが、テクノロジーは、自らが生み出す無秩序（高エントロピー）を処理するために、さらに新しいテクノロジーを生み出さざるを得ないのです。つまり文明は「成長」という名の負のスパイラルの中にあるのではないか・・という視点も必要です。 しかし、外部費用が嵩むとはいえ、現実にはテクノロジーの進歩を止めることはできず、私たちはこの先 AIとの共存関係を最適化すべく学び続けなければなりません。みなさんの今後にとっても、AI に関する知見、AI を適正に活用する能力は必須のものとなります。 同時に、AI と人間とが、うまく協働できる社会の実現を目指すべく、自らを相対化し（「人間とは何か」についてメタレベルで思考し）、自らの動機で学び続けて欲しいと願っています。 ~ ~ // 参考：[[note/FD研修会2023]] 転記済み ~