#author("2023-02-10T19:18:33+09:00","default:inoue.ko","inoue.ko")
*AI は神になるのか？
~
はじめに議論の前提を確認します。私は人間という存在を「本能が壊れた生き物」であり、本能に替わるものとして「言語によって構造化された擬似現実（[[共同幻想]]）」を共有することで、自然界に適応している・・と考えています((本能のタガが外れていることは簡単に説明できます。人間は未来という見えないものを想像し、悲観し、自殺することがあります。他の生物では自殺はあり得ません。))。
神々の物語（フィクション）は、世界各地で同時多発的に進化した言語ととにあるもので、人間が、異なる言語（文化）で分断されている以上、その世界認識の違いや価値観の違いがもたらす揉め事を 0 にすることはできません。
//鯨を食べることが良いか悪いか・・という議論は、環境問題ではなく、単に文化の違いによるものです。文化人類学の登場以前、人間は一歩引いて自らの文化を相対化して見ることが苦手でした。強い集団（マジョリティー）が、弱い集団（マイノリティー）を植民地化する（言葉を奪い、価値観を強制し、奴隷化する）ようなことに対して、マジョリティー側の中から疑義を申し立てる人も少なかったのです。しかし文化人類学、構造主義の思想が広まると同時に、文化には優劣はなく、お互いの文化・価値観を認めるべきである、多様性を維持すべきである・・という発想は一般的なものになりました。
//グローバル化が推進される中で「世界全体で価値観を共有しよう」という言説は、一見問題がないようにも見えますが、個々の集団が異なる言語を使っている以上（異なる文化を持つ以上）、100%の価値観共有は無理な話です。言語というものは壊れた本能に替わって擬似的に世界を認識するためのフィルターのようなもので、世界をどう切り分けるかは恣意的なものです。正確な翻訳というのは、はじめからできない運命にあって、結果、異なる共同幻想を持つ者同士が 100%わかりあうことはできません（ミクロなレベルでは、家族や友人間でも同じです）。
重要なことは、一つの言語、一つの共同幻想で世界を統一することではなく、異なる言語、異なる共同幻想、異なる価値観の存在を、お互いに認めあうということ。「わかりあえるはずだ」という前提に立つのではなく、「わかりあえない」ことを前提に、言葉を交わしながら共有部分を広げるとともに、お互いの価値観の違いを認め合うしかありません。世界中のみんなが、自らを相対化し、多様性を認めるというメタレベルの思考ができるようになることが、重要であると考えています。
~
***神は人類最初の発明
神々の物語というフィクションをみんなが信じるという__[[「認知革命」>Google:認知革命]]__以後、人類は「神の言葉」に従って物事を判断していました。
神の存在を措定して、神の教えに従って社会を統治することは、法を整備するよりもシンプルかつ効率的です。
悪いことすると罰があたりますよ。天国に行けませんよ。
神を信仰すること自体には問題はなく、神を共有する集団内部の秩序維持にはコストパフォーマンスのよいアイデアとなるかもしれません。
しかし異なる神を崇拝する集団間が対峙したばあい、一方の神が他方の悪魔とみなされる場合があります。歴史を見れば明らかなとおり、宗教と戦争とは無関係ではなく、神と悪魔は同時に誕生します((「宗教の対立が戦争の原因である」と言われることがよくありますが、戦争は非常に複雑な社会現象で、宗教だけに原因を求めるのは控えるべきでしょう。日本人の多くは「宗教」という言葉にアレルギーがあるようで、それを怪しいものと感じている方も多いようですが、超越的な存在を措定し、それを信仰することによって集団の秩序を維持するという発想は、人類に共通の普遍的なアイデアと言えます))。
~
***神のようにふるまう AI
現代社会では、サイエンス、テクノロジーという名のグローバルな「原理」が、私たちの思考を洗脳しています。
私たちは、大量のデータ（根拠）にもとづく、収益の最大化や、効率アップを目指して、AI の判断を仰ぐようになっています。
AI の提案にもとづく経営判断、AIの提案にもとづく採用人事、AIの提案にもとづく医療行為、AIの提案にもとづく教育（学習）・・、より具体的には「AIの提案にもとづいて犯罪が起こりそうな場所をパトロールする」などの仕組みが、すでに運用されています。
あらゆる商品の宣伝文句として「AI搭載」がまかりとおる状況は、すでに人類が「自分で考えるよりAIに任せた方がいい」という思考停止状態になっていることを示しています。
例えそれが科学によって裏打ちされたテクノロジーであっても、「それを無条件に信用する」社会は、「宗教」に支えられた社会と同じ問題を孕むことになります。異なる「神」を崇拝する者同志が争うのと同様、異なるシステムに依存する者同士は争うことになります。つまり AI を「神」として無条件に受け入れる社会には、同時に「悪魔」の AI が誕生します((我々の思考は二項対立が基本で、「神 / 悪魔」の概念は「生 / 死」と同様に、同時に生成されます))。
//もしAIが「地球環境の持続可能性を最大化する」課題に取り組んだら、様々な問題の根源に「人類の行い」があることを見出し、「人類を滅亡させよ」という解を得る可能性もあります。
//データの与え方が不適切であれば、AI はとんでもない見当違いの答えを出すことが予想されます。AIは「意味」というものを理解して判断しているのではなく、与えられたデータから統計的な処理を行なっているに過ぎないからです。
居眠りする人間よりも AI 自動運転の方が事故は少ない。AI よりも「ヤバイ人間」の方がよほどタチが悪い・・だから AI を人間のコントロー下には置かず、AI を神として位置付ける方が安全だ・・という議論もありますが、私は「神と悪魔は同時に誕生する」と考えるので、AI の起動・停止だけは、人間のコントロール下に置くべきであるという立場をとります。
AI が自分自身をアップデートしはじめる（シンギュラリティーの一種）前に、AI が暴走する前に、生じうる様々な問題を想像して、それに備える必要があるでしょう（生命倫理の問題と同様、利害が衝突することは容易に想像できるので、実際にはかなり困難なことだと思われますが・・・）。
//-AI 自身の判断で勝手に起動するプログラムを作ってはいけない
//-地球環境を汚染してはいけない（生態系にインパクトを与えてはいけない）
//-人を殺してはいけない((これは「オーナーの身を守る」ことが最優先されるプログラムにおいては、''採用されないルール''となります。))
//~
//#youtube(y3RIHnK0_NE)
//~
//このテクノロジーを無批判に受け入れることには危険を感じます。
AI をどのような存在として、この社会に組み入れるか・・技術の進歩の方が早過ぎて、社会的な合意形成ができていない状況を重く受け止めて、みんなが知見を深める場を設けていくことが必要です（この授業もその一環です）。
~
~
