#author("2023-06-03T15:00:41+09:00;2023-04-27T20:00:47+09:00","default:inoue.ko","inoue.ko") #author("2023-09-03T08:57:13+09:00;2023-04-27T20:00:47+09:00","default:inoue.ko","inoue.ko") *情報災害 Information Disaster｜Information hazard（Infohazard） ~ 情報災害（Information Disaster｜Infohazard）という言葉は、日本ではまだ聞き馴染みのない言葉で、普通に検索すると「災害情報」として地震、台風、河川の氾濫といった内容の記事がヒットしますが、ここでお話しする情報災害とは「情報環境において、情報関連テクノロジーや、それに関わる人間という生物が引き起こす様々な災害・潜在的危険性」を意味しています。 通信網を含む情報媒体、媒体上を行き来する言葉、文字、画像、音声など、我々の視聴覚に関わるあらゆる存在が、情報災害をもたらす可能性を秘めています。 ~ ~ **自然環境と情報環境 自然環境において様々な災害が発生するのと同様、人類がその文明において人工的に作り出した「__[[情報環境]]__」（あるいはメディア環境）においても、様々な災害が発生していて、今日、その量は加速度的に増え続けています。 [[マクルーハン>Google:マーシャル マクルーハン]]流に言えば、情報メディアは我々の身体の拡張で、具体的には、情報の入力に関わる感覚器官、処理・記憶に関わる脳、そして音声や図像の出力に関わる声帯や手指を機械的・電子的に拡張したものにあたります。 情報環境の存在は、我々が言語を使い始めた時代にまで遡ります。目に見えないモノを意識に現前させるだけでなく、それを用いた思考、虚構の構築が可能になったことで、我々は生の自然環境との関係を絶って、言語というフィルターを介した第２の自然（疑似現実・__[[共同幻想]]__）に生きる存在となったのです。 &small(「嘘」は言葉の誕生とともにあります。我々がレアな環境との関係を切った時点で、様々な幻想が成立するようになったと言えます。); その後「__[[文字>Characters]]__」というメディアの発明によって、情報を遠隔に転送すること、また時間を超えて外部に記憶させることがすることが可能になりました。さらに、画像や音声を化学的・機械的・電気的な方法で扱うアナログメディアの時代を経て、現在では、視覚・聴覚に関わるすべての情報がデジタルメディアによって生成・処理・記録・出力・転送されるようになりました。 言葉の誕生・文明の誕生にはじまる「情報環境」は、デジタルテクノロジーを基盤とする第２の自然環境（[[デジタルネイチャー>Google:デジタルネイチャー]]）として立ち現れているのです。 しかし「情報災害」という言葉が未だ聞きなれない言葉であるという事実は、そこに制御不能な災害やハザード（潜在的危険性）が存在していることを我々自身が包括的に認識できていないことを意味します。 インターネット、AI・・情報環境は身体の拡張を超えて、つまり人間による制御の限界を超えて、その存在感を増しています。現状の包括的な把握と知見の共有、そして新たな環境とどのように共生すべきかを考える必要があります。 ~ ~ **情報環境の現状 21世紀、すべての人が情報発信できるという大きな情報環境の変化が起こりました。そして2022年 生成系AI の登場で、すべての人が__[[作文・プログラミング>ChatGPT]]__・__[[作画>StableDiffusion]]__・作曲を含む知的作業を超高速で実現できるようになりました。 著作権侵害、迷惑動画の投稿、個人情報の流出、誹謗中傷、画像の悪用、盗撮、そして AI が暴走する可能性など、様々な社会問題を引き起こしています。 例えば、イタズラ感覚でSNSに投稿した動画が企業に大きな損失を与え、高額の賠償請求を受けるなどの問題は、学校の情報リテラシー教育だけで防げるものではありません。誰もが銃を持てる社会と同じ状況になっているのです。 物理的な兵器だけでなく、AIを含む情報通信機器も様々な破壊行為の道具になるのですが((スマホも含むコンピュータデバイスは戦争にも使える危険な道具であって、実際その輸出においては、外為法や米国輸出管理関連法規による規制の対象となるものがあります。))、現代社会はそれを子供にも持たせている状況です((通信契約には年齢に関する制約があり、スマホには保護者による機能制限が可能、また多くのSNSは13歳未満の利用を禁止していますが、情報通信機器自体の購入・所有は誰にでもできます。))。自動車の運転やドローンの操縦には（後付けで）免許制度が整備されましたが、パソコン・スマホの利用に関する免許制度はなく、おそらくこの先も整備されることはないでしょう((パソコン利用に関する免許制度は、国民の賛同も得られないでしょうし、今更そんなことをしたら一時的に経済活動が止まってしまいます。法制度の整備はプロバイダ等の事業者向けのもの・・が限度でしょう))。私たちは情報通信機器がもたらす災害の大きさを低く見積もっているといえます((同じ情報通信機器でも、１W出力以上の無線機の使用には免許が必要です（電波法）。))。 ちなみに、個人情報暴露などの問題は、例えば「芸能人と報道人」の間には昔からあったもので、芸能人には「自分がメディアに晒されることについての覚悟と対応力」があり、報道人には「報道が社会に与える影響についての知識と経験」がありました。しかし、誰もが「放送・出版局」になれる現代社会において、すべての人に「芸能人並みのメンタルと対応力」や「報道人並みの知識と覚悟」が備わっているわけではありません。 誰もが簡単に情報発信できるようになったこと、さらに AI が知的な情報を超短時間で生成できるようになったこと、この劇的な情報環境の変化は多くの人にとってポジティブに歓迎された一方で、多くの人にネガティブな災害を引き起こしているというのが現状ではないでしょうか。電話の発明が「誘拐」という犯罪を生んだように、新たなテクノロジーは常に新たな問題を生みます。 自然環境の変化はゆっくりですが、情報環境の変化は劇的で、インターネットはこの20年、生成系AI はわずか１年足らずで世界を変えました。これは、とんでもなく大きな社会構造の変化なのです。 情報環境の変化に適応するには、変化の本質を的確に捉え、その知見を共有するための情報デザインと、それに対処するためのリテラシー教育が必要です。 ~ ***悪の凡庸さ Banality of Evil 「・・はそういうものだ」「多分・・だろう」という「考えない態度」、さらに言えば、「自分たちは正しいことをしている」という「思い込み」、悪は、平凡な人間の ''思考停止・想像力の欠如'' によって生み出されています。 悪はシステムを無批判に受け入れる精神（thoughtlessness）がもたらす __[[ハンナ・アーレント>Google:悪の凡庸さ ハンナ・アーレント]]__ 悪の凡庸さ｜イェルサレムのアイヒマン 誰もが無意識のうちに悪に加担している、無自覚な行為が重大な事故に結果することがある・・。人間は、この事実を強く自覚する必要があります。 //-例えば、社員が上司の命令に従って書類を廃棄（証拠を隠滅）する //-例えば、真偽を確認しないままフェイク情報を SNSで拡散してしまう //簡単な例を紹介しましょう。交通事故が起こると、それを目撃した善意の第三者が通報します。１事故１件の通報であればいいのですが、複数の目撃者が同時に通報すると、受けた側で同一の事故であるかの確認作業が必要になります。事故の規模が大きくなると混乱はより大きくなります。善意の通報であっても、それが混乱を招き、対応を遅らせることがある。災害はこうして拡大するのです。 ~ ***情報災害の例 -自然環境が引き起こす通信障害（通信機器の故障、ケーブル断線など） --__[[太陽フレア>https://swc.nict.go.jp/]]__ &small(太陽フレアは電子情報環境特有の脅威です。); --地震 --水害 --火災 -人間が引き起こす災害 --トラフィック輻輳（アクセス集中） --人的ミスによる通信障害（操作ミス・設定ミス・プログラムのバグ） --サイバー攻撃（Dos攻撃、データ改ざん、窃取、破壊） //違法・訴訟の対象 --対象を直接攻撃して機能不全に陥れる情報の流布（例：誹謗中傷） --対象を間接的に機能不全に陥れる情報の流布（例：爆破予告） --対象のプライバシーを侵害する情報の流布（例：監視・盗撮） --戦争や犯罪の契機となる情報の流布（例：銃器や爆弾の設計図） --それが与える影響についての想像力を欠いた情報の流布（例：迷惑動画） --事件・事故を引き起こす可能性のある情報の流布（例：フェイク） &small(流言（デマ）やフェイク画像は、言語の誕生と同時。100年前の関東大震災の時にもフェイク画像は作られています。デマは正しい情報よりも６倍のスピードで100倍広い範囲に広がると言われています。); --騒音 &small(環境基本法における典型７公害（大気汚染・水質汚濁・土壌汚染・騒音・振動・悪臭・地盤沈下）の一つ); -AIが引き起こす災害 --自動生成されたコードの論理的バグがもたらすシステム障害 --間違った情報、誹謗中傷の流布（人間のチェックをすり抜けた場合） -その他 // これは違法性あり --勤務時間外の業務連絡（メール・SNS等を用いた PUSH送信） // 違法性なし --氾濫する情報（取捨選択に時間的・人的コストを要する） //例：各所から届く大量の業務メール、迷惑メール //例：昭和の「三億円強奪事件」では、モンタージュ写真を公開したことによって、通報が大量に届いて、捜査を遅延させる原因になった --誤解を与える情報（例：TVドラマの一部シーンをを現実と勘違い） --必要な行動を制限してしまう情報（例：現状に合わない法律・規定） --身の危険につながる情報取得（例：犯人の顔を見た、機密情報を知った） （・・整理途上です。） ~ ***デジタルデバイド（情報格差） 急成長するデジタル情報環境においては、デバイスとネットワークの活用に長けた人と、そうでない人（情報弱者）が共存していて、その格差は深刻な状況となりつつあります。 自然環境に対する人間の適応能力は、地域や年齢等によって大きく異なることはありませんが、情報環境に対しては、地域格差・世代間格差のみならず、教育格差や経済格差による適応力の違いが大きくなります。 都市部で働く人と、山奥で自給自足の暮らしをしている人とでは、情報災害に遭遇する確率は大きく異なりますが、マイナンバーで個人がデジタル管理される現在では、すべての人がコンピュータと通信に関する一定の知識と技術を身につける必要が生じます。これは、かなり緊急性の高い事案かと・・ ~ ~ **防災デザイン 防災とは、災害を未然に防ぐ、被害をゼロにすることを目的としています。しかし、自然災害と同じく、情報災害にも「想定外」があります。というより、災害は想定外のところからやってきます。情報災害に耐えうるシステムの設計・構築、情報災害対策としての法の整備が、防災の主たるテーマとなりますが、災害を０にすることは事実上不可能であるということも踏まえる必要があります。 ~ ***情報災害に耐えうるシステムの設計 -太陽フレア（磁気嵐）・地震・水害・火災等に耐えるハードウエア -トラフィック輻輳に耐えるシステム設計 -人的ミスを発生させないシステム設計（[[ポカヨケ>Google:ポカヨケ]]） -AI の誤判断・ロボットの誤動作を防止するシステム設計 -サイバーセキュリティー対策 ~ ***情報災害対策としての法の整備 -情報システムの設置・運営者が留意すべき事項をまとめた法の整備 -情報の発信者が留意すべき事項をまとめた法の整備 -情報災害の被害者を出さない（守る）ための法の整備 ~ ~ **減災デザイン 災害発生を防ぐ「防災デザイン」に対して、災害が発生したときに、いかに被害を小さくするかを考えるのが「減災デザイン」です。 ~ ***情報災害に関わる情報の共有 最も重要なことは、社会の構成員全員がそのリスクを認識することです。潜在的な災害の危険性に関する認知度を向上させるべく、様々な教育的取り組みと、ハザードの見える化が急務と言えるでしょう。 -情報リテラシー教育 --加害者にならないための教育 --被害者にならないための教育 -潜在的危険性の見える化（自然災害におけるハザードマップ） ~ ***自助・共助・公助のしくみづくり -''自助''｜自ら取り組む --情報リテラシーを身につける（加害者にならないために） --情報デバイスのセキュリティー強化（被害者にならないために） -''共助''｜地域（リアル＋バーチャル）共同体 --地域（リアル）の絆が有効に機能するよう、情報プラットフォーム（物理的な掲示板・回覧板、Webポータル、SNS等）を設置する --地域（リアル）高齢者等を対象とした ICT関連研修・学習機会の創出 --地域（バーチャル）の絆が有効に機能するよう、Wiki、リポジトリ等の情報プラットフォームを整備する -''公助''｜行政、公的機関 --公的な研修・学習機会の創出 --サイバー犯罪対策の強化 --情報災害に強いメディアの確保 ＞ アナログの電波を使うラジオ ~ ~ **意識を改革する 情報災害は物理災害ではなく「共同幻想」において存在するものなので、考え方を変えるだけで、災害が災害ではなくなる・・ということもあり得ます。 ~ ***クローズドからオープンへ 個人情報保護法の制定から 20年。世の中は情報をクローズドに保護することがデフォルトになり、組織の中で生み出される情報についても、その取り扱いをクローズドにすることに意識が行きがちですが、そもそもその情報は「秘密」にする必要あるのか（あるいは秘密にできるのか）・・ということを一度冷静に考えてみる必要を感じます。 組織内で共有すべき情報のセキュリティを強化すれば、アクセスに手間がかかります。結果、情報の共有は進まなくなり、組織のパフォーマンスは下がります。可能な限り、オープンな場に情報を置いて共有する方が効率的だし、組織の活性も上がるように思います。 これは個人情報についても同様です。インターネット以前の社会では、卒業アルバムに全卒業生・教職員の住所や電話番号が掲載されていたし、電話帳にもそれらが掲載されていました。結果、連絡が簡単にとれることで助け合いがスムーズにできる・・、また、お互いの「位置」がわかることで「距離の取り方」が調整できるというメリットもありました。 ストーカー問題も今にはじまった話ではありません。「◯◯さんの自宅住所」は尋ね歩けばわかるものでしたし、「◯◯さんの行動」も興信所を使えば詳細にわかりました。ICT以前の社会でも、妙な輩につきまとわれるということは多くの人が経験するとともに、その免疫力を鍛えていました。また、地域社会がオープンな絆を持っていた（セーフティーネットが存在していた）ため、妙な輩が出没すれば近所の人が追い払ってくれる・・ということも可能でした。共同体がオープンに機能していれば警察（法律）だけに依存する必要はありません。 コンピュータ・デジタルカメラ・インターネットが登場して変わったのは、検索・複製・拡散技術の飛躍的な向上や低価格化など、速度と量の変化であって、「かつては得られなかったものが得られるようになった」というわけではありません。単に「簡単に」得られるようになった・・という変化です。 情報というものは複製・共有されてはじめて「存在」するもので、本質的にクローズドにできるものではありません。誰もアクセスできない情報は、情報として機能していないのと同じです。 農業社会から工業社会にかけて、長きにわたって「モノを占有する」発想に洗脳された現代人は、情報をも同様に占有されるべきものと思いがちですが、インターネット登場後のネット文化圏には、国境もなければ、占有の発想も馴染みません（インターネット自体が「共有」を目的につくられているので・・）。 情報をクローズドにして関係を切っていく・・ではなく、情報をオープンにして関係を再構築する・・というオープン・ファーストな発想に切り替える方が結果的に組織のパフォーマンスの向上や、社会の「動的」安全性の向上につながるのではないでしょうか。 津波対策のためにでっかい防波堤（巨大なゴミ）を作って海を見えなくしてしまうより、遠くまで海が見えて、避難経路も見えやすい方が、減災につながる・・という発想と同じです。 ~ ***法律（マニュアル）ではなくデザインで解決する 2023年現在、放送事業者などは、免許・資格などの法的規制の下で情報発信を行っていますが、インターネットを利用した情報発信は、免許も資格もいらず、また匿名発信((インターネット接続は IP アドレスを利用するので、厳密に言えばインターネット空間に匿名性はないのですが、法的な手続きを経て情報開示請求がない限り、プロバイダも発信者の情報は開示しません。))も可能な状態です。情報環境は事実上、制御不能な状態になっているといえます。改正プロバイダー責任制限法など、法的な仕組みのアップデートも進んでいますが、自然災害を法律で防げないのと同様、情報環境の変化に伴う「情報災害」も法律ですべてを防げるものではない・・ということを踏まえる必要があります。 マニュアルがなくとも使い方がわかるようにするのがデザインの目指すところだとすれば、情報災害も、法律（マニュアル）とは異なる方法で問題を減らすという発想に可能性を感じます。 一般に法律は「やってはいけないこと」にフォーカスして作られますが、外来生物の持ち込みに関して「ブラックリスト」よりも「ホワイトリスト」の方が有効となるように、禁止事項をいくら列挙しても抜け道はいくらでもできてしまうし、その都度、禁止項目が増えるという状況では、「そんな法律があるとは知らなかった」が常態化してしまいます。 情報災害の加害者とならないための 情報リテラシー教育のデザイン、情報災害の被害者とならないための「ポカヨケ」を含むユーザ・インターフェイスのデザイン、そして、悪意のある情報通信技術の利用については、それをいち早く検出してブロックするとともに、アラートを発信する AIシステムのデザインなど、情報弱者の存在を前提とした様々な対策が、情報デザイナーに求められていると言えるでしょう。 関連ページ：[[社会制度>SocialInstitutions]] ~ ***人間にとって「言葉とは何か」をメタレベルで認識する 人は身体的暴力よりも、言葉の暴力に強くダメージを受けます。生物としては明らかに狂っています。そのような倒錯が生じるのは、人が言語というフィルタ越しに世界を認識するとともに、他者の言葉を鏡として「私」を認識しているからです。あなたが認識している「私」は「他者が私のことをどう思っているか」、すなわち「自己像（セルフイメージ）」に過ぎません。「私」とは、その時その場所の人間関係において他者という鏡に映ったイメージに過ぎないのです。他人の言葉に傷つくという現象は幻想としての「私」に対して生じているに過ぎず、他者からの誹謗中傷（言葉）は、無視しても私の生命には支障はありません。あなた自身が情報をブロックすれば精神的ダメージは避けられます。物理的な弾丸とは違うので、防弾チョッキのようなものは不要です。 私自身の経験で言うと、イヤな教師・上司（存在自体が情報災害）に対して、「視界に入らないようにする」、「話は聞いたふりだけする」、「その名前を話題にしない」など、あらゆる情報をこちら側でブロックすることで自分のメンタルが壊れないように工夫していました。見ない・聞かない・関わらない・・。 あらゆるトラブルは、人間が言語に依存することによって生じています。複雑な社会を生き延びるには言語は欠かせないものですが、言語以外のコミュニケーション手段（舞踏、音楽、絵画）のウエイトを大きくすることで、相対的に言語を通じて生じる負荷を減らすことも可能になるのではないでしょうか。 現代社会のコミュニケーションは「言語」に依存しすぎた状況にあります。人類の起源に遡れば、狩猟採集生活におけるバンド内のコミュニケーションは、非言語的なものがかなりのウエイトを占めます。BAND が楽しいのは、言語以外の方法で「共感」を形成しているからです。 ~ ***インターネット・AI との付き合い方 AI の社会導入については「不適切な発言をいかになくすか」ということが当然のように議論されています。この議論の方向性に違和感を感じる人は少ないのかもしれませんが、そもそもインターネットは管理者不在の自律分散システムで、そこに氾濫する記事情報で学習した AI は当然間違うこともある。このようなテクノロジーに正しさや倫理観を求めるよりも、無法地帯がもたらす多様な情報に対して、__利用者の側が__適応する力を身につける方が賢明ではないでしょうか。 ブラックリストを使って不適切な発言を排除したり、間違いった情報を流さないようにチェック機能を付加したりと、ある程度の制御はできたとしても、そうした問題を０にすることはできないでしょう。現に、いくらセキュリティを強化にしても、情報流出は絶えません。原因の多くは、それを扱う人間のミスや悪意によるものです。要するに人間の方が問題なのです。 よく故障する機械と、めったに故障しない機械、どちらが危険だと思いますか。私は「めったに故障しない機械」の方が危険だと思います。よく故障する車に乗っていると、利用者は常に危険を意識して適応するようになるし、車の構造・機能に関する知識も豊かになりますが、めったに故障しない車に乗っていると、利用者は「車まかせ」になって学ばなくなります。同様に、エラーの確率が低く「AI は信用できる」と人々が思い込んでしまうことの方が、よほど危険なのではないでしょうか。利用者が危険を意識しつつ成熟することの方が重要です。 教育は「機械」に対してではなく「人間に対して」行う。 「インターネットも AI も所詮そんなものだ」という前提で付き合う方が、情報を鵜呑みにしない免疫力が鍛えられるし、逆に、AI のとんでもない発言から新規性のあるアイデアが生まれる可能性もあります。 制御不能なものを法律や追加システムで制御しようとするのではなく、それを利用する側が取捨選択できるように「ブロック」や「ゾーニング」の仕組みを作る、利用する側の民度を上げる・・。教育は基本的に「人間の側の成熟」を目的としてしっかり行うことが必要であるように思います。 ~ ~ **APPENDIX ***関連ページ -[[情報環境]] -[[情報理論>InformationTheory]] -[[情報デザイン>InformationDesign]] -[[多様性>Diversity]] -[[社会制度>SocialInstitutions]] -[[AI vs 神>AI_vs_God]] ~ ***ニック・ボストロムの定義 2011 年 哲学者ニック・ボストロムは、情報災害を以下のように定義しました。 情報災害とは、危害を引き起こす可能性がある、 または一部のエージェントが危害を引き起こす可能性がある (真の) 情報の流布から生じるリスク An information hazard, or infohazard, is "a risk that arises from the dissemination of (true) information that may cause harm or enable some agent to cause harm". Nick Bostrom in 2011, ボストロムによれば、それは以下のように分類されます。 -Data hazards: 致命的な病原体のDNA配列など、他人に危害を加える可能性のあるデータ -Idea hazards: 実現すれば他人を傷つける可能性のある一般的な知見。その一例が「核分裂反応を利用して爆弾を作る」というものです。このような知見は、リソースの豊富なチームが核爆弾を開発するのに十分な情報になります。 -Knowing-too-much hazards: 知り過ぎた人が危険にさらされるという情報災害。例えば1600 年代、オカルトに詳しい女性は、魔女として告発されるリスクが高かった。 出典：https://en.wikipedia.org/wiki/Information_hazard ~ ~ ~