LogoMark.png

情報災害 のバックアップ(No.11)


情報災害

Information Disaster|Information hazard(Infohazard)

情報災害(Information Disaster|Infohazard)という言葉は、日本ではまだ聞き馴染みのない言葉で、普通に検索すると「災害情報」として地震、台風、河川の氾濫といった内容の記事がヒットしますが、ここでお話しする情報災害とは「情報環境において、情報関連テクノロジーや、それに関わる人間という生物が引き起こす様々な災害・潜在的危険性」を意味しています。



自然環境と情報環境

自然環境において様々な災害が発生するのと同様、人類がその文明において人工的に作り出した「情報環境」(あるいはメディア環境)においても、様々な災害が発生していて、今日、その量は加速度的に増え続けています。

マクルーハン流に言えば、情報メディアは我々の身体の拡張で、具体的には、情報の入力に関わる感覚器官、処理・記憶に関わる脳、そして音声や図像の出力に関わる声帯や手指を機械的・電子的に拡張したものにあたります。

情報環境の存在は、我々が言語を使い始めた時代にまで遡ります。目に見えないモノを意識に現前させるだけでなく、それを用いた思考、虚構の構築が可能になったことで、我々は生の自然環境との関係を絶って、言語というフィルターを介した第2の自然(疑似現実・共同幻想)に生きる存在となったのです。

その後「文字」というメディアの発明によって、情報を遠隔に転送すること、また時間を超えて外部に記憶させることがすることが可能になりました。さらに、画像や音声を化学的・機械的・電気的な方法で扱うアナログメディアの時代を経て、現在では、視覚・聴覚に関わるすべての情報がデジタルメディアによって生成・処理・記録・出力・転送されるようになりました。

言葉の誕生・文明の誕生にはじまる「情報環境」は、デジタルテクノロジーを基盤とする第2の自然環境(デジタルネイチャー)として立ち現れているのです。

しかし「情報災害」という言葉が未だ聞きなれない言葉であるという事実は、そこに制御不能な災害やハザード(潜在的危険性)が存在していることを我々自身が包括的に認識できていないことを意味します。

インターネット、AI・・情報環境は身体の拡張を超えて、つまり人間による制御の限界を超えて、その存在感を増しています。現状の包括的な把握と知見の共有、そして新たな環境とどのように共生すべきかを考える必要があります。



情報環境の現状

21世紀、すべての人が情報発信できるという大きな情報環境の変化が起こりました。そして2022年 生成系AI の登場で、すべての人が作文・プログラミング作画・作曲を含む知的作業を超高速で実現できるようになりました。

著作権侵害、迷惑動画の投稿、個人情報の流出、誹謗中傷、画像の悪用、盗撮、そして AI が暴走する可能性など、様々な社会問題を引き起こしています。

例えば、イタズラ感覚でSNSに投稿した動画が企業に大きな損失を与え、高額の賠償請求を受けるなどの問題は、学校の情報リテラシー教育だけで防げるものではありません。誰もが銃を持てる社会と同じ状況になっているのです。

物理的な兵器だけでなく、AIを含む情報通信機器も様々な破壊行為の道具になるのですが*1、現代社会はそれを子供にも持たせていることになります*2。自動車の運転やドローンの操縦には(後付けで)免許制度が整備されましたが、パソコン・スマホの利用に関する免許制度はなく、おそらくこの先も整備されることはないでしょう*3。私たちは情報通信機器がもたらす災害の大きさを低く見積もっているといえるでしょう*4

ちなみに、個人情報暴露などの問題は、例えば「芸能人と報道人」の間には昔からあったもので、芸能人には「自分がメディアに晒されることについての覚悟と対応力」があり、報道人には「報道が社会に与える影響についての知識と経験」がありました。しかし、誰もが「放送・出版局」になれる現代社会において、すべての人に「芸能人並みのメンタルと対応力」や「報道人並みの知識と覚悟」が備わっているわけではありません。

誰もが簡単に情報発信できるようになったこと、さらに AI が知的な情報を超短時間で生成できるようになったこと、この劇的な情報環境の変化は多くの人にとってポジティブに歓迎された一方で、多くの人にネガティブな災害を引き起こしているというのが現状ではないでしょうか。電話の発明が「誘拐」という犯罪を生んだように、新たなテクノロジーは常に新たな問題を生みます。

自然環境の変化はゆっくりですが、情報環境の変化は劇的で、インターネットはこの20年、生成系AI はわずか1年足らずで世界を変えました。これは、とんでもなく大きな社会構造の変化なのです。

情報環境の変化に適応するには、変化の本質を的確に捉え、その知見を共有するための情報デザインと、それに対処するためのリテラシー教育が必要です。

悪の凡庸さ Banality of Evil

誰もが無意識のうちに悪に加担している、無自覚な行為が重大な事故に結果することがある・・。人間は、この事実を強く自覚する必要があります。

悪はシステムを無批判に受け入れる精神(thoughtlessness)がもたらす

ハンナ・アーレント 悪の凡庸さ|イェルサレムのアイヒマン

情報災害の例

デジタルデバイド(情報格差)

急成長するデジタル情報環境においては、デバイスとネットワークの活用に長けた人と、そうでない人(情報弱者)が共存していて、その格差は深刻な状況となりつつあります。

自然環境に対する人間の適応能力は、地域や年齢等によって大きく異なることはありませんが、情報環境に対しては、地域格差・世代間格差のみならず、教育格差や経済格差による適応力の違いが大きくなります。

都市部で働く人と、山奥で自給自足の暮らしをしている人とでは、情報災害に遭遇する確率は大きく異なりますが、マイナンバーで個人がデジタル管理される現在では、すべての人が一定の情報通信技術を身につける必要が生じます。



防災デザイン

防災とは、災害を未然に防ぐ、被害をゼロにすることを目的としています。しかし、自然災害と同じく、情報災害にも「想定外」があります。というより、災害は想定外のところからやってきます。情報災害に耐えうるシステムの設計・構築、情報災害対策としての法の整備が、防災の主たるテーマとなりますが、災害を0にすることは事実上不可能であるということも踏まえる必要があります。

情報災害に耐えうるシステムの設計

(書きかけです)

情報災害対策としての法の整備

(書きかけです)




減災デザイン

災害発生を防ぐ「防災デザイン」に対して、災害が発生したときに、いかに被害を小さくするかを考えるのが「減災デザイン」です。

情報災害に関わる情報の共有

最も重要なことは、社会の構成員全員がそのリスクを認識することです。潜在的な災害の危険性に関する認知度を向上させるべく、様々な教育的取り組みと、ハザードの見える化が急務と言えるでしょう。

自助・共助のしくみづくり

(書きかけです)



意識を改革する

情報災害は物理災害ではなく「共同幻想」において存在するものなので、考え方を変えるだけで、災害が災害ではなくなる・・ということもあり得ます。

クローズドからオープンへ

組織が管理する情報の多くが、クローズドをデフォルトとしていますが、そもそもその情報、「部外秘」にする必要あるのか。実際には、大半の情報はオープンにしても問題ないのかもしれません。オープン・ファーストに切り替える・・風通しをよくする方が結果的に組織のパフォーマンスの向上につながるように思います。

(書きかけです)

法律ではなくデザインで解決する

マニュアルがなくとも使い方がわかるようにするのがデザインの目指すところだとすれば、情報災害も、法律(マニュアル)とは異なる方法で問題を減らせるようにすという発想が大事。

(書きかけです)


人間にとって「言葉とは何か」をメタレベルで認識する

人は身体的暴力よりも、言葉の暴力に強くダメージを受けます。生物としては明らかに狂っています。そのような倒錯が生じるのは、人が言語というフィルタ越しに世界を認識するとともに、他者の言葉を鏡として「私」を認識しているからです。あなたが認識している「私」は「他者が私のことをどう思っているか」、すなわち「自己像(セルフイメージ)」に過ぎません。「私」とは、その時その場所の人間関係において他者という鏡に映ったイメージに過ぎないのです。他人の言葉に傷つくという現象は幻想としての「私」に対して生じているに過ぎず、他者からの誹謗中傷(言葉)は、無視しても私の生命には支障はありません。あなた自身が情報をブロックすれば精神的ダメージは避けられます。物理的な弾丸とは違うので、防弾チョッキのようなものは不要です。

私自身の経験で言うと、イヤな教師・上司(存在自体が情報災害)に対して、「視界に入らないようにする」、「話は聞いたふりだけする」、「その名前を話題にしない」など、あらゆる情報をこちら側でブロックすることで自分のメンタルが壊れないように工夫していました。見ない・聞かない・関わらない・・。

あらゆるトラブルは、人間が言語に依存することによって生じています。複雑な社会を生き延びるには言語は欠かせないものですが、言語以外のコミュニケーション手段(舞踏、音楽、絵画)のウエイトを大きくすることで、相対的に言語を通じて生じる負荷を減らすことも可能になるのではないでしょうか。

現代社会のコミュニケーションは「言語」に依存しすぎた状況にあります。人類の起源に遡れば、狩猟採集生活におけるバンド内のコミュニケーションは、非言語的なものがかなりのウエイトを占めます。BAND が楽しいのは、言語以外の方法で「共感」を形成しているからです。

インターネット・AI との付き合い方

AI の社会導入については「不適切な発言をいかになくすか」ということが当然のように議論されています。この議論の方向性に違和感を感じる人は少ないのかもしれませんが、そもそもインターネットは管理者不在の自立分散システムで、そこに氾濫する記事情報で学習した AI は当然間違うこともある。このようなテクノロジーに正しさや倫理観を求めるよりも、無法地帯がもたらす多様な情報に対して、利用者の側が適応する力を身につける方が賢明ではないでしょうか。

ブラックリストを使って不適切な発言を排除したり、間違いった情報を流さないようにチェック機能を付加したりと、ある程度の制御はできたとしても、そうした問題を0にすることはできないでしょう。現に、いくらセキュリティを強化にしても、情報流出は絶えません。原因の多くは、それを扱う人間のミスや悪意によるものです。要するに人間の方が問題なのです。

よく故障する機械と、めったに故障しない機械、どちらが危険だと思いますか。私は「めったに故障しない機械」の方が危険だと思います。よく故障する車に乗っていると、利用者は常に危険を意識して適応するようになるし、車の構造・機能に関する知識も豊かになりますが、めったに故障しない車に乗っていると、利用者は「車まかせ」になって学ばなくなります。同様に、エラーの確率が低く「AI は信用できる」と人々が思い込んでしまうことの方が、よほど危険なのではないでしょうか。利用者が危険を意識しつつ成熟することの方が重要です。

教育は「機械」に対してではなく「人間に対して」行う。

「インターネットも AI も所詮そんなものだ」という前提で付き合う方が、情報を鵜呑みにしない免疫力が鍛えられるし、逆に、AI のとんでもない発言から新規性のあるアイデアが生まれる可能性もあります。

制御不能なものを法律や追加システムで制御しようとするのではなく、それを利用する側が取捨選択できるように「ブロック」や「ゾーニング」の仕組みを作る、利用する側の民度を上げる・・。教育は基本的に「人間の側の成熟」を目的としてしっかり行うことが必要であるように思います。




APPENDIX

関連ページ

ニック・ボストロムの定義

2011 年 哲学者ニック・ボストロムは、情報災害を以下のように定義しました。

情報災害とは、危害を引き起こす可能性がある、
または一部のエージェントが危害を引き起こす可能性がある
(真の) 情報の流布から生じるリスク
An information hazard, or infohazard, is 
"a risk that arises from the dissemination of (true) information 
that may cause harm or enable some agent to cause harm".
Nick Bostrom in 2011, 

ボストロムによれば、それは以下のように分類されます。

出典:https://en.wikipedia.org/wiki/Information_hazard