「身体性に着目したオンライン多次元演習教室の開発」の版間の差分

提供: JSSD5th2022
Jump to navigation Jump to search
(「身体性に着目したオンライン多次元演習教室の開発」を保護しました ([編集=管理者のみ許可] (無期限) [移動=管理者のみ許可] (無期限)))
 
(他の1人の利用者による、間の21版が非表示)
8行目: 8行目:
  
 
; Abstract
 
; Abstract
:We have developed rich media content that utilizes the newest technologies such as XR. It is an educational program by PBL. Companies and universities collaborate to create ideas and commercialize them. We were able to improve the practical ability of content development. We describe XR contents development and report on their practice.
+
:This research will generate a classroom that merges and integrates virtual and real spaces on the Web, called a metaverse, and constructs a multidimensional exercise classroom that changes according to learning objectives and learning methods. This research is the development of a highly immersive multidimensional exercise classroom that integrates virtual and real spaces, using Tele-Immersion and focusing on physicality.
  
 
==はじめに==
 
==はじめに==
 新型コロナウイルス感染状況下における学習環境の構築は、一気にオンライン学習への対応を余儀なくされ、パンデミック収束後も継続的な学習環境の構築を求められている。
+
 Covid19以降における学習環境は、一気にオンライン学習への対応を余儀なくされ、パンデミック収束後も継続的な学習環境の構築を求められている。<br>
しかし、Web 会議システムにより受講者が個別に扱われても、その人自身を感じることは乏しく、自宅において個別で学ぶことの疎外感、喪失感を減らすことは難しい。
+
 しかし、オンライン学習システムにより受講者が個別に扱われても、その人自身を感じることは乏しく、自宅において個別で学ぶことの疎外感、喪失感を減らすことは難しい。さらに演習科目においては、材料、道具等の代替措置、手順、能力の支援等は困難であることが判明した。<br>
HMD による VR,MR 上で施設内天球撮影や簡易的なCG 表現、コメント機能により一面的で臨場感、没入感に乏しく身体性を伴う学習内容に対応した遠隔型テレイマージョン施設はまだない。
+
 HMDによるVR,MR上で仮想の教室を構築する試みもあるが、教室内天球撮影や簡易的なCG表現、コメント機能により一面的で臨場感、没入感に乏しく身体性を伴う演習科目に対応した遠隔型テレイマージョン教室はまだない。
本研究は、今後進んでいくメタバース(Metaverse)と呼ばれる Web 上仮想空間と現実空間を融合しながら離れた場所と空間を統合した学習目的や学習方法によって可変する体験型歴史遺産教材コンテンツを構築するものである。リアルアバターを生成し、簡易モーションキャプチャと AI による動作補助、ハプティクスデバイス、3DCGI データを IP 高解像度配信することで、テレイマージョン(Tele-Immersion)による仮想と現実空間を統合した高度没入型の教材コンテンツの開発である。
+
本研究は、今後進んでいくメタバース(Metaverse)と呼ばれるWeb上仮想空間と現実空間を融合しながら離れた場所と空間を統合した演習教室を生成し、さらに学校種、授業目的や教科演習内容によって可変する多次元教室を構築するものである。<br>
 +
 アバターを生成し、簡易モーションキャプチャとAIによる動作補助、ハプティクスデバイス、3DCGIデータをIP高解像度配信することで、テレイマージョン(Tele-Immersion)による仮想と現実空間を統合した高度没入型の演習教室の開発である。
  
 
==目的と背景==
 
==目的と背景==
 本研究は、パンデミック以降の学習環境として仮想空間と現実空間を相互に結び、特定ないし不特定の学習者が身体を自在にふるまいながら、演習として学びの支援を行うシステムの開発である。従前の教室環境再現における共空間意識の再現は HMD による VR 環境や受講者同士のチャット等によるもので没入感に乏しく、空間として一人一人の存在が意識できなかった。
+
 本研究は、パンデミック以降の学習環境として仮想空間と現実空間を相互に結び、特定ないし不特定の学習者が身体を自在に振る舞いながら、演習として学びの支援を行うシステムの開発である。従前の教室環境再現における共空間意識の再現はHMDによるVR環境や受講者同士のチャット等によるもので没入感に乏しく、空間として一人一人の存在が意識できなかった。<br>
近年のテレイマージョン研究やテレイグジスタンス(Telexistence)研究、開発においては個別の仮想空間の活動よりも、同じ仮想空間に複数の個人が集結できる学習環境の構築が技術的に可能となった。パンデミック以降の学習環境は「教室」という概念を物理的な空間のみに依存するのではなく、必要に応じて家庭からでも学校からでも、あるいは病院や屋外からでも参加できる新たな学びのメタバース共有空間の構築に進化するだろう。
+
 近年のテレイマージョン研究やテレイグジスタンス(Telexistence)研究、開発においては個別の仮想空間の活動よりも、同じ仮想空間に複数の個人が集結できる学習環境の構築が技術的に可能となった。今後の学習環境は「教室」という概念を物理的な空間のみに依存するのではなく、必要に応じて家庭からでも学校からでも、あるいは病院や屋外からでも参加できる新たな学びのメタバース共有空間の構築に進化するだろう。<br>
つまり、学習者にとっては現実空間と地続きになるミラーワールドとしての新たな「教室」が現出し、学習者同士が同じ時間と空間を共有でき、疎外感や喪失感もない環境が構築できる。そのためには、身体性の拡張に伴う遠隔制御、リアルアバターの作成、空間認知のインタフェース、画像や音響制御の統合的開発が必要である。また、学習者個人の現実空間と仮想空間をシームレスに繋ぐ新たなデバイスの開発も重要である。
+
 つまり、学習者にとっては現実空間と地続きになるミラーワールドとしての新たな「教室」が現出し、学習者同士が同じ時間と空間を共有でき、疎外感や喪失感もない環境が構築できる。そのためには、身体性に着目し、触覚を中心に遠隔制御、アバターの生成、空間認知のインタフェース、画像や音響制御の統合的開発が必要である。また、学習者個人の現実空間と仮想空間をシームレスに繋ぐ新たなデバイスの開発も重要である。
  
 
==研究の概要==
 
==研究の概要==
 MR等の先端メディアを用いたコンテンツ開発は人工集中都市圏のみに限定されるものではなく,より地方都市に分散化される傾向がある。本研究の基になる厚生労働省の事業は,「実践型地域雇用創造事業」と呼ばれ,雇用機会の少ない地域が特性を生かし,雇用を生み出す取り組みを支援するものである。<br>
+
 これまでの情報空間において情報コミュニケーションはテキストや映像情報が多くを占めてきた。今後の情報空間が自分の身体的存在を拡張、移動できるような空間として存在すれば、現実と仮想の空間をシームレスにつなぐ多様な演習を多次元的に学ぶ教室が可能となる。<br>
参画する企業は佐賀県内のIT系4社からなる「次世代コンテンツ開発共同企業体」であり,共同研究者1名,実践指導員5名が大学施設内に研究開発室を備えた(図1)。<br> 
+
 本研究では大学内のスタジオにおいて、モーションキャプチャやハンドグローブによる動作と触覚の情報を収集、コンポジットし遠隔のユーザー同士が仮想教室空間において融合し授業や演習を行う。ユーザの体験環境はMR用HMD装着ないし、LEDパネルによる没入型ディスプレイを用いた簡易MRボックスを準備する。また、簡易モーションキャプチャとハンドグローブセットを装着することで動作や触覚による複合的な情報から遠隔における演習を現実と仮想空間の融合として効果的に行えることを実証したい。
ICTの高度な発達により,博物館,科学館等の学習展示物は体験型の形態を持つようになった。また,その見せ方や展示の工夫,ストーリーの導入など多様なコンテンツが導入されている。しかし,屋内展示教材に対し,歴史的,文化的に貴重な屋外資料を保存している屋外の学習向け教材コンテンツは,解説掲示パネルやスマートフォンARアプリとの連動による簡易的な情報提供に留まっている。本研究では屋外展示における仮想と現実の融合による質的に高度な教材を開発した。
 
  
 
==開発内容==
 
==開発内容==
 2015年に佐賀県の三重津海軍所が世界文化遺産に認められた(図2)。しかし,ほとんどの現物資料は埋め戻され遺産自体の可視化が喫緊の課題である。当初よりVRによる屋外での資料提示は検討されたが簡易的に特定の場所のみで視聴できた。しかし,VRは完全に視覚を防いでしまうので屋外で活用する際は立ち止まってしまい活動的ではない(図3)。現実空間と仮想空間を融合できるAR,MRの手法であれば,無理なく移動と視聴がシームレスにできる。遺産や遺跡,窯跡等で現存物を当時の状況に再現し,リアルなサイズ感でその場に存在するかのような記憶に残るダイナミックな再現を体感する教材となりえる。<br>
+
 テレイマージョン研究の主な価値は、デジタル世界の要素がデータの単純な表示としてではなく、没入型感覚の統合を通じて現実世界の人の知覚に溶け込む方法である。また、メタバース構築においては過去からの仮想現実研究が本格的に社会に実装される機運が高まり、アプリケーションやコンテンツ開発が加速されていくだろう。今後、関連する研究は、装置などのハードだけでなく、VR クラウド等ネットワーク環境やソフトウェアの技術向上も開発の鍵を握る。<br>
 国内外のAR,MRコンテンツ開発研究は屋内で活用するものを主に広がっており,視聴方法やデバイス,センシング環境も多種多様である。しかし,屋外で活用することに特化したデバイスやセンシング,環境構築の研究は少ない。また,屋内展示教材に対し,屋外展示における仮想と現実の融合による質的に高度な教材はまだない。理由としては,防水や日光対策等の過酷な条件,移動距離の増大等,屋外展示環境におけるセンシング等,情報空間の整備とデバイスの開発が技術的に統一されておらず,コンテンツ開発への遅れに繋がっていることが挙げられる。<br>
+
 身体性に関わるマルチモーダルなインターフェイス、ハプティクスデバイスと手技の反応における最適化を行う。また、アバター(リアル、ノンリアル)を生成し、簡易モーションキャプチャとAIによる動作補助、3DCGIデータをIP高解像度配信することで、仮想と現実空間を統合した高度没入型の演習教室の開発を行う。
 本来,AR,MRは屋外も含めたモバイル使用として意識されており,ネットワークインフラ整備等屋外体験施設における課題は多い。屋外展示環境におけるセンシング等,情報空間の整備とデバイスの開発が技術的に統一されておらず,コンテンツ開発への遅れに繋がっていることが挙げられる。本研究は,これまで現地での学習環境が乏しかった屋外遺産や遺跡等においてAR,MRを用いた教材コンテンツを目指すことであり,VRクラウド等の実証実験も絡めつつ進めていくこととした。<br>
+
 統合型多次元演習教室コンテンツの実装を可能にする技術的かつ開発、企画デザインの知見を調査し、さらにデバイスの選択と環境構築、さらに位置情報モーションキャプチャ用センシングの技術的な最適化を検証する。現実空間と仮想空間の融合および統合型多次元演習教室(図1)の有効性を検証し、その実証と形成的評価を行う。<br>
 開発サンプルのMRコンテンツは上記の理由により,まずは,屋内施設内で体験できる環境を整え開発を行うこととした。大学と企業連合からな開発者らを中心として,佐賀市の観光資源「三重津海軍所跡」をPRするMRコンテンツ開発を行った(図4)。視聴デバイスは「HoloLens」を用い,実験的に体験ブースによりコンテンツを体験できる環境を整えた。
 
  
 
==考察とまとめ==
 
==考察とまとめ==
 本来,AR,MRは屋外も含めたモバイル使用として意識されており,その意味で本研究は重要な意味を持つ。国内においては縄文,弥生時代から繋がる古墳や壁画,文化歴史的に重要とされた神社,仏閣跡地や城跡,さらに世界遺産や戦争遺産に指定される建造物跡地が相当数に上る。また,陶磁器窯跡や紡績工場跡などが再開発で街並みに変わってしまい跡形そのものがなくなった貴重な過去の遺跡も多い。このような屋外展示教材は,事前の学習情報を持つか現地に赴き設置パネル等の解説情報を得る等の形態しか持ちえなかった。<br>
+
 新型コロナウイルス感染状況下でオンラインにおける演習指導を経験し、実験系、実習系科目が多い学校種や学科にとって、今後も感染状況の継続次第では喫緊の対応が求められている。バーチャル教室においてはいくつか関連研究が存在するが、手術や高度な実験の単一的な教材が多く、現実と仮想空間を融合した臨場感や力学感覚の没入感を統合した複数の教室を多次元化したコンテンツはまだない。技能や身体運動の学習要素は映像だけで伝えられず、マルチモーダルな情報を遠隔上で伝える現実と仮想空間の身体性に着目した統合型多次元演習教室が必要である。<br>
 展示物学習において,屋外の現実空間で五感を活用し本物を確認することは大切なことである。しかし,赴いた行為のみで終わってしまい,観光情報以上の学習情報を得ることができていない現状もある。本研究は屋外遺産遺跡の空間情報として足らない部分をCGで補完し,リアルタイムに当時の姿を再現し,鑑賞者が動くことに追随することを目標とした。屋外展示環境においてAR,MRは,鑑賞者の意識もしくはその感覚を仮想の空間に没入させることによって,疑似体験を提供できる。そのリアリティーを高めるために,鑑賞者の感覚と仮想空間の連関を深め精度を高めることが重要となる。時間や空間を超え,あたかもそこにいるかのような経験をもたらすことができればリピート率も高くなり,更に学習の深化や動機付けになるだろう。
+
 メタバース構築においては過去からの仮想現実研究が本格的に社会に実装される機運が高まり、アプリケーションやコンテンツ開発が加速されていくだろう。<br>
 +
 今後、関連する研究は、装置などのハードだけでなく、VRクラウド等ネットワーク環境やソフトウェアの技術向上も開発の鍵を握る。本研究は学校教育の演習学習のみでなく、企業研修や各種ワークショップ、音楽ライブ、ダンス、演劇等、芸術表現やエンターテイメント等、パンデミックによる公開方法を模索する領域において新しい空間創出による解決策となる。
 +
 
 
<gallery>
 
<gallery>
Nakamura sadai 001.jpg|図1 MRコンテンツ開発セミナー
+
nakamura_20201019.png|図1 統合型多次元演習室のイメージ
Nakamura sadai 002.jpg|図2 世界遺産三重津海軍所跡
+
 
Nakamura sadai 003.jpg|図3 VRによる三重津海軍所跡
 
Nakamura sadai 004.jpg|図4 三重津海軍所跡用MRコンテンツ
 
 
</gallery>
 
</gallery>
  
 
==参考文献・参考サイト==
 
==参考文献・参考サイト==
*仮想現実空間と観光の課題:世界遺産三重津海軍所跡の事例(2016)  古賀広志,柳原佐智子 情報システム学会 第12回全国大会・研究発表大会
+
*梅崎 卓哉;中村 隆敏;角 和博;穗屋下 茂;清水 きよし;若井 雅幸:パントマイムの動作分析と3DCG アニメーションによる再表現の研究:<br>
*VR原論 人とテクノロジーの新しいリアル(2019) 服部 桂 翔泳社
+
 佐賀大学全学教育機構紀要Vol.7, pp.91-102
*バーチャルリアリティ学 (2010)(監修), 佐藤 誠 (監修), 廣瀬 通孝 (監修), 日本バーチャルリアリティ学会 (編集)  コロナ社
+
*阪田 真己子 ,丸茂 祐佳 ,八村広三郎 ,小島 一成 ,吉村 ミツ:日本舞踊における身体動作の感性情報処理の試み -motion captureシステムを利用した計測と分析-, <br>
*VRは脳をどう変えるか? 仮想現実の心理学(2018)Jeremy Bailenson (原著), ジェレミー ベイレンソン (著), 倉田 幸信  (翻訳) 文藝春秋社
+
 情報処理学会研究報告, 人文科学とコンピュータ, Vol.7, pp.49-56,(2004).
*フューチャー・プレゼンス 仮想現実の未来がとり戻す「つながり」と「親密さ」 (2019) ピーター ルービン (著), 高崎 拓哉 (翻訳) ハーパーコリンズ・ジャパン社
+
*小木 哲朗:没入型ディスプレイの特性と応用の展開,ヒューマンインタフェース学会論文誌 , 43-49, (1999)  
 
+
*アルゴリズム フェアネス(2020)尾原和啓, KADOKAWA,(2020).
 
<br>
 
<br>
 
<br>
 
<br>
 
[[Category:未設定]]
 
[[Category:未設定]]

2022年10月27日 (木) 18:18時点における最新版


中村 隆敏 / 佐賀大学芸術地域デザイン学部
NAKAMURA Takatoshi / Saga University

Keywords: XR,VR,MR, Experimental Learning, Tele-Immersion, Learning Content  


Abstract
This research will generate a classroom that merges and integrates virtual and real spaces on the Web, called a metaverse, and constructs a multidimensional exercise classroom that changes according to learning objectives and learning methods. This research is the development of a highly immersive multidimensional exercise classroom that integrates virtual and real spaces, using Tele-Immersion and focusing on physicality.

はじめに

 Covid19以降における学習環境は、一気にオンライン学習への対応を余儀なくされ、パンデミック収束後も継続的な学習環境の構築を求められている。
 しかし、オンライン学習システムにより受講者が個別に扱われても、その人自身を感じることは乏しく、自宅において個別で学ぶことの疎外感、喪失感を減らすことは難しい。さらに演習科目においては、材料、道具等の代替措置、手順、能力の支援等は困難であることが判明した。
 HMDによるVR,MR上で仮想の教室を構築する試みもあるが、教室内天球撮影や簡易的なCG表現、コメント機能により一面的で臨場感、没入感に乏しく身体性を伴う演習科目に対応した遠隔型テレイマージョン教室はまだない。 本研究は、今後進んでいくメタバース(Metaverse)と呼ばれるWeb上仮想空間と現実空間を融合しながら離れた場所と空間を統合した演習教室を生成し、さらに学校種、授業目的や教科演習内容によって可変する多次元教室を構築するものである。
 アバターを生成し、簡易モーションキャプチャとAIによる動作補助、ハプティクスデバイス、3DCGIデータをIP高解像度配信することで、テレイマージョン(Tele-Immersion)による仮想と現実空間を統合した高度没入型の演習教室の開発である。

目的と背景

 本研究は、パンデミック以降の学習環境として仮想空間と現実空間を相互に結び、特定ないし不特定の学習者が身体を自在に振る舞いながら、演習として学びの支援を行うシステムの開発である。従前の教室環境再現における共空間意識の再現はHMDによるVR環境や受講者同士のチャット等によるもので没入感に乏しく、空間として一人一人の存在が意識できなかった。
 近年のテレイマージョン研究やテレイグジスタンス(Telexistence)研究、開発においては個別の仮想空間の活動よりも、同じ仮想空間に複数の個人が集結できる学習環境の構築が技術的に可能となった。今後の学習環境は「教室」という概念を物理的な空間のみに依存するのではなく、必要に応じて家庭からでも学校からでも、あるいは病院や屋外からでも参加できる新たな学びのメタバース共有空間の構築に進化するだろう。
 つまり、学習者にとっては現実空間と地続きになるミラーワールドとしての新たな「教室」が現出し、学習者同士が同じ時間と空間を共有でき、疎外感や喪失感もない環境が構築できる。そのためには、身体性に着目し、触覚を中心に遠隔制御、アバターの生成、空間認知のインタフェース、画像や音響制御の統合的開発が必要である。また、学習者個人の現実空間と仮想空間をシームレスに繋ぐ新たなデバイスの開発も重要である。

研究の概要

 これまでの情報空間において情報コミュニケーションはテキストや映像情報が多くを占めてきた。今後の情報空間が自分の身体的存在を拡張、移動できるような空間として存在すれば、現実と仮想の空間をシームレスにつなぐ多様な演習を多次元的に学ぶ教室が可能となる。
 本研究では大学内のスタジオにおいて、モーションキャプチャやハンドグローブによる動作と触覚の情報を収集、コンポジットし遠隔のユーザー同士が仮想教室空間において融合し授業や演習を行う。ユーザの体験環境はMR用HMD装着ないし、LEDパネルによる没入型ディスプレイを用いた簡易MRボックスを準備する。また、簡易モーションキャプチャとハンドグローブセットを装着することで動作や触覚による複合的な情報から遠隔における演習を現実と仮想空間の融合として効果的に行えることを実証したい。

開発内容

 テレイマージョン研究の主な価値は、デジタル世界の要素がデータの単純な表示としてではなく、没入型感覚の統合を通じて現実世界の人の知覚に溶け込む方法である。また、メタバース構築においては過去からの仮想現実研究が本格的に社会に実装される機運が高まり、アプリケーションやコンテンツ開発が加速されていくだろう。今後、関連する研究は、装置などのハードだけでなく、VR クラウド等ネットワーク環境やソフトウェアの技術向上も開発の鍵を握る。
 身体性に関わるマルチモーダルなインターフェイス、ハプティクスデバイスと手技の反応における最適化を行う。また、アバター(リアル、ノンリアル)を生成し、簡易モーションキャプチャとAIによる動作補助、3DCGIデータをIP高解像度配信することで、仮想と現実空間を統合した高度没入型の演習教室の開発を行う。  統合型多次元演習教室コンテンツの実装を可能にする技術的かつ開発、企画デザインの知見を調査し、さらにデバイスの選択と環境構築、さらに位置情報モーションキャプチャ用センシングの技術的な最適化を検証する。現実空間と仮想空間の融合および統合型多次元演習教室(図1)の有効性を検証し、その実証と形成的評価を行う。

考察とまとめ

 新型コロナウイルス感染状況下でオンラインにおける演習指導を経験し、実験系、実習系科目が多い学校種や学科にとって、今後も感染状況の継続次第では喫緊の対応が求められている。バーチャル教室においてはいくつか関連研究が存在するが、手術や高度な実験の単一的な教材が多く、現実と仮想空間を融合した臨場感や力学感覚の没入感を統合した複数の教室を多次元化したコンテンツはまだない。技能や身体運動の学習要素は映像だけで伝えられず、マルチモーダルな情報を遠隔上で伝える現実と仮想空間の身体性に着目した統合型多次元演習教室が必要である。
 メタバース構築においては過去からの仮想現実研究が本格的に社会に実装される機運が高まり、アプリケーションやコンテンツ開発が加速されていくだろう。
 今後、関連する研究は、装置などのハードだけでなく、VRクラウド等ネットワーク環境やソフトウェアの技術向上も開発の鍵を握る。本研究は学校教育の演習学習のみでなく、企業研修や各種ワークショップ、音楽ライブ、ダンス、演劇等、芸術表現やエンターテイメント等、パンデミックによる公開方法を模索する領域において新しい空間創出による解決策となる。

参考文献・参考サイト

  • 梅崎 卓哉;中村 隆敏;角 和博;穗屋下 茂;清水 きよし;若井 雅幸:パントマイムの動作分析と3DCG アニメーションによる再表現の研究:

 佐賀大学全学教育機構紀要Vol.7, pp.91-102

  • 阪田 真己子 ,丸茂 祐佳 ,八村広三郎 ,小島 一成 ,吉村 ミツ:日本舞踊における身体動作の感性情報処理の試み -motion captureシステムを利用した計測と分析-,

 情報処理学会研究報告, 人文科学とコンピュータ, Vol.7, pp.49-56,(2004).

  • 小木 哲朗:没入型ディスプレイの特性と応用の展開,ヒューマンインタフェース学会論文誌 , 43-49, (1999)
  • アルゴリズム フェアネス(2020)尾原和啓, KADOKAWA,(2020).