人物と服の質感を忠実に3D化　Facebookなど「TexMesh」開発 ：Innovative Tech

今回は「人物と服の質感を忠実に3D化　Facebookなど「TexMesh」開発 ：Innovative Tech」についてご紹介します。

関連ワード （再構成、動作、山下氏、採用、自由視点等） についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、It Media News様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。

Innovative Tech：

このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。

　米カーネギーメロン大学と米FacebookのReality Labsによる研究チームが開発した「」（PDFへのリンク）は、実世界の映像から人間の詳細な3Dメッシュデータを再構成する深層学習ベースのフレームワークだ。生成した人物モデルは、どの視点から見てもそれらしく再現されている。

　実際に撮影した画像からジオメトリ（形状）とテクスチャをそれぞれ再構築する方法はこれまでも研究されてきたが、細部がぼやけたりして品質としては不十分だった。

　今回の手法では、この課題を解決するため、生成した人物データ上で事前学習を行い、実映像に適応させる自己学習フレームワークを採用する。RGB映像とそれに対応する環境マップ、フレーム毎の粗いメッシュを元データに使い、フレーム毎の細かいメッシュと映像全体で共有される高解像度のテクスチャを生成する。得られたメッシュとテクスチャは、リアルな自由視点レンダリングと照明を変更した結果を出力できる。

　出力結果は、異なる視点から見ても忠実度の高いレンダリングが行われ、衣服のシワやロゴ、文字などが鮮明に再現されている。衣服のシワもテクスチャではなく、ジオメトリとして正しく推定されていることが分かる。

　合成データと実世界のデータを用いて本手法を検証し、定量／定性的に最先端の類似手法を上回る結果となったという。

　さらに学習したモデルは、インタラクティブなフレームレートでも動作する。

Copyright © ITmedia, Inc. All Rights Reserved.