コロンビア大学とAdobe Researchの研究者らは、一般的なモノラルマイクで収録された屋内での360°ビデオシーンに後から空間オーディオを追加する手法を発表しました。
論文:Scene-Aware Audio for 360° Videos
著者:Dingzeyu Li, Timothy R. Langlois, Changxi Zheng
本稿は、360°カメラとモノラルマイクで収録されたシーンに対して、既存音声をAmbisonics(アンビソニック)に変換し組み合わせる手法を提案します。
提案手法を行うことで、専用のAmbisonicsマイクがなくても、視聴者に対して視野角と一致する空間オーディオを低コストで提供することができます。入力オーディオに制限はなく、標準のモノラルマイクからでも適応されます。
本提案手法のステップとしては、音響シミュレーションを実行するためにジオメトリを取得し、視聴者の位置を特定するためにカメラの軌跡を推定、そして、スピーカと無指向性マイクを使用してインパルス応答(IR)を測定します。これらに基づいて、入力オーディオから空間オーディオに変換します。
以下のデモ映像にて、本提案手法で出力した結果を体験することができます。
今後の研究では、屋外で撮影したシーンに対してもアプローチしていきたいとし、また、VR/ARのためのリアルタイムシミュレーションで本システムを使用できるようにしたいとも述べています。