コンセプト: 「配信そのものを、一本のMV(ミュージックビデオ)にする」
Unity Built-in Render Pipelineのポストプロセス機能を限界まで活用し、ワンオペレーションの歌枠配信でありながら、プロのカメラマンと照明スタッフがいるような没入感あるライブ体験を提供するシステムを構築しました。
一般的なVTuber配信では、画面が平面的になったり、口の動き(リップシンク)が歌詞に合わないといった課題があります。 本プロジェクトでは、「映画用カメラのようなボケ味」と「歌唱に特化した表情制御」を独自プログラムによって自動化。視聴者が歌の世界観に没頭できる「空間演出」を技術的にデザインしました。
既存のツールを組み合わせるだけでは不可能な演出を実現するため、C#によるカスタムスクリプトを複数開発・実装しています。
(技術:動的被写界深度制御) 一眼レフカメラで撮影したような、背景を美しくぼかす「ボケ味」をリアルタイム生成します。 ただぼかすだけでなく、「常に歌い手の瞳にピントを合わせ続ける」オートフォーカス機能を実装。演者が前後に動いてもピントが外れず、バラードのような情感たっぷりのシーンでも、表情のニュアンスを視聴者に鮮明に伝えます。
(技術:トラッキング信号の動的遮断・合成) 歌唱において最も重要な「歌詞の口の形」を綺麗に見せるための工夫です。 身体の動きはモーションキャプチャ(全身)で行いつつ、口元の動きだけは音声解析(マイク音量と波形)に任せるハイブリッド処理を開発しました。 キャプチャ特有の「口パクのズレ」をプログラム側で遮断することで、「激しく踊りながらも、歌詞を一文字ずつ丁寧に表現する」ことを可能にしています。
(技術:自動カット割り・カメラワーク生成) 配信者が操作しなくても、システムが自動でカメラを切り替える「専属カメラマン」機能です。 単調な切り替えではなく、「ゆっくりとズームしながら」「演者の横顔へ回り込む」といった、MVのような情緒的なカメラワークをランダムかつ滑らかに生成。長時間の歌枠でも視聴者を飽きさせない画面作りを自動化しています。
(技術:コメント連動パーティクル演出) YouTubeのコメント欄と3D空間を接続し、ライブの盛り上がりを可視化しました。 視聴者が特定のキーワードや絵文字をコメントすると、それが「光の粒」や「花びら」となってステージ上に降り注ぎます。拍手や歓声が視覚的な演出となってステージを彩る、参加型のライブ体験です。
使用ツール: Unity, OBS Studio 連携技術: EVMC4U (Motion), uLipSync (Audio Analysis), Spout (High-Res Video Transfer)
これらの技術を統合し、最終的な映像はポストプロセス(色調補正や光の拡散効果)を完全に保持したまま、遅延なく配信ソフトへ伝送する仕組みを構築しています。