如何實現:錄製視訊聊天的全過程? 【低調贈送:QQ高仿版GG 4.3 最新原始碼】

C#開源即時通訊GGTalk發表於2015-06-17

  前段時間做個專案,客戶需要將視訊對話的整個過程錄製下來,這樣,以後就可以隨時觀看。想來錄製整個視訊聊天的過程這樣的功能應該是個比較常見的需求,比如,基於網路語音視訊的1:1的英語口語輔導,如果能將輔導的整個過程錄製下來生成一個標準的MP4檔案,就是一份難得的資料,便於以後複習和分享。我將1:1的視訊對話錄製的功能實現為了一個元件VideoChatRecorder,方便大家複用。並且,我在GG的最新版本4.3中使用了它,這樣GG也有了視訊聊天錄製的功能。

      (想要直接下載體驗的朋友請點選:“下載中心” 

      如果大家已經做過類似錄製單個人的攝像頭和麥克風程式的話,那麼,錄製兩人視訊聊天就會遇到兩個新的難點:

(1)如何將兩個人的視訊影象整合成一個影象?

(2)如何將兩個人的聲音混成一路?

一.實現原理

1.視訊合成

      通過.NET提供的GDI+技術,我們可以將兩張圖片合成一張。在實現VideoChatRecorder元件時,我合成圖片所採用的規則是這樣的:

(1)將對方的視訊作為錄製的主體,而自己的視訊則覆蓋在對方視訊的右下角。

(2)對方視訊的大小,就是其攝像頭的採集解析度,依據(1),我們知道這也是錄製生成的MP4檔案播放時視訊的Size。

(3)合成後自己視訊影象的寬和高,設定為對方視訊寬和高的 1/3。

      合成後的視訊的示意圖如下所示:

     

2.音訊合成

     我們可以手動將自己的聲音與對方的聲音混音成一路,網上可以搜到很多混音演算法(如直接相加法、平均法、歸一化演算法、衰減因子法等),但是,混音演算法的好壞直接關係到混音最終的質量。

     還有一種更簡單的方案,就是直接使用OMCS提供的AudioInOutMixer元件,它可以將麥克風採集的聲音(也就是自己的聲音)和揚聲器播放的聲音(也就是對方的聲音)混音成一路,並通過 AudioMixed 事件暴露混音後的資料。

二.實現具體步驟

  解決了視訊合成和音訊合成兩個關鍵難點後,我們就可以將實現的整個流程串起來了。

(1)使用一個攝像頭聯結器例項連線到對方的攝像頭,然後呼叫其GetCurrentImage方法,就可以獲取對方的視訊影象。

(2)使用另一個攝像頭聯結器例項連線到自己的攝像頭,然後呼叫其GetCurrentImage方法,就可以獲取自己的視訊影象。

(3)使用一個MFile提供的VideoFileMaker來將語音、視訊錄製成標準的MP4檔案。

(4)使用一個AudioInOutMixer例項,來進行混音。預定其AudioMixed 事件,以獲取混音後的語音資料,並將其提交給VideoFileMaker進行錄製聲音。

(5)使用一個後臺執行緒,每隔100ms(即對應幀頻為10fps)就呼叫前面兩個聯結器的GetCurrentImage方法,並將返回的兩個圖片進行合成變成一張,並將其提交給VideoFileMaker進行錄製影象。

        這裡的關鍵,是使用GDI+進行影象合成的過程,其程式碼比較簡單,如下所示:

        Bitmap bmFriend = this.dynamicCameraConnector2Friend.GetCurrentImage();
        if (bmFriend != null)
        {
            Bitmap bmMyself = this.cameraConnector2Myself.GetCurrentImage();
            //合成影象
            if (bmMyself != null)
            {
                Graphics g = Graphics.FromImage(bmFriend);
                g.DrawImage(bmMyself ,this.myVideoRect);   
                g.Dispose();
            }

            //錄製影象
            this.videoFileMaker.AddVideoFrame(bmFriend);
        }

   注:如果不想將自己的視訊影象疊加在對方的影象之上,那麼,上述的程式碼稍作修改即可。可以new一個新的Bitmap,然後在上面的不同區域分別繪製對方的影象和自己的影象就可以了。當然,新的Bitmap的Size,以及對方和自己影象在新的Bitmap中的佈局位置要設定正確。

(6)當停止錄製時,就停止用於合成影象的後臺執行緒,並關閉VideoFileMaker。

       注意:在某些配置比較差的機器上,可能生產的速度大於錄製(也就是消費)的速度,這樣,在關閉VideoFileMaker時,就會阻塞一段時間,直至所有的快取中的所有視訊幀都寫入了錄製檔案中,才會返回。

       在有了上面的整體思路之後,再來看VideoChatRecorder的完整程式碼,就很容易理解了。

    /// <summary>
    /// 視訊聊天錄製器。將視訊聊天的完整過程錄製成標準的MP4檔案。
    /// </summary>
    class VideoChatRecorder : IDisposable
    {
        private DynamicCameraConnector dynamicCameraConnector2Friend ; //連線到好友攝像頭的聯結器。
        private CameraConnector cameraConnector2Myself; //連線到自己攝像頭的聯結器。
        private IMultimediaManager multimediaManager;
        private VideoFileMaker videoFileMaker;
        private Size videoSize;
        private Rectangle myVideoRect;
        private volatile bool isRecording = false;
        private AudioInOutMixer audioInOutMixer;

        public VideoChatRecorder(IMultimediaManager mgr ,DynamicCameraConnector friend, CameraConnector myself)
        {
            this.multimediaManager = mgr;
            this.dynamicCameraConnector2Friend = friend;
            this.cameraConnector2Myself = myself;
            this.dynamicCameraConnector2Friend.Disconnected += new ESBasic.CbGeneric<ConnectorDisconnectedType>(dynamicCameraConnector2Friend_Disconnected);

            //混音器。將自己和對方的聲音混成一路。
            this.audioInOutMixer = new AudioInOutMixer();
            this.audioInOutMixer.AudioMixed += new CbGeneric<byte[]>(audioInOutMixer_AudioMixed);
        }

        //得到混音資料,將其錄製到檔案。
        void audioInOutMixer_AudioMixed(byte[] data)
        {
            if (this.isRecording)
            {
                this.videoFileMaker.AddAudioFrame(data);
            }
        }

        //攝像頭聯結器斷開時,就停止錄製。
        void dynamicCameraConnector2Friend_Disconnected(ConnectorDisconnectedType obj)
        {
            if (!this.isRecording)
            {
                return;
            }
           
            this.Dispose();
        }

        //初始化錄影裝置,並開始錄製。
        public void Initialize(string filePath)
        {
            if (!this.dynamicCameraConnector2Friend.Connected)
            {
                throw new Exception("聯結器尚未連線到對方的攝像頭!");
            }
            this.videoSize = this.dynamicCameraConnector2Friend.VideoSize;
            Size myVideoSize = new Size(this.videoSize.Width / 3, this.videoSize.Height / 3);
            this.myVideoRect = new Rectangle(this.videoSize.Width - myVideoSize.Width, this.videoSize.Height - myVideoSize.Height, myVideoSize.Width, myVideoSize.Height);

            this.videoFileMaker = new VideoFileMaker();
            this.videoFileMaker.AutoDisposeVideoFrame = true;
            this.videoFileMaker.Initialize(filePath, VideoCodecType.H264, this.videoSize.Width, this.videoSize.Height, 10, AudioCodecType.AAC, 16000, 1, true);

            this.audioInOutMixer.Initialize(this.multimediaManager);
            this.isRecording = true;

            CbGeneric cb = new CbGeneric(this.RecordThread);
            cb.BeginInvoke(null, null);
        }

        //錄製執行緒。每隔100ms(對應VideoFileMaker的幀頻為10fps)就合成一張圖片,並錄製它。
        private void RecordThread()
        {
            while (this.isRecording)
            {
                Bitmap bmFriend = this.dynamicCameraConnector2Friend.GetCurrentImage();
                if (bmFriend != null)
                {
                    Bitmap bmMyself = this.cameraConnector2Myself.GetCurrentImage();
                    //合成影象
                    if (bmMyself != null)
                    {
                        Graphics g = Graphics.FromImage(bmFriend);
                        g.DrawImage(bmMyself ,this.myVideoRect);   
                        g.Dispose();
                    }

                    //錄製影象
                    this.videoFileMaker.AddVideoFrame(bmFriend);
                }

                System.Threading.Thread.Sleep(100);
            }

        }

        /// <summary>
        /// 停止錄製,並釋放錄製裝置。
        /// </summary>
        public void Dispose()
        {            
            this.dynamicCameraConnector2Friend.Disconnected -= new ESBasic.CbGeneric<ConnectorDisconnectedType>(dynamicCameraConnector2Friend_Disconnected);
            this.audioInOutMixer.AudioMixed -= new CbGeneric<byte[]>(audioInOutMixer_AudioMixed);
            this.audioInOutMixer.Dispose();

            if (!this.isRecording)
            {
                return;
            }

            this.isRecording = false;
            this.videoFileMaker.Close(true);
        }
    }  

  

三.GG V4.3 原始碼 

   下載最新版本,請轉到這裡。 

   在GG的最新版本中使用了上述的VideoChatRecorder類進行視訊聊天錄製以生成的MP4檔案(預設是在執行目錄下名稱為 VideoChat.mp4 的檔案),用QQ影音播放器進行播放這個檔案,其效果如下所示:

       

 

________________________________________________________________________ 

歡迎和我探討關於 GG 和 GGMeeting 的一切,我的QQ:2027224508,多多交流!  

大家有什麼問題和建議,可以留言,也可以傳送email到我郵箱:2027224508@qq.com。  

如果你覺得還不錯,請粉我,順便再頂一下啊

 

相關文章