乾貨|淺談iOS端短影片SDK技術實現

京東科技開發者發表於2019-12-20

乾貨|淺談iOS端短影片SDK技術實現

短影片SDK主要包含 影片錄製影片編輯這兩個核心功能。
影片錄製包括 :影片採集、美顏、濾鏡、攝像頭切換、視音訊採集引數設定等功能;
影片編輯包括 :影片匯入、合成、特效、濾鏡、字幕、貼紙、音樂、播放、匯出等功能。

一、短影片SDK框架

乾貨|淺談iOS端短影片SDK技術實現

如上圖所示,短影片SDK的技術框架分為三個層級,分別為 核心處理層、業務邏輯層和業務介面層
  • 核心處理層 :負責短影片底層的技術實現,包括媒體組合、GPU資料輸入、影片過渡、影片特效、影片畫素、新增字幕/貼紙、影像轉影片、GPU資料、音影片處理、音訊混響、音訊調節、音訊延時、影片預覽和媒體合成;

  • 業務邏輯層 :負責短影片業務邏輯的實現,包括錄製邏輯處理和編輯邏輯處理兩部分,具體包括素材時間線管理、音訊時間線管理、過渡效果管理、字幕圖層管理、貼紙圖層管理和影片特效管理;

  • 業務介面層:負責向上業務的對接,包括錄製介面和編輯介面。

二、影片錄製

乾貨|淺談iOS端短影片SDK技術實現

影片錄製的實現流程就如上圖所示,首先開啟採集攝像頭進行畫面以及聲音的採集,在採集過程中支援分別對採集的資料進行影片處理和音訊處理,包括濾鏡、降噪、新增貼紙、混音等,處理完成後進入影片編輯環節,最終透過ffmpeg編碼並生成MP4檔案。影片錄製全程採用了GPU以及硬體編碼,使得CPU使用率非常低,即使在效能較差的手機上也能很好的執行。
點選【 閱讀 】,瞭解更多“短影片SDK詳情”

三、影片編輯

影片編輯是指對錄製或選定的影片內容進行編輯處理,其業務流程為先將需要編輯的影片內容進行匯入,然後在分別進行影片和音訊處理,包括新增濾鏡、字幕、貼紙、影片裁剪及複製、影片變速及旋轉、新增背景音樂、混音等,處理完的音影片可進行媒體即時預覽,最後將編輯完成的媒體檔案進行合成並匯出。

1、影片處理

乾貨|淺談iOS端短影片SDK技術實現


影片處理的實現流程如上圖所示,將輸入的影片內容進行裁剪、分割、複製、旋轉、濾鏡等影片過渡和特效處理,此外還支援新增字幕和貼紙,處理後的影片內容透過混合器進行混合,最後編碼輸出。

影片處理主要是利用ffmpeg進行相應的處理,將原始的影片進行解碼,然後將解碼後的YUV資料對映到GPU的紋理上進行相應的引數調節,然後將調好的引數配置進行編輯處理。

2、音訊處理

乾貨|淺談iOS端短影片SDK技術實現


音訊處理的實現流程如上圖所示,首先需要從影片源中分離出音訊軌道,形成原生的音訊軌道,然後將新增的背景音樂的音訊軌道插入原聲的音訊軌道中,透過調整原聲和背景音樂的音量,形成原始音訊和背景音樂的混合,最後透過媒體合併將混合後的音訊軌道與處理完的影片軌道進行相關類合成。

3、媒體預覽

乾貨|淺談iOS端短影片SDK技術實現


媒體預覽的實現流程如上圖所示,將影片內容、音訊內容和背景音樂等可變內容透過自定義合成執行緒進行處理,包括資訊傳遞、過渡等,最後對處理後的視音訊透過播放器進行即時預覽。

4、媒體合成

乾貨|淺談iOS端短影片SDK技術實現


媒體合成的實現流程如上圖所示,首先按照時間鏈讀取處理後的需要合併的多個影片內容和混音後的音訊內容,然後開始分別對影片內容和音訊內容進行合併,合併實現方式為對影片內容和音訊內容做基於ffmpeg的編碼,將編碼後的視音訊合併為整體的媒體檔案,最後對外輸出合併後mp4檔案。

四、短影片應用場景

1、電商產品展示

商家端可透過短影片SDK將拍攝的影片或圖片快速進行合併、裁剪和編輯,配合字幕、貼紙、音樂等特效,製作商品展示短片,更形象的展示商品,提升使用者購物體驗。結合京東雲點播產品和播放器SDK,可形成完成的短影片端到端解決方案。

乾貨|淺談iOS端短影片SDK技術實現

2、社交創意分享

短影片有助於使用者更生動的表達觀點,傳遞更真實的場景。此外還可透過美顏、濾鏡、字幕、貼紙等特效,合併和剪輯等功能來製作新的影片,將個人創意或焦點內容合成一個新的短影片,提高影片熱點和點選率。

乾貨|淺談iOS端短影片SDK技術實現

總結

以上就是iOS端短影片SDK 的主要技術實現方式, 京東雲短影片SDK配合雲端影片點播產品,可為客戶提供完整的短影片解決方案 幫助使用者聚焦業務本身的同時能夠快速具備短影片業務支撐的能力,歡迎大家在京東雲官網體驗短影片DEMO和下載整合。
擊【 閱讀 】,瞭解更多“短影片SDK詳情”
歡迎點選“ 京東雲 ”瞭解更多精彩內容

乾貨|淺談iOS端短影片SDK技術實現

乾貨|淺談iOS端短影片SDK技術實現


來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/69912185/viewspace-2669690/,如需轉載,請註明出處,否則將追究法律責任。

相關文章