今年是 AI 影片生成爆發的元年，以 Sora 為代表的演算法模型和產品應用不斷湧現。短短几個月內，我們目睹了幾十種影片生成工具的問世，基於 AI 的影片創作方式開始流行起來。 但新技術也引發更多的挑戰與質疑，除了大家熟知的 “開盲盒” 現象，AI 所生成的影片內容也因可控性差、處理工作流繁瑣而頻頻被詬病。 OpenAI 曾經邀請專業影片製作團隊對 Sora 進行了測試，其中來自於多倫多的 Shy Kids 團隊，利用 Sora 製作了一個氣球人主題的短片，把創意和 AI 技術進行了完美的結合，讓人印象深刻。
整個短片其實並不是 Sora 直接輸出的結果，而是由多個影片片段組成，且 Sora 在生成不同影片時，很難保證主角的一致性。因此，在引入了大量的人工後期編輯，他們才呈現出最終的短片效果。Shy Kids 的主創們總結，“Sora 的技術很酷，但是它的生成過程很難控制。” 對生成內容的精準可控，是 AI 影片創作中的重要需求，也是今天演算法面臨的一大挑戰。
為此，在剛結束的上海世界人工智慧大會（WAIC）上，達摩院釋出了一站式 AI 影片創作平臺 “尋光”。 其定位為 PUGC 一站式 AI 影片創作平臺，可輔助使用者創作劇本、分鏡圖等，並透過工作流整合提升創作全流程的效率，支援對生成及上傳素材進行豐富的 AI 編輯，提供人物控制、場景控制、風格遷移、運鏡控制、目標新增 / 消除 / 修改等十多種 AI 編輯功能，讓影片中的元素和物件精準可控。 達摩院希望藉由尋光平臺進一步提升 AI 影片創作的效率，目標是用 AI 能力重塑傳統影片製作的整個流程，打造 AI 時代的全新影片工作流。 業界首次落地基於圖層的影片編輯 在尋光研發的初期，達摩院還與影視傳媒從業者及創作者進行了廣泛且密集調研，瞭解其對於影片 AIGC 創作的需求與痛點。他們發現，影片圖層幾乎是所有影片創作者們提到頻次最高、最迫切的需求。 基於此，尋光平臺首次在行業推出系統性的影片圖層編輯功能。使用者透過文字輸入，即可生成符合文字描述且具有透明背景的影片，並且一鍵將其融合到其他背景影片當中。在傳統影片生成能力的基礎上，用圖層這樣一種更靈活的形式來產生內容。
尋光更提供圖層拆解功能，輕輕一圈，選定目標立刻拆解為單獨的圖層影片，再絲滑嵌入不同的背景影片。
使用者可以將不同的前景圖層跟不同的背景進行圖層融合，組合出更多新的影片。圖層融合的能力進一步激發 AI 創作力和想象力，同時能夠保持多個分鏡頭之間的場景和人物的一致性。在達摩院看來，AI 不會取代創作者的工作，而是會最佳化影片創作的工作流，成為創意驅動的新引擎。 一站式 AI 創作平臺更簡潔的互動，更豐富的編輯能力 劇本創作、分鏡設計、素材編輯…… 傳統的影片創作步驟分工明晰、週期冗長。在 AI 技術的加持下，原本分散在不同製作流程中的創作步驟，如今都可以在尋光平臺上流暢完成。 “我們希望讓影片編輯像操作 ppt 一樣簡潔直觀，容易上手。” 達摩院視覺技術實驗室高階演算法專家陳威華在現場介紹，尋光平臺的一大亮點在互動方面。 尋光平臺在設計時便充分考慮到 AI 影片創作的特點，將每個影片專案抽象為多個分鏡頭畫面，使用者可根據劇本自動生成一組分鏡頭，也可以自己上傳原始影片素材，由演算法切分成多個分鏡頭。 在創作空間裡，使用者可以很方便的檢視每一個分鏡頭，一個場景內的多個分鏡頭可以收起或者展開，場景之間可以透過拖拽來調整順序，場景內的分鏡頭也可以進行拖拽。使用者也可以在任意位置上進行分鏡頭的新增和新建，可呼叫圖片生成或者影片生成能力去產生內容，也可以新增自己已有的各種素材。
對於每個分鏡頭，尋光提供完整且智慧的 AI 影片編輯能力進行處理，可依據使用者意圖，在語義層面而不是畫素層面實現編輯。分鏡頭裡的人體、人臉、前景、背景等任意區域性目標，都可以進行精細化的編輯和修改。 比如，理解空間景深的運鏡控制；
又比如，能夠理解物體相對關係的目標消除 / 修改。
在對影片全域性元素的編輯上，尋光平臺提供了超過 20 種的風格遷移。
尋光也提供幀率控制、影片超分等實用的影片編輯功能。
“我們希望一個影片裡的所有元素都是可編輯、可修改的，這樣可以給使用者的創作提供最大的自由度”，陳威華說。 寫在最後 今天，我們正處在 AIGC 的變革浪潮之中，AI 有可能催生出新的影片工作流。無論是專業的影視從業者還是熱愛創作的 UGC 使用者，都將從中獲益。 “工欲善其事，必先利其器”，達摩院希望尋光影片創作平臺能夠成為每一位創作者的專屬影片工作室，實現 AI 與創作者之間更緊密、高效的協作，真正釋放 AI 的生產力。 為此，達摩院視覺技術實驗室已做了大量技術儲備。該實驗室致力於多模態視覺訊號的理解與生成技術研究，當前的重點研究方向包括更加精準的影像 / 影片 / 3D 內容生成，更加可控的影像 / 影片 / 3D 內容編輯，更加高效的生成框架，多模態的理解 - 生成框架等。 陳威華表示，“尋光”將於近期開放內測，持續迭代，最佳化互動，歡迎創作者們來定製屬於自己的 AI 工作流。 內測申請地址：https://xunguang.damo-vision.com/