Sora Opera:天圖萬境聯合華為雲共築AI生成式影片音效新高度

华为云开发者联盟發表於2024-03-15
本文分享自華為雲社群《Sora Opera:天圖萬境聯合華為雲共築AI生成式影片音效新高度》,作者: 華為雲社群精選。

在人工智慧技術的飛速發展浪潮中,天圖萬境科技有限公司(以下簡稱“天圖萬境”)聯合華為雲共同推出AI創新的聲音生成工具——Sora Opera。這一突破性的技術將為AI生成式影片領域帶來革命性的變革,提供前所未有的高效聲音解決方案。

2024年3月1日華為雲端計算專家委員會媒體AIGC專題研討會上,Sora Opera 首次亮相。華為雲HCDE專家、天圖萬境創始人圖拉古導演在活動現場展示了Sora Opera 是如何為 AI 生成式影片製作音效的。

Sora Opera:天圖萬境聯合華為雲共築AI生成式影片音效新高度

圖古拉表示,使用者只需要上傳一段影片,並且無需任何提示詞,Sara Opera就會自動的生成四個不同風格的音效影片,使用者可以從中提取出一個來,又或者可以繼續生成。

Sora Opera:天圖萬境聯合華為雲共築AI生成式影片音效新高度

(Sora Opera 的操作介面)

1 華為雲昇騰AI雲服務加持下,Sora Opera打造AI高質量視聽體驗

Sora Opera的誕生,標誌著在影片領域中聲音合成技術迎來一個質的飛躍。這一技術的背後,華為雲昇騰AI雲服務提供的長穩AI算力服務發揮了至關重要的作用。

在如今大模型時代,海量算力需求日益增長,華為雲昇騰AI雲服務為千行百業提供了更加多元、高效且長穩的算力服務選擇。在千卡訓練的環境下,其長穩率高達90%,這意味著即便在長時間的訓練過程中,也能保證服務的穩定性和可靠性。更值得一提的是,訓練作業若發生故障,能夠實現自動恢復,非自動場景下恢復時長也控制在小於30分鐘,極大地提高了訓練效率。

為了能夠更好的提供算力支援,加速AI技術的迭代與創新速度,華為雲在貴安、烏蘭察布、蕪湖打造了3大AI雲算力中心,為企業提供澎湃昇騰AI算力。同時,華為雲還構建了一個高效且穩定的大模型訓練環境,並配備了一套完備的工具鏈。該工具鏈能夠實現千卡訓練連續30天不中斷,並且任務恢復時長也控制在30分鐘以內。此外,透過30多個視覺化調優和部署工具,企業能夠更高效地處理資料、微調模型以及Prompt工程等工作,從而將過去一個需要5個月才能完成開發的千億引數行業模型,縮短至僅需1個月,整體開發速度提升了5倍。

Sora Opera正是藉助了華為雲昇騰AI雲服務的強大算力,結合天圖萬境AI技術在視聽領域的深厚積累,實現了聲音合成的重大突破。它能夠在短時間內生成高質量、與畫面節奏完美契合的自然流暢聲音,為AI影片製作帶來了前所未有的便利。不僅如此,Sora Opera還能深入解讀影片的內容和表達含義,根據影片內容自動調整聲音的情感和節奏,使生成的影片更加生動、真實,為使用者帶來沉浸式的視聽體驗。

2 帶你感受Sora Opera的7大功能

Sora Opera的推出,預計將極大地促進AI生成式影片內容的創新和發展。無論是在娛樂、教育還是廣告領域,Sora Opera都將為使用者提供更加豐富和多樣化的聲音選擇,使得影片內容更加吸引人,同時也為AI技術的應用提供了更廣闊的空間。

Sora Opera不僅能為AI生成的影片配音,還能為已經存在的影片進行新的聲音處理,這將是影片聲音製作行業的一種新的可能的新方式,為藝術家提供更多靈感。

2.1 Sora Opera支援本地匯入的影片素材

Sora Opera為短影片和電影行業帶來更多可能性。Sora Opera的專業版可以支援長達60分鐘的完整影片配音,使用者還可以將自己拍攝的素材匯入到Sora Opera即可獲得新的音效或者新的靈感。

2.2 Sora Opera支援經過加速後的影片素材

Sora Opera可以根據畫面節奏,處理非常複雜的內容資訊,比如說經過加速處理的影片內容,Sora Opera也可以精準的為其匹配音效。

2.3 Sora Opera智慧分辨影片中內容可能涉及到的聲像關係

Sora Opera可以精準的識別影像的節奏以及與畫面之外可能存在的聲像關係,比如除了摸花朵的聲音之外,我們還聽到了衣服摩擦的聲音。

2.4 Sora Opera高度還原物理世界真實聲音現象

Sara Opera可以理解真實世界的聲音生產的規則,並儘可能準確的還原這些聲音,例如當咖啡機開始制咖啡的時候,它會有啟動聲音,當咖啡機結束製作液體回吸的時候,它會有一個停止的聲音,而我們仔細觀察就會發現,當聲音停止的時候,咖啡機的導管中剛好是咖啡倒吸的過程。

2.5 Sora Opera處理損壞的AI影片

Sora Opera甚至還可以為那些壞掉的AI影片重新配一種更加魔幻的音樂,產生有趣的效果。

2.6 Sora Opera精準處理綠幕場景下的影片素材

Sora Opera還專門針對綠幕製作的素材進行了訓練,它可以根據畫面的人物狀態和動作以及畫面中所包含的道具進行精準的的卡點配音。

Sora Opera還專門針對聲音可能形成的聲源和額外的可能同聲源資料進行了訓練,它可以理解並識別畫面之外的資訊,例如它可以為畫面外的風機進行配音。而這一切的過程都無需輸入任何提示詞,使用者只需要上傳和下載即可。

2.7 Sora Opera支援基於純文字生成音效

Sora Opera除了可以直接為AI影片提供穩定的畫面音效之外,還可以直接透過文字生成音效,利用Sora Opera還可以為影片配樂,創造一種史詩級大片感覺。

Sora Opera:天圖萬境聯合華為雲共築AI生成式影片音效新高度

3 多個落地專案開啟Sora Opera商用之路

圖拉古談到:“我們非常高興能與華為雲合作,共同推動AI技術在聲音合成領域的應用。Sora Opera的推出,將為內容創作者、遊戲開發者、影視製作等行業帶來巨大的便利,同時也為AI技術的商業化應用開闢了新的道路。”

Sora Opera還有超感影遊的專業版本,為沉浸式 AI互動影遊提供專業級生產保障。目前透過Sora Opera生產的超感影遊已有《命運之海》《幽靈堡壘》《太陽神詛咒》《凡塵》《主角學院》等。

Sora Opera:天圖萬境聯合華為雲共築AI生成式影片音效新高度

(由Sora Opera 參與制作的超感影遊專案)

隨著Sora Opera的面世,天圖萬境和華為雲將攜手開啟AI聲音合成的新篇章,為全球使用者帶來更加智慧、高效的聲音體驗。正如圖古拉所談到的,我們非常高興能與華為雲合作,共同推動AI技術在聲音合成領域的應用。未來,雙方還將繼續深化合作,探索更多AI技術的應用場景,為人們的生活帶來更多便利和驚喜。

點選關注,第一時間瞭解華為雲新鮮技術~

相關文章