通往AGI的路不只有一條,雲知聲站在巨人肩膀上開啟“終南捷徑”

ningxueqin528發表於2023-04-19

  今天你ChatGPT了嗎?隨著ChatGPT的大火,全球範圍內關於AI的討論喧囂塵上。從全球範圍來說,通用人工智慧(AGI)還處於市場探索階段,要達到穩定輸出、成熟商業化的境界,還有很長的路要走。面對人工智慧技術發展的“高熱度”和“不確定性”,AI老兵雲知聲卻顯得很從容,走得有條不紊。
通往AGI的路不只有一條,雲知聲站在巨人肩膀上開啟“終南捷徑”
  ChatGPT是通用人工智慧(AGI)的開端

  ChatGPT走紅之後,外界驚歎ChatGPT的表現,而對於人工智慧業界而言,這意味著技術正規化的轉變,更意味著通向AGI的大門可能正在開啟。

  實際上,此前10年,深度學習帶來了一波人工智慧的增長,但並未改變AI的正規化。在2012年9月的ImageNet視覺識別挑戰賽上,AlexNet異軍突起,碾壓了所有對手。它的創造者之一Hinton教授,2006年在Science發起“深度學習”革命後,在重大技術評測上獲得突破性進展,展示了深度學習的威力。深度學習雖然比傳統的統計學習展現出了更大威力,但並未跳出舊的AI正規化——預先定義任務目標,採集該任務的大量資料並進行人工標註,透過模型訓練達到最優效果,切換不同任務目標時,往往需要重新採集資料和訓練,無法實現不同任務間的高效遷移——被稱為“窄AI”或“弱AI”,本質上是某種“自動化”。

  真正推動AI進入2.0時代的,還是2022年11月,ChatGPT的推出。它作為一個人工智慧語言大模型,擁有自然語言理解、上下文學習、常識推理和高質量應答等特點,效果驚豔四座。對此,雲知聲認為“這是一個從專用AI轉向通用AI(AGI)的突破口。”

  雲知聲投身變革浪潮,先質後量,打通大模型新正規化

  入行25年的AI老兵和團隊創立公司11年後發現,自己正置身當下最火熱的跑道上,而這群AI老兵要投身新一輪變革浪潮的熱情依然澎湃。雲知聲給這場大模型的角力劃定了時間表,“今年之內肯定要有一個行業內認可的千億級大模型成果出來”。

  在ChatGPT推出後,雲知聲已開始訓練模型,但數智前線獲悉,在雲知聲看來,本輪技術升級並非只是簡單的“大力出奇跡”,而是開啟了新的“資料動力學正規化”,需要從資料規模、質量和模型調教下手,才能真正解決問題,“大力”只是“必要不充分條件”。

  雲知聲表示:“首先把它的端到端打通,再針對性地去解決問題,有些可能是從演算法角度去最佳化,有些可能要透過資料層面去最佳化,包括併入醫療資料後,哪些跟現有的知識不能很好的融合,都要針對性做研究。”雲知聲以前基於BERT模型,現在需要切換到以GPT為模式的框架。兩者本質上都基於Transformer模型,有不同的優缺點和特性。此次變革,雲知聲並不需要從底層開始幹,而是進行模型架構的切換,這會比從頭做的變數要少很多,而且有行業應用場景、客戶和資料的積累。
通往AGI的路不只有一條,雲知聲站在巨人肩膀上開啟“終南捷徑”
  十年磨劍,雲知聲為大模型為基礎的MaaS平臺做好準備

  正如一句名言:“過去每一步都算數。”

  作為一支深度思考行業趨勢,密切關注行業前沿技術發展的團隊,同時也在行業裡有了多年積累,已形成全棧能力,給新一輪技術升級奠定了紮實的基礎,也為打造以大模型為基礎的MaaS平臺做好準備。

  在算力平臺之上是資料中心模型最佳化(DCML)層。雲知聲在2016年開始進入醫療行業後,發現根據不同應用場景資料,需要對模型進行高效的針對性最佳化,本質上是如何根據應用資料對模型進行快速調優,GPT模型的強化學習也是在這層完成的。這一層的構建目標就在於此,其作用是能夠提高產品的標準化程度,透過模型而非程式碼來解決應用場景差異,大幅提升人效比。
通往AGI的路不只有一條,雲知聲站在巨人肩膀上開啟“終南捷徑”
  再之上是模型層。這也是目前正在改變的地方。在此前的AI正規化下,無論是人機互動,還是各種行業應用,實際上要先做好各單元模型,再把各種單元模型整合起來實現業務目標,現在則要轉變為以GPT為核心的大模型來做。而過去各種部件級模型,像語音降噪、語音識別、語音合成等標準模組仍會持續最佳化,但也會借鑑大模型的思路,比如加大無監督預訓練資料規模,實現多語種聯合建模、輕量級定製和個性化等,可以顯著降低成本,同時提升效果和效率。

  球已經到了腳下,接下來要做的事情變得確定。面對ChatGPT帶來的機遇,雲知聲已經做好準備,一季度就擴充了30%算力,去做大模型的轉軌,年底算力預計將翻幾倍,“升級下一代以GPT為核心的架構”。在以大模型實現智慧物聯(廣度)和智慧醫療(深度)兩個行業技術升級後,MaaS模式也將完成驗證,再結合各行業應用需求,逐步擴充行業大模型,最終將MaaS平臺做到萬億級以上引數,實現從專用走向通用!

來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/69979405/viewspace-2946990/,如需轉載,請註明出處,否則將追究法律責任。

相關文章