【位元熊故事匯】3月MVP英雄故事——微軟MVP與英特爾首席工程師的春日Remix

微軟技術棧發表於2022-03-31

大家好!我是愛吃、愛玩、更愛學習技術,IT屆的新晉網紅,開發者的好朋友—位元熊!

大家看了《青春變形記》嗎?特別澄清一下,並不是位元熊 Cosplay 以後的出演哦~

位元熊:3月的故事匯請來的嘉賓大有來頭!坐在我們【位元熊直播間】的是我在 Pycon China 北京站結識的社群之星也是微軟 MVP 團隊裡很受歡迎的李者璈老師;線上上直播間還有位元熊的好朋友 OpenVINO 中文社群的 Nono 介紹給我的英特爾的大咖,邵文簡老師!

【位元熊故事匯】作為位元熊直播間的重要欄目,定期請來技術大牛和行業先鋒做客。這裡不僅講最“熱”的技術,還有更多待解鎖的個人故事和趣味話題!請持續關注,更鼓勵大家推薦你想認識的“英雄”。歡迎大家來到直播間,跟位元熊一起,與專家們零距離暢聊。

歡迎大家訪問 MSLearn學習平臺與位元熊一起規劃學習路徑,加速進階

3d12f2dfa8b8da60a0c96766a9d5f4c.jpg

位元熊:再給各位透露一個【位元熊故事匯】的獨家爆料——李者璈老師心中的超級英雄是奧特曼!他可是看過奧特曼的全部系列!邵文簡老師是否也有自己喜歡的英雄人物,我們先請邵老師聊聊技術乾貨,彩蛋部分請細心的小夥伴文中尋找!

邵文簡:雲端計算、物計算、邊緣計算、邊緣聯盟……最近很這些名詞非常火,那邊緣計算到底是什麼呢?簡單來說,邊緣計算起到了一個承上啟下的作用,把端側的物聯網裝置和雲端的核心網資料中心連線起來。

邊緣計算的重要性可以從這組研究資料中看出:45%的資料會在邊緣被儲存、分析和操作, 43%的人工智慧任務發生在邊緣裝置上。這個報告是2017年的,預測到明年2023年,具有人工智慧的邊緣裝置部署會有15倍的爆發性增長。

位元熊:邵文簡老師總結了四個推動邊緣計算髮展的因素,他專攻的智慧視訊邊緣計算領域很好地解釋了這些需求的存在。

1、低延遲的需求。現在很多小區都能自動對車牌識別進行閘機的開關,但如果從攝像頭拍到你的車牌,通過網路傳到核心網,再到資料中心,和大量匯聚在此的資料一起進行排隊,處理完再送回來,這個週期的延時可能會到十秒甚至幾十秒,這在實際的應用中是完全不能接受的。工業生產線上,機器視覺對延時的要求更高,基本上要在毫秒級,所以低延時的特性對很多視訊應用非常重要的。

2、頻寬成本。雖然現在4G、5G發展很快,但視訊資料還是太大了,視訊的位元速率從1Mbps 到甚至4~10 Mbps,而現在已經部署了10億隻IP相機,如果所有的資料都要彙集到雲端的話,隨之而來的頻寬成本在現在的技術和運營模式下是無法承受的。

3、資料安全和個人隱私。大家越來越重視隱私保護了,人臉、車輛的影像都是重要資訊,國家正在制定標準,要求涉及到個人隱私的資料要在邊緣計算,經過脫敏之後才能上傳到雲端進行下一步服務。

4、穩定連線。我本身是學通訊的,要在端到端實現穩定的視訊連線,並不容易。如果大家瞭解視訊編解碼,就知道視訊的資料其實是連續的,如果連線不穩定,丟失一幀就會導致連續丟幾十幀甚至上百幀的資料。

下圖以安防場景為例,展示了智慧視訊邊緣計算的落地情況:

智慧視訊邊緣計算在各個領域還有很多應用,比如基於人工智慧的視訊結構化,就是把視訊裡面所有我們感興趣的資訊變成結構化資料庫裡的資料,對 AI處理的要求非常高。

邵文簡:我們英特爾 OpenVINO 社群一直在為這個領域做貢獻,大家都知道英特爾提供了多種多樣的硬體產品,從凌動到酷睿到至強。我們也有 FPGA 的產品和基於 VPU(視覺處理器)的視覺加速產品。通過英特爾提供的軟體工具和軟體開發包,就能把這些硬體產品和解決方案連線起來。

這裡給大家介紹兩個:Intel® Media SDK 和 OpenVINO。Media SDK 是一個高效能的視訊編解碼以及影像處理的軟體工具,經歷了很多年的發展,今年要壽終正寢了,它的替代者/下一代叫 oneVPL,會在今年推出,效率比 Media SDK 更高,也基本保持了 Media SDK 的程式設計和介面的風格。

OpenVINO 則是英特爾在人工智慧方面用於快速部署、加速AI推理工作負載的軟體。下圖是 OpenVINO 的基本工作模式,兩個核心模組為模型優化器和推理引擎。

OpenVINO 從2018年到2022年經歷了4年的發展,OpenVINO 的2022.1版本也是我們一個比較大的 milestone,主要有以下新特性:

1、Open Model Zoo 支援了更多的域系列模型,增加了33個新的模型;簡化了依賴庫的管理;推出了全新的 API 2.0,跟主流AI程式設計方式一致。

2、提升了相容性,簡化了 Model Optimizer 的引數,支援了 Dynamic input shape……直接支援PaddlePaddle模型。

3、部署上支援了將很多前處理的任務整合到模型中;支援 Auto Plugin;增加了效能配置提示,比如可以在低延時和高吞吐量間選擇;優化 First Inference Latency。

2022.1這一版本無論是生產效率還是相容性、效能上都有很大的提升,對中文社群、中國的人工智慧使用者來說都是極大的便利,希望我們廣大的社群使用者和開發人們有機會能去 OpenVINO 網站下載和試用 OpenVINO。

位元熊:我已經聽入神了,剛才有聽到一些資訊和坐在我身邊的李者璈老師也有些關係,給李者璈老師一個特別機會,請您代表大家向邵文簡老師提問。

李者璈:提問像推理或者深度學習這樣的場景,邊緣裝置的治理或者模型的分發,一些管控面的東西, OpenVINO 有沒有提供一套模型下發、灰度模型的開箱即用的方案。

邵文簡:據我所知目前還沒有,現在有一個應用叫 OpenVINO Model Server,它把一個網路的 Inference 做成一種 service,讓其它的應用來調;開箱即用得看 OpenVINO 未來有沒有計劃提供這樣的能力,這也需要去跟邊緣的平臺,尤其是基於 k8s 或 k3s 的平臺進行整合。

李者璈:我還想打探一下,今年甚至說明年 OpenVINO 還有什麼其他的發展方向?有什麼可以透露的嗎?

邵文簡:我們之前推出了 Alder Lake 桌面版以及移動版的最全新CPU,它是業界第一個混合架構的 CPU。今年下半年還會釋出下一代的至強伺服器 Sapphire Rapids,有新的指令級 AMX(英特爾高階矩陣擴充套件),可以直接支援矩陣層了。我覺得 OpenVINO 的首要任務還是效能優化,對英特爾硬體的支援,把新架構的效能發揮出來,提高相容性。

李者璈:期待 OpenVINO 在新的至強伺服器上跑起來是什麼樣的。

邵文簡:稍微透露下哈,絕對會有驚喜。

位元熊:好啦好啦,再問下去不會就要涉及到商業機密了吧!還是請李者璈老師分享點內容給大家吧!

李者璈:我的分享比起邵老師可能更普及化一些,大家不準笑也不準打我。我今天其實主要是想聊一聊 Python,把目光放到3.9,或者說近一年以來它的一些變化,位元熊你之前用過 Python 嗎?

位元熊:本熊剛開始直播的時候,跟微軟雲步道師盧老師(盧建暉)一起進行過線上工作坊的學習,雖然只是短短几次課,也算有點初步瞭解。

李者璈:Python 現在會用在很多場合,比如說剛才邵老師提到的深度學習,PyTorch 或 TensorFlow 等等,他們都會用 Python 來作為 DSL 的前端。同時 Python 在後端開發以及傳統的 SRE 場景也有很多應用,像豆瓣以及之前的餓了麼,還有曾經的頭條,都是用 Python 作為自己主力的服務,國外的話 Instagram、Reddit 這些網站也是。

到2022年,大家可能會有一些抱怨,比如寫動態型別一時爽,然後重構全家XXX,被老闆罵死對吧?還有 Python 的效能不行,或者 Python 缺一些其他語言標配的東西。大家一直說 Python 是一個動態語言,表達力很豐富,但同時很多方面又覺得不夠完善。我們把時間放在到這一年來看,Python 主要還是圍繞三方面語法特性的增強,標準庫的增強以及效能改進,標準庫的增強還包含了清理掉一些歷史遺留債務。

語法改進我印象最深刻的是 PEP,PEP(Python Enhancement Proposal)是增強提案的簡稱。634、635、636這個 Python match(模式匹配)終於來了, 根據不同的400、404、418,返回不同的東西,不同的處理。在之前大家也許只能用 if 或者 else 來模擬這樣一個特殊的語法糖,那麼在這三個 PEP 之後,也就是3.10之後,Python 就笑稱終於有了C語言七幾年就有的東西——switch case,大家可能覺得至於這麼激動嗎?我們可以看一下這個稍微複雜一點的例子:

相比於之前的各種分支上的 if/else 這樣的東西能夠很大程度上達成語義一致,也就是我們能以近似人類語言,或者說符合直覺的方式寫程式碼,一眼就能看出這段程式碼在做什麼,它還支援更復雜的解構以及解析行為……之前引起 Python 社群分裂的一個提案叫做 PEP 572的海象操作符……它能讓我們程式碼寫得更靈活,但我個人覺得不要用得太嗨了,寫出來太過於 magic 的程式碼,重構的時候會被同事、老闆給打死。

PEP 612提出了一個叫引數型別的特殊型別,我們之前在使用 Decorate 裝飾器的時候,去標註引數物件你可能不知道怎麼樣去標註比較好,可能每一個東西都要標註……

612之後,我們就有了 ParamSpec 這樣一個特殊的東西,讓我們更方便地去使用 type hint,它是彌補了 type hint 到 Python 之間之前和動態特性之間的鴻溝。第三點大家一直很關心 Python 的效能,這是個老大難的問題,在一些需要高效能的場景,像剛才邵老師介紹的 PyTorch 或 TensorFlow,還有像我現在的公司太極圖形,我們都會選擇用Python作為一個領域的DSL,額外接管它的一些 Runtime,做一些處理……在常見的工業場景,寫一個 web 伺服器,做一些 server,大家可能就會覺得 Python 在一些流量比較大的情況下,之前我在餓了麼 Python 是我們的核心服務, Python 確實相比於 Go 之類的語言需要更多記憶體資源。有人會覺得,我用 Python 的時候不需要效能了,或者你都要效能了,為什麼要用 Python?這兩種看法都太極端了,我們還是希望達到一個平衡。

大家能看到我大部分的專案裡面,保底 Python 基本都得到了20%~25%以上的效能提升,而目前是沒有引入 git 也沒有去優化 GIL 效能的情況下去做。我們能看到社群在這方面做了很多努力,我很期待 Python 在保持效能和語法甜度的基礎上越來越快,達到一個平衡點,這樣的話讓更多人用得更好。

位元熊:李者璈老師是怎麼跟微軟MVP結緣的,加入MVP後參加過什麼樣的活動?

李者璈:我很早之前就是一個軟粉了,我夢中的筆記本就是 Surface Book 2。我瞭解到微軟 MVP 專案是在我大學的時候,當時覺得很遙遠。在15年微軟全面擁抱開源之後,我作為一個 Python 開發者,也確實感受到了微軟的大力支援,比如說 VS Code Python 的作者,還有比如說像 Jupiter 的核心開發者,還有 Guido……愛屋及烏我就徹底成為一個軟粉了。大家可能知道,Cynthia 是 Reactor 現在的 manager,從13年到現在也是 PyCon China 的組織者,我在籌辦 PyCon China 的過程中,Cynthia 跟我說,你既然喜歡微軟,又喜歡 Python,要不要去申請一下 MVP?我就試試了,第一次資料寫得太簡要被駁回了,第二次申請就過了,2020年正式成為 MVP 啦。

位元熊:大家參加各種社群分享活動中,也很有可能遇到我們的微軟 MVP,大家想申請的話也可以向他們請教。注意申請資料不要寫的太簡要哦!李者璈老師說到學生時代,我想到之前看到介紹邵文簡老師的一篇文章裡面,提到邵老師從本科到博士,經歷了通訊工程、計算機、多媒體通訊這幾個不同的專業,從這麼豐富的經歷出發,邵老師有什麼心路歷程嗎?

邵文簡:我們那時候沒有現在的學生這麼有想法,容易獲得方方面面的資訊。我們那時候基本還是聽老師家長的,老師說我理科也不錯可以學通訊,以後發展會很好,我就這樣選擇了本科專業。當時讀研究生還不像現在這麼流行,但是我大四的時候也接觸網際網路了。我差不多應該是國內第一批使用網際網路的人了,記得很清楚是64K專線,我一下子就被網際網路吸引了,通過一根細細的線就訪問了整個世界,對我產生了非常大的衝擊和影響,正好我們學校也有網路專業,我研究生就轉去讀了,主要是偏網路傳輸、網路安全這一塊的。我出來創業又是一個重大的轉變——去做邊緣端的人工智慧了……因為不管是學通訊還是網路,很多工作還是在邊緣端做的,甚至是在嵌入系統基於彙編做了很多優化。

我覺得大家需要拓寬視野,如果你能在一個方面鑽得很深,那你就繼續鑽下去,但對大部分人來說還是要勇於嘗試新的東西。拿 Python 舉例,Python 有多種多樣的庫,今天去做一個 Web 相關的工作,明天做一個資料治理,要多多嘗試。

位元熊:位元熊認識的很多開發人都在創業中,邵老師作為親身經歷者還拿到了A輪融資,經驗分享不能少。

邵文簡:我的建議是趁著年輕,甚至35歲以前,條件允許就大著膽子去創業,這是你人生精力最充沛、學習能力最強的階段,創業就是壓榨自己,把自己300%地壓榨,能力會迅速提升……當然還是那句話,創業有風險,有個笑話就是說這幾年最失敗的事情就是賣房去創業,對吧?另外,止損和止盈都非常重要的,有可能你再花兩三年在上面還是不行,需要果斷決定。

李者璈:個人不支援賣房創業。

位元熊:李者璈老師開始之前跟我開玩笑說要打個廣告,現在機會來了!

李者璈:我們太極圖形現在招人,我們的商業化產品正在孵化中,我們太極程式語言的開源本身也需要編譯器、圖形、變形計算領域相關的同學來加入進來,從研發到SRE到運營同學都招,歡迎找位元熊(微信:BitsBear)獲取內推直通車~

位元熊:【位元熊直播間】的大獨家!兩位老師爆料一下自己在工作之餘有什麼放鬆自我的方式嗎?

位元熊:我先起個頭!邵老師的頭像是《刺蝟索尼克》的蛋頭博士,要是沒有本熊的特別訪問誰能想到英特爾物聯網視訊事業部的首席工程師是用這麼可愛生動的頭像呢?

李者璈:一杯茶,一個陽臺坐一天……有挫敗感的時候,我會去社群裡面找一些專案,解決一些 issue,水一些PR換換心情。如果我寫程式碼寫累了,可能會看一下我感興趣的論文——當然這都算是比較累的放鬆,要完全放鬆,那我可能會去複習一下《奧特曼》,看一看裡面的經典臺詞,再看看《數碼寶貝》,我最喜歡第一部,最討厭第六部。我一直都是特攝迷,喜歡奧特曼,反正也沒有什麼不良嗜好,就靠這些來解壓。

即將上映的《新·奧特曼》

邵文簡:我可不可以說你去社群幫別人解決 issue 就跟打遊戲一樣啊哈哈哈。

李者璈:我覺得挺好玩的,有時我在公司累了,可能會去看看 issue。和別人討論的時候會去查各方面的資料,在擴充套件知識的同時也會轉移你的注意力,讓你的腦袋有個 break。

邵文簡:我的話喜歡跑步,這個是有理論依據的,運動可以產生多巴胺讓自己快樂起來。如果你最近一段時間工作不順,或者一個事情解決得不太好,去跑個步,真的能產生多巴胺,不過記得要量力而行。

李者璈:對,但對於我這種懶人來講,我心情不好時候,只想窩在床上,我女朋友把我趕起來,讓我去運動,我都起不來。

位元熊有話說

3月的 MVP 英雄故事不僅有我們微軟的 MVP,還有英特爾的超級技術專家。可以與兩位共度直播時光,位元熊非常榮幸,經驗值也 Up Up!

邵文簡老師的經歷豐富多彩,位元熊甚至覺得有些傳奇!多個專業的學習,成功的創業實踐,在程式開發、產品工程師、研發架構師多角色無縫切換,現今成為支援英特爾公司物聯網事業部全球視訊業務推進的核心引擎。在事業和技術上,位元熊覺得邵老師是需要仰望的高峰。但在生活裡,邵老師鼓勵正在前進的大家勇於嘗試和突破自我,也推薦通過跑步、踢球等積極正向的方式緩解壓力。謝謝邵老師關心位元熊的直播裝置和執行方式!李者璈老師不愧在 Python 社群很受歡迎啊!雖然他自己說是在本熊的 DDL 壓迫下準備了內容,但與純技術學習不同的是位元熊看到了開發人的思考,也拓寬了自己的邏輯維度。李者璈老師有著當代開發人的鮮明標誌,坐在直播間裡的他也給位元熊和各位觀眾帶來了很多積極、跳躍的情緒。希望跟位元熊一樣是超級軟粉的者璈老師,多多跟位元熊互動,繼續在微軟MVP大家庭中活躍!

雖然本期兩位嘉賓的技術方向、經歷經驗都有很大的區別,但是這絲毫不影響兩位不管是技術還是故事分享的精彩程度!希望大家跟我一樣享受3月【位元熊故事匯】的 Remix 魅力!

喜歡3月的【位元熊故事匯】嗎?你認為本期的彩蛋是什麼?還有什麼技術分享或是大咖是你想看到的?歡迎在文章下方評論,或者轉發文章至朋友圈,發表你的看法並@位元熊。最愛開發者的熊仔當然準備了禮物給大家!快讓我看到你,將禮物送到你身邊!
超前預告——4月【位元熊故事匯】驚喜疊加,不負相約!鎖定我的頻道,精彩即將到來!

回看直播

相關文章