大家好!我是愛吃、愛玩、更愛學習技術,IT屆的新晉網紅,開發者的好朋友——位元熊!
位元熊:大家看了《新蝙蝠俠》嗎?希望大家都有機會體驗到(延期上映到5月17日)!實在不行,也可以回去看看“諾蘭三部曲”解解饞……
位元熊:《新蝙蝠俠》裡哥譚發大水,現實裡我們也得保護地球不被淹,4月22日是第53個地球日,在這個特殊的節日位元熊不僅請來了英特爾的OpenVINO技術專家楊亦誠,還請來了連續17年的微軟MVP、在MVP大家庭裡一提到就各種誇讚的胡浩老師!一起投資保護我們的地球。
【位元熊故事匯】作為位元熊直播間的重要欄目,定期請來技術大牛和行業先鋒做客。這裡不僅講最“熱”的技術,還有更多待解鎖的個人故事和趣味話題!請持續關注,更鼓勵大家推薦你想認識的“英雄”。歡迎大家來到直播間,跟位元熊一起,與專家們零距離暢聊。
歡迎大家訪問MSLearn學習平臺
https://aka.ms/DevMSLearn
與位元熊一起規劃學習路徑,加速進階
位元熊:如果請兩位老師在電影裡選擇一個自己喜歡的人物,或者說“世另我”的角色,會選擇誰?
胡浩:我是一個很喜歡看電影,刷美劇的人,都說“男人至死是少年”嘛,多少有一些英雄情節。在很多電影裡,我都會為英雄角色所傾倒,舉例來講,比如士官長,還有《龍珠》的孫悟空、超人、鋼鐵俠等等,甚至是《碟中諜》的Ethan,也是我的偶像。所以Ethan,你有什麼喜歡的電影角色和電影的英雄嗎?
楊亦誠:胡浩老師說的很多電影英雄我也喜歡,那我最崇拜的還是蝙蝠俠,他所有做的一切都是藏在面具底下的,打擊犯罪,除暴安良,儘管可能會揹負罵名,但他依然在暗夜中守護著哥譚。
位元熊:看起來兩位心中都有很明確的英雄人物,期待我們“充電”之後的詳細分享。既然是地球日,那不得不提起英特爾和微軟聯合舉辦的“AI for Earth”比賽,作為重要的主角人物,請Ethan介紹一下~
楊亦誠:我們英特爾和微軟聯合打造了一個以“雲車競速,碼到成功”為主題的黑客鬆比賽,以OpenVINO和微軟的Azure服務作為技術支點,帶領廣大的開發者和生態合作伙伴在自動駕駛和工業安全領域去進行一些探索和開發,推動綠色低碳發展。
英特爾一直致力於推動工業技術自動化,包括採用機械視覺技術,減少人力的重複勞動力,儘可能降低碳排放,實現可持續生產。
位元熊:謝謝Ethan介紹了這個很“地球日”的黑客鬆大賽,還分享了英特爾的綠色案例。那胡浩老師作為我們微軟的MVP能不能也給大家講講微軟的綠色予能貢獻,還有您擅長的技術領域。
胡浩:今年地球日的主題是“投資我們的地球”,疫情以來我跟大家一樣,很久沒出遠門,我一直夢想著有一天能出去浪,自由地潛水。以前潛水的時候,我也觀察到每年地球日各大潛水組織都會做一些有關保護海洋的活動,比如說潛水的同時收集一些海洋垃圾,在海灘上散步時撿垃圾。
像我手上微軟推出的這款滑鼠,差不多20%的塑料來自海洋垃圾。包裝也是廢物利用,用榨糖剩下的甘蔗渣滓製成,體現出對海洋的關懷。
我現在就職於VMware,跟微軟不約而同,VMware其實也有在2030年實現碳中和的計劃。我本身是AI和Azure方向的MVP,那麼在Azure裡,我會比較關注IoT物聯網的一些技術,微軟很多IoT的解決方案裡面,也會提出來利用網際網路技術幫助我們減排,保護水資源,以及廢物再利用等等。
有兩個例子我很樂意跟大家分享,第一個是資料中心,我們知道資料中心為了保證穩定性,一般來說會用傳統的柴油發電,對環境的影響比較大,所以微軟現在嘗試用清潔能源,比如說氫燃料電池作為備用電源。
另一個例子是18年的時候,微軟開展的一項實驗,把資料中心放到一個不鏽鋼全密封的桶裡,存到海洋裡面,作為一個資料中心正常地工作。2020年把這個不鏽鋼桶撈起來了,經過兩年的使用發現它的故障率,只有陸地上的1/8,還節省了散熱需要的能源。
胡浩:我今天想跟大家聊的技術主題,是關於微軟Azure基於人工智慧的服務,分為三類,第一類是在底層的Machine Learning。基於機器學習可以構築出一些認知服務,包含語言、視覺、語音等等,幫助我們做一些決策,這些服務很容易嵌入到工作流當中。在Azure的雲端有一個機器學習工作室,有三大神器:
**1、設計器,可以通過拖拽的方式很快地達成我們的目標,門檻比較低,對機器學習的模型之類的概念都不是很清楚也沒關係。
2、自動化的機器學習,我們可以在這裡提出我們這個機器的目標,提供對應的資料集,讓它自動去選擇合適的模型。
3、記事本,幫助我們快速瞭解程式碼,做一些互動的學習。**
從構建的模型到調整和定型,這就是所謂的機器學習的生命週期,最後要對訓練的模型打包、驗證、部署。講到部署,就要提OpenVINO了。OpenVINO跟MLOps有很好的銜接,我們可以利用OpenVINO在釋出環節進一步優化,沒有經過優化的模型可能需要更多的CPU時間,能耗更大。
在這個認知服務這一層,去年加入了一個新的服務叫OpenAI,OpenAI是馬斯克跟微軟各投資了10億美元作為啟動資金,在2018年構築的這樣一個組織去做非常巨量的資料訓練,它的第一版本GPT呢,使用了1.17億的引數,預訓練的數量達到了這個5 GB,到GPT-3預訓練的資料已經達到了驚人的45TB,微軟已經逐步把OpenAI引入到平臺當中了。
GPT-3到底有什麼意義?它本身分成四個不同的模型級別,最高階別達文西可以自動根據特定受眾生成創造性的內容,比如我們可以讓它幫助我們生成比賽的解說詞,之前做過試驗,聽眾沒有辦法分辨這個解說詞是不是真人寫的。在微軟自己的服務裡面,比如說像在低程式碼平臺Power BI等等這樣一些分析的平臺工具裡,用於構建模型,使用類似自然語言的方式做一個表示式的構築,可以幫助沒有程式設計訓練的業務人員。還有AI程式伴侶,也是一個非常強大的工具,我自己也用過,它能自動幫助你生成一些程式碼段,很省事。
最後給大家推薦一個我基於MSLearn整理的快速瞭解微軟人工智慧的學習路徑,期待大家一起學習進階。
楊亦誠:胡浩老師這邊講了微軟Azure的機器學習和認知服務,我們藉助OpenVINO這個工具,進一步減少AI平臺上的能耗。英特爾成都工廠已經率先將AI技術應用在了生產管理上,僅僅通過雨水收集這樣一個系統,每年就可以節約40萬加侖左右的淡水。
OpenVINO能幫助在模型部署的時候,平衡模型在端側時的反應速度和能耗,降低AI算力資源的消耗。我主要分享內容就是關於OpenVINO 2022.1新版本中runtime API 2.0的介紹。
OpenVINO是英特爾在2018年釋出的深度學習框架,它的核心目標是加速英特爾平臺上的深度學習模型推理的效能。從OpenVINO釋出至今經歷了四年的歷程,經過多個版本的迭代,增加了一些新的元件和功能。
OpenVINO的開發模型的流程分為三步:
1、構建,如果各位覺得Open Model Zoo的模型不太適合你當前的目標場景,也可以通過自己的一些定製資料集通過我們的training工具將我們的培訓模型進行一個重訓練,調優最終部署到你的裝置或者是一些應用場景上去。
2、優化,我們提供了Deep Learning Workbench這樣一個視覺化的除錯工具幫助你快速在網頁端做一些視覺化的模型的效能評估以及精度評估,此外還有一個叫Post-Training Optimization的工具用來做後訓練的量化,這樣就可以實現對模型的量化壓縮。
3、部署,我們支援在英特爾不同的硬體平臺進行部署,比如說一個ATOM的小CPU或者酷睿的CPU、英特爾的整合顯示卡以及GPU等等。
OpenVINO API 2.0帶來的第一個新的功能特性就叫Preprocessing API介面,它的核心能力是將我們的前處理任務繼承到了模型的執行圖中,這樣做的優勢是可以將完整的PaddlePaddle模型的處理流程打包成一個模型的計算圖,如果你的CPU上已經跑了一些業務系統,那我們這部分的前處理任務就不會佔用你任務系統的資源。
這邊我列了一個Benchmark,是英特爾最新的資料,2022.1的版本相較於之前的2021.4,效能上在同樣的硬體平臺上有比較大的提升。
最後,我們這邊也提供了一個快速去學習runtime 2.0介面的捷徑,在我們的VS Code上做了一個小的Snippets,可以快速幫助大家補全程式碼,不用去反覆查閱文件。我個人一直用VS Code作為一個核心的開發平臺,它對一些OpenVINO的常規Recommend API操作都有一些定義……大家如果對OpenVINO新的runtime有興趣,又不想去反覆翻閱我們的官方API文件的話,可以去用VS Code的Snippets工具。
如果大家對OpenVINO推理部署優化這塊有興趣的話,也非常歡迎大家加入我們OpenVINO的中文社群,這個社群是在2020年5月16號成立的,我們會定期舉辦一些線上和線下的沙龍活動,提供人工智慧開發者的一個交流場,這裡還可以關注我們的B站和公眾號, B站上有大量關於OpenVINO的技術分享以及一些培訓課程。
位元熊:感謝兩位老師帶來技術乾貨和進一步學習探索的路徑。除了專業知識分享,位元熊也很想知道兩位老師自身有趣的故事。不得不說,胡浩老師已經是連續17屆的微軟MVP了,加入微軟MVP大家庭這麼久,肯定有很多難忘時刻,來個17年微軟MVP視角的爆料吧!
胡浩:我在這個MVP的圈子裡混了比較長的時間,認識的MVP小夥伴比較多。微軟最早設立這樣的一個專案,是為了在微軟和使用者之間有一個比較好的社群橋樑。MVP可以更快地把使用者的聲音傳遞給微軟,比如說傳遞給產品組或者研發。另外一方面,我們也可以把微軟的最新技術分享到社群。
我們組織過很多活動,舉兩個例子,一是我們之前在MVP的峰會上組織過一些公益的活動,比如給農民工子弟去講一些程式設計等等。每一年我們也會跟微軟還有其他的組織一起來做“程式設計一小時”之類的活動。2017年的時候那一年微軟現任CEO來到中國,給了非常寶貴的五分鐘時間跟CEO交流了一下和留下了一張合影。講認知服務的時候,我經常拿這張照片舉例子。
位元熊:歡迎更多有志的專家朋友加入我們的這個美麗的大家庭,那我也想問到Ethan,在英特爾工作是一種怎樣的體驗呢?
楊亦誠:其實我是剛加入英特爾不久,我是去年加入的,英特爾作為一個跨國企業或者說外企,不會去鼓勵你去花大量的時間在工作上,或者說無謂的加班加點,996這樣的情況。我們還會定期做一些線下活動,幫助大家更好地和同事交流和互動。
其次,英特爾作為一個全球非常有影響力的企業,他的技術棧也非常豐富。我們有同事是做雲的,有做5G的,有做AI的,還有做硬體落地的等等。我也非常有幸可以跟眾多大佬一起工作,在英特爾工作讓我有機會領略到各種技術,讓自己接觸不曾涉及的領域。物質方面,我們公司的福利很好,有健身房、籃球場呢,總的來說是一個非常人性化的工作環境。
位元熊:面對疫情,大家對居家辦公都習以為常了,兩位老師目前都在上海,在家的時候,無論是工作還是平衡生活,大家妙招可以一起交流?
胡浩:我主要工作的領域叫終端使用者計算,它致力於提供非常安全的遠端工作環境,所以對我來說,居家辦公已經是常態了,我從2020初開始就進入到所謂的混合辦公的場景。很長一段時間進不了公司,後來疫情好一點之後,我所在的公司也比較提倡在家工作的形式,我還特意從公司申請了一臺顯示器。這次疫情來得比較突然,很多朋友可能都被關在家裡了。在家時間長了,肯定會焦慮,需要主動舒緩自己的情緒,比如我們剛開始聊的電影、美劇。有時候,我會把上MSLearn刷學習路徑作為我的消遣,每一次你去看一個可能跟你本職工作完全不相關的領域,就挺有意思的,而且可能在未來的某個時刻,這些知識會反哺到你的工作當中來。
很多人,包括我們的一些小夥伴,在家裡這麼長時間了一直沒機會理髮,大家可以看到我頭髮比較短,因為我從12年開始就買了一個推子,給自己理髮哈哈哈。
楊亦誠:我和胡浩老師不一樣,我這個髮型不太適合用推子,所以我確實已經一個多月沒理過頭發了。居家辦公我也受到很多方面的困擾,比如說我家小孩在我白天上班的時候會哭鬧,同時我不斷要在工作和日常生活間切換,要搶菜、收快遞、做核酸等,導致工作被頻繁打斷。我有幾個解決方案,我白天會盡量處理一些和團隊相關的任務,比如說開會,或者討論某一個report或者proposal。晚上的時間相對比較安靜,我就可以去做一些個人相關的工作,比如說寫寫程式碼、看看書、寫個人的報告等等,更好集中注意力。
居家之後,你的整個作息規律也可能被打亂了,就需要找到適合自己的新的生物鐘。固定下來之後,還是可以達到比較高效的狀態的。我以前比較喜歡打籃球,踢足球什麼的。現在我也拿出了很久沒有玩的PS4,玩一些足球遊戲和籃球遊戲,消磨週末的時光。
位元熊:最後的黃金時間,當然要留給我們的電影大推薦環節,以蝙蝠俠為崇拜英雄的Ethan先來!
楊亦誠:那我來聊一下我個人比較喜歡的電影和電視劇,首先我最喜歡的兩部電影就是《蝙蝠俠:黑暗騎士》和《指環王》,前者改變了超級英雄電影的拍法,打造了一個基於真實世界的義警形象;《指環王》非常巨集大,真正的史詩電影。
胡浩:我也很喜歡《指環王》系列,戰爭場面非常過癮,護戒聯盟抵禦了那麼多誘惑,歷經磨難,把魔戒送到末日火山去毀掉,整個過程回想起來還是很震撼。
楊亦誠:《蝙蝠俠》這裡我選擇了Joker的海報,以往的反派往往是為了金錢,或者比較世俗的利益,Joker彷彿是邪神化身,追求著純粹的混亂,希斯·萊傑的表演更是精彩十足,把我迷住了。
胡浩:我喜歡各種型別的片子,比如說像科幻、戰爭,還有結構比較精巧的劇情片,以前我比較喜歡杜琪峰導演的電影,《暗戰》等等。這次特別想提到劉德華主演的《墨攻》,改編自日本的漫畫,講的其實是我們的墨子的故事。我很喜歡墨子的觀點,比如兼愛非攻,節用和尚同。
墨子的這些理念,不像顯學一樣流傳得那麼廣泛,他一直試圖用自己的技術改變這個世界,跟我們去獻身社群、獻身開源,有一定的相似,大家會對一些事物抱有理想主義的想法。劉德華也是我非常喜歡的一位演員,他是一個非常努力的演員,可能他的天分不是最好的,演技可能也不是最棒的,但是你會看到他一直以來都非常努力去不斷提高自己。
以我自己為例,我可能不一定有很好的資質,也不一定在某個方向非常專業,但我相信如果一直保持學習的心態,哪怕沒有一個非常好的一個結果,這個過程也已經讓人非常滿足了。
位元熊有話說
4月徘徊在春天裡,位元熊非常幸福能在這樣舒適的季節邀請到來自微軟MVP團隊和英特爾的兩位像四月天一樣溫暖的專家。位元熊請來的嘉賓技術過硬是不可否認的,同樣他們也給位元熊帶來了新的啟示和生活力量。
胡浩老師,我們17年的微軟MVP,總是以最謙虛的態度,不斷地學習和充實自己,毫不猶豫地貢獻自己幫助他人。胡浩老師付出了很多在義務分享中,個人也有豐富的興趣愛好,比如攝影、書法、潛水,從我們的直播片段中也不難看出,探索新知也是他的興趣之一,而且他很享受過程中的收穫。跟Ethan的聯絡是因為微軟和英特爾正在舉行的“AI for Earth”的比賽,作為技術指導的他展示了專業能力。提到電影和影視劇人物,Ethan也有很多分享,比如最愛的英雄蝙蝠俠和《竊聽風暴》做好事不留名的主人公。或者《絕命毒師》中的“老白”,聯想到自己,很多時候可以減少關注來自外界的價值判斷,找一件自己喜歡,願意花時間鑽研,並且對他人有價值的事,形成內驅力,不斷精進自己。
雖然因為疫情,線下相聚的機會延後了,但是我們也瞭解到在“0和1的世界”裡無所不能的開發人也有“搶菜”、“調整生活規律”、“解決頭髮問題”的煩惱,當然在這種情況下他們仍然輸出了靠譜的解決方案。希望大家和我一樣接收到了兩位專家輸出的技術充電和正向情緒價值,像感受春天一樣體會到開發人的有趣和浪漫吧!
喜歡4月的【位元熊故事匯】嗎?有什麼想對兩位老師的提問,不限技術還是故事。歡迎留言提問,嘉賓親自解答,機會有限,快快留言。或許會有意外驚喜哦!
5月【位元熊故事匯】大事件即將發生,錯過後悔一年!鎖定我的頻道,精彩即將到來!