這幾天小秋去面試了,不過最近小秋學習了不少和位演算法相關文章,例如
對於演算法題還是有點信心的,,,,於是,發現瞭如下對話。
20億級別
面試官:如果我給你 2GB 的記憶體,並且給你 20 億個 int 型整數,讓你來找出次數出現最多的數,你會怎麼做?
小秋:(嗯?怎麼感覺和之前的那道判斷一個數是否出現在這 40 億個整數中有點一樣?可是,如果還是採用 bitmap 演算法的話,好像無法統計一個數出現的次數,只能判斷一個數是否存在),我可以採用雜湊表來統計,把這個數作為 key,把這個數出現的次數作為 value,之後我再遍歷雜湊表哪個數出現最多的次數最多就可以了。
面試官:你可以算下你這個方法需要花費多少記憶體嗎?
小秋:key 和 value 都是 int 型整數,一個 int 型佔用 4B 的記憶體,所以雜湊表的一條記錄需要佔用 8B,最壞的情況下,這 20 億個數都是不同的數,大概會佔用 16GB 的記憶體。
面試官:你的分析是對的,然而我給你的只有 2GB 記憶體。
小秋:(感覺這道題有點相似,不過不知為啥,沒啥思路,這下涼涼),目前沒有更好的方法。
面試官:按照你那個方法的話,最多隻能記錄大概 2 億多條不同的記錄,2 億多條不同的記錄,大概是 1.6GB 的記憶體。
小秋:(嗯?面試官說這話是在提示我?)我有點思路了,我可以把這 20 億個數存放在不同的檔案,然後再來篩選。
面試題:可以具體說說嗎?
小秋:剛才你說,我的那個方法,最多隻能記錄大概 2 億多條的不同記錄,那麼我可以把這 20 億個數對映到不同的檔案中去,例如,數值在 0 至 2億之間的存放在檔案1中,數值在2億至4億之間的存放在檔案2中....,由於 int 型整數大概有 42 億個不同的數,所以我可以把他們對映到 21 個檔案中去,如圖
顯然,相同的數一定會在同一個檔案中,我們這個時候就可以用我的那個方法,統計每個檔案中出現次數最多的數,然後再從這些數中再次選出最多的數,就可以了。
面試官:嗯,這個方法確實不錯,不過,如果我給的這 20 億個數數值比較集中的話,例如都處於 1~20000000 之間,那麼你都會把他們全部對映到同一個檔案中,你有優化思路嗎?
小秋:那我可以先把每個數先做雜湊函式對映,根據雜湊函式得到的雜湊值,再把他們存放到對應的檔案中,如果雜湊函式設計到好的話,那麼這些數就會分佈的比較平均。(關於雜湊函式的設計,我就不說了,我這只是提供一種思路)
40億級別
面試官:那如果我把 20 億個數加到 40 億個數呢?
小秋:(這還不簡單,對映到42個檔案唄)那我可以加大檔案的數量啊。
面試官:那如果我給的這 40 億個數中數值都是一樣的,那麼你的雜湊表中,某個 key 的 value 存放的數值就會是 40 億,然而 int 的最大數值是 21 億左右,那麼就會出現溢位,你該怎麼辦?
小秋:(那我把 int 改為 long 不就得了,雖然會佔用更多的記憶體,那我可以把檔案分多幾份唄,不過,這應該不是面試官想要的答案),我可以把 value 初始值賦值為 負21億,這樣,如果 value 的數值是 21 億的話,就代表某個 key 出現了 42 億次了。
這裡說明下,檔案還是 21 個就夠了,因為 21 個檔案就可以把每個檔案的數值種類控制在 2億種了,也就是說,雜湊表存放的記錄還是不會超過 2 億中。
80億級別
面試官:反應挺快哈,那我如果把 40 億增加到 80 億呢?
小秋:(我靠,這變本加厲啊).........我知道了,我可以一邊遍歷一遍判斷啊,如果我在統計的過程中,發現某個 key 出現的次數超過了 40 億次,那麼,就不可能再有另外一個 key 出現的次數比它多了,那我直接把這個 key 返回就搞定了。
面試官:行,此次面試到此結束,回去等通知吧。
總結
今天這篇文章主要講了大資料處理相關的一些問題,後面可能還會給大家找一些類似,但處理方式不同的題勒,大家如果覺得不錯,不妨:
有收穫?希望老鐵們來個三連擊,給更多的人看到這篇文章
1、給俺點個讚唄,可以讓更多的人看到這篇文章,順便激勵下我,嘻嘻。
2、老鐵們,關注我的原創微信公眾號「帥地玩程式設計**」,專注於寫演算法 + 計算機基礎知識(計算機網路+ 作業系統+資料庫+Linux)。儲存讓你看完有所收穫,不信你打我。
最後,給大家推薦一個珍藏已久的 github,該 github上收藏了幾百本常用電子書,並且還提供了下載的地址,部分截圖如下