作者:林冠巨集 / 指尖下的幽靈
掘金:https://juejin.im/user/587f0dfe128fe100570ce2d8
部落格:http://www.cnblogs.com/linguanh/
GitHub : https://github.com/af913337456/
騰訊雲專欄: https://cloud.tencent.com/developer/user/1148436/activities
僅列舉一些解決方法,事實的解決方案是非常多的。
這些問題都是面臨著有如下的考慮:
- 記憶體不足以放下所有的數。
- 機器CPU的核數不夠。
- …
問這些問題的意義:
如果能把這些問題答好,必然是綜合計算機各方面的知識,從記憶體到資料結構甚至還涉及到硬體,方法面面。至此,我給它定位是,綜合考量一個程式設計師計算機基礎能力的面試題。
一,找出不重複的
在2.5億
個正整數
中找出不重複的整數。
思路一:
分治法 + HashMap
(HashMap 不要侷限在 Java 語言)
將 2.5 億個整數,分批操作,例如分成 250 萬一批,共100批次。每批使用迴圈遍歷一次,存入 HashMap<int1,int2>
裡面,int1
對應這個數,int2
對應它出現的次數,沒出現就預設是 1 次。每操作完一批,就進行當前的 HashMap
的去重操作
,讀出 int2 > 1
的,排除掉。接下來的批次,以此類推,得出 100,剩下的自然就是不重複的。
好了,我們現在來計算下上面這個方案的雙間複雜度,時間
& 空間
時間複雜度
:250W * 100輪 + 其它批次
。對於多核機器,可以啟動執行緒操作。
空間複雜度
:使用 int 來進行存每一個數,保證不溢位情況下,那麼就是 –> Key + Value : (250W * 4位元組,4Byte)/(1024*1024) ~ (Key + 9.5MB)
記憶體。
思路二:
點陣圖法 Bitmap
(一個 bit 僅會是 0 或 1)
對於此題,我們可以設計每兩個 bit
位,標示一個數的出現情況。00
表示沒有出現,01
表示出現一次,10
表示出現多次。2.5 億個正整數,首先我們要知道是正整數
,我們就不需要考慮負數,也就是無符號,無符號的整形佔四個位元組
。
我們以這個為例子,開始計算點陣圖
記憶體。
1B = 8b,4B = 32b,它可以表示的最大
的整數是 2^32-1(不溢位)
,也就是說,我們需要 2^32-1 ~ 2^32
個位
來表示這2.5
億個數。我們上面說了,每個狀態
是兩個位
,那麼總共就是2^32*2
個位。
那麼我們可以一次申請的 點陣圖 記憶體是:2^32*2 bit ,(2^32*2)/(1024*1024*8) = 1GB
即可。當然,我們也可以加上分治
的思路,分批處理,不用直接用 1G,哈哈。
那麼這樣做的情況下怎樣找到這個數呢?我舉個例子,例如我們此時讀入一個數是:64
,64
對應的所在bit
位是:64*2=128
,也就是說第 127
和 128
位共同標示了它的出現狀態
。其他的以此類推。每當我們讀出一個數,我們就這樣去找到它對應的bit位
,先讀出bit位
的值,再做記錄,已經是01
的,再次來到,那麼就應該修改為10
。最後的我們這樣得出結果:掃描整個點陣圖,如果是10
的,就下標/2
得出這個數。
二,找出出現次數最多的
第一題:找出一篇文章中,出現次數最多的單詞。
第二題:10億個正整數
找出重複次數最多的100個整數。
思路一:
分治法 + HashMap
沒錯,分治法 + HashMap
這個方法就是可以用來處理很多 Top K
問題的。
對於問題一
,其實比較簡單,這道題也是我 2016 年騰訊第三輪技術面要求當場寫程式碼的題目
。我們可以先判斷,這篇文章可能很長,也可能很短,那麼我們應該規定一個字數的標誌
,作為一批的字數限制,例如100
個文字。每100
個文字是一批的處理極限,我們先讀出100
個,100以內的就直接全部讀出。讀出後,打散成字串,例如英語文章它以空格和一些符號分割。使用split
方法就可以打散。此時我們得出一個字串陣列String[] array
,有了這個之後就可以參考 找出不重複
問題的解法。每批使用迴圈遍歷一次,存入 HashMap<String,Integer>
裡面,string
對應這個數的字串,Integer
對應它出現的次數,最後最大的自然就是出現次數最多的。下面直接給出個 Demo 函式
。
// LinGuanHong
public static void search(String limitText){
String maxWord = "";
int maxTime = 0;
String[] words = limitText.split(" |\.|,");
int length = words.length;
HashMap<String,Integer> one = new HashMap<>();
for(int j=0;j<length;j++){
Integer number = one.get(words[j]);
if(number != null){
number = number + 1;
/** 找到次數加 1 */
one.put(words[j],number);
if(maxTime < number){
maxTime = number;
maxWord = words[j];
}
}else{
/** 沒找到,賦值 1 */
one.put(words[j],1);
}
}
System.out.println("maxTime is :"+maxTime+" ; maxWord is :"+maxWord);
}
複製程式碼
第二題對應的 分治法 + HashMap
按照前面的案例,我們首先一樣是要把這十億
個數分成很多份。例如 1000份
,每份 10萬
。然後使用 HashMap<int,int>
來統計。在每一次的統計中,我們可以找出最大的100個數
,為什麼只找10萬
中的100個啊?因為我們有1000份
,其它份裡面的第二大可能是這份裡最小的。這樣全部加起來都100*1000個
數了。OK,在我們找出這100*1000
個侯選數後,繼續分治處理,或者直接進行排序,如果直接排序就是10W個數
。排序演算法可以選快排
等之類的,前100個
就是結果。
思路二:
點陣圖法 Bitmap
第一題,略。不是純數字的,不建議採用點陣圖法
。
第二題:
有了 找出不重複的
的例子做基礎。我們此時直接知道這題的 正整數
最大也是隻能到 2^23-1
,對於這道題,我們不需要乘2
,所以我們申請的記憶體大小也是512MB
。這樣我們就能使用這個點陣圖
把所有數都存進去。如果出現了一次,該bit位 = 1
,沒有就是0。多次出現的話,我們就不能累加到bit位
裡面了,因為它最大就是1
。這時候我們會發現,出現多次的話,是無法通過bit位
進行累加記錄的。所以,此題也是不適合採用點陣圖法
。
其他的
例如問:XXXXX中找出最大的一個,最小的一個,最大的幾個,最小的幾個
。這類的就可以使用分治法+最小堆/最大堆
秒之。