網路爬蟲-去除網頁原始碼中的標籤

像百度百科、維基百科獲取到的網頁原始碼經常會含有HTML標籤，要想獲取到跟頁面上我們看到的一樣的內容，就需要對網頁原始碼進行處理。
下面是處理網頁原始碼中的HTML標籤的工具類：

public class StringUtil {
    public static String stripHTML(String html) {
        String noHTMLString = "";
        html = html.replaceAll("&", "&");
        Matcher m = Pattern
                .compile("&#(\\d+);", Pattern.CASE_INSENSITIVE | Pattern.MULTILINE | Pattern.DOTALL | Pattern.CANON_EQ)
                .matcher(html);
        boolean b = false;
        int i = 0;
        while (m.find()) {
            if (i > 500) {
                System.out.println(i);
            }
            i++;
            html = html.replace("&#" + m.group(1) + ";", (char) Integer.parseInt(m.group(1)) + "");
            b = true;
        }
        if (!b) {
            m = Pattern
                    .compile("&#x([\\da-f]+);",
                            Pattern.CASE_INSENSITIVE | Pattern.MULTILINE | Pattern.DOTALL | Pattern.CANON_EQ)
                    .matcher(html);
            int j = 0;
            while (m.find()) {
                if (j > 500) {
                    System.out.println(j);
                }
                j++;
                html = html.replaceAll("&#[x|X]" + m.group(1) + ";", (char) Integer.parseInt(m.group(1), 16) + "");
            }
        }
        noHTMLString = html.replaceAll("<\\s*(?:br|Br|BR|bR|div|DIV|Div|p|P|td|TD|Td)\\s*(?:[^>])*\\s*>", "\n")
                .replaceAll("　", " ").replaceAll("", " ").replaceAll("&nbsp;", " ").replaceAll("\\<.*?\\>", "")
                .replaceAll("&(?:g|l)t", "");
        return noHTMLString.trim();
    }
}

處理後就可以得到跟我們網頁上看到的一樣的內容了，有時候有些特殊的字元可能沒有被處理掉，可以通過.replaceAll(）替換掉即可。