前言
上一篇介紹了雙色球走勢圖是怎麼實現的，這一篇介紹怎麼實現爬蟲所有的雙色球歷史資料，也可以同步分享怎麼同步福彩3D資料。採用的C#來實現的。
同步雙色球的地址：https://datachart.500.com/ssq/history/newinc/history.php?start={0}&end={1}
同步福彩3D的地址：https://datachart.500.com/sd/history/inc/history.php?start={0}&end={1}
上一篇介紹走勢圖的實現：https://www.cnblogs.com/luoyuhao/p/13887935.html
開啟網站顯示的資料如下：
實現爬蟲的過程
建立接收儲存雙色球歷史資料的table
抓取網站上的html ,再通過html 去解析相應的資料。
通過以上擷取後就只剩下需要的雙色球的歷史資料了，再去擷取tr td資料，就相應能到得到相應的資料了，是不是很簡單的一件事呀！
解析tr所有資料
/// <summary> /// 雙色球TR /// </summary> /// <param name="wnRepo"></param> /// <param name="content"><tbody></tbody>之間的內容</param> private void ResolveSSQTr(string content) { string trContent = string.Empty; Regex regex = new Regex("<tr class=\"t_tr1\">"); //在<tbody></tbody>之間的內容搜尋所有匹配<tr>的項 MatchCollection matches = regex.Matches(content); foreach (Match item in matches) { //如果當前匹配項的下一個匹配項的值不為空 if (!string.IsNullOrEmpty(item.NextMatch().Value)) { trContent = content.Substring(item.Index, item.NextMatch().Index - item.Index); } //最後一個<tr>的匹配項 else { trContent = content.Substring(item.Index, content.Length - item.Index); } DataRow dr = ssqdt.NewRow(); ResolveSSQTd(ref dr, trContent); ssqdt.Rows.Add(dr); } }
解析所有td內容
/// <summary> /// 雙色球TD /// </summary> /// <param name="dr"></param> /// <param name="trContent"></param> private void ResolveSSQTd(ref DataRow dr, string trContent) { List<int> redBoxList = null; //匹配期號的表示式 string patternQiHao = "<td>"; Regex regex = new Regex(patternQiHao); Match qhMatch = regex.Match(trContent); dr["QiHao"] = trContent.Substring(qhMatch.Index + 13 + patternQiHao.Length, 5); if (int.Parse(trContent.Substring(qhMatch.Index + 13 + patternQiHao.Length, 5)) % 2 == 0) { dr["Type"] = "雙期"; } else { dr["Type"] = "單期"; } //存放匹配出來的紅球號碼 redBoxList = new List<int>(); //匹配紅球的表示式 string patternChartBall = "<td class=\"t_cfont2\">"; regex = new Regex(patternChartBall); MatchCollection rMatches = regex.Matches(trContent); foreach (Match r in rMatches) { redBoxList.Add(Convert.ToInt32(trContent.Substring(r.Index + patternChartBall.Length, 2))); } //匹配紅球的表示式 patternChartBall = "<td class=\"t_cfont4\">"; regex = new Regex(patternChartBall); rMatches = regex.Matches(trContent); foreach (Match r in rMatches) { dr["B"] = Convert.ToInt32(trContent.Substring(r.Index + patternChartBall.Length, 2)); break; } patternChartBall = @"\d{4}-\d{2}-\d{2}"; regex = new Regex(patternChartBall); rMatches = regex.Matches(trContent); foreach (Match r in rMatches) { DateTime dt = Convert.ToDateTime(r.Value); dr["OpenDate"] = dt; dr["Week"] = CaculateWeekDay(dt.Year, dt.Month, dt.Day); } //排序紅球號碼 redBoxList.Sort(); //紅球號碼 dr["R1"] = redBoxList[0]; dr["R2"] = redBoxList[1]; dr["R3"] = redBoxList[2]; dr["R4"] = redBoxList[3]; dr["R5"] = redBoxList[4]; dr["R6"] = redBoxList[5]; dr["HTML"] = trContent; }
儲存所解析的資料儲存到SQLite
if (!Directory.Exists(tempPath))//判斷資料夾是否存在 Directory.CreateDirectory(tempPath);//建立資料夾在根目錄下 string _db = System.IO.Path.Combine(tempPath, "cpdb.dll"); SQLiteHelper helper = new SQLiteHelper(_db); OperResult oper = new OperResult(); helper.ExecuteNonQuery(string.Format("drop table if exists {0}", ssqtableName), _db); string msg = string.Format("create table if not exists {0} (\r\n", ssqtableName); for (int i = 0; i < ssqdt.Columns.Count; i++) { msg += string.Format("{0} {1},\r\n", ssqdt.Columns[i].ColumnName, helper.TypeToSqliteType(ssqdt.Columns[i].DataType)); } msg = msg.Remove(msg.LastIndexOf(",\r\n"), 3); msg += ")"; oper = helper.ExecuteNonQuery(msg, _db); oper = helper.SaveDataTable(ssqdt, ssqtableName);
獲取網頁內容的方法
public static string HttpGet(string url,string encoding) { WebRequest request = HttpWebRequest.Create(url); WebResponse response = request.GetResponse(); Stream stream = response.GetResponseStream(); StreamReader reader = new StreamReader(stream, Encoding.GetEncoding(encoding)); string content = reader.ReadToEnd(); return content; }
基姆拉爾森計算公式計算日期
/// <summary> /// 基姆拉爾森計算公式計算日期 /// </summary> /// <param name="y">年</param> /// <param name="m">月</param> /// <param name="d">日</param> /// <returns>星期幾</returns> protected string CaculateWeekDay(int y, int m, int d) { if (m == 1 || m == 2) { m += 12; y--; //把一月和二月看成是上一年的十三月和十四月，例：如果是2004-1-10則換算成：2003-13-10來代入公式計算。 } int week = (d + 2 * m + 3 * (m + 1) / 5 + y + y / 4 - y / 100 + y / 400) % 7; string weekstr = ""; switch (week) { case 0: weekstr = "週一"; break; case 1: weekstr = "週二"; break; case 2: weekstr = "週三"; break; case 3: weekstr = "週四"; break; case 4: weekstr = "週五"; break; case 5: weekstr = "週六"; break; case 6: weekstr = "週日"; break; } return weekstr; }
儲存完後，顯示的形式就是以DLL結尾的檔案了，如下圖：
怎麼讀取儲存的雙色球資料
string _db = System.IO.Path.Combine(tempPath, "cpdb.dll"); SQLiteHelper helper = new SQLiteHelper(_db); OperResult oper = new OperResult(); oper = helper.GetDataSet(string.Format("select * from {0}", ssqtableName), _db); if (oper.State == 1 && oper.DataSet != null && oper.DataSet.Tables.Count > 0 && oper.DataSet.Tables[0].Rows.Count > 0) { ViewBag.QiHao = "第" + oper.DataSet.Tables[0].Rows[0]["QiHao"] + "期"; ViewBag.B = oper.DataSet.Tables[0].Rows[0]["B"].ToString().Length == 1 ? "0" + oper.DataSet.Tables[0].Rows[0]["B"].ToString() : oper.DataSet.Tables[0].Rows[0]["B"].ToString(); ViewBag.R1 = oper.DataSet.Tables[0].Rows[0]["R1"].ToString().Length == 1 ? "0" + oper.DataSet.Tables[0].Rows[0]["R1"].ToString() : oper.DataSet.Tables[0].Rows[0]["R1"].ToString(); ViewBag.R2 = oper.DataSet.Tables[0].Rows[0]["R2"].ToString().Length == 1 ? "0" + oper.DataSet.Tables[0].Rows[0]["R2"].ToString() : oper.DataSet.Tables[0].Rows[0]["R2"].ToString(); ViewBag.R3 = oper.DataSet.Tables[0].Rows[0]["R3"].ToString().Length == 1 ? "0" + oper.DataSet.Tables[0].Rows[0]["R3"].ToString() : oper.DataSet.Tables[0].Rows[0]["R3"].ToString(); ViewBag.R4 = oper.DataSet.Tables[0].Rows[0]["R4"].ToString().Length == 1 ? "0" + oper.DataSet.Tables[0].Rows[0]["R4"].ToString() : oper.DataSet.Tables[0].Rows[0]["R4"].ToString(); ViewBag.R5 = oper.DataSet.Tables[0].Rows[0]["R5"].ToString().Length == 1 ? "0" + oper.DataSet.Tables[0].Rows[0]["R5"].ToString() : oper.DataSet.Tables[0].Rows[0]["R5"].ToString(); ViewBag.R6 = oper.DataSet.Tables[0].Rows[0]["R6"].ToString().Length == 1 ? "0" + oper.DataSet.Tables[0].Rows[0]["R6"].ToString() : oper.DataSet.Tables[0].Rows[0]["R6"].ToString(); }
以上即完成雙色球歷史資料的爬蟲和儲存資料的全部過程，思路非常清晰，而且方法容易，這樣就不需要呼叫收費的介面了，為開發雙色球走勢圖打好良好的基礎 ，大家有沒有覺得非常容易呀！其實爬蟲的方法很多，希望跟大家一起交流學習了，也可以通過正則表達是來獲取相應的資料，也可以用第三方工具去解析更簡單快捷，曾經我也做過相應的爬蟲，還挺好玩的。
爬蟲福彩3D資料
同樣顯示建立接收資料的表結構來接收資料。
解析tr資料
string trContent = string.Empty; Regex regex = new Regex("<tr>"); //在<tbody></tbody>之間的內容搜尋所有匹配<tr>的項 MatchCollection matches = regex.Matches(content); foreach (Match item in matches) { //如果當前匹配項的下一個匹配項的值不為空 if (!string.IsNullOrEmpty(item.NextMatch().Value)) { trContent = content.Substring(item.Index, item.NextMatch().Index - item.Index); } //最後一個<tr>的匹配項 else { trContent = content.Substring(item.Index, content.Length - item.Index); } //DataRow dr = sddt.NewRow(); ResolveSDSJTd(trContent); //sddt.Rows.Add(dr); }
解析td資料
private void ResolveSDSJTd(string trContent) { string patternChartBall = @"[1-9]\d{6}"; Regex regex = new Regex(patternChartBall); MatchCollection rMatches = regex.Matches(trContent); string qihao = ""; foreach (Match r in rMatches) { qihao = r.Value; break; } patternChartBall = "<td class=\"chartBall01\" width=18>"; regex = new Regex(patternChartBall); rMatches = regex.Matches(trContent); List<int> redBoxList = new List<int>(); foreach (Match r in rMatches) { int xx = int.Parse(trContent.Substring(r.Index + patternChartBall.Length, 1)); redBoxList.Add(xx); } if (!string.IsNullOrEmpty(qihao)) { DataRow[] dr = sddt.Select(string.Format("QiHao='{0}'", qihao)); if (dr.Length > 0) { dr[0]["R4"] = redBoxList[0]; dr[0]["R5"] = redBoxList[1]; dr[0]["R6"] = redBoxList[2]; } } }
儲存資料
if (!Directory.Exists(tempPath))//判斷資料夾是否存在 Directory.CreateDirectory(tempPath);//建立資料夾在根目錄下 string _db = System.IO.Path.Combine(tempPath, "sddb.dll"); SQLiteHelper helper = new SQLiteHelper(_db); OperResult oper = new OperResult(); helper.ExecuteNonQuery(string.Format("drop table if exists {0}", sdtableName), _db); string msg = string.Format("create table if not exists {0} (\r\n", sdtableName); for (int i = 0; i < sddt.Columns.Count; i++) { msg += string.Format("{0} {1},\r\n", sddt.Columns[i].ColumnName, helper.TypeToSqliteType(sddt.Columns[i].DataType)); } msg = msg.Remove(msg.LastIndexOf(",\r\n"), 3); msg += ")"; oper = helper.ExecuteNonQuery(msg, _db); oper = helper.SaveDataTable(sddt, sdtableName);
以上即可完成對福彩3D資料的爬蟲，還能爬取福彩3D試機號，這些資料一些就能全部爬取完了，非常的快捷簡單方便。
雙色球走勢圖如下：
上一篇文章有介紹怎麼去實現雙色球走勢圖，這裡就不再過多介紹了，這一篇主要是介紹怎麼爬蟲雙色球和福彩3D資料。
詳細介紹：https://www.cnblogs.com/luoyuhao/p/13887935.html
後記
為了做好爬蟲資料和走勢圖，爬蟲技術只能為做好走勢圖是一個前提條件，兩個步驟是相輔相成的，現在這兩個技術都具備了，只是不斷完善技術才能做出更強大的走勢圖的網站。以上只是純技術交流和學習，歡迎大家一起留言交流，共同學習進步。