網站蜘蛛日誌如何分析?對優化有用嗎?

南帝seo發表於2020-10-18

平時我們在做網站優化的時候,想知道有哪些搜尋引擎平的蜘蛛來訪問過我們們網站,或者是網站為啥不收錄了等一些原因導致網站出現了問題!那麼這個時候我們們就可以通過網站日誌下載下來,檢視裡面的各種蜘蛛來路,進行分析!但是有很多優化人員和站長都不懂這塊,網上問的挺多的,那麼今天就藉助這個機會和大家講講!

一、網站蜘蛛日誌是什麼意思?
關於網站的蜘蛛的意思就是各大搜尋引擎向伺服器傳送請求的時候產生的一個訪問記錄檔案,在伺服器裡面產生一個固定的網站日誌,格式是以某某.log檔案形式存在。

二、蜘蛛日誌如何分析呢?
1、首先要把網站日誌給下載下來後,用光年日誌把你網站日誌給匯入到這個工具裡面進行開啟後,裡面有每天的蜘蛛訪問記錄,具體的有蜘蛛ip、蜘蛛訪問日期、蜘蛛每天抓取你網站的目錄和頁面、蜘蛛返回的狀態碼以及蜘蛛來源型別。

2、檢視蜘蛛方式就是用蜘蛛來源ip,每一種蜘蛛ip代表的意思都不一樣的,比如經常123.125.68.開頭的蜘蛛ip的話,代表的意思就是你網站可能要進入沙盒期了!220.181.68開頭的ip蜘蛛經常都來的話,代表你網站可能要被K站!220.181.7、123.125.66代表百度蜘蛛IP要來爬取了,準備抓取你網站頁面了。

3、網站日誌檔案裡面的返回狀態碼每個意思也不一樣,比如200狀態碼代表的是你網站蜘蛛返回成功,成功抓取了頁面,404狀態碼代表的意思是蜘蛛沒有訪問到你網站的頁面。301代表的是蜘蛛抓取某個網頁的時候,我們某個頁面進行了跳轉。403狀態碼錶示伺服器拒絕蜘蛛抓取,可以去好好看看robots裡面是不是設定了禁止所有蜘蛛抓取!出現500狀態碼的話,代表伺服器內部錯誤,蜘蛛肯定是抓取不了你頁面的。

4、蜘蛛來源型別有以下:Baiduspider代表的是百度蜘蛛型別。Googlebot:Googlebot蜘蛛型別。Sogou:代表的是搜狗蜘蛛型別。360Spider:代表的是360蜘蛛型別。

三、蜘蛛日誌對網站優化有作用嗎?
蜘蛛日誌對我們們平時優化網站的過程中作用是非常大的,具體作用有以下:

1、可以根據蜘蛛ip來源檢視我們們網站最近的健康情況,是不是需要調整等。

2、可以根據蜘蛛來源型別知道最近哪些搜尋引擎平臺來網站來的多,哪些搜尋引擎引擎平臺來的少,是什麼原因導致的,可以及時的調整,增加網站的ip量和轉化率!

3、可以通過蜘蛛抓取你網站的目錄頁面等可以清晰的知道你網站哪些頁面是優質頁面,可以做參考,以後再寫文案的時候可以吸取精華,做更多搜尋引擎喜歡的網站頁面!

總結:在我們做網站優化過程當中,網站蜘蛛日誌這塊千萬不可大意,要好好的利用,為以後在優化當中作用非常大!

本文地址: https://www.51student.com/jishu/180.html原創文章,未經允許,嚴禁轉載!

相關文章