超詳細robots.txt大全和禁止目錄收錄及指定頁面

robots.txt寫法大全和robots.txt語法的作用
1如果允許所有搜尋引擎訪問網站的所有部分的話 我們可以建立一個空白的文字文件，命名為robots.txt放在網站的根目錄下即可。
robots.txt寫法如下：
User-agent: *
Disallow:
或者
User-agent: *
Allow: /
2如果我們禁止所有搜尋引擎訪問網站的所有部分的話
robots.txt寫法如下：
User-agent: *
Disallow: /
3如果我們需要某一個搜尋引擎的抓取的話，比如百度，禁止百度索引我們的網站的話
robots.txt寫法如下：
User-agent: Baiduspider
Disallow: /
4如果我們禁止Google索引我們的網站的話，其實跟示例3一樣，就是User-agent:標頭檔案的蜘蛛名字改成谷歌的Googlebot
即可
robots.txt寫法如下：
User-agent: Googlebot
Disallow: /
5如果我們禁止除Google外的一切搜尋引擎索引我們的網站話
robots.txt寫法如下：
User-agent: Googlebot
Disallow:
User-agent: *
Disallow: /
6如果我們禁止除百度外的一切搜尋引擎索引我們的網站的話
robots.txt寫法如下：
User-agent: Baiduspider
Disallow:
User-agent: *
Disallow: /
7如果我們需要禁止蜘蛛訪問某個目錄，比如禁止admin、css、images等目錄被索引的話
robots.txt寫法如下：
User-agent: *
Disallow: /css/
Disallow: /admin/
Disallow: /images/
8如果我們允許蜘蛛訪問我們網站的某個目錄中的某些特定網址的話
robots.txt寫法如下：
User-agent: *
Allow: /css/my
Allow: /admin/html
Allow: /images/index
Disallow: /css/
Disallow: /admin/
Disallow: /images/
9我們看某些網站的robots.txt裡的Disallow或者Allow裡會看很多的符號，比如問號星號什麼的，如果使用“*”，主要是限制訪問某個字尾的域名，禁止訪問/html/目錄下的所有以”.htm”為字尾的URL(包含子目錄)。
robots.txt寫法如下：
User-agent: *
Disallow: /html/*.htm
10如果我們使用“$”的話是僅允許訪問某目錄下某個字尾的檔案
robots.txt寫法如下：
User-agent: *
Allow: .asp$
Disallow: /

11如果我們禁止索引網站中所有的動態頁面（這裡限制的是有“?”的域名，例如index.asp?id=1）
robots.txt寫法如下：
User-agent: *
Disallow: /*?*
有些時候，我們為了節省伺服器資源，需要禁止各類搜尋引擎來索引我們網站上的圖片，這裡的辦法除了使用“Disallow: /images/”這樣的直接遮蔽資料夾的方式之外，還可以採取直接遮蔽圖片字尾名的方式。
示例12
如果我們禁止Google搜尋引擎抓取我們網站上的所有圖片(如果你的網站使用其他字尾的圖片名稱，在這裡也可以直接新增)
robots.txt寫法如下：
User-agent: Googlebot
Disallow: .jpg$
Disallow: .jpeg$
Disallow: .gif$
Disallow: .png$
Disallow: .bmp$
13如果我們禁止百度搜尋引擎抓取我們網站上的所有圖片的話
robots.txt寫法如下：
User-agent: Baiduspider
Disallow: .jpg$
Disallow: .jpeg$
Disallow: .gif$
Disallow: .png$
Disallow: .bmp$
14除了百度之外和Google之外，禁止其他搜尋引擎抓取你網站的圖片
(注意，在這裡為了讓各位看的更明白，因此使用一個比較笨的辦法——對於單個搜尋引擎單獨定義。)
robots.txt寫法如下：
User-agent: Baiduspider
Allow: .jpeg$
Allow: .gif$
Allow: .png$
Allow: .bmp$
User-agent: Googlebot
Allow: .jpeg$
Allow: .gif$
Allow: .png$
Allow: .bmp$
User-agent: *
Disallow: .jpg$
Disallow: .jpeg$
Disallow: .gif$
Disallow: .png$
Disallow: .bmp$

15僅僅允許百度抓取網站上的“JPG”格式檔案
（其他搜尋引擎的辦法也和這個一樣，只是修改一下搜尋引擎的蜘蛛名稱即可）
robots.txt寫法如下：
User-agent: Baiduspider
Allow: .jpg$
Disallow: .jpeg$
Disallow: .gif$
Disallow: .png$
Disallow: .bmp$
16僅僅禁止百度抓取網站上的“JPG”格式檔案
robots.txt寫法如下：
User-agent: Baiduspider
Disallow: .jpg$
17如果 ? 表示一個會話 ID，您可排除所有包含該 ID 的網址，確保 Googlebot 不會抓取重複的網頁。但是，以 ? 結尾的網址可能是您要包含的網頁版本。在此情況下，沃恩可將與 Allow 指令配合使用。
robots.txt寫法如下：
User-agent:*
Allow:/*?$
Disallow:/*?
Disallow:/ *?
一行將攔截包含 ? 的網址（具體而言，它將攔截所有以您的域名開頭、後接任意字串，然後是問號 (?)，而後又是任意字串的網址）。Allow: /*?$ 一行將允許包含任何以 ? 結尾的網址（具體而言，它將允許包含所有以您的域名開頭、後接任意字串，然後是問號 (?)，問號之後沒有任何字元的網址）。

18如果我們想禁止搜尋引擎對一些目錄或者某些URL訪問的話，可以擷取部分的名字
robots.txt寫法如下：
User-agent:*
Disallow: /plus/feedback.php?
以上內容供大家參考下即可。