robots允许搜索引擎抓取网页和.gif格式图片
来源:SEO科技网 上传:SEO科技网 更新日期:2023-12-22
robots允许搜索引擎抓取网页和.gif格式图片
只允许搜索引擎抓取网页和.gif格式图片,这里以E来代替某搜索引擎,其写法为:
User-agent: E
Allow: .gif$
Disallow: .jpg$
Disallow: .jpeg$
Disallow: .png$
Disallow: .bmp$
意思是只允许抓取网页和gif格式图片,不允许抓取其他格式图片。
|