各大搜索引擎蜘蛛爬虫UA收集汇总

  发布日期:   2018-01-26
  最新修改:   2020-04-09
  阅读次数:   174 次

一、前言:

  • 本篇记录爬虫ua已备需要时查看

  • 百度

  • PC:

      Mozilla/5.0 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)
  • 移动:

      Mozilla/5.0 (iPhone; CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko) Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)
  • 百度图片

      “Baiduspider-image+(+http://www.baidu.com/search/spider.htm)”
      百度最新UA如下:
  • 360搜索

      Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0);
  • 360网站安全检测

      360spider (http://webscan.360.cn)
  • Google

      “Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)”
  • Google图片搜索

      “Googlebot-Image/1.0”
  • Adwords移动网络

      “AdsBot-Google-Mobile (+http://www.google.com/mobile/adsbot.html) Mozilla (iPhone; U; CPU iPhone OS 3 0 like Mac OS X) AppleWebKit (KHTML, like Gecko) Mobile Safari”
  • 微软 bing,必应

      “Mozilla/5.0 (compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm)”
  • 腾讯搜搜

      “Sosospider+(+http://help.soso.com/webspider.htm)”
  • 搜搜图片

      “Sosoimagespider+(+http://help.soso.com/soso-image-spider.htm)”
  • 雅虎英文

      “Mozilla/5.0 (compatible; Yahoo! Slurp; http://help.yahoo.com/help/us/ysearch/slurp)”
  • 雅虎中国

      “Mozilla/5.0 (compatible; Yahoo! Slurp China; http://misc.yahoo.com.cn/help.html)”
  • 搜狗图片

      “http://pic.sogou.com” “Sogou Pic Spider/3.0(+http://www.sogou.com/docs/help/webmasters.htm#07)”
  • 搜狗

      “Sogou web spider/4.0(+http://www.sogou.com/docs/help/webmasters.htm#07)”
  • 网易有道

      “Mozilla/5.0 (compatible; YoudaoBot/1.0; http://www.youdao.com/help/webmaster/spider/; )”
  • 瑞典 Speedy Spider

      “Mozilla/5.0 (Windows; U; Windows NT 5.1; en-US) Speedy Spider (http://www.entireweb.com/about/search_tech/speedy_spider/)”
  • 俄罗斯 yandex

      “Mozilla/5.0 (compatible; YandexBot/3.0; +http://yandex.com/bots)”
  • 宜搜 EasouSpider

      Mozilla/5.0 (compatible; EasouSpider; +http://www.easou.com/search/spider.html)
  • 华为赛门铁克蜘蛛

      “HuaweiSymantecSpider/1.0+DSE-support@huaweisymantec.com+(compatible; MSIE 7.0; Windows NT 5.1; Trident/4.0; .NET CLR 2.0.50727; .NET CLR 3.0.4506.2152; .NET CLR ; http://www.huaweisymantec.com/cn/IRL/spider)”
  • 华为赛门铁克科技有限公司网页信誉分析系统的一个页面爬取程序,其作用是用于爬取互联网网页并进行信誉分析,从而检查该网站上的是否含有恶意代码。

  • 七牛镜像蜘蛛

      qiniu-imgstg-spider-1.0
  • 监控宝

      “Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; JianKongBao Monitor 1.1)”
  • DNSPod监控

      DNSPod-Monitor/2.0
  • 俄罗斯 LinkpadBot

      Mozilla/5.0 (compatible; LinkpadBot/1.06; +http://www.linkpad.ru)
  • 英国 MJ12bot

      “Mozilla/5.0 (compatible; MJ12bot/v1.4.0; http://www.majestic12.co.uk/bot.php?+)”

   转载规则

《各大搜索引擎蜘蛛爬虫UA收集汇总字》GajAngels 采用 知识共享署名-非商业性使用 4.0 国际许可协议 进行许可。