爬虫怎么加代理,Python设置代理

  爬虫怎么加代理,Python设置代理

  Python设置代理ip的方法:首先将获取的ip地址写入代理;然后用百度检查ip代理是否成功,请求网页传输的参数;最后发送get请求,获取返回的页面并保存在本地。

  【相关学习推荐:python教程

  python爬虫设置代理ip的方法:

  设置ip代理是爬虫的必备技能;

  检查本地ip地址;打开百度,输入“ip地址”可以看到这台机器的IP地址;

  本文使用goubanjia.com的免费IP;

  使用时注意传输协议是http还是https。代码如下:

  #使用的库

  导入请求

  #将获取的ip地址写入代理

  proxy={

  https : 221.178 2336863366

  }

  #百度一下ip代理是否成功。

  url=https://www.baidu.com/s?

  #请求网页传输参数

  params={

  Wd 3360 IP地址

  }

  #请求标题

  标题={

  用户代理“:”Mozilla/5.0(Windows NT 6.1;WOW64) AppleWebKit/537.36 (KHTML,像壁虎一样)Chrome/65 . 0 . 3325 . 181 Safari/537.36

  }

  #发送获取请求

  response=requests.get(url=url,headers=headers,params=params,proxies=proxy)

  #获取返回的页面并将其保存在本地以便于查看。

  with open(ip.html , w ,encoding=utf-8) as f:

  F.write(response.text)打开保存的“ip.html”查看内容如下;

  这就是python爬虫如何设置代理ip的细节。更多信息请关注热门IT软件开发工作室其他相关文章!

郑重声明:本文由网友发布,不代表盛行IT的观点,版权归原作者所有,仅为传播更多信息之目的,如有侵权请联系,我们将第一时间修改或删除,多谢。

留言与评论(共有 条评论)
   
验证码: