爬虫怎么加代理,Python设置代理
Python设置代理ip的方法:首先将获取的ip地址写入代理;然后用百度检查ip代理是否成功,请求网页传输的参数;最后发送get请求,获取返回的页面并保存在本地。
【相关学习推荐:python教程】
python爬虫设置代理ip的方法:
设置ip代理是爬虫的必备技能;
检查本地ip地址;打开百度,输入“ip地址”可以看到这台机器的IP地址;
本文使用goubanjia.com的免费IP;
使用时注意传输协议是http还是https。代码如下:
#使用的库
导入请求
#将获取的ip地址写入代理
proxy={
https : 221.178 2336863366
}
#百度一下ip代理是否成功。
url=https://www.baidu.com/s?
#请求网页传输参数
params={
Wd 3360 IP地址
}
#请求标题
标题={
用户代理“:”Mozilla/5.0(Windows NT 6.1;WOW64) AppleWebKit/537.36 (KHTML,像壁虎一样)Chrome/65 . 0 . 3325 . 181 Safari/537.36
}
#发送获取请求
response=requests.get(url=url,headers=headers,params=params,proxies=proxy)
#获取返回的页面并将其保存在本地以便于查看。
with open(ip.html , w ,encoding=utf-8) as f:
F.write(response.text)打开保存的“ip.html”查看内容如下;
这就是python爬虫如何设置代理ip的细节。更多信息请关注热门IT软件开发工作室其他相关文章!
郑重声明:本文由网友发布,不代表盛行IT的观点,版权归原作者所有,仅为传播更多信息之目的,如有侵权请联系,我们将第一时间修改或删除,多谢。