requests库
利用pip安装:
pip install requests
基本请求
req = requests.get("https://www.baidu.com/") req = requests.post("https://www.baidu.com/") req = requests.put("https://www.baidu.com/") req = requests.delete("https://www.baidu.com/") req = requests.head("https://www.baidu.com/") req = requests.options(https://www.baidu.com/)
1.get请求
参数是字典,我们可以传递json类型的参数:
import requests from fake_useragent import UserAgent#请求头部库 headers = {"User-Agent":UserAgent().random}#获取一个随机的请求头 url = "https://www.baidu.com/s"#网址 params={ "wd":"豆瓣" #网址的后缀 } requests.get(url,headers=headers,params=params)
返回了状态码,所以我们要想获取内容,需要将其转成text:
#get请求 headers = {"User-Agent":UserAgent().random} url = "https://www.baidu.com/s" params={ "wd":"豆瓣" } response = requests.get(url,headers=headers,params=params) response.text
2.post 请求
参数也是字典,也可以传递json类型的参数:
import requests from fake_useragent import UserAgent headers = {"User-Agent":UserAgent().random} url = "https://www.baidu.cn/index/login/login" #登录账号密码的网址 params = { "user":"1351351335",#账号 "password":"123456"#密码 } response = requests.post(url,headers=headers,data=params) response.text
因为这里需要一个登录的网页,我这里就随便用了一个,没有登录,所以显示的结果是这样的,如果想要测试登录的效果,请找一个登录的页面去尝试一下。
3.IP代理
采集时为避免被封IP,经常会使用代理,requests也有相应 的proxies属性。
#IP代理 import requests from fake_useragent import UserAgent headers = {"User-Agent":UserAgent().random} url = "http://httpbin.org/get" #返回当前IP的网址 proxies = { "http":"http://yonghuming:123456@192.168.1.1:8088"#http://用户名:密码@IP:端口号 #"http":"https://182.145.31.211:4224"# 或者IP:端口号 } requests.get(url,headers=headers,proxies=proxies)
代理IP可以去:快代理去找,也可以去购买。
http://httpbin.org/get。这个网址是查看你现在的信息:
4.设置访问超时时间
可以通过timeout属性设置超时时间,一旦超过这个时间还没获取到响应内容,就会提示错误。
#设置访问时间 requests.get("http://baidu.com/",timeout=0.1)
5.证书问题(SSLError:HTTP)
ssl验证。
import requests from fake_useragent import UserAgent #请求头部库 url = "https://www.12306.cn/index/" #需要证书的网页地址 headers = {"User-Agent":UserAgent().random}#获取一个随机请求头 requests.packages.urllib3.disable_warnings()#禁用安全警告 response = requests.get(url,verify=False,headers=headers) response.encoding = "utf-8" #用来显示中文,进行转码 response.text
6.session自动保存cookies
import requests from fake_useragent import UserAgent headers = {"User-Agent":UserAgent().chrome} login_url = "https://www.baidu.cn/index/login/login" #需要登录的网页地址 params = { "user":"yonghuming",#用户名 "password":"123456"#密码 } session = requests.Session() #用来保存cookie #直接用session 歹意requests response = session.post(login_url,headers=headers,data=params) info_url = "https://www.baidu.cn/index/user.html" #登录完账号密码以后的网页地址 resp = session.get(info_url,headers=headers) resp.text
因为我这里没有使用需要账号密码的网页,所以显示这样:
我获取了一个智慧树的网页
#cookie import requests from fake_useragent import UserAgent headers = {"User-Agent":UserAgent().chrome} login_url = "https://passport.zhihuishu.com/login" #需要登录的网页地址 params = { "user":"12121212",#用户名 "password":"123456"#密码 } session = requests.Session() #用来保存cookie #直接用session 歹意requests response = session.post(login_url,headers=headers,data=params) info_url = "https://onlne5.zhhuishu.com/onlinWeb.html#/stdetInex" #登录完账号密码以后的网页地址 resp = session.get(info_url,headers=headers) resp.encoding = "utf-8" resp.text
7.获取响应信息
代码
含义
resp.json()
获取响应内容 (以json字符串)
resp.text
获取相应内容(以字符串)
resp.content
获取响应内容(以字节的方式)
resp.headers
获取响应头内容
resp.url
获取访问地址
resp.encoding
获取网页编码
resp.request.headers
请求头内容
resp.cookie
获取cookie
免责声明:本站文章均来自网站采集或用户投稿,网站不提供任何软件下载或自行开发的软件! 如有用户或公司发现本站内容信息存在侵权行为,请邮件告知! 858582#qq.com
更新日志
- 群星《戏梦》[FLAC/分轨][308.4MB]
- 魔兽世界永久60级什么时间开 永久60级开启时间介绍
- 魔兽世界奥卡兹岛血藻刷新点一览 wlk奥卡兹岛血藻刷新位置介绍
- 英雄联盟s14中国队种子怎么排名 s14中国队种子队伍排名一览
- 柏菲·梁玉嵘《知音梁品》限量开盘母带ORMCD[低速原抓WAV+CUE]
- [东升唱片]孙露《寂寞诱惑AQCD》高码率[FLAC]
- 群星-第8届2012十大发烧唱片精选HQ2CD[WAV+CUE]
- 九号公司两轮电动安全季行动圆满收官:为行业树立安全管理新标杆
- 创新驱动未来 中国移动5G云游戏深化智能运维应用推动行业发展
- 大型手游“帧数拉满” 骁龙8至尊版游戏表现强悍
- 谢金燕.2002-YOYO姊妹【华特】【WAV+CUE】
- 群星.1994-摇滚列车【音乐家】【WAV+CUE】
- 陈艾湄.1996-牵绊【巨翼】【WAV+CUE】
- 群星《无法抗拒的谎言 电视剧原声带》[320K/MP3][69.98MB]
- 群星《无法抗拒的谎言 电视剧原声带》[FLAC/分轨][372.04MB]