设为首页 收藏本站
查看: 990|回复: 0

[经验分享] python的httplib、urllib和urllib2的区别

[复制链接]

尚未签到

发表于 2018-8-14 09:35:25 | 显示全部楼层 |阅读模式
  综述
  首先来看一下他们的区别
  urllib和urllib2
  urllib 和urllib2都是接受URL请求的相关模块,但是urllib2可以接受一个Request类的实例来设置URL请求的headers,urllib仅可以接受URL。
  这意味着,你不可以伪装你的User Agent字符串等。
  urllib提供urlencode方法用来GET查询字符串的产生,而urllib2没有。这是为何urllib常和urllib2一起使用的原因。
  目前的大部分http请求都是通过urllib2来访问的
  httplib
  httplib实现了HTTP和HTTPS的客户端协议,一般不直接使用,在python更高层的封装模块中(urllib,urllib2)使用了它的http实现。
urllib简单用法
urllib.urlopen(url[, data[, proxies]]) :
  详细使用方法见
  urllib学习
urllib2简单用法
  最简单的形式
import urllib2  
   response=urllib2.urlopen('http://www.douban.com')
  
   html=response.read()
  实际步骤:
  1、urllib2.Request()的功能是构造一个请求信息,返回的req就是一个构造好的请求
  2、urllib2.urlopen()的功能是发送刚刚构造好的请求req,并返回一个文件类的对象response,包括了所有的返回信息。
  3、通过response.read()可以读取到response里面的html,通过response.info()可以读到一些额外的信息。
  如下:
#!/usr/bin/env python  
    import urllib2
  
    req = urllib2.Request("http://www.douban.com")
  
    response = urllib2.urlopen(req)
  
    html = response.read()
  
    print html
  有时你会碰到,程序也对,但是服务器拒绝你的访问。这是为什么呢?问题出在请求中的头信息(header)。 有的服务端有洁癖,不喜欢程序来触摸它。这个时候你需要将你的程序伪装成浏览器来发出请求。请求的方式就包含在header中。
  常见的情形:
import urllib  
import urllib2
  
url = 'http://www.someserver.com/cgi-bin/register.cgi'  user_agent = 'Mozilla/4.0 (compatible; MSIE 5.5; Windows NT)'# 将user_agent写入头信息
  
values = {'name' : 'who','password':'123456'}
  
headers = { 'User-Agent' : user_agent }
  
data = urllib.urlencode(values)
  
req = urllib2.Request(url, data, headers)
  
response = urllib2.urlopen(req)
  
the_page = response.read(
  values是post数据
GET方法
  例如百度:
  百度是通过http://www.baidu.com/s?wd=XXX 来进行查询的,这样我们需要将{‘wd’:’xxx’}这个字典进行urlencode
#coding:utf-8  import urllib  
import urllib2
  
url = 'http://www.baidu.com/s'   values = {'wd':'D_in'}
  
data = urllib.urlencode(values)
  
print data
  
url2 = url+'?'+data
  
response = urllib2.urlopen(url2)
  
the_page = response.read()
  
print the_page
POST方法
import urllib  
import urllib2
  
url = 'http://www.someserver.com/cgi-bin/register.cgi'
  
user_agent = 'Mozilla/4.0 (compatible; MSIE 5.5; Windows NT)' //将user_agent写入头信息
  
values = {'name' : 'who','password':'123456'}      //post数据
  
headers = { 'User-Agent' : user_agent }
  
data = urllib.urlencode(values)                   //对post数据进行url编码
  
req = urllib2.Request(url, data, headers)
  
response = urllib2.urlopen(req)
  
the_page = response.read()
urllib2带cookie的使用
#coding:utf-8  import urllib2,urllib  
import cookielib
  

  
url = r'http://www.renren.com/ajaxLogin'
  
   #创建一个cj的cookie的容器
  
cj = cookielib.CookieJar()
  
opener = urllib2.build_opener(urllib2.HTTPCookieProcessor(cj))
  
#将要POST出去的数据进行编码
  
data = urllib.urlencode({"email":email,"password":pass})
  
r = opener.open(url,data)
  
print cj
httplib简单用法
#!/usr/bin/env python  
# -*- coding: utf-8 -*-
  
import httplib
  
import urllib
  

  
def sendhttp():
  
    data = urllib.urlencode({'@number': 12524, '@type': 'issue', '@action': 'show'})
  
    headers = {"Content-type": "application/x-www-form-urlencoded",
  
               "Accept": "text/plain"}
  
    conn = httplib.HTTPConnection('bugs.python.org')
  
    conn.request('POST', '/', data, headers)
  
    httpres = conn.getresponse()
  
    print httpres.status
  
    print httpres.reason
  
    print httpres.read()
  

  
if __name__ == '__main__':
  
    sendhttp()
  具体用法见
  httplib模块
  python 3.x中urllib库和urilib2库合并成了urllib库。其中、
  首先你导入模块由
import urllib  
import urllib2
  
变成了
  
import urllib.request
  然后是urllib2中的方法使用变成了如下
urllib2.URLError 变成了urllib.error.URLError  而当你想使用urllib 带数据的post请求时,
在python2中  
urllib.urlencode(data)
  

  
而在python3中就变成了
  
urllib.parse.urlencode(data)
  

  

  
而在python3中就变成了

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-551468-1-1.html 上篇帖子: 升级python2.6===升级至3.6.1版本 下篇帖子: 用python写的登陆程序
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表