432qw 发表于 2016-8-15 10:42:14

python爬虫爬网站的视频和图片

环境:
centos6.5 python2.6.6   http://www.budejie.com/( 纯属测试,并无恶意 )

网站分析:
我们点视频按钮 可以看到url是:http://www.budejie.com/video/

接着我们点开网页源码,看下面之处

接着我们把那个下面画红线的链接点开,可以看到是个视频。

下面我进行相似的操作点图片按钮,可以看到链接:http://www.budejie.com/pic/

接着我们点开网页源码。


相同操作,我们点开链接:

基本上就是这么个套路,也就用了python的两个模块 一个urllib 一个re正则
效果图:
这个是我爬下来的图片

这个是我爬下来的视频

这个是我把Linux上的视频拖一下到Windows上给大家看效果。


下面直接上代码!!!
爬视频的代码

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
#!/usr/bin/env python
# -*- coding:utf-8 -*-
import urllib,re
def geturl():
    html = urllib.urlopen("http://www.budejie.com/video/").read()
    reg = r'data-mp4="(.*?)"'
    return re.findall(reg,html)
for page in range(1,100):
    for i in geturl():
      print i   #i是视频的链接地址
      video = urllib.urlopen(i).read()
      fwc = open('./video/%s' %i.split('/')[-1],'wb')
      fwc.write(video)
      fwc.close()            

爬图片的代码

# -*- coding:utf-8 -*-
import urllib,re
def geturl():
    html = urllib.urlopen("http://www.budejie.com/pic/").read()
    reg = r'data-original="(.*?)"'
    return re.findall(reg,html)
for page in range(1,100):
    for i in geturl():
      print i   #i是图片的链接地址
      video = urllib.urlopen(i).read()
      fwc = open('./picture/%s' %i.split('/')[-1],'wb')
      fwc.write(video)
            fwc.close()



页: [1]
查看完整版本: python爬虫爬网站的视频和图片