查看: 1384|回复: 0

[经验分享] python 实现汽车之家车型数据爬虫

[复制链接]

yjhfgdfd

累计签到：1 天
连续签到：1 天

发表于 2016-7-11 10:27:08 | 显示全部楼层 |阅读模式

详细数据在json_text字段里面
安装使用方法：

1
2
3

git clone https://github.com/shancang/spider.git
pip install -r requirements.txt
mysql spider< sql/createTable.sql

修改配置
spider/config.py

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17

# -*- coding: utf-8
#日志----------------------------------------
#日志目录
LOG_DIR= "/tmp/spider"
#日志级别：debug,info,warning,error,critical
LOG_LEVEL = "info"
#process-----------------------------------
#pid 文件
PID_FILE = "/tmp/spider/spider.pid"
#线程数量
THARED_NUMBER = 6
#数据库------------------------------------
DB_USER = "spider"
PASSWORD = "123456"
DB_HOST = "localhost"
PORT = "3306"
DB_NAME = "spider"

进程管理

1
2
3

python setup.py start #启动
python setup.py stop #停止
python setup.py status # 查看运行状态

具体详细请移步
https://github.com/shancang/spider
代码仅供学习交流，不得做商业使用，不得恶意使用，造成后果请自行负责。

python, 汽车

相关帖子

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表，该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有，请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意，请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息，一经发现立即删除。若您因此触犯法律，一切后果自负，我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集，我们仅提供一个展示、介绍、观摩学习的平台，我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责，亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏，不得用于商业或者其他用途，否则，一切后果均由您自己承担，我们对此不承担任何法律责任
7、如涉及侵犯版权等问题，请您及时通知我们，我们将立即采取措施予以解决
8、联系人Email：admin@iyunv.com 网址：www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址：https://www.yunweiku.com/thread-242502-1-1.html 上篇帖子： python实现redis客户端单例+hbase客户端单例下篇帖子： Python之函数 python 汽车

使用道具举报