Skip to content

cnpythonlib/ScrapyDouban

 
 

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

1 Commit
 
 
 
 
 
 
 
 
 
 

Repository files navigation

ScrapyDouban

豆瓣电影/豆瓣读书 Scarpy 爬虫,实现封面下载+元数据抓取+评论入库。

依赖

scrapy
torndb
arrow

使用

$ git clone https://github.com/poem/ScrapyDouban.git
$ cd ScrapyDouban
$ cd movie/book
$ scrapy crawl subject
$ scrapy crawl meta
$ scrapy crawl comment

注:请导入 douban.sql 到数据库后,自行配置项目下面的 database.py 文件

About

豆瓣电影/豆瓣读书 Scarpy 爬虫

Resources

Stars

Watchers

Forks

Packages

 
 
 

Contributors

Languages

  • Python 100.0%