Skip to content

ThinkComb/gevent-crawler

 
 

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

4 Commits
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

gevent-crawler

一个爬虫程序,基于Gevent库

可同时运行多个抓取任务。 每个任务可以自定义设置最大并行下载数,http头等。 可自定义个任务的运行时间

依赖的第三方库: gevent lxml pymomgo

Releases

No releases published

Packages

No packages published