Skip to content

yxw19870806/Py3Crawler

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

Python3 Crawler

Required

  • OS:windows(maybe Linux and mac)
  • Python:v3.11+, not supported Python 2.X

Suggest

  • IDE and Project Encoding setting with UTF-8

Features

  • 多线程
    multithreading
  • 支持使用代理设置
    support proxy
  • 支持绑定键盘事件(快捷键),如暂停/启动程序运行
    support bind keyboard events, e.g. pause or restart process
  • 支持从本地浏览器中读取cookies并携带访问限制的网站
    read cookies from your local browser
  • 页面访问支持多种参数:
    support multiple parameter for visit web
    • 支持常用请求方法:GET、POST、HEAD、PUT、DELETE、OPTIONS、TRACE
      common request method: GET, POST, HEAD, PUT, DELETE, OPTIONS, TRACE
    • 可自定义添加request header
      add customize request header
    • 可自定义添加Cookies
      add customize cookies
    • 可设置链接超时、读取超时
      set connection timeout and read timeout
    • 可设置是否自动跳转(http code 301、302、303、307、308)
      set whether auto redirect(http code 301, 302, 303, 307, 308)

Install

  • 安装Visual C++ 生成工具

访问微软官方Visual Studio下载页面
选择"用于 Visual Studio 的工具" - "Visual Studio 2022 生成工具"下载
运行下载的exe引导文件、开始安装Visual Studio Installer
Visual Studio Installer安装完毕后,勾选"桌面应用和移动应用"标签下的"使用C++的桌面开发"和"通用windows平台生成工具"并安装

  • 安装swig,并将swig的安装路径加入系统变量中,否则会提示无法找到swig.exe

访问swig官网下载页面
选择swigwin-X.X.XX(版本号,如swigwin-4.1.1)下载,不要下载源码swig-X.X.XX(如swig-4.1.1)
解压下载的压缩文件到任意目录(如 D:\swig-4.1.1),并将该目录添加到系统环境变量中

Support website / App

Code Structure

  1. /common,公共类
  2. /install,项目依赖的一些扩展包的安装文件(使用pip install)
  3. /project,爬虫项目

About

PyCrawler python 3 version

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published