Skip to content

jicius/fake_proxy

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

25 Commits
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

简介

Fake Proxy

示意图

客户端 <---> 代理服务器 <---> 服务器

整体思想

  • 根据网站首页自动收集网站内的免费代理ip,格式化入mongodb
  • 定期轮询mongodb中ip的,测试其连通性,并更新有效ip的状态,删除无效ip
  • 定期轮询mongodb中有效ip,加载进队列中
  • 队列出入操作(出:结果 入:函数,参数)

难点总结

  • 自动收集网站内ip,抽象到只需要一个站点,并记录各个站点返回的详细信息
  • ip代理类型判断的正确性
  • 队列管理,是否有通用性

Releases

No releases published

Packages

No packages published

Languages