Esempio n. 1
0
 def _factory(self, **kwargs):
     params = {
         "proxy_list": [("proxy.crawlera.com", 8010, "username", "password")],
         "whitelist": [r".*scrapinghub\.com.*"],
         "blacklist": [r".*\.js", r".*\.css"],
     }
     params.update(kwargs)
     return _BlackWhiteSplashProxyFactory(**params)
Esempio n. 2
0
 def _factory(self, **kwargs):
     params = {
         "proxy_list":
         [("proxy.crawlera.com", 8010, "username", "password")],
         "whitelist": [
             r".*scrapinghub\.com.*",
         ],
         "blacklist": [
             r".*\.js",
             r".*\.css",
         ]
     }
     params.update(kwargs)
     return _BlackWhiteSplashProxyFactory(**params)
Esempio n. 3
0
 def test_noproxy(self):
     f = _BlackWhiteSplashProxyFactory()
     self.assertFalse(f.should_use_proxy_list('http', 'crawlera.com'))
Esempio n. 4
0
 def test_noproxy(self):
     f = _BlackWhiteSplashProxyFactory()
     self.assertFalse(f.should_use_proxy_list('http', 'crawlera.com'))