def pipe_1LNyRuNS3BGdkTKaAsqenA(context=None, _INPUT=None, conf=None, **kwargs):
    # todo: insert pipeline description here
    conf = conf or {}

    if context and context.describe_input:
        return [(u'', u'textinput1', u'Stock Symbol:', u'text', u'yhoo'), (u'', u'textinput2', u'Search Term:', u'text', u'')]

    if context and context.describe_dependencies:
        return [u'pipefetch', u'pipefilter', u'pipeoutput', u'pipetextinput', u'pipeurlbuilder']

    forever = pipe_forever()

    sw_131 = pipe_textinput(
        context, forever, conf={'debug': {'type': 'text', 'value': ''}, 'default': {'type': 'text', 'value': ''}, 'prompt': {'type': 'text', 'value': 'Search Term:'}, 'name': {'type': 'text', 'value': 'textinput2'}, 'position': {'type': 'number', 'value': ''}})
    
    sw_116 = pipe_textinput(
        context, forever, conf={'debug': {'type': 'text', 'value': 'yhoo'}, 'default': {'type': 'text', 'value': 'yhoo'}, 'prompt': {'type': 'text', 'value': 'Stock Symbol:'}, 'name': {'type': 'text', 'value': 'textinput1'}, 'position': {'type': 'number', 'value': ''}})
    
    sw_85 = pipe_urlbuilder(
        context, forever, PARAM_1_value=sw_116, conf={'PATH': {'type': 'text', 'value': 'headline'}, 'BASE': {'type': 'text', 'value': 'http://finance.yahoo.com/rss'}, 'PARAM': [{'value': {'terminal': 'PARAM_1_value', 'type': 'text'}, 'key': {'type': 'text', 'value': 's'}}]})
    
    sw_108 = pipe_fetch(
        context, forever, _1_URL=sw_85, conf={'URL': {'terminal': '1_URL', 'type': 'url'}})
    
    sw_120 = pipe_filter(
        context, sw_108, RULE_1_value=sw_131, conf={'COMBINE': {'type': 'text', 'value': 'and'}, 'MODE': {'type': 'text', 'value': 'permit'}, 'RULE': [{'field': {'type': 'text', 'value': 'description'}, 'value': {'terminal': 'RULE_1_value', 'type': 'text'}, 'op': {'type': 'text', 'value': 'contains'}}]})
    
    _OUTPUT = pipe_output(
        context, sw_120, conf={})
    
    return _OUTPUT
def pipe_8NMkiTW32xGvMbDKruymrA(context=None, _INPUT=None, conf=None, **kwargs):
    # todo: insert pipeline description here
    conf = conf or {}

    if context and context.describe_input:
        return []

    if context and context.describe_dependencies:
        return [u'pipefetch', u'pipefilter', u'pipeoutput', u'pipesort']

    forever = pipe_forever()

    sw_35 = pipe_fetch(
        context, forever, conf={'URL': [{'type': 'url', 'value': 'file://data/www.fourtitude.com_news_publish_rss.xml'}, {'type': 'url', 'value': 'file://data/feeds.gawker.com_jalopnik_full.xml'}, {'type': 'url', 'value': 'file://data/www.autoblog.com_rss.xml'}]})
    
    sw_54 = pipe_filter(
        context, sw_35, conf={'COMBINE': {'type': 'text', 'value': 'or'}, 'MODE': {'type': 'text', 'value': 'permit'}, 'RULE': [{'field': {'type': 'text', 'value': 'description'}, 'value': {'type': 'text', 'value': 'Porsche'}, 'op': {'type': 'text', 'value': 'contains'}}, {'field': {'type': 'text', 'value': 'description'}, 'value': {'type': 'text', 'value': 'Mercedes'}, 'op': {'type': 'text', 'value': 'contains'}}, {'field': {'type': 'text', 'value': 'description'}, 'value': {'type': 'text', 'value': 'BMW'}, 'op': {'type': 'text', 'value': 'contains'}}, {'field': {'type': 'text', 'value': 'description'}, 'value': {'type': 'text', 'value': 'Audi'}, 'op': {'type': 'text', 'value': 'contains'}}, {'field': {'type': 'text', 'value': 'description'}, 'value': {'type': 'text', 'value': 'VW'}, 'op': {'type': 'text', 'value': 'contains'}}, {'field': {'type': 'text', 'value': 'description'}, 'value': {'type': 'text', 'value': 'Lamborghini'}, 'op': {'type': 'text', 'value': 'contains'}}, {'field': {'type': 'text', 'value': 'description'}, 'value': {'type': 'text', 'value': 'Ferrari'}, 'op': {'type': 'text', 'value': 'contains'}}, {'field': {'type': 'text', 'value': 'description'}, 'value': {'type': 'text', 'value': 'Pagani'}, 'op': {'type': 'text', 'value': 'contains'}}, {'field': {'type': 'text', 'value': 'description'}, 'value': {'type': 'text', 'value': 'Aston'}, 'op': {'type': 'text', 'value': 'contains'}}, {'field': {'type': 'text', 'value': 'description'}, 'value': {'type': 'text', 'value': 'Lotus'}, 'op': {'type': 'text', 'value': 'contains'}}, {'field': {'type': 'text', 'value': 'description'}, 'value': {'type': 'text', 'value': 'TVR'}, 'op': {'type': 'text', 'value': 'contains'}}, {'field': {'type': 'text', 'value': 'description'}, 'value': {'type': 'text', 'value': 'AMG'}, 'op': {'type': 'text', 'value': 'contains'}}]})
    
    sw_105 = pipe_sort(
        context, sw_54, conf={'KEY': [{'field': {'type': 'text', 'value': 'pubDate'}, 'dir': {'type': 'text', 'value': 'DESC'}}]})
    
    _OUTPUT = pipe_output(
        context, sw_105, conf={})
    
    return _OUTPUT
def pipe_eb3e27f8f1841835fdfd279cd96ff9d8(context=None, _INPUT=None, conf=None, **kwargs):
    # todo: insert pipeline description here
    conf = conf or {}

    if context and context.describe_input:
        return [(u'', u'q', u'Caption search term', u'text', u'maverick'), (u'', u'url', u'Caption URL', u'url', u'file://data/rsc-ne-scotland.org.uk_mashe_ititle_xml_jisc10bean.xml')]

    if context and context.describe_dependencies:
        return [u'pipefetchdata', u'pipefilter', u'pipeoutput', u'piperegex', u'piperename', u'pipetextinput', u'pipeurlinput']

    forever = pipe_forever()

    sw_521 = pipe_urlinput(
        context, forever, conf={'debug': {'type': 'url', 'value': ''}, 'default': {'type': 'url', 'value': 'file://data/rsc-ne-scotland.org.uk_mashe_ititle_xml_jisc10bean.xml'}, 'prompt': {'type': 'text', 'value': 'Caption URL'}, 'name': {'type': 'text', 'value': 'url'}, 'position': {'type': 'number', 'value': ''}})
    
    sw_572 = pipe_fetchdata(
        context, forever, URL=sw_521, conf={'URL': {'terminal': 'URL', 'type': 'url'}, 'path': {'type': 'text', 'value': 'body.div.p'}})
    
    sw_621 = pipe_textinput(
        context, forever, conf={'debug': {'type': 'text', 'value': ''}, 'default': {'type': 'text', 'value': 'maverick'}, 'prompt': {'type': 'text', 'value': 'Caption search term'}, 'name': {'type': 'text', 'value': 'q'}, 'position': {'type': 'number', 'value': ''}})
    
    sw_584 = pipe_filter(
        context, sw_572, RULE_1_value=sw_621, conf={'COMBINE': {'type': 'text', 'value': 'and'}, 'MODE': {'type': 'text', 'value': 'permit'}, 'RULE': [{'field': {'type': 'text', 'value': 'content'}, 'value': {'terminal': 'RULE_1_value', 'type': 'text'}, 'op': {'type': 'text', 'value': 'contains'}}]})
    
    sw_595 = pipe_rename(
        context, sw_584, conf={'RULE': [{'field': {'type': 'text', 'value': 'begin'}, 'op': {'type': 'text', 'value': 'copy'}, 'newval': {'type': 'text', 'value': 'ctime'}}, {'field': {'type': 'text', 'value': 'content'}, 'op': {'type': 'text', 'value': 'copy'}, 'newval': {'type': 'text', 'value': 'title'}}]})
    
    sw_606 = pipe_regex(
        context, sw_595, conf={'RULE': [{'field': {'type': 'text', 'value': 'ctime'}, 'match': {'type': 'text', 'value': '(.*)'}, 'replace': {'type': 'text', 'value': '&time=$1'}}]})
    
    _OUTPUT = pipe_output(
        context, sw_606, conf={})
    
    return _OUTPUT
Example #4
0
def pipe_975789b47f17690a21e89b10a702bcbd(context=None, _INPUT=None, conf=None, **kwargs):
    # todo: insert pipeline description here
    conf = conf or {}

    if context and context.describe_input:
        return [(u'', u'q', u'Status update', u'text', u"Here's #: some #hashtags to play #with")]

    if context and context.describe_dependencies:
        return [u'pipefilter', u'pipeitembuilder', u'pipeloop', u'pipeoutput', u'piperegex', u'piperename', u'pipestringtokenizer', u'pipetextinput']

    forever = pipe_forever()

    # We need to wrap submodules (used by loops) so we can pass the
    # input at runtime (as we can to subpipelines)
    def pipe_sw_478(context=None, _INPUT=None, conf=None, **kwargs):
        # todo: insert submodule description here
        return pipe_stringtokenizer(
            context, _INPUT, conf={'to-str': {'type': 'text', 'value': ' '}})
    
    sw_417 = pipe_textinput(
        context, forever, conf={'debug': {'type': 'text', 'value': ''}, 'default': {'type': 'text', 'value': "Here's #: some #hashtags to play #with"}, 'prompt': {'type': 'text', 'value': 'Status update'}, 'name': {'type': 'text', 'value': 'q'}, 'position': {'type': 'number', 'value': ''}})
    
    sw_424 = pipe_itembuilder(
        context, forever, conf={'attrs': [{'value': {'terminal': 'attrs_1_value', 'type': 'text'}, 'key': {'type': 'text', 'value': 'title'}}]}, attrs_1_value=sw_417)
    
    sw_436 = pipe_filter(
        context, sw_424, conf={'COMBINE': {'type': 'text', 'value': 'and'}, 'MODE': {'type': 'text', 'value': 'permit'}, 'RULE': [{'field': {'type': 'text', 'value': 'title'}, 'value': {'type': 'text', 'value': '#'}, 'op': {'type': 'text', 'value': 'contains'}}]})
    
    sw_447 = pipe_regex(
        context, sw_436, conf={'RULE': [{'field': {'type': 'text', 'value': 'title'}, 'globalmatch': {'type': 'text', 'value': '1'}, 'match': {'type': 'text', 'value': ' [^#]*'}, 'replace': {'type': 'text', 'value': ' '}}, {'field': {'type': 'text', 'value': 'title'}, 'match': {'type': 'text', 'value': '^[^#]*'}, 'replace': {'type': 'text', 'value': ''}}]})
    
    sw_470 = pipe_loop(
        context, sw_447, embed=pipe_sw_478, conf={'assign_part': {'type': 'text', 'value': 'all'}, 'assign_to': {'type': 'text', 'value': 'loop:stringtokenizer'}, 'emit_part': {'type': 'text', 'value': 'all'}, 'mode': {'type': 'text', 'value': 'EMIT'}, 'embed': {'type': 'module', 'value': {'type': 'stringtokenizer', 'id': 'sw-478', 'conf': {'to-str': {'type': 'text', 'value': ' '}}}}, 'with': {'type': 'text', 'value': 'title'}})
    
    sw_490 = pipe_filter(
        context, sw_470, conf={'COMBINE': {'type': 'text', 'value': 'and'}, 'MODE': {'type': 'text', 'value': 'permit'}, 'RULE': [{'field': {'type': 'text', 'value': 'content'}, 'value': {'type': 'text', 'value': '#[\\w]'}, 'op': {'type': 'text', 'value': 'matches'}}]})
    
    sw_501 = pipe_rename(
        context, sw_490, conf={'RULE': [{'field': {'type': 'text', 'value': 'content'}, 'op': {'type': 'text', 'value': 'rename'}, 'newval': {'type': 'text', 'value': 'title'}}]})
    
    _OUTPUT = pipe_output(
        context, sw_501, conf={})
    
    return _OUTPUT
def pipe_926a27580e74684fc63559b92bddaa30(context=None, _INPUT=None, conf=None, **kwargs):
    # todo: insert pipeline description here
    conf = conf or {}

    if context and context.describe_input:
        return []

    forever = pipe_forever()

    sw_68 = pipe_fetch(
        context,
        forever,
        conf={
            "URL": [
                {"type": "url", "value": "http://www.guru.com/rss/jobs/c/web-software-it/"},
                {
                    "type": "url",
                    "value": "https://www.elance.com/r/rss/jobs/cat-it-programming/fxd-true/o-1/bgt-gt500-ns1/sct-database-development-10217-data-analysis-14174-database-administration-14177-business-intelligence-14173-data-engineering-14175-system-administration-10219-other-data-science-14178-technical-support-10218-other-it-programming-12350-software-application-10216-website-design-10225-web-programming-10224/tls-1/s-timelistedSort",
                },
            ]
        },
    )

    sw_90 = pipe_uniq(context, sw_68, conf={"field": {"type": "text", "value": "link"}})

    sw_87 = pipe_filter(
        context,
        sw_90,
        conf={
            "COMBINE": {"type": "text", "value": "or"},
            "MODE": {"type": "text", "value": "block"},
            "RULE": [
                {
                    "field": {"type": "text", "value": "title"},
                    "value": {"type": "text", "value": "php"},
                    "op": {"type": "text", "value": "contains"},
                }
            ],
        },
    )

    sw_101 = pipe_sort(
        context,
        sw_87,
        conf={"KEY": [{"field": {"type": "text", "value": "pubDate"}, "dir": {"type": "text", "value": "DESC"}}]},
    )

    _OUTPUT = pipe_output(context, sw_101, conf={})

    return _OUTPUT
def pipe_UuvYtuMe3hGDsmRgPm7D0g(context=None, _INPUT=None, conf=None, **kwargs):
    # todo: insert pipeline description here
    conf = conf or {}

    if context and context.describe_input:
        return [(u'', u'name', u'Name', u'text', u'Lancaster')]

    if context and context.describe_dependencies:
        return [u'pipecsv', u'pipefilter', u'pipeloop', u'pipeoutput', u'piperename', u'pipestrconcat', u'pipetextinput']

    forever = pipe_forever()

    # We need to wrap submodules (used by loops) so we can pass the
    # input at runtime (as we can to subpipelines)
    def pipe_sw_581(context=None, _INPUT=None, conf=None, **kwargs):
        # todo: insert submodule description here
        return pipe_strconcat(
            context, _INPUT, conf={'part': [{'type': 'text', 'subkey': 'firstName'}, {'type': 'text', 'value': ' '}, {'type': 'text', 'subkey': 'Member'}]})
    
    # We need to wrap submodules (used by loops) so we can pass the
    # input at runtime (as we can to subpipelines)
    def pipe_sw_408(context=None, _INPUT=None, conf=None, **kwargs):
        # todo: insert submodule description here
        return pipe_strconcat(
            context, _INPUT, conf={'part': [{'type': 'text', 'value': 'Total allowances claimed, inc travel: '}, {'type': 'text', 'subkey': 'TotalAllowancesClaimedIncTravel'}, {'type': 'text', 'value': '<br>Total basic allowances claimed, ex travel: '}, {'type': 'text', 'subkey': 'TotalBasicAllowancesExcTravel'}, {'type': 'text', 'value': '<br>Total Travel claimed: '}, {'type': 'text', 'subkey': 'TotalTravelClaimed'}, {'type': 'text', 'value': '<br>MP Mileage: '}, {'type': 'text', 'subkey': 'Mileage'}, {'type': 'text', 'value': '<br>MP Rail Travel: '}, {'type': 'text', 'subkey': 'MPRail'}, {'type': 'text', 'value': '<br>MP Air Travel: '}, {'type': 'text', 'subkey': 'MPAir'}, {'type': 'text', 'value': '<br>Cost of staying away from main home: '}, {'type': 'text', 'subkey': 'CostofStayingAwayFromMainHome'}, {'type': 'text', 'value': '<br>London Supplement: '}, {'type': 'text', 'subkey': 'LondonSupplement'}, {'type': 'text', 'value': '<br>Office Running Costs: '}, {'type': 'text', 'subkey': 'OfficeRunningCosts'}, {'type': 'text', 'value': '<br>Staffing Costs: '}, {'type': 'text', 'subkey': 'StaffingCosts'}]})
    
    sw_371 = pipe_textinput(
        context, forever, conf={'debug': {'type': 'text', 'value': ''}, 'default': {'type': 'text', 'value': 'Lancaster'}, 'prompt': {'type': 'text', 'value': 'Name'}, 'name': {'type': 'text', 'value': 'name'}, 'position': {'type': 'number', 'value': ''}})
    
    sw_340 = pipe_csv(
        context, forever, conf={'other_sep': {'type': 'text', 'value': ''}, 'URL': {'type': 'url', 'value': 'file://data/spreadsheets.google.com_pub?key=p1rHUqg4g420UMaN1sPvaRg&output=csv&range=a1_AB646.csv'}, 'skip': {'type': 'number', 'value': '0'}, 'col_name': [{'type': 'text', 'value': 'Member'}, {'type': 'text', 'value': 'firstName'}, {'type': 'text', 'value': 'TotalAllowancesClaimedIncTravel'}, {'type': 'text', 'value': 'TotalBasicAllowancesExcTravel'}, {'type': 'text', 'value': 'TotalTravelClaimed'}, {'type': 'text', 'value': 'CostofStayingAwayFromMainHome'}, {'type': 'text', 'value': 'LondonSupplement'}, {'type': 'text', 'value': 'OfficeRunningCosts'}, {'type': 'text', 'value': 'StaffingCosts'}, {'type': 'text', 'value': 'CentrallyPurchasedStationery'}, {'type': 'text', 'value': 'StationeryAssocdPostageCosts'}, {'type': 'text', 'value': 'CentralITProvision'}, {'type': 'text', 'value': 'StaffCoverAndOtherCosts'}, {'type': 'text', 'value': 'CommsAllowance'}, {'type': 'text', 'value': 'Mileage'}, {'type': 'text', 'value': 'MPRail'}, {'type': 'text', 'value': 'MPAir'}, {'type': 'text', 'value': 'MPMisc'}, {'type': 'text', 'value': 'MPOtherMileage'}, {'type': 'text', 'value': 'MPOtherRail'}, {'type': 'text', 'value': 'MPOtherAir'}, {'type': 'text', 'value': 'MPOtherEuropean'}, {'type': 'text', 'value': 'SpouseTotal'}, {'type': 'text', 'value': 'SpouseNumOfJourneys'}, {'type': 'text', 'value': 'FamilyTotal'}, {'type': 'text', 'value': 'FamilyNumOfJourneys'}, {'type': 'text', 'value': 'EmployeeTotal'}, {'type': 'text', 'value': 'EmployeeNumOfJourneys'}], 'col_row_start': {'type': 'number', 'value': '1'}, 'col_mode': {'type': 'text', 'value': 'custom'}, 'separator': {'type': 'text', 'value': ','}, 'col_row_end': {'type': 'number', 'value': '1'}})
    
    sw_375 = pipe_filter(
        context, sw_340, RULE_1_value=sw_371, conf={'COMBINE': {'type': 'text', 'value': 'and'}, 'MODE': {'type': 'text', 'value': 'permit'}, 'RULE': [{'field': {'type': 'text', 'value': 'Member'}, 'value': {'terminal': 'RULE_1_value', 'type': 'text'}, 'op': {'type': 'text', 'value': 'contains'}}]})
    
    sw_385 = pipe_rename(
        context, sw_375, conf={'RULE': [{'field': {'type': 'text', 'value': 'Member'}, 'op': {'type': 'text', 'value': 'copy'}, 'newval': {'type': 'text', 'value': 'title'}}]})
    
    sw_400 = pipe_loop(
        context, sw_385, embed=pipe_sw_408, conf={'assign_part': {'type': 'text', 'value': 'all'}, 'assign_to': {'type': 'text', 'value': 'description'}, 'emit_part': {'type': 'text', 'value': 'all'}, 'mode': {'type': 'text', 'value': 'assign'}, 'embed': {'type': 'module', 'value': {'type': 'strconcat', 'id': 'sw-408', 'conf': {'part': [{'type': 'text', 'value': 'Total allowances claimed, inc travel: '}, {'type': 'text', 'subkey': 'TotalAllowancesClaimedIncTravel'}, {'type': 'text', 'value': '<br>Total basic allowances claimed, ex travel: '}, {'type': 'text', 'subkey': 'TotalBasicAllowancesExcTravel'}, {'type': 'text', 'value': '<br>Total Travel claimed: '}, {'type': 'text', 'subkey': 'TotalTravelClaimed'}, {'type': 'text', 'value': '<br>MP Mileage: '}, {'type': 'text', 'subkey': 'Mileage'}, {'type': 'text', 'value': '<br>MP Rail Travel: '}, {'type': 'text', 'subkey': 'MPRail'}, {'type': 'text', 'value': '<br>MP Air Travel: '}, {'type': 'text', 'subkey': 'MPAir'}, {'type': 'text', 'value': '<br>Cost of staying away from main home: '}, {'type': 'text', 'subkey': 'CostofStayingAwayFromMainHome'}, {'type': 'text', 'value': '<br>London Supplement: '}, {'type': 'text', 'subkey': 'LondonSupplement'}, {'type': 'text', 'value': '<br>Office Running Costs: '}, {'type': 'text', 'subkey': 'OfficeRunningCosts'}, {'type': 'text', 'value': '<br>Staffing Costs: '}, {'type': 'text', 'subkey': 'StaffingCosts'}]}}}, 'with': {'type': 'text', 'value': ''}})
    
    sw_573 = pipe_loop(
        context, sw_400, embed=pipe_sw_581, conf={'assign_part': {'type': 'text', 'value': 'all'}, 'assign_to': {'type': 'text', 'value': 'title'}, 'emit_part': {'type': 'text', 'value': 'all'}, 'mode': {'type': 'text', 'value': 'assign'}, 'embed': {'type': 'module', 'value': {'type': 'strconcat', 'id': 'sw-581', 'conf': {'part': [{'type': 'text', 'subkey': 'firstName'}, {'type': 'text', 'value': ' '}, {'type': 'text', 'subkey': 'Member'}]}}}, 'with': {'type': 'text', 'value': ''}})
    
    _OUTPUT = pipe_output(
        context, sw_573, conf={})
    
    return _OUTPUT
Example #7
0
def pipe_testpipe1(context=None, _INPUT=None, conf=None, **kwargs):
    # todo: insert pipeline description here
    conf = conf or {}

    if context and (context.describe_input or context.describe_dependencies):
        return []

    forever = pipe_forever()

    sw_90 = pipe_fetch(
        context,
        forever,
        conf={'URL': {
            'type': 'url',
            'value': 'file://data/feed.xml'
        }})

    sw_102 = pipe_filter(context,
                         sw_90,
                         conf={
                             'COMBINE': {
                                 'type': 'text',
                                 'value': 'and'
                             },
                             'MODE': {
                                 'type': 'text',
                                 'value': 'permit'
                             },
                             'RULE': [{
                                 'field': {
                                     'type': 'text',
                                     'value': 'description'
                                 },
                                 'value': {
                                     'type': 'text',
                                     'value': 'the'
                                 },
                                 'op': {
                                     'type': 'text',
                                     'value': 'contains'
                                 }
                             }]
                         })

    _OUTPUT = pipe_output(context, sw_102, conf=[])

    return _OUTPUT
def pipe_testpipe1(context=None, _INPUT=None, conf=None, **kwargs):
    # todo: insert pipeline description here
    conf = conf or {}

    if context and (context.describe_input or context.describe_dependencies):
        return []

    forever = pipe_forever()

    sw_90 = pipe_fetch(
        context, forever, conf={'URL': {'type': 'url', 'value': 'file://data/feed.xml'}})

    sw_102 = pipe_filter(
        context, sw_90, conf={'COMBINE': {'type': 'text', 'value': 'and'}, 'MODE': {'type': 'text', 'value': 'permit'}, 'RULE': [{'field': {'type': 'text', 'value': 'description'}, 'value': {'type': 'text', 'value': 'the'}, 'op': {'type': 'text', 'value': 'contains'}}]})

    _OUTPUT = pipe_output(context, sw_102, conf=[])

    return _OUTPUT
Example #9
0
def pipe_6e30c269a69baf92cd420900b0645f88(context=None, _INPUT=None, conf=None, **kwargs):
    # todo: insert pipeline description here
    conf = conf or {}

    if context and context.describe_input:
        return []

    if context and context.describe_dependencies:
        return [u'pipefetch', u'pipefilter', u'pipeoutput', u'piperegex', u'piperename', u'pipesort', u'pipeunion', u'pipeuniq']

    forever = pipe_forever()

    sw_135 = pipe_fetch(
        context, forever, conf={'URL': {'type': 'url', 'value': 'file://data/rss.sueddeutsche.de_rss_Topthemen.xml'}})
    
    sw_233 = pipe_fetch(
        context, forever, conf={'URL': {'type': 'url', 'value': 'file://data/rss.sueddeutsche.de_rss_Politik.xml'}})
    
    sw_154 = pipe_union(
        context, forever, _OTHER3=sw_233, conf={}, _OTHER=sw_135)
    
    sw_173 = pipe_uniq(
        context, sw_154, conf={'field': {'type': 'text', 'value': 'title'}})
    
    sw_180 = pipe_filter(
        context, sw_173, conf={'COMBINE': {'type': 'text', 'value': 'or'}, 'MODE': {'type': 'text', 'value': 'block'}, 'RULE': [{'field': {'type': 'text', 'value': 'link'}, 'value': {'type': 'text', 'value': '/sport/'}, 'op': {'type': 'text', 'value': 'contains'}}, {'field': {'type': 'text', 'value': 'title'}, 'value': {'type': 'text', 'value': 'Bildstrecke:'}, 'op': {'type': 'text', 'value': 'contains'}}]})
    
    sw_210 = pipe_rename(
        context, sw_180, conf={'RULE': [{'field': {'type': 'text', 'value': 'y:id.value'}, 'op': {'type': 'text', 'value': 'copy'}, 'newval': {'type': 'text', 'value': 'link'}}]})
    
    sw_195 = pipe_regex(
        context, sw_210, conf={'RULE': [{'singlelinematch': {'type': 'text', 'value': '2'}, 'globalmatch': {'type': 'text', 'value': '1'}, 'replace': {'type': 'text', 'value': ''}, 'field': {'type': 'text', 'value': 'description'}, 'casematch': {'type': 'text', 'value': '8'}, 'match': {'type': 'text', 'value': '</div>.*$'}}, {'field': {'type': 'text', 'value': 'link'}, 'match': {'type': 'text', 'value': '^(.*\\/.*)\\/'}, 'replace': {'type': 'text', 'value': '$1/2.220/'}}]})
    
    sw_191 = pipe_sort(
        context, sw_195, conf={'KEY': [{'field': {'type': 'text', 'value': 'pubDate'}, 'dir': {'type': 'text', 'value': 'DESC'}}]})
    
    _OUTPUT = pipe_output(
        context, sw_191, conf={})
    
    return _OUTPUT
def pipe_926a27580e74684fc63559b92bddaa30(context=None,
                                          _INPUT=None,
                                          conf=None,
                                          **kwargs):
    # todo: insert pipeline description here
    conf = conf or {}

    if context and context.describe_input:
        return []

    forever = pipe_forever()

    sw_68 = pipe_fetch(
        context,
        forever,
        conf={
            'URL': [{
                'type': 'url',
                'value': 'http://www.guru.com/rss/jobs/c/web-software-it/'
            }, {
                'type':
                'url',
                'value':
                'https://www.elance.com/r/rss/jobs/cat-it-programming/fxd-true/o-1/bgt-gt500-ns1/sct-database-development-10217-data-analysis-14174-database-administration-14177-business-intelligence-14173-data-engineering-14175-system-administration-10219-other-data-science-14178-technical-support-10218-other-it-programming-12350-software-application-10216-website-design-10225-web-programming-10224/tls-1/s-timelistedSort'
            }]
        })

    sw_90 = pipe_uniq(context,
                      sw_68,
                      conf={'field': {
                          'type': 'text',
                          'value': 'link'
                      }})

    sw_87 = pipe_filter(context,
                        sw_90,
                        conf={
                            'COMBINE': {
                                'type': 'text',
                                'value': 'or'
                            },
                            'MODE': {
                                'type': 'text',
                                'value': 'block'
                            },
                            'RULE': [{
                                'field': {
                                    'type': 'text',
                                    'value': 'title'
                                },
                                'value': {
                                    'type': 'text',
                                    'value': 'php'
                                },
                                'op': {
                                    'type': 'text',
                                    'value': 'contains'
                                }
                            }]
                        })

    sw_101 = pipe_sort(context,
                       sw_87,
                       conf={
                           'KEY': [{
                               'field': {
                                   'type': 'text',
                                   'value': 'pubDate'
                               },
                               'dir': {
                                   'type': 'text',
                                   'value': 'DESC'
                               }
                           }]
                       })

    _OUTPUT = pipe_output(context, sw_101, conf={})

    return _OUTPUT
Example #11
0
def pipe_UuvYtuMe3hGDsmRgPm7D0g(context=None,
                                _INPUT=None,
                                conf=None,
                                **kwargs):
    # todo: insert pipeline description here
    conf = conf or {}

    if context and context.describe_input:
        return [(u'', u'name', u'Name', u'text', u'Lancaster')]

    if context and context.describe_dependencies:
        return [
            u'pipecsv', u'pipefilter', u'pipeloop', u'pipeoutput',
            u'piperename', u'pipestrconcat', u'pipetextinput'
        ]

    forever = pipe_forever()

    # We need to wrap submodules (used by loops) so we can pass the
    # input at runtime (as we can to subpipelines)
    def pipe_sw_581(context=None, _INPUT=None, conf=None, **kwargs):
        # todo: insert submodule description here
        return pipe_strconcat(context,
                              _INPUT,
                              conf={
                                  'part': [{
                                      'type': 'text',
                                      'subkey': 'firstName'
                                  }, {
                                      'type': 'text',
                                      'value': ' '
                                  }, {
                                      'type': 'text',
                                      'subkey': 'Member'
                                  }]
                              })

    # We need to wrap submodules (used by loops) so we can pass the
    # input at runtime (as we can to subpipelines)
    def pipe_sw_408(context=None, _INPUT=None, conf=None, **kwargs):
        # todo: insert submodule description here
        return pipe_strconcat(
            context,
            _INPUT,
            conf={
                'part': [{
                    'type': 'text',
                    'value': 'Total allowances claimed, inc travel: '
                }, {
                    'type': 'text',
                    'subkey': 'TotalAllowancesClaimedIncTravel'
                }, {
                    'type':
                    'text',
                    'value':
                    '<br>Total basic allowances claimed, ex travel: '
                }, {
                    'type': 'text',
                    'subkey': 'TotalBasicAllowancesExcTravel'
                }, {
                    'type': 'text',
                    'value': '<br>Total Travel claimed: '
                }, {
                    'type': 'text',
                    'subkey': 'TotalTravelClaimed'
                }, {
                    'type': 'text',
                    'value': '<br>MP Mileage: '
                }, {
                    'type': 'text',
                    'subkey': 'Mileage'
                }, {
                    'type': 'text',
                    'value': '<br>MP Rail Travel: '
                }, {
                    'type': 'text',
                    'subkey': 'MPRail'
                }, {
                    'type': 'text',
                    'value': '<br>MP Air Travel: '
                }, {
                    'type': 'text',
                    'subkey': 'MPAir'
                }, {
                    'type': 'text',
                    'value': '<br>Cost of staying away from main home: '
                }, {
                    'type': 'text',
                    'subkey': 'CostofStayingAwayFromMainHome'
                }, {
                    'type': 'text',
                    'value': '<br>London Supplement: '
                }, {
                    'type': 'text',
                    'subkey': 'LondonSupplement'
                }, {
                    'type': 'text',
                    'value': '<br>Office Running Costs: '
                }, {
                    'type': 'text',
                    'subkey': 'OfficeRunningCosts'
                }, {
                    'type': 'text',
                    'value': '<br>Staffing Costs: '
                }, {
                    'type': 'text',
                    'subkey': 'StaffingCosts'
                }]
            })

    sw_371 = pipe_textinput(context,
                            forever,
                            conf={
                                'debug': {
                                    'type': 'text',
                                    'value': ''
                                },
                                'default': {
                                    'type': 'text',
                                    'value': 'Lancaster'
                                },
                                'prompt': {
                                    'type': 'text',
                                    'value': 'Name'
                                },
                                'name': {
                                    'type': 'text',
                                    'value': 'name'
                                },
                                'position': {
                                    'type': 'number',
                                    'value': ''
                                }
                            })

    sw_340 = pipe_csv(
        context,
        forever,
        conf={
            'other_sep': {
                'type': 'text',
                'value': ''
            },
            'URL': {
                'type':
                'url',
                'value':
                'file://data/spreadsheets.google.com_pub?key=p1rHUqg4g420UMaN1sPvaRg&output=csv&range=a1_AB646.csv'
            },
            'skip': {
                'type': 'number',
                'value': '0'
            },
            'col_name': [{
                'type': 'text',
                'value': 'Member'
            }, {
                'type': 'text',
                'value': 'firstName'
            }, {
                'type': 'text',
                'value': 'TotalAllowancesClaimedIncTravel'
            }, {
                'type': 'text',
                'value': 'TotalBasicAllowancesExcTravel'
            }, {
                'type': 'text',
                'value': 'TotalTravelClaimed'
            }, {
                'type': 'text',
                'value': 'CostofStayingAwayFromMainHome'
            }, {
                'type': 'text',
                'value': 'LondonSupplement'
            }, {
                'type': 'text',
                'value': 'OfficeRunningCosts'
            }, {
                'type': 'text',
                'value': 'StaffingCosts'
            }, {
                'type': 'text',
                'value': 'CentrallyPurchasedStationery'
            }, {
                'type': 'text',
                'value': 'StationeryAssocdPostageCosts'
            }, {
                'type': 'text',
                'value': 'CentralITProvision'
            }, {
                'type': 'text',
                'value': 'StaffCoverAndOtherCosts'
            }, {
                'type': 'text',
                'value': 'CommsAllowance'
            }, {
                'type': 'text',
                'value': 'Mileage'
            }, {
                'type': 'text',
                'value': 'MPRail'
            }, {
                'type': 'text',
                'value': 'MPAir'
            }, {
                'type': 'text',
                'value': 'MPMisc'
            }, {
                'type': 'text',
                'value': 'MPOtherMileage'
            }, {
                'type': 'text',
                'value': 'MPOtherRail'
            }, {
                'type': 'text',
                'value': 'MPOtherAir'
            }, {
                'type': 'text',
                'value': 'MPOtherEuropean'
            }, {
                'type': 'text',
                'value': 'SpouseTotal'
            }, {
                'type': 'text',
                'value': 'SpouseNumOfJourneys'
            }, {
                'type': 'text',
                'value': 'FamilyTotal'
            }, {
                'type': 'text',
                'value': 'FamilyNumOfJourneys'
            }, {
                'type': 'text',
                'value': 'EmployeeTotal'
            }, {
                'type': 'text',
                'value': 'EmployeeNumOfJourneys'
            }],
            'col_row_start': {
                'type': 'number',
                'value': '1'
            },
            'col_mode': {
                'type': 'text',
                'value': 'custom'
            },
            'separator': {
                'type': 'text',
                'value': ','
            },
            'col_row_end': {
                'type': 'number',
                'value': '1'
            }
        })

    sw_375 = pipe_filter(context,
                         sw_340,
                         RULE_1_value=sw_371,
                         conf={
                             'COMBINE': {
                                 'type': 'text',
                                 'value': 'and'
                             },
                             'MODE': {
                                 'type': 'text',
                                 'value': 'permit'
                             },
                             'RULE': [{
                                 'field': {
                                     'type': 'text',
                                     'value': 'Member'
                                 },
                                 'value': {
                                     'terminal': 'RULE_1_value',
                                     'type': 'text'
                                 },
                                 'op': {
                                     'type': 'text',
                                     'value': 'contains'
                                 }
                             }]
                         })

    sw_385 = pipe_rename(context,
                         sw_375,
                         conf={
                             'RULE': [{
                                 'field': {
                                     'type': 'text',
                                     'value': 'Member'
                                 },
                                 'op': {
                                     'type': 'text',
                                     'value': 'copy'
                                 },
                                 'newval': {
                                     'type': 'text',
                                     'value': 'title'
                                 }
                             }]
                         })

    sw_400 = pipe_loop(
        context,
        sw_385,
        embed=pipe_sw_408,
        conf={
            'assign_part': {
                'type': 'text',
                'value': 'all'
            },
            'assign_to': {
                'type': 'text',
                'value': 'description'
            },
            'emit_part': {
                'type': 'text',
                'value': 'all'
            },
            'mode': {
                'type': 'text',
                'value': 'assign'
            },
            'embed': {
                'type': 'module',
                'value': {
                    'type': 'strconcat',
                    'id': 'sw-408',
                    'conf': {
                        'part': [{
                            'type':
                            'text',
                            'value':
                            'Total allowances claimed, inc travel: '
                        }, {
                            'type': 'text',
                            'subkey': 'TotalAllowancesClaimedIncTravel'
                        }, {
                            'type':
                            'text',
                            'value':
                            '<br>Total basic allowances claimed, ex travel: '
                        }, {
                            'type': 'text',
                            'subkey': 'TotalBasicAllowancesExcTravel'
                        }, {
                            'type': 'text',
                            'value': '<br>Total Travel claimed: '
                        }, {
                            'type': 'text',
                            'subkey': 'TotalTravelClaimed'
                        }, {
                            'type': 'text',
                            'value': '<br>MP Mileage: '
                        }, {
                            'type': 'text',
                            'subkey': 'Mileage'
                        }, {
                            'type': 'text',
                            'value': '<br>MP Rail Travel: '
                        }, {
                            'type': 'text',
                            'subkey': 'MPRail'
                        }, {
                            'type': 'text',
                            'value': '<br>MP Air Travel: '
                        }, {
                            'type': 'text',
                            'subkey': 'MPAir'
                        }, {
                            'type':
                            'text',
                            'value':
                            '<br>Cost of staying away from main home: '
                        }, {
                            'type': 'text',
                            'subkey': 'CostofStayingAwayFromMainHome'
                        }, {
                            'type': 'text',
                            'value': '<br>London Supplement: '
                        }, {
                            'type': 'text',
                            'subkey': 'LondonSupplement'
                        }, {
                            'type': 'text',
                            'value': '<br>Office Running Costs: '
                        }, {
                            'type': 'text',
                            'subkey': 'OfficeRunningCosts'
                        }, {
                            'type': 'text',
                            'value': '<br>Staffing Costs: '
                        }, {
                            'type': 'text',
                            'subkey': 'StaffingCosts'
                        }]
                    }
                }
            },
            'with': {
                'type': 'text',
                'value': ''
            }
        })

    sw_573 = pipe_loop(context,
                       sw_400,
                       embed=pipe_sw_581,
                       conf={
                           'assign_part': {
                               'type': 'text',
                               'value': 'all'
                           },
                           'assign_to': {
                               'type': 'text',
                               'value': 'title'
                           },
                           'emit_part': {
                               'type': 'text',
                               'value': 'all'
                           },
                           'mode': {
                               'type': 'text',
                               'value': 'assign'
                           },
                           'embed': {
                               'type': 'module',
                               'value': {
                                   'type': 'strconcat',
                                   'id': 'sw-581',
                                   'conf': {
                                       'part': [{
                                           'type': 'text',
                                           'subkey': 'firstName'
                                       }, {
                                           'type': 'text',
                                           'value': ' '
                                       }, {
                                           'type': 'text',
                                           'subkey': 'Member'
                                       }]
                                   }
                               }
                           },
                           'with': {
                               'type': 'text',
                               'value': ''
                           }
                       })

    _OUTPUT = pipe_output(context, sw_573, conf={})

    return _OUTPUT
def pipe_6e30c269a69baf92cd420900b0645f88(context=None, _INPUT=None, conf=None, **kwargs):
    # todo: insert pipeline description here
    conf = conf or {}

    if context and context.describe_input:
        return []

    if context and context.describe_dependencies:
        return [
            u"pipefetch",
            u"pipefilter",
            u"pipeoutput",
            u"piperegex",
            u"piperename",
            u"pipesort",
            u"pipeunion",
            u"pipeuniq",
        ]

    forever = pipe_forever()

    sw_135 = pipe_fetch(
        context, forever, conf={"URL": {"type": "url", "value": "file://data/rss.sueddeutsche.de_rss_Topthemen.xml"}}
    )

    sw_233 = pipe_fetch(
        context, forever, conf={"URL": {"type": "url", "value": "file://data/rss.sueddeutsche.de_rss_Politik.xml"}}
    )

    sw_154 = pipe_union(context, forever, _OTHER3=sw_233, conf={}, _OTHER=sw_135)

    sw_173 = pipe_uniq(context, sw_154, conf={"field": {"type": "text", "value": "title"}})

    sw_180 = pipe_filter(
        context,
        sw_173,
        conf={
            "COMBINE": {"type": "text", "value": "or"},
            "MODE": {"type": "text", "value": "block"},
            "RULE": [
                {
                    "field": {"type": "text", "value": "link"},
                    "value": {"type": "text", "value": "/sport/"},
                    "op": {"type": "text", "value": "contains"},
                },
                {
                    "field": {"type": "text", "value": "title"},
                    "value": {"type": "text", "value": "Bildstrecke:"},
                    "op": {"type": "text", "value": "contains"},
                },
            ],
        },
    )

    sw_210 = pipe_rename(
        context,
        sw_180,
        conf={
            "RULE": [
                {
                    "field": {"type": "text", "value": "y:id.value"},
                    "op": {"type": "text", "value": "copy"},
                    "newval": {"type": "text", "value": "link"},
                }
            ]
        },
    )

    sw_195 = pipe_regex(
        context,
        sw_210,
        conf={
            "RULE": [
                {
                    "singlelinematch": {"type": "text", "value": "2"},
                    "globalmatch": {"type": "text", "value": "1"},
                    "replace": {"type": "text", "value": ""},
                    "field": {"type": "text", "value": "description"},
                    "casematch": {"type": "text", "value": "8"},
                    "match": {"type": "text", "value": "</div>.*$"},
                },
                {
                    "field": {"type": "text", "value": "link"},
                    "match": {"type": "text", "value": "^(.*\\/.*)\\/"},
                    "replace": {"type": "text", "value": "$1/2.220/"},
                },
            ]
        },
    )

    sw_191 = pipe_sort(
        context,
        sw_195,
        conf={"KEY": [{"field": {"type": "text", "value": "pubDate"}, "dir": {"type": "text", "value": "DESC"}}]},
    )

    _OUTPUT = pipe_output(context, sw_191, conf={})

    return _OUTPUT
def pipe_QMrlL_FS3BGlpwryODY80A(context=None, _INPUT=None, conf=None, **kwargs):
    # todo: insert pipeline description here
    conf = conf or {}

    if context and context.describe_input:
        return []

    if context and context.describe_dependencies:
        return [u"pipefetch", u"pipefilter", u"pipeoutput", u"piperegex", u"pipesplit", u"pipeunion"]

    forever = pipe_forever()

    sw_140 = pipe_fetch(
        context, forever, conf={"URL": {"type": "url", "value": "file://data/news.yahoo.com_rss_health.xml"}}
    )

    sw_108 = pipe_split(context, sw_140, splits=2, conf=None)

    sw_159 = pipe_filter(
        context,
        sw_108,
        conf={
            "COMBINE": {"type": "text", "value": "and"},
            "MODE": {"type": "text", "value": "permit"},
            "RULE": {
                "field": {"type": "text", "value": "description"},
                "value": {"type": "text", "value": "drug"},
                "op": {"type": "text", "value": "contains"},
            },
        },
    )

    sw_204 = pipe_regex(
        context,
        sw_159,
        conf={
            "RULE": {
                "field": {"type": "text", "value": "title"},
                "match": {"type": "text", "value": "(.+)"},
                "replace": {"type": "text", "value": "[Drugs] $1"},
            }
        },
    )

    sw_148 = pipe_filter(
        context,
        sw_108,
        conf={
            "COMBINE": {"type": "text", "value": "and"},
            "MODE": {"type": "text", "value": "permit"},
            "RULE": {
                "field": {"type": "text", "value": "description"},
                "value": {"type": "text", "value": "weight"},
                "op": {"type": "text", "value": "contains"},
            },
        },
    )

    sw_189 = pipe_regex(
        context,
        sw_148,
        conf={
            "RULE": {
                "field": {"type": "text", "value": "title"},
                "match": {"type": "text", "value": "(.+)"},
                "replace": {"type": "text", "value": "[Weight] $1"},
            }
        },
    )

    sw_170 = pipe_union(context, forever, _OTHER3=sw_204, conf=None, _OTHER=sw_189)

    _OUTPUT = pipe_output(context, sw_170, conf=None)

    return _OUTPUT
def pipe_1LNyRuNS3BGdkTKaAsqenA(context=None,
                                _INPUT=None,
                                conf=None,
                                **kwargs):
    # todo: insert pipeline description here
    conf = conf or {}

    if context and context.describe_input:
        return [(u'', u'textinput1', u'Stock Symbol:', u'text', u'yhoo'),
                (u'', u'textinput2', u'Search Term:', u'text', u'')]

    if context and context.describe_dependencies:
        return [
            u'pipefetch', u'pipefilter', u'pipeoutput', u'pipetextinput',
            u'pipeurlbuilder'
        ]

    forever = pipe_forever()

    sw_131 = pipe_textinput(context,
                            forever,
                            conf={
                                'debug': {
                                    'type': 'text',
                                    'value': ''
                                },
                                'default': {
                                    'type': 'text',
                                    'value': ''
                                },
                                'prompt': {
                                    'type': 'text',
                                    'value': 'Search Term:'
                                },
                                'name': {
                                    'type': 'text',
                                    'value': 'textinput2'
                                },
                                'position': {
                                    'type': 'number',
                                    'value': ''
                                }
                            })

    sw_116 = pipe_textinput(context,
                            forever,
                            conf={
                                'debug': {
                                    'type': 'text',
                                    'value': 'yhoo'
                                },
                                'default': {
                                    'type': 'text',
                                    'value': 'yhoo'
                                },
                                'prompt': {
                                    'type': 'text',
                                    'value': 'Stock Symbol:'
                                },
                                'name': {
                                    'type': 'text',
                                    'value': 'textinput1'
                                },
                                'position': {
                                    'type': 'number',
                                    'value': ''
                                }
                            })

    sw_85 = pipe_urlbuilder(context,
                            forever,
                            PARAM_1_value=sw_116,
                            conf={
                                'PATH': {
                                    'type': 'text',
                                    'value': 'headline'
                                },
                                'BASE': {
                                    'type': 'text',
                                    'value': 'http://finance.yahoo.com/rss'
                                },
                                'PARAM': [{
                                    'value': {
                                        'terminal': 'PARAM_1_value',
                                        'type': 'text'
                                    },
                                    'key': {
                                        'type': 'text',
                                        'value': 's'
                                    }
                                }]
                            })

    sw_108 = pipe_fetch(context,
                        forever,
                        _1_URL=sw_85,
                        conf={'URL': {
                            'terminal': '1_URL',
                            'type': 'url'
                        }})

    sw_120 = pipe_filter(context,
                         sw_108,
                         RULE_1_value=sw_131,
                         conf={
                             'COMBINE': {
                                 'type': 'text',
                                 'value': 'and'
                             },
                             'MODE': {
                                 'type': 'text',
                                 'value': 'permit'
                             },
                             'RULE': [{
                                 'field': {
                                     'type': 'text',
                                     'value': 'description'
                                 },
                                 'value': {
                                     'terminal': 'RULE_1_value',
                                     'type': 'text'
                                 },
                                 'op': {
                                     'type': 'text',
                                     'value': 'contains'
                                 }
                             }]
                         })

    _OUTPUT = pipe_output(context, sw_120, conf={})

    return _OUTPUT
def pipe_QMrlL_FS3BGlpwryODY80A(context=None,
                                _INPUT=None,
                                conf=None,
                                **kwargs):
    # todo: insert pipeline description here
    conf = conf or {}

    if context and context.describe_input:
        return []

    if context and context.describe_dependencies:
        return [
            u'pipefetch', u'pipefilter', u'pipeoutput', u'piperegex',
            u'pipesplit', u'pipeunion'
        ]

    forever = pipe_forever()

    sw_140 = pipe_fetch(context,
                        forever,
                        conf={
                            'URL': {
                                'type':
                                'url',
                                'value':
                                'file://data/news.yahoo.com_rss_health.xml'
                            }
                        })

    sw_108 = pipe_split(context, sw_140, splits=2, conf=None)

    sw_159 = pipe_filter(context,
                         sw_108,
                         conf={
                             'COMBINE': {
                                 'type': 'text',
                                 'value': 'and'
                             },
                             'MODE': {
                                 'type': 'text',
                                 'value': 'permit'
                             },
                             'RULE': {
                                 'field': {
                                     'type': 'text',
                                     'value': 'description'
                                 },
                                 'value': {
                                     'type': 'text',
                                     'value': 'drug'
                                 },
                                 'op': {
                                     'type': 'text',
                                     'value': 'contains'
                                 }
                             }
                         })

    sw_204 = pipe_regex(context,
                        sw_159,
                        conf={
                            'RULE': {
                                'field': {
                                    'type': 'text',
                                    'value': 'title'
                                },
                                'match': {
                                    'type': 'text',
                                    'value': '(.+)'
                                },
                                'replace': {
                                    'type': 'text',
                                    'value': '[Drugs] $1'
                                }
                            }
                        })

    sw_148 = pipe_filter(context,
                         sw_108,
                         conf={
                             'COMBINE': {
                                 'type': 'text',
                                 'value': 'and'
                             },
                             'MODE': {
                                 'type': 'text',
                                 'value': 'permit'
                             },
                             'RULE': {
                                 'field': {
                                     'type': 'text',
                                     'value': 'description'
                                 },
                                 'value': {
                                     'type': 'text',
                                     'value': 'weight'
                                 },
                                 'op': {
                                     'type': 'text',
                                     'value': 'contains'
                                 }
                             }
                         })

    sw_189 = pipe_regex(context,
                        sw_148,
                        conf={
                            'RULE': {
                                'field': {
                                    'type': 'text',
                                    'value': 'title'
                                },
                                'match': {
                                    'type': 'text',
                                    'value': '(.+)'
                                },
                                'replace': {
                                    'type': 'text',
                                    'value': '[Weight] $1'
                                }
                            }
                        })

    sw_170 = pipe_union(context,
                        forever,
                        _OTHER3=sw_204,
                        conf=None,
                        _OTHER=sw_189)

    _OUTPUT = pipe_output(context, sw_170, conf=None)

    return _OUTPUT
Example #16
0
def pipe_eb3e27f8f1841835fdfd279cd96ff9d8(context=None,
                                          _INPUT=None,
                                          conf=None,
                                          **kwargs):
    # todo: insert pipeline description here
    conf = conf or {}

    if context and context.describe_input:
        return [
            (u'', u'q', u'Caption search term', u'text', u'maverick'),
            (u'', u'url', u'Caption URL', u'url',
             u'file://data/rsc-ne-scotland.org.uk_mashe_ititle_xml_jisc10bean.xml'
             )
        ]

    if context and context.describe_dependencies:
        return [
            u'pipefetchdata', u'pipefilter', u'pipeoutput', u'piperegex',
            u'piperename', u'pipetextinput', u'pipeurlinput'
        ]

    forever = pipe_forever()

    sw_521 = pipe_urlinput(
        context,
        forever,
        conf={
            'debug': {
                'type': 'url',
                'value': ''
            },
            'default': {
                'type':
                'url',
                'value':
                'file://data/rsc-ne-scotland.org.uk_mashe_ititle_xml_jisc10bean.xml'
            },
            'prompt': {
                'type': 'text',
                'value': 'Caption URL'
            },
            'name': {
                'type': 'text',
                'value': 'url'
            },
            'position': {
                'type': 'number',
                'value': ''
            }
        })

    sw_572 = pipe_fetchdata(context,
                            forever,
                            URL=sw_521,
                            conf={
                                'URL': {
                                    'terminal': 'URL',
                                    'type': 'url'
                                },
                                'path': {
                                    'type': 'text',
                                    'value': 'body.div.p'
                                }
                            })

    sw_621 = pipe_textinput(context,
                            forever,
                            conf={
                                'debug': {
                                    'type': 'text',
                                    'value': ''
                                },
                                'default': {
                                    'type': 'text',
                                    'value': 'maverick'
                                },
                                'prompt': {
                                    'type': 'text',
                                    'value': 'Caption search term'
                                },
                                'name': {
                                    'type': 'text',
                                    'value': 'q'
                                },
                                'position': {
                                    'type': 'number',
                                    'value': ''
                                }
                            })

    sw_584 = pipe_filter(context,
                         sw_572,
                         RULE_1_value=sw_621,
                         conf={
                             'COMBINE': {
                                 'type': 'text',
                                 'value': 'and'
                             },
                             'MODE': {
                                 'type': 'text',
                                 'value': 'permit'
                             },
                             'RULE': [{
                                 'field': {
                                     'type': 'text',
                                     'value': 'content'
                                 },
                                 'value': {
                                     'terminal': 'RULE_1_value',
                                     'type': 'text'
                                 },
                                 'op': {
                                     'type': 'text',
                                     'value': 'contains'
                                 }
                             }]
                         })

    sw_595 = pipe_rename(context,
                         sw_584,
                         conf={
                             'RULE': [{
                                 'field': {
                                     'type': 'text',
                                     'value': 'begin'
                                 },
                                 'op': {
                                     'type': 'text',
                                     'value': 'copy'
                                 },
                                 'newval': {
                                     'type': 'text',
                                     'value': 'ctime'
                                 }
                             }, {
                                 'field': {
                                     'type': 'text',
                                     'value': 'content'
                                 },
                                 'op': {
                                     'type': 'text',
                                     'value': 'copy'
                                 },
                                 'newval': {
                                     'type': 'text',
                                     'value': 'title'
                                 }
                             }]
                         })

    sw_606 = pipe_regex(context,
                        sw_595,
                        conf={
                            'RULE': [{
                                'field': {
                                    'type': 'text',
                                    'value': 'ctime'
                                },
                                'match': {
                                    'type': 'text',
                                    'value': '(.*)'
                                },
                                'replace': {
                                    'type': 'text',
                                    'value': '&time=$1'
                                }
                            }]
                        })

    _OUTPUT = pipe_output(context, sw_606, conf={})

    return _OUTPUT
Example #17
0
def pipe_8NMkiTW32xGvMbDKruymrA(context=None,
                                _INPUT=None,
                                conf=None,
                                **kwargs):
    # todo: insert pipeline description here
    conf = conf or {}

    if context and context.describe_input:
        return []

    if context and context.describe_dependencies:
        return [u'pipefetch', u'pipefilter', u'pipeoutput', u'pipesort']

    forever = pipe_forever()

    sw_35 = pipe_fetch(
        context,
        forever,
        conf={
            'URL': [{
                'type':
                'url',
                'value':
                'file://data/www.fourtitude.com_news_publish_rss.xml'
            }, {
                'type': 'url',
                'value': 'file://data/feeds.gawker.com_jalopnik_full.xml'
            }, {
                'type': 'url',
                'value': 'file://data/www.autoblog.com_rss.xml'
            }]
        })

    sw_54 = pipe_filter(context,
                        sw_35,
                        conf={
                            'COMBINE': {
                                'type': 'text',
                                'value': 'or'
                            },
                            'MODE': {
                                'type': 'text',
                                'value': 'permit'
                            },
                            'RULE': [{
                                'field': {
                                    'type': 'text',
                                    'value': 'description'
                                },
                                'value': {
                                    'type': 'text',
                                    'value': 'Porsche'
                                },
                                'op': {
                                    'type': 'text',
                                    'value': 'contains'
                                }
                            }, {
                                'field': {
                                    'type': 'text',
                                    'value': 'description'
                                },
                                'value': {
                                    'type': 'text',
                                    'value': 'Mercedes'
                                },
                                'op': {
                                    'type': 'text',
                                    'value': 'contains'
                                }
                            }, {
                                'field': {
                                    'type': 'text',
                                    'value': 'description'
                                },
                                'value': {
                                    'type': 'text',
                                    'value': 'BMW'
                                },
                                'op': {
                                    'type': 'text',
                                    'value': 'contains'
                                }
                            }, {
                                'field': {
                                    'type': 'text',
                                    'value': 'description'
                                },
                                'value': {
                                    'type': 'text',
                                    'value': 'Audi'
                                },
                                'op': {
                                    'type': 'text',
                                    'value': 'contains'
                                }
                            }, {
                                'field': {
                                    'type': 'text',
                                    'value': 'description'
                                },
                                'value': {
                                    'type': 'text',
                                    'value': 'VW'
                                },
                                'op': {
                                    'type': 'text',
                                    'value': 'contains'
                                }
                            }, {
                                'field': {
                                    'type': 'text',
                                    'value': 'description'
                                },
                                'value': {
                                    'type': 'text',
                                    'value': 'Lamborghini'
                                },
                                'op': {
                                    'type': 'text',
                                    'value': 'contains'
                                }
                            }, {
                                'field': {
                                    'type': 'text',
                                    'value': 'description'
                                },
                                'value': {
                                    'type': 'text',
                                    'value': 'Ferrari'
                                },
                                'op': {
                                    'type': 'text',
                                    'value': 'contains'
                                }
                            }, {
                                'field': {
                                    'type': 'text',
                                    'value': 'description'
                                },
                                'value': {
                                    'type': 'text',
                                    'value': 'Pagani'
                                },
                                'op': {
                                    'type': 'text',
                                    'value': 'contains'
                                }
                            }, {
                                'field': {
                                    'type': 'text',
                                    'value': 'description'
                                },
                                'value': {
                                    'type': 'text',
                                    'value': 'Aston'
                                },
                                'op': {
                                    'type': 'text',
                                    'value': 'contains'
                                }
                            }, {
                                'field': {
                                    'type': 'text',
                                    'value': 'description'
                                },
                                'value': {
                                    'type': 'text',
                                    'value': 'Lotus'
                                },
                                'op': {
                                    'type': 'text',
                                    'value': 'contains'
                                }
                            }, {
                                'field': {
                                    'type': 'text',
                                    'value': 'description'
                                },
                                'value': {
                                    'type': 'text',
                                    'value': 'TVR'
                                },
                                'op': {
                                    'type': 'text',
                                    'value': 'contains'
                                }
                            }, {
                                'field': {
                                    'type': 'text',
                                    'value': 'description'
                                },
                                'value': {
                                    'type': 'text',
                                    'value': 'AMG'
                                },
                                'op': {
                                    'type': 'text',
                                    'value': 'contains'
                                }
                            }]
                        })

    sw_105 = pipe_sort(context,
                       sw_54,
                       conf={
                           'KEY': [{
                               'field': {
                                   'type': 'text',
                                   'value': 'pubDate'
                               },
                               'dir': {
                                   'type': 'text',
                                   'value': 'DESC'
                               }
                           }]
                       })

    _OUTPUT = pipe_output(context, sw_105, conf={})

    return _OUTPUT