def run(self,site_id):
'''
运行主程序
'''
p = path(site_id)
#初始化目录
#清空wordsplit
p.clean_dir(p.g_wordsplit())
#清空hits
p.clean_dir(p.g_hits())
#初始化数据库
p.cp_chun()
###################################################################
# 解析 parser
#
###################################################################
parser = Parser(site_id)
###################################################################
# url处理 url_sort
#
###################################################################
url_trans = UrlTransID(p.g_urltest())
#将url进行排序
url_trans.sort()
#存储为 sorted_url.txt
url_trans.save(p.g_sorted_url())
###################################################################
# parser 进行分词
#
###################################################################
parser.splitWord()
###################################################################
# 根据 docID 修改文件名
#
###################################################################
url_trans_dir = UrlTransDir(p.g_sorted_url())
#对document进行重命名
url_trans_dir.renameDoc( p.g_document() )
#对wrdsplit进行重命名
url_trans_dir.renameDoc( p.g_wordsplit() )
###################################################################
# parser 产生词库 wordbar
#
###################################################################
parser.transWbar()
###################################################################
# title_处理
#
###################################################################
title_des_sqlite = Title_des_sqlite(site_id)
#对原始数据进行刷新
title_des_sqlite.clear()
title_des_sqlite.run()
title_des_sqlite.add_url()
title_des_sqlite.intro_split_des_title()
title_des_sqlite.cx.commit()
###################################################################
# index 索引操作
#
###################################################################
index = Indexer(site_id)
index.run()
###################################################################
# index 对hits进行排序
#
###################################################################
hit_sort = Sort_hits(p.g_hit_size())
for i in range(20):
hit_sort.sort_wid(p.g_hits()+'/',i)
hit_sort.save(p.g_hits()+'/',i)
for header in crawled_raw["headers"]:
crawled.headers.append(header["text"])
crawled.title = crawled_raw["title"]
crawled.checksum = crawled_raw["checksum"]
crawled.html = crawled_raw["content"]
print("Received {0}".format(str(crawled)))
handle_crawled_data._indexer.index(crawled)
chl.basic_ack(delivery_tag=method.delivery_tag)
def cleanup():
print("closing resources")
handle_crawled_data._indexer.close()
if __name__ == "__main__":
indexer = Indexer(index_dir="search_index")
indexer.load()
handle_crawled_data._indexer = indexer
connection = pika.BlockingConnection(
pika.ConnectionParameters(host="localhost"))
channel = connection.channel()
channel.queue_declare(queue="crawledQueue", durable=True)
channel.basic_consume(handle_crawled_data, queue="crawledQueue")
try:
channel.start_consuming()
except KeyboardInterrupt:
cleanup()
channel.close()
connection.close()
def index(self,p1,p2,p3):
'''
'''
index=Indexer(self.site_id,p1,p2,p3)
index.run()