Skip to content

zouxiaoliang/tera

 
 

Repository files navigation

Build Status

Copyright 2015, Baidu, Inc.

#Overview Tera是一个高性能、可伸缩的结构化数据存储系统,被设计用来管理搜索引擎万亿量级的超链与网页信息。为实现数据的实时分析与高效访问,我们使用按行键、列名和时间戳全局排序的三维数据模型组织数据,使用多级Cache系统,充分利用新一代服务器硬件大内存、SSD盘和万兆网卡的性能优势,做到模型灵活的同时,实现了高吞吐与水平扩展。

#特性

  • 全局有序
  • 热点自动分片
  • 数据强一致
  • 多版本,自动垃圾收集
  • 按列存储,支持内存表
  • 动态schema
  • 支持表格快照
  • 高效随机读写

#数据模型 Tera使用了bigtable的数据模型,可以将一张表格理解为这样一种数据结构:
map<RowKey, map<ColummnFamily:Qualifier, map<Timestamp, Value> > >
其中RowKey、ColumnFamily、Qualifier和Value是字符串,Timestamp是一个64位整形。ColumnFamliy需要建表时指定,是访问控制、版本保留等策略的基本单位。

#系统架构 系统主要由Tabletserver、Master和ClientSDK三部分构成。其中Tabletserver是核心服务器,承载着所有的数据管理与访问;Master是系统的仲裁者,负责表格的创建、schema更新与负载均衡;ClientSDK包含供管理员使用的命令行工具teracli和给用户使用的SDK。 表格被按RowKey全局排序,并横向切分成多个Tablet,每个Tablet负责服务RowKey的一个区间,表格又被纵向且分为多个LocalityGroup,一个Tablet的多个Localitygroup在物理上单独存储,可以选择不同的存储介质,以优化访问效率。

架构图

#系统依赖

  • 使用分布式文件系统(HDFS、NFS等)持久化数据与元信息
  • 使用zookeeper选主与协调
  • 使用Sofa-pbrpc实现跨进程通信

#系统构建 sh ./build.sh
参考BUILD

#使用示例

通过OneBox体验Tera

通过docker体验Tera

主要API使用方法

命令行工具使用手册

#反馈与技术支持 tera_dev@baidu.com

#成为贡献者 完成5个小任务,帮你一步步成为tera贡献者.

#欢迎加入 如果你热爱开源,热爱分布式技术,请将简历发送至: dist-lab@baidu.com

About

A distributed, elastic, structured database.

Resources

License

Stars

Watchers

Forks

Packages

No packages published

Languages

  • C++ 92.8%
  • Python 2.4%
  • C 2.0%
  • Shell 0.9%
  • Java 0.8%
  • Protocol Buffer 0.7%
  • Makefile 0.4%