好库网 好库网首页 | 我的好库
IT新闻中心

如何使用HBase构建NewSQL?

发布者:itnews
发布日期:2015/12/9 16:00:24   更新日期:2015/12/9 16:00:24
阅读次数:1264
评分:4.80
介绍:本文是刘奇在SDCC 2015数据库实践论坛上分享的《HBase分布式事务与SQL实现》主题内容。文中分享了Goolge Percolator内部实现、雅虎的OMID实现、TiDB的内部架构、技术选型以及如何使用HBase构建NewSQL。
正文:

本文是刘奇在SDCC 2015数据库实践论坛上分享的《HBase分布式事务与SQL实现》主题内容。

目前主流的数据库或者NoSQL要么在CAP里面选择AP,比较典型的例子是Cassandra,要么选择CP比如HBase,这两个是目前用得非常多的NoSQL的实现。我们的价值观一定认为未来是分布式的,一定是尽量倾向于全部都拥有,大部分情况下取舍都是HA,主流的比较顶级的数据库都会选择C,分布式系统一定逃不过P,所以A就只能选择HA。现在主要领域是数据库的开发,完全分布式,主要方向和谷歌的F1方向非常类似。

目前看NewSQL代表未来(Google Spanner、F1、FoundationDB),HBase在国内有六个Committer,在目前主流的开源数据库里面几乎是最强的阵容。大家选型的时候会有一个犹豫,到底应该选择HBase还是选Cassandra。根据应用场景,如果需要一致性,HBase一定是你最好的选择,我推荐HBase。它始终保持强一致,我们非常喜欢一致性,丧失一致性的时候有些错误会特别诡异,很难查。对于Push-down特性的设计其实比较好,全局上是一个巨大的分布式数据库,但是逻辑上是分成了一个个Region,Region在哪台机器上是明确的。

比如要统计记录的条数,假设数据分布在整个系统里面,对数十亿记录做一个求和操作,就是说不同的机器上都要做一个sum,把条件告诉他要完成哪些任务,他给你任务你再汇总,这是典型的分布式的 MPP,做加速的时候是非常有效的。

2015年HBaseConf 上面有一句总结: “Nothing is hotter than SQL-on-Hadoop, and now SQL-on- HBase is fast approaching equal hotness status”, 实际上SQL-on-HBase 也是非常火。因为 Schema Less 没有约束其实是很吓人的一件事情,当然没有约束也比较爽,就是后期维护十分痛苦,规模进一步扩大了之后又需要迁移到 SQL。

现在无论从品质还是速度上要求已经越来越高,拥有SQL的同时还希望有ACID的东西(OLAP一般不追求一致性)。所以TiDB在设计时就强调这样的特点:始终保持分布式事务的支持,兼容MySQL协议。无数公司在SQL遇到Scale问题的时候很痛苦地做出了选择,比如迁移到HBase,Cassandra MongoDB已经看过太多的公司做这种无比痛苦的事情,现在不用痛苦了,直接迁过来,直接把数据导进来就OK了。TiDB最重要的是关注OLTP,对于互联网业务来说通常是在毫秒级内就需要返回一个结果。

我们到目前为止开发了六个月,开源了两个月。昨天晚上TiDB达到了第一个Alpha的阶段,现在可以拥有一个强大的数据库:支持分布式事务,始终保持同步的复制,强大的按需Scale能力,无阻塞的Schema变更。发布第一个Alpha版本的时候以前的质疑都会淡定下来,因为你可以阅读每一行代码,体验每个功能。选择这个领域也是非常艰难的决定,实在太Hardcore了,当初Google Spanner也做了5年。不过我们是真爱,我们就是技术狂,就是要解决问题,就是要挑大家最头痛的问题去解决。好在目前阿里的OceanBase给我们服了颗定心丸,大家也不会质疑分布式关系型数据库是否可行。

TiDB名字由来

为什么叫TiDB?大家起名字的时候特别喜欢用希腊神话里面的人物,但几乎所有的希腊神话人物的名字都被别的项目使用了,后来我们就找了化学元素周期表(理工科男与生俱来的特征),化学元素周期表里找到一个不俗且又能代表我们数据库特性的元素-Ti 。Ti是航空航天及航海里面很重要的设备都会用到的,特别稳定,也比较贵。


TiDB的系统架构图

TiDB怎么支持MySQL这个协议?这里会有一个协议解析层,它的作用就是去分析MySQL协议,转成内部可以识别的分发给自己的SQL Layer。当SQL Layer 拿到这个语句之后会把它拆成对应的分布式KV操作,所以这里会有一个Transactional KV Storage。接下来是在KV基础上增加事务的支持,再往上是普通的KV操作,理论上KV选什么都可以,如果选的是HBase有一个好处,它本身就是分布式,省掉分布式的工作。目前我们在小米的Themis基础上做了些优化和改进,和我们TiDB做了一个很好的结合。后期我们有一个计划,准备自己重写一套底层的分布式KV,把HBase换掉。因为HBase对于Container不友好,加上GC也是让人比较讨厌的问题,压力比较大的时候GC延迟会加长。

Google Percolator实现方式

 HBase上面分布式事务典型的设计,先来说一下Goolge Percolator 内部实现,看架构图:


Goolge Percolator内部实现

分布式事务基本设计是在上面这个 Percolator层,Timestamp Oracle 可以保证严格的递增。Percolator是在KV上的实现,它对于SQL的角度考虑比较少,有一个隔离级别的问题,很典型的是Snapshot Isolation, SQL 语句落在KV上的实现,如果只有Snapshot Isolation的话隔离级别就太低了。此外,这个模型还有其它的问题。比如,它每秒能分配多少个递增的Timestamp?Google分享的一个slides的数据,每秒200万,小米也开源了自己的实现,每秒60万,我们前一阵也写了一个每秒400万,优化一下可以达到800万。因为Timestamp业务特别简单,所以可以做针对性的优化,当然很少有业务能跑到这个级别的事务。

Yahoo OMID的实现

雅虎的OMID实现,架构图如下:


雅虎的OMID实现

除了Timestamp的职能,TSO还维护更多信息用于检测事务冲突。TSO是整个Omid系统的单点,如果一个系统只需要一个单点,单点做得越少就能获得越多的性能,也更容易优化。

下图是它的分布式事务的执行过程:


假设现在要发起一个分布式事务,第一个事情是拿Start TS,再去做你的读写操作,做读写操作的时候会把Key都记下来。Commit的时候要先冲突检测,这就是TSO 要做的更多的事情,更具体的细节请参考Omid 的论文或者 <<从零开始写分布式数据库>>一书。

谷歌的Spanner,细节非常多,引用的论文有40多篇,很吓人,有些引用的论文也非常经典,很值得一读。Spanner已经不再使用NTP了,需要用一个有信心的靠谱的方式来同步时间。内部也说不再用NTP做时间的维护,GPS是非常简单便宜的方式,GPS是大家使用滴滴打车时用于得到定位信息的。GPS还给了当前精确的时钟信息,有软件可以把这个检测出来,可以直接使用它的这个信号来同步时间。使用GPS信号的好处很明显,随便在哪个山区都有GPS信号,但不一定能收到基站的信号,同时它的精度也非常高。

TiDB的技术选型

再来说说TiDB的一些技术选型的例子。选择MySQL协议后会做一些取舍,有些地方不完全按Google F1去做设计的。Google F1里做的比较好的是非常经典的Non-blocking schema changes。比如现在要加一个索引,如果横跨数十台机器,数十亿条记录,加索引的速度是非常慢的,那么这个过程必须是不阻塞的,不影响正在运行的业务的。因为在建立索引的同时需要修改别的地方,所以要做一个原子的提交,细节上还要处理事务冲突的错误。F1有并发的图,我们刚才提到HBase里通过Push-down可以把一些计算下推到对应的节点上去。但由于F1依赖Spanner,而Spanner会频繁地做Reblancing,会把数据不断的移动,所以它在上面很难基于range信息一次做最优的决策。

SQL如何映射分布式KV?

SQL到底是怎么映射到分布式KV上?现在HBase分层分得更加清楚,SQL层不太关心下面到底用什么,在乎的是接口。映射的过程,假设User Table里面有个Email,我们存储的时候是用ID做它的标识,这有很多的好处,比如删掉再重新添加一样的,它要生成不同的ID。在数十亿条记录的情况下删除一个Table,删除的过程完全可以由Map-Reduce异步去做。

为什么提供MySQL协议的支持?如果重新写一个数据库会遇到一个很大的问题,大家凭什么相信你是对的,数据库需要时间需要测试,好在你接入MySQL协议,你可以经过和MySQL一样严谨的测试。但如果是自己完全写一个,不借用它的协议,不借用它的语法,没有测试,大家凭什么相信你是对的。现在这个时代没有Communit是很可怕的,闭门造车很容易走偏。TiDB现在可以让用户一行代码都不改,跑WordPress等,还支持很多的ORM,这些ORM可以直接用,用户的代码一行不改可以直接迁过来,完全拥有水平扩展的能力,完全拥有分布式事务的支持。前TiDB在Github上2800+star。

个人简介:

刘奇,开源分布式数据库TiDB创始人,Codis项目创始人,分布式系统专家。曾任豌豆荚,京东资深系统架构师。同时也是知名的Go语言专家和Redis专家。现从事开源的分布式NewSQL数据库TiDB(受Google F1启发)的开发。擅长高并发、大规模、分布式数据库系统架构设计,微博(@goroutine


评论 [发表评论]
账号 密码 还没帐号呢,现在注册一个?

免责声明:好库网所展示的信息由买卖双方自行提供,其真实性、准确性和合法性由信息发布人负责。好库网不提供任何保证,并不承担任何法律责任。