世界微动态丨携程 x TiDB | 应对全球业务海量数据增长,一栈式 HTAP 实现架构革新 - 综合 -

当前位置:首页  >  综合  > 正文

世界微动态丨携程 x TiDB | 应对全球业务海量数据增长,一栈式 HTAP 实现架构革新

世界微动态丨携程 x TiDB | 应对全球业务海量数据增长,一栈式 HTAP 实现架构革新
2023-03-10 10:57:43 来源:中关村在线

随着新冠病毒疫情的缓解和控制,全球旅游业逐渐开始重新复苏。尤其在一些度假胜地,游客数量已经恢复到疫情前的水平。

携程作为全球领先的一站式旅行平台,旗下拥有携程旅行网、去哪儿网、Skyscanner 等品牌。携程旅行网向超过 9000 万会员提供酒店预订、酒店点评及特价酒店查询、机票预订、飞机票查询、时刻表、票价查询、航班查询等服务。

随着业务量迅速增长,携程需要更敏捷的技术架构来满足不断激增的并发与数据量,一个稳定、可靠,可以随业务增长不断扩展的数据库对于携程来说显得尤其重要。作为海内外在线旅游行业的翘楚,携程也曾面临着数据库带来的技术挑战。


(资料图)

携程创立于 1999 年,最初选择使用 SQL Server 数据库,在整体数据库技术栈中占比达到 99%。 2012 年初,携程开始逐步关注开源技术,尤其是 MySQL,不过该阶段 MySQL 使用占比仍然很低,只有 10% 左右。从 2014 至 2019 年,携程开始加深 MySQL 的应用,并因为业务形态发生了变化,携程开始从 SQL Server 转型到 MySQL,对 MySQL 进行了深入研究,包括内核补丁、全自动故障诊断等。

原 MySQL 架构痛点与挑战

携程的应用部署在两个或多个 IDC 中,数据库也对等部署在每个 IDC 中。MySQL 部署方式采用 HA节点,即主备节点,在同一机房部署,另一节点在不同 IDC 部署,这种方式保证了 HA 切换速度和数据的容灾。比如遇到单机房故障或者整个机房宕机,可以迅速把第二节点启动起来。携程在主备切换和第二切换时做了很多自动化工作,但这种架构也有明显缺点,由于应用的无状态化,数据库的切换会造成业务的短暂中断,因为数据库只有一个主节点。

在扩展方式方面,携程没有采用中间件的方式,而是采用客户端实现分片规则。客户端在上线时会确定分片规则,比如 64。再根据 ID 使用取模运算定位到某个分片,这样可以更方便地进行扩展。当业务增加时实例数量从 1 变成 N ,当负载下降时也可以缩回来。

但是这种扩展方式对 DBA 运维来说还有一些挑战,随着 DBA 越来越多,聚合会比较困难,业务代码也变得复杂。

分布式数据库选型

2018 年,随着携程业务的快速发展,底层架构需要支持弹性扩展,特别是在季节性高峰期(例如春运火车票抢票等)。分布式数据库由于具有 DB 级弹性、快速扩展和混合负载(HTAP)等优势,更适合业务的发展,携程开始考虑引入分布式数据库,并进行调研选型。携程主要从以下几个维度考量分布式数据库:

·性能:平衡性能和成本,选择通用机型,不使用高端存储或机器,并要求响应稳定;

·运维与社区:学习成本适中,运维复杂度低,产品需开源且社区活跃;

·成本:一方面,业务研发需要学习使用 SQL,特别是 MySQL 协议;另一方面,运维团队希望产品不要过于复杂,易于维护;

·扩展性:分布式数据库需要具有快速的扩展能力,扩缩容对业务影响小。

2018 年,携程开始正式引入 TiDB。考虑到 TiDB 的架构和携程的 IDC 环境,携程将 TiDB 分别部署在三个 IDC 机房(IDC1、IDC2、IDC3)中,遵循同时部署的标准。TiKV、TiDB 和 PD 均匀分布在三个 IDC 机房中,业务流量可以本地感知到每个机房的 TiDB Server ,在单机房故障时可以自动重启到其它机房。因为客户端对 TiDB 进行了探活与感知,单个 TiDB 服务器故障时客户端可以重新定向。

TiDB 在酒店和度假结算场景的应用

在酒店和度假结算场景应用中,携程原 MySQL 架构主要采用分片(sharding)的扩展方式,对于酒店和度假结算这类业务来说,分片会变得非常困难。最初的方案是把 SQL Server 上的数据原封不动导入到 MySQL 中,但测试后发现性能不佳,扩展性也受限。如果采用分片方式部署,不论从酒店的维度、供应商的维度或者是用户维度,都很难选择合适的分片键( sharding key),这种方式也对业务代码侵入性比较大。因此,携程最终选择了 TiDB,将酒店和度假结算业务从 SQL server 迁移到 TiDB 上,总数据量规模达到 8TB,并受到了开发人员的一致好评,满足了性能和扩展性的诸多要求。

TiDB 在海量数据场景中的应用

携程的海量数据场景涉及到大量数据存储。原架构中由于单机存储限制,扩展必须通过 sharding 方式实现。但该解决方案对于一些业务而言过于复杂,例如在 IBU 海外业务部数据,单表数据已经超过 300 亿。应用 TiDB 可以大幅提高查询性能,实现大量数据的高效存储。TiDB 的行列混存架构( TiFlash 和 MPP 技术),使得携程部分查询性能有了20倍提升;在信息安全源数据标记数据时,单表数据也超过了 60 亿行,读写的响应时间都达到毫秒级,单天聚合查询秒级返回。

除了使用 TiDB ,携程还在使用其存储层 TiKV。引入 TiKV 是因为携程现在的业务有一些简单的 KV 存储需求,携程在使用的产品有 Redis 和 Hbase,但是 Hbase 的性能相比于 Redis 比较差,而 Redis 则存在数据不一致的风险,比如网络抖动、中断等。携程有一些业务有强一致 KV 需求,例如近期引入的酒店取消政策项目,Redis 虽然能满足业务需求,但没有强一致性能。综合考量之后,携程选择了 TiKV 解决上述挑战。TiKV 的部署与 TiDB 类似,也是在三个机房分布部署,应用可以感知到每个机房的 PD,并且 PD 也在三个机房分别部署。该架构可以确保如果出现机房级故障,或是单 PD 故障,运维团队都可以做到平滑切换。

TiDB 在携程的全球化运用

随着携程近年来开始走向海外,海外业务呈现迅猛增长趋势。携程也将国内成熟的数据库技术直接用于海外。目前,TiDB 在携程的国内和海外业务是分开部署的,海外应用复用了国内的 schema 和代码,监控告警方式也与国内保持一致,部署方式也是相同的。

携程引入 TiDB 并完成了一系列内部生态整合,包括发布系统(如表结构发布、索引发布)、数据修改和查询等。由于 TiDB 和 MySQL 采用了相同的协议,整合过程相对简单平滑:

·TiDB 原生支持 Prometheus + Grafana,提供了丰富的诊断数据,可以根据 TiDB 故障诊断手册快速定位问题。

·由于 Grafana 的数据在每个集群上单独分布,携程通过prometheus 源生remote write转发性能数据到携程统一监控平台,以便在监控平台上进行性能告警和大盘监控。

目前,携程已经顺利完成从 SQL server 到 TiDB 的迁移,稳定应用于携程的国内、海外各业务场景中,借助 TiDB HTAP 能力,携程大幅提高了查询性能,实现海量数据的高效存储。

标签:

(责任编辑:news01)
焦点热议:云南启动2023年促进大中专学生就业行动

焦点热议:云南启动2023年促进大中专学生就业行动

近日,共青团云南省委组织16个州(市)、81所高校团委负责人召开2023年促进大中专学生就业行动部署会,...
03-05 12:09:00
宝马4系胎压多少-天天热资讯

宝马4系胎压多少-天天热资讯

汽车现在已经越来越普及,基本上都快实现每家每户都有汽车了,那么汽车这么多的情况之下,我们在用车的...
03-05 08:48:44
基层医生是走出这波疫情的关键!张文宏委员分享了“张飞”的故事

基层医生是走出这波疫情的关键!张文宏委员分享了“张飞”的故事

东方网记者卞英豪、董俊成、单珊3月4日报道:“来自我们社区基层的医生,是我们能够走出这波疫情的关键...
03-04 23:19:20
环球动态:佛教创始人是谁_佛教创始人

环球动态:佛教创始人是谁_佛教创始人

1、佛教发源于距今约2553年前的古印度。佛教的创始人是释迦牟尼佛,这个名号是印度梵语音译过来的,释迦...
03-04 18:19:14
学生平安保险在哪里买|速看料

学生平安保险在哪里买|速看料

学生平安保险可以通过保险代理购买,也可以通过平安官网购买。通常情况下,学校会统一购买。如果想单独...
03-04 16:13:31
56 岁于文华现身农村生活,住田野旁自建房接地气,喂土狗裙子拖地 动态

56 岁于文华现身农村生活,住田野旁自建房接地气,喂土狗裙子拖地 动态

3月3日,知名歌唱家于文华晒出了一则近况视频,她久违地再度回到农村生活,举止格外接地气。作为从农村...
03-04 11:49:14
塔利班是什么意思_TLB是什么意思-每日快报

塔利班是什么意思_TLB是什么意思-每日快报

1、TLB有很多种解释(缩写)。2、只能给你一个搜索结果。3、你看哪个缩写合适:。本文到此结束,希望对大...
03-04 11:12:56
世界热文:广西农作物种质资源·果树卷

世界热文:广西农作物种质资源·果树卷

1、《广西农作物种质资源·果树卷》是2020年科学出版社出版的图书。2、作者是陈东奎。
03-02 16:47:35
当前热文:北京市去年新设市场主体同比增5.25%

当前热文:北京市去年新设市场主体同比增5.25%

北京市去年新设市场主体同比增5 25%,经营,北京市,新设市场,市场主体
03-02 11:38:59
《狂飙》HD国语高清百度(资源共享)今日更新2023

《狂飙》HD国语高清百度(资源共享)今日更新2023

张译、张颂文主演的《狂飙》无疑是2023年的王炸,上映后收视率直接炸裂,稳居央视近10年播放量的第一名...
03-02 09:14:34
第一天的英文缩写_第一天英文缩写 快讯

第一天的英文缩写_第一天英文缩写 快讯

1、英文缩写星期一Mon (全称Monday)星期二Tues (全称Tuesday)2、星期三Wed (全称Wed
03-02 07:57:55
一年四季洗热水澡好吗? 热点在线

一年四季洗热水澡好吗? 热点在线

不好,一年四季中冬天洗热水澡可以,但是温度都不能太高了,容易损伤皮肤,一年四季,最合适洗温水澡,...
03-02 02:55:01
焦点速读:应聘教师个人说明怎么写_个人说明怎么写

焦点速读:应聘教师个人说明怎么写_个人说明怎么写

1、1、要想写好个人情况说明,就必须知道这四点!其一:开门见山标明,某某的情况说明;其二:既然是情...
03-01 22:54:58
中国、希腊高校携手共建深具中医药特色的孔子学院

中国、希腊高校携手共建深具中医药特色的孔子学院

(陈静邹雨婷)记者1日从上海中医药大学获悉,该校与中国国际中文教育基金会、希腊西阿提卡大学签约合作建...
03-01 22:42:49
1 分钟看懂 [ 甲流 & 奥司他韦 ] 15 问,比去盲目抢药实用!|微资讯

1 分钟看懂 [ 甲流 & 奥司他韦 ] 15 问,比去盲目抢药实用!|微资讯

重磅!科大大粉丝节来啦!一大波好礼来袭!从现在起,到3月份结束。科大大会在每次发稿当天,选出一些幸...
03-01 20:07:41
国网福建电力:自主研发的无人机应用软件获行业认证-世界焦点

国网福建电力:自主研发的无人机应用软件获行业认证-世界焦点

2月28日,由国网福建电力双创中心孵化转化的拳头产品——三维航线规划与树障分析软件正式上线大疆公司官...
03-01 17:56:11
A3678

A3678

1、审定编号:冀审玉2017001052、品种名称:A36783、申请者:中种国际种子有限公司4、育
03-01 17:09:45
特斯拉中国:今年生产的Model Y悬架系统已升级 兼具运动与舒适

特斯拉中国:今年生产的Model Y悬架系统已升级 兼具运动与舒适

IT之家3月1日消息,特斯拉中国今日宣布,中国制造ModelY悬架系统迎来升级,“山路不颠、高速更稳”。I
03-01 15:52:08
重访葡萄牙(1)-大航海时代之父

重访葡萄牙(1)-大航海时代之父

翻开伊比利亚半岛地图,你会发现,相当于5 5个浙江省面积的这个半岛只“居住”着两个国家,即西班牙和...
03-01 13:57:54
方正证券:全面注册制下交易层面影响远大于股价层面影响

方正证券:全面注册制下交易层面影响远大于股价层面影响

3月1日消息,方正证券研报认为,随着上市公司数量的增加,股市整体估值会出现中枢下降波动减少的特点,...
03-01 12:03:37
九州缥缈录简介

九州缥缈录简介

1、这是一卷九州大陆的鸿篇史诗,群雄并立,为了各自的信仰和野心征战沙场、智斗庙堂。纷争之间,黑暗力...
03-01 11:56:47
懒人瘦身器健身器_懒人瘦身-世界速讯

懒人瘦身器健身器_懒人瘦身-世界速讯

1、以下是我多年收集的减肥方法,分享给你~~最经济的瘦身法原地跑在室内或过道挑选一块约一平方米左右的...
03-01 09:50:43
【全球快播报】阳康,你真的康了吗?

【全球快播报】阳康,你真的康了吗?

开始确实认为,新冠感染也不过如此,发两天烧,浑身疼两天也就过去了,还可以忍受,也不过如此。谁成想...
03-01 07:46:19
LykanHypersport怎么读

LykanHypersport怎么读

1、雷肯翰坡儿斯珀特中文叫“狼崽”这是非官方的叫法。本文到此分享完毕,希望对大家有所帮助。
03-01 06:17:51
全球热点!微型计算机初中级培训教程

全球热点!微型计算机初中级培训教程

1、《微型计算机初中级培训教程》是1996年中国科学技术大学出版社出版的图书,作者是刘振安等。2、。本...
03-01 03:55:44
沙画|在“五个一百”中,汇聚奋进中国奔腾力量-今日热议

沙画|在“五个一百”中,汇聚奋进中国奔腾力量-今日热议

天地无垠,问天实验舱翱翔穹宇,那是飘扬的中国红;神州大地,智能复兴号驰骋万疆,那是坚守的制服蓝;...
02-28 23:14:10
易遥_对于易遥简单介绍 环球热推荐

易遥_对于易遥简单介绍 环球热推荐

1、易遥,郭敬明长篇小说《悲伤逆流成河》中的女主角,电影版由任敏饰演。2、易遥从小父母离异,父亲再...
02-28 20:49:57
格林美携手梅赛德斯-奔驰中国与宁德时代共建退役动力电池闭环回收价值链

格林美携手梅赛德斯-奔驰中国与宁德时代共建退役动力电池闭环回收价值链

2023年2月27日,第十届梅赛德斯-奔驰中国可持续发展对话会线上召开。会上,梅赛德斯-奔驰中国公开宣布,...
02-28 18:43:18
世界最资讯丨中信信用卡如何网上激活

世界最资讯丨中信信用卡如何网上激活

1 打开电脑浏览器,搜索“中信”;2 打开中信官网,选择“信用卡-开卡”,如图:3 在新地区,选择“...
02-28 16:06:33
达则兼济天下穷则独善其身是什么意思出自

达则兼济天下穷则独善其身是什么意思出自

1、“穷则独善其身,达则兼济天下”出自《孟子·尽心上》,原句为“穷则独善其身,达则兼善天下”,意思...
02-28 15:26:48

为您推荐

精彩推送