湖北|CCO x Hologres:实时数仓高可用架构再次升级,双11大规模落地( 三 )


由于历史原因 , 不同的应用系统可能会依赖不同的数据服务引擎 , 比如某些KV引擎暂时未改造下线 , 为了保证数据一致性 , 我们通过消费Hologres Binlog , 将某些实时数据向其它KV引擎做实时同步 , 既保证了数据一致性 , 也可以满足不同应用系统的需求 。对于交易流量 , 大促峰值往往高于日常非常多 , 为了保证峰值吞吐性能 , 所有引擎按照峰值扩容 , 会有极大的资源浪费 , 通过数仓中转的流量需要具备一定的“消峰填谷”的能力 , 来保证目标引擎不必过度扩容 。 五 总结 由CCO+Hologres构建的高可用实时数仓经过2年的迭代 , 由最初的传统数仓逐渐升级到2021年的高可用实时数仓:2020年年双11大促首次采用以Hologres为核心实时数仓方案 , 统一了实时核心数据与部分离线数据的存储 。 再到2021年通过对实时数仓进行高可用架构升级 , 由链路双写顺利升级为读写分离高可用以及灾备架构 , 并在双11以及双12等核心场景规模应用 。 实时任务规模由去年的几百+增加至上千+ , 写入压力增加至1700万+每秒 , 数据规模高达几百TB , 直接服务数十个在线服务场景 , 数百个核心分析业务 , 有效降低了构建实时数仓主备链路的人力以及机器成本 , 减轻了核心业务对于读取稳定的压力 , 完美经受住各大促核心场景的检验 , 实现生产高可用 ,
作者 | 梅酱
本文为阿里云原创内容 , 未经允许不得转载 。

相关经验推荐