从“音讯”到“音讯、事情、流”的大交融

音讯行列作为当代使用的通讯根底设施,微服务架构使用的中心依靠,通过异步解耦才能让用户更高效地构建分布式、高功用、弹性健壮的使用程序。

从数据价值和事务价值视点来看,音讯行列的价值不断深化。音讯行列中活动的事务中心数据涉及集成传输、剖析核算和处理等不同环节与场景。伴随着不断演进,咱们能够预见音讯行列势必在数据通道、事情集成驱动、剖析核算等场景不断发生新价值,创造新的“化学反应”。

阿里云消息队列 RocketMQ 5.0 全新升级:消息、事件、流融合处理平台

RocketMQ 诞生于阿里巴巴内部电商体系,展开至今日,其中心架构阅历了多次关键演进:

早在 2007 年,淘宝电商体系做服务化拆分的时分,就诞生了第一代音讯服务 Notify,这是 RocketMQ 最早雏形。Notify 采用了联系型数据库作为存储,使用推形式。在阿里淘宝这种高频买卖场景中,具有十分广泛地使用。

在 2007-2013 年期间,随着阿里集团事务展开,不只需要买卖场景异步调用,一起需要支撑很多传输埋点数据、数据同步。此刻,内部衍生出 MetaQ 以及 RocketMQ3.0 版本,这两个版本开端探索自研存储引擎,采用了自研专有音讯存储,支撑了单机海量 Topic,并前瞻性地去除了 Zookeeper 等组件的外部依靠。在十年后的今日,咱们看到去各种 keeper 已成为整个音讯范畴的展开干流。

阅历了前三代的内部事务打磨后,阿里巴巴积极参加开源并将 RocketMQ3.0 奉献到开源社区,并于 2017 年从 Apache 孵化器结业,成为中国首个非 Hadoop 生态体系的 Apache 社区顶级项目。尔后,RocketMQ 也开端服务于阿里云企业客户。秉承开源、商业、内部三位一体展开策略,18 年发布的 4.x 版,在高牢靠低推迟方面重点优化,构建了全新的低推迟存储引擎和多场景容灾处理计划、并提供了丰厚的音讯特性。这也使得 RocketMQ 成为金融级的事务音讯首选计划。

上个月社区发布了 RocketMQ5.0-preview 版,正式宣告 5.0 的到来。RocketMQ5.0 将不再局限于音讯解耦的基本场景,更是通过一致内核、存储的优势,提供音讯、事情、流一体化的处理才能。

阿里云消息队列 RocketMQ 5.0 全新升级:消息、事件、流融合处理平台

回顾 RocketMQ 展开的十余年,良好的社区环境和商业支撑使得很多企业开发者能够很便利的跟进事务特色和诉求进行选型和验证。在社区活泼影响力方面,RocketMQ 社区项目收成 15000+Star,活泼的奉献者有 400+ 位,多语言、生态衔接等周边活泼项目 30+ 个,深受社区开发者欢迎。在使用规划方面,RocketMQ 作为金融级事务音讯计划,积累了互联网游戏、在线教育、金融证券、银行、政企能源、汽车出行等很多行业数以万计的企业客户。一起,在阿里巴巴内部背负事务中心链路,每天流转万亿级音讯流量,扛过了历届双十一的零点峰值。在行业评测方面,RocketMQ 也多次斩获大奖。

阿里云消息队列 RocketMQ 5.0 全新升级:消息、事件、流融合处理平台

官宣:阿里云新一代 RocketMQ “音讯、事情、流”交融处理渠道

今日发布阿里云音讯行列 RocketMQ 版 5.0,咱们称之为一站式“音讯、事情、流”交融处理渠道。

新版本中心诞生两大新亮点,首先是音讯中心场景的扩展和布局,RocketMQ 5.0 不再局限于音讯解耦场景,将全新布局事情驱动和音讯流式处理场景;其次则是一站式交融处理的技能架构和趋势。

阿里云消息队列 RocketMQ 5.0 全新升级:消息、事件、流融合处理平台

“音讯、事情、流”一站式交融处理的技能架构能够完成一份音讯存储,支撑音讯的流式核算、异步投递、集成驱动多种场景,极大地下降事务人员运维多套体系的技能复杂度和运维成本。能够说,无论是微服务的指令调用、异步告诉,还是 CDC 改变日志、行为埋点数据,亦或是资源运维、审计事情,一致的 RocketMQ5.0 产品栈都能一致处理。

严重发布一:RocketMQ 根底架构全新升级

首先,最重要的升级是阿里云 RocketMQ 的技能架构全面焕新。

阿里云消息队列 RocketMQ 5.0 全新升级:消息、事件、流融合处理平台

全新的 RocketMQ5.0 版将通用的存储逻辑下沉,集中处理音讯存储的多副本、低推迟、海量行列分区等技能问题,将上层的音讯处理和剥离出彻底的无状态核算层,首要完成协议适配、权限办理、消费状态、可观测运维体系支撑。得益于存算分离的架构规划,从 SDK 接入到线上运维全链路带来全面提高:

  1. 轻量版 SDK 的敞开和全链路可观测体系的提高:一起支撑 4.x 通讯协议和全新的 gRPC 通讯协议,并内置 OpenTelemetry 埋点支撑,新版本 SDK 新增了 10 余个方针埋点。

  2. 音讯级负载均衡:新版本 SDK 不再参加实践存储行列的负载均衡,音讯负载均衡将更加轻量,以单条音讯为调度最小单元。

  3. 多网络拜访支撑:新版本支撑单一实例一起暴露公网、内网等拜访形式,便利客户多网络接入拜访。

  4. 海量分级存储:新版本敞开分级存储前史音讯保存才能,音讯低成本无大小约束,最长保存 30 天。冷热数据进行分离规划,极大下降消费前史音讯对实例的功用影响。

严重发布二:RocketMQ Streaming 云上最佳实践——音讯ETL

音讯根底架构的才能提高之外,阿里云 RocketMQ 在 Streaming 流式处理场景推出了轻量级音讯 ETL 功用。

阿里云消息队列 RocketMQ 5.0 全新升级:消息、事件、流融合处理平台

用户在数据库改变、终端数据上报、后台埋点日志等场景发生的音讯,典型的消费场景便是数据清洗转化,一起再存储到外部的存储和离线剖析、在线剖析体系中。传统完成计划需要搭建 Flink 等重量级实时核算服务或许自建消费使用做音讯处理。而使用商业版 RocketMQ ETL 功用,简略控制台装备即可完成音讯的清洗和转化。RocketMQ ETL 功用有三大优势:

  1. 轻量无依靠:作为阿里云音讯原生功用,使用时不需要布置外部核算服务或消费程序,计划更轻量。

  2. 开发门槛低:内置常见清洗转化模板,满足绝大多数音讯内容处理需求,并支撑用户快速编写自界说函数来支撑特殊的事务逻辑。全体开发成本十分低,1 小时即可完成事务上线。

  3. Serverless 弹性:无需预先估算容量,采纳 Serverless 无服务器形式,完成按需弹性伸缩。

严重发布三:EDA 云上最佳实践——事情中心 EventBridge

本次 RocketMQ 最后一个发布点是在事情驱动的事务场景的布局和演进。早在 2018 年,Gartner 评估陈述将 EDA(Event-Driven-Architecture) 列为十大战略技能趋势之一,事情驱动架构将成为未来微服务干流。咱们首先下一个界说:

事情驱动其本质是对音讯驱动的再升级,是企业IT架构深度演进的下一个必定阶段。

事情驱动架构和音讯驱动架构的差异和相关首要集中于以下三点:

  1. EDA 更加着重深层次解耦:音讯驱动是同一事务、安排体系内不同组件之间在技能架构层面的调用解耦,其信息封装和处理都是有预期、预界说的。事情驱动适配是更宽泛的事务、安排体系,根据事情的解耦上下游之间无需有预期和行为界说,上下游一致遵循标准化的规范,这是更深度的解耦。

  2. EDA 更加着重衔接才能:音讯驱动更多是单一体系内的调用,而事情驱动往往会涉及到不同的地域、账户主体以及三方 SaaS 的协同,事情驱动的一大特征便是生态的强衔接才能。

  3. EDA 更加着重 Serverless 低代码开发:类比于音讯和微服务的协同联系,未来事务架构 Serverless 化的大趋势会推进事务开发形式逐步转向低代码装备化。事情驱动的另一大特征便是低代码开发,根据丰厚的东西才能,事务侧不需要像音讯驱动一样编写很多的生产消费代码。

阿里云消息队列 RocketMQ 5.0 全新升级:消息、事件、流融合处理平台

因而,阿里云一致事情中心 EventBridge 产品带来如下才能:

  1. 一致标准化的事情集成生态:作为阿里云事情中心,集成 80 余款云产品的事务事情,支撑 800 多种事情类型,用户使用 EventBridge 能够一次性办理所有云产品资源的改变、操作使用事情,避免对接多个产品接口的重复性劳动。

  2. 全球事情互通网络:遵循事情驱动强衔接的属性才能,本次发布了全球事情互通网络,首批支撑国内五大地域事情互通。企业客户简略装备即可完成跨账号、跨地域、跨网络的事情聚合和流转。

  3. Serverless 低代码开发:内置十余种事情方针和处理模板,涵盖了大多数事务场景,客户简略装备、低代码,无需布置服务即可完成事情的驱动和处理。

面向未来:坚定推进“音讯、事情、流”大交融的展开

RocketMQ5.0 的发布标志着阿里云音讯从音讯范畴正式迈向了“音讯、事情、流”场景大交融的新局面。未来阿里云音讯产品的演进也将持续围绕音讯、事情、流中心场景而展开。音讯根底架构本身也必将脚步不断,持续朝着 Serverless 弹性、强容灾才能、可观测免运维方向推进,给客户带来高功用、高牢靠、强容灾的高 SLA 服务;并在 Streaming 的场景会根据客户事务诉求,联合生态产品持续推出更多的音讯处理核算服务;打造面向未来的企业集成形式,联合生态同伴和开源社区大力推进事情驱动进一步展开。

阿里云消息队列 RocketMQ 5.0 全新升级:消息、事件、流融合处理平台

点击“下方链接”,观看企业级互联网架构分论坛重要回顾。 yunqi.aliyun.com/2021/agenda…

了解更多音讯行列 RocketMQ5.0 相关信息,请查找微信号(AlibabaCloud888)增加云原生小助手!入群即可获云原生一手资讯~