Serverless 奇点已来，下一个十年将驶向何方？-六虎

引言：

以前构建运用，需求买 ECS 实例，树立开源软件体系然后维护它，流量大了扩容，流量小了缩容，整个进程十分杂乱繁琐。

用了 Serverless 服务以后，这些问题都简化了，从半保管到全保管，一切服务 API 化，无限容量充分弹性，能够拼装运用，出产力大幅改动。一起推进软件研制形式晋级，拼装式研制将成为干流。

基于阿里云全面 Serverless 化的经历，阿里巴巴研究员、阿里云智能云原生运用渠道总经理丁宇（叔同）论述了企业运用架构的演进进程，以及 Serverless 兴起带来的职业改动。

本文整理自 QCon 上海站 2022 丁宇（叔同）的演讲内容。

过去十年，上云成为确定性的趋势。

在上云阶段，企业关注点在于怎么完结平滑上云，因而云厂商将云保管（Cloud-Hosting）作为中心战略。云的首要形状是资源型服务，以虚拟机的方法为企业供给海量的算力。

对开发者而言，虚拟机的功用和运用方法和 IDC 中的物理服务器没有差异。原有的运用、技能栈不需求改动就能够平滑上云。云保管的战略很好地满意了企业在上云阶段的中心诉求，因而取得了成功。

跟着越来越多的企业上云，甚至许多企业体系第一天便是在云上构建，企业的中心关注点转变为怎么更好地运用云的才干，将产品快速推向市场，然后完结事务成功。

这促使云在下一阶段开展的首要方针转变为运用云本身的优势，处理大规划杂乱运用的开发和运维应战。可是，假如算力的呈现方法仍然是服务器这样的资源形状，它的运用门槛仍然很高。算力和事务相隔太远，企业需求有一整套支撑运用的根底设施来用好算力。

怎么让算力像电力相同的遍及，云核算需求新的形状。

云服务的角色将产生巨大的改动，不再是单纯的供给资源，而是要成为企业构建运用的新渠道，要协助企业尽可能减小机器运维等低价值重复作业，聚焦于事务的立异。

下一个十年，是云演进本身才干，协助企业用好云的阶段，而云厂商的中心才干便是 Serverless 云服务。

为什么选择 Serverless

Serverless 服务是全保管的。

云厂商能够经过存储核算别离，软硬协同优化等底层技能，大规划进步服务的资源功率和功用。以阿里云存储服务为例，自 2018 年开始大规划运用 RDMA 技能，自研了 Solar-RDMA 协议，以及 HPCC 流控和端网交融技能。

经过网络和存储的协同设计，结合 FPGA 硬件加速压缩算法等才干，完结了安稳的微秒级的读写功用。企业只需求调用服务 API，就能运用云厂商在相关范畴的专业才干，享受到技能盈利。

Serverless 服务具有自适应弹性， 让企业的运用更平稳的应对事务负载不可猜测或许忽然迸发的状况。

一个典型的事务体系可划分为运用层、接入层、资源层。资源型的云服务只供给了资源层面的弹性才干，企业还需求完结接入层和运用层的弹性才干，才干做到事务的全链路弹性。

架构设计阶段，依据各个组件的依靠联系，拟定弹性弹性和限流降级方案。关于联系型数据库等几乎没有弹性才干的服务，一般需求猜测未来3年对数据库的写入和读取规划，进行分库分表。
资源规划阶段，权衡各个组件的扩缩容难易度、弹性速度、事务负载改动速度等因素，经过冗余资源完结相应的弹性才干。接入层资源占比在整个体系不高，维持较高冗余资源成本不高，也比较简略扩容。运用层的资源规划最具应战。运用层是资源耗费大头，一般不允许经过很高的冗余资源来扛住负载峰值，此外运用层的扩缩容牵扯上下流链路，杂乱度很高。最终，运用层不同服务的流量规划不同，需求整理清楚，重点做好热门链路的冗余资源规划。
线上运转阶段，经过完好的可观测才干，树立量化链路的流量，检测热门，进行动态扩缩容，再量化热门链路流量，再判断是否进行动态扩缩容的闭环。此外，完好、及时的监控报警也是十分必要的，为不同组件设定不同的热度阈值，检测到热度流量后，体系要及时的广播给关联组件的开发、运维人员，依据预订方案进行处理。

可见，在资源层的弹性才干上构建整个事务的弹性才干杂乱度十分高。Serverless 服务的自适应弹性方针便是为了简化杂乱度，协助企业更简略完结事务弹性。

首要云厂商会将很多中间件、数据库、大数据等 BaaS 化的服务 Serverless 化。以数据库为例，不光供给 NoSQL 等天然具有高弹性才干的数据库服务，也将传统的联系型数据库 Serverless 化。

其次， Serverless 核算服务一般具有百毫秒到秒级的实例发动速度，每秒钟发动数千甚至上万实例，以及高度自动化的弹性弹性才干，合作 Serverless 化的 BaaS 服务，将完结全链路的事务弹性。

最终，Serverless 服务一般内置了限流降级的才干，让企业资源可控，更简略应对体系雪崩的问题。

怎么高效的运用好资源，是企业面对的一个普遍的难题。业界数据中心的核算数据标明，企业全体平均资源运用率是不高的，一般小于 15%。要进步资源运用率，企业一般面对以下应战：

各个事务部门资源运用彼此独立，没有资源并池，没有一致调度。
出于对功用、负载峰值以及事务未来开展保证等因素的考虑，事务部门一般倾向于多申请资源，一般是实际运用资源的 3-5 倍。
非中心运用碎片化的资源耗费导致了很多资源浪费。很多非中心运用为了满意高可用的要求，至少需求 2-3 台机器，而这些运用许多时分是长尾、低频调用的，甚至事务下线但服务器忘了开释，造成资源浪费。在阿里巴巴集团，非中心运用耗费的资源甚至超过了中心运用。
不同性质的运用没有共享资源，没有削峰填谷，集群全体资源运用率不高。

容器化是进步资源运用率的有效手段，但实施的杂乱度较高。阿里巴巴集团经过全栈容器化，一致调度和离在线混部来提高资源的全体运用率，涉及到容器功用的优化、租户阻隔、底层服务器算力归一化、定制的资源一致调度和离在线混部等等。

Serverless 的方针让企业用更简略的方法进步资源运用率，降低成本。

以函数核算为例，企业不需求为搁置资源付费，而是依据实际运用的资源付费。这意味着很多测验、预发甚至出产环境，很多非中心运用碎片化资源的运用场景，运用 Serverless 后资源运用率会十分高。

假如从功用视点考虑，需求预留一些资源，函数核算的搁置资源费用也比服务器更低。函数核算内置了多 AZ 容灾才干，企业不需求为容灾预备冗余资源。函数核算支撑百毫秒级其他弹性弹性速度和丰富的弹性规矩，企业不需求为峰值负载预留资源。

当云服务演进为 Serverless 形状后，企业的运用门槛大大降低，Serverless 将让算力像电力相同遍及。

Serverless 引领下一代运用架构驱动研制形式晋级

运用架构和研制形式的演变首要是由企业的事务开展诉求推进的。企业总是希望能够更灵敏的应对事务规划和杂乱度的增长，更快的将产品推向市场，加快事务立异的速度，这就要求技能能支撑大规划、杂乱软件的快速迭代。

传统的企业级运用架构，一般是单体的，一切模块都耦合在一起，一起发布。这种单体架构运用在一开始是易于办理的，但跟着事务开展，会带来巨大的杂乱度。这种强耦合的架构带来开发、测验和运维进程中很多的抵触，拖慢了整个迭代速度。

例如整个运用的开发要求一切模块选用一致的语言和框架技能栈，假如一个根底库被多个模块共享，其间一个模块想要晋级到新版本，则需求压服一切人一起晋级，即使其他人并不需求新版本。一切模块的发布节奏被强行拉齐，一个模块的问题会影响整个运用的发布。

想要快速修正某个模块的线上问题也变得十分困难，由于这需求和其他模块正在进行中的变更兼并，处理抵触，从头发布整个运用，运转一切测验，才干从头发布上线。单体运用架构现已不能满意软件研制功率的要求，被以微服务为首要特征的互联网分布式架构取代。

选用微服务架构后，运用程序由独立的服务组成。这些服务是松耦合的，经过 API 调用、事件触发或许数据流的方法交互。每个服务都完结一个特定的功用，独立开发、运转和发布。

微服务处理了单体架构的研制功率瓶颈，可是对运用的根底设施提出了十分高的要求。

例如，为了保证独立开发的微服务能够按预期协调合作，需求进行翔实的集成和端对端测验。测验环境中的运用部署次数一般是出产环境的 10 倍。假如运用根底设施不能快速供给独立的测验环境，那么很多的测验时刻将耗费在环境安稳性问题的处理上。

依据阿里巴巴集团的研制核算数据，1 人日的研制，一般对应 5-7 人日的测验。测验环境现已成为阿里巴巴集团研制提效的最大痛点。

微服务的松耦合，也对数据库运用、状况办理、问题诊断、运用交付流水线带来了很大的应战。关于微服务的杂乱度以及处理方案，业界现已有十分多的评论，这里不再赘述。

以微服务为中心的互联网分布式架构，实施的杂乱度较高，必须有很好的东西、渠道的支撑，这是业界的一致。

除了微服务架构，企业也广泛运用反应式架构、事件驱动架构等形式，这些架构都带来了松耦合、灵敏开发等好处，但相应的落地杂乱度也变高了。

事实上，业界在运用的构建、编列、运转、BaaS 服务、根底设施办理等每一方面，都供给了丰富的产品和处理方案，树立了巨大的生态。但企业要整合这些软件/服务，让它们弹性、安稳、彼此集成杰出，加速运用开发迭代，这绝非易事。

而在用好云的阶段，云的任务便是要消除这种杂乱度，带来大规划杂乱软件开发质的突破，助力企业打破技能距离。

每一个 Serverless 服务都是厂商范畴才干的输出，经过服务 API 透出功用，许诺可靠性、弹性、功用等才干目标，因而他们是高质量的运用构建块（building blocks）。

例如阿里云目标存储（OSS）服务，承载着 EB 级的海量数据，许诺 11 个 9 的数据可靠性，99.95% 的可用性，以及多样化的数据分级存储和处理才干。

阿里云音讯行列 RocketMQ 历经双十一万亿级音讯洪峰的锻炼，许诺 10 个 9 的数据可靠性，99.95% 的可用性。这些云服务和企业基于开源软件自建的体系相比，在弹性、可靠性等方面有显着的优势。

不只是云厂商，很多的开源商业产品也选用了 Serverless 形式，包含 Confluent Cloud、MongoDB Atlas、Snowflake、Databricks 等。

跟着厂商在存储、核算、中间件、大数据等范畴推出越来越多的 Serverless 服务，并且这些服务经过事件驱动等方法严密集成，云逐渐变成了运用构建和运转的超级渠道，运用的研制形式也晋级为拼装式研制。

Serverless 让云成为运用构建的最佳渠道

跟着阿里云供给越来越全面的 Serverless 产品以后，许多云产品都变成模块化、API 化、服务化，它能够进行拼装，经过拖拉拽的方法就能够构建运用。

在 Serverless 架构下，研制方法晋级为拼装式研制，能够做到流程编列、事件驱动，甚至能够做成可视化，这就彻底颠覆了原有的软件研制方法，大幅提高研制功率，灵敏应对事务应战。依据权威机构调研核算，拼装式研制相比传统形式，可为研制提效 50% 以上。

从新兴的互联网创业公司，到传统企业构建大型软件，都能够运用 Serverless架构和拼装式研制。

以高德为例，高德的投进事务和用户日子场景严密相关，功用多变；引荐的下流事务品类快速增长，投进的事务战略多变；并且整个事务和用户出行严密相关，有显着的峰谷属性。

跟着事务的增长，投进渠道原有的架构面对一些显着的痛点：

重客户端。卡片处理、导航规划、页面展示等逻辑都放在 Web 或许移动设备上，导致客户端发版缓慢、代码臃肿。
事务功用紧耦合，跟不上事务迭代要求。投进战略多变，每次发布影响面大。
负载有显着的峰谷，常驻实例，资源运用率低。

Serverless 架构能很好地处理上述痛点。首要为客户端减肥，将端上的逻辑很多的移到 BFF 层（Backends for frontend）。

由于 Serverless 核算零运维，只需求开发事务逻辑，完全由客户端人员发布，避免了团队协作问题。借助渠道内置的运用平滑发布的才干，客户端的人员能够快速迭代，安心发布。

投进战略等后端服务也解耦为函数的方法，包含规矩过滤函数、疲劳提醒函数、内容拼装函数等等。这些函数作为独立的后端服务开发迭代，每次发布影响面不大，操控了爆炸半径。

经过仔细整理热门逻辑以及上下流依靠，完结了全链路弹性以及接口级流控才干。弹性弹性不光快速，并且安全，资源用量和负载峰谷匹配，功率高。

现在基于 Serverless 架构的高德事务投进渠道现已承载了 100% 的出产流量，事务规划到达百万 QPS，功用交付从本来的数天降低到数小时，全体成本降低了 38%。