前言

互联网展开至今,各种互联网运用以及云核算的遍及,使得架构规划和软件技能的关注点从怎么完结杂乱的事务逻辑(杂乱的CRUD),转变为怎么满意很多用户的高并发拜访恳求。
举个比方:比方一个简略的核算处理进程,假如一旦面对很多的用户拜访,整个技能应战就会变得彻底不同,软件开发办法、技能团队组织、软件的进程管理都会彻底不同。
新浪微博刚开始只要两个开发,一个前端一个后端,他们两个人一周就把新浪微博开发出来了,但这是都十几年前的事情了。现在新浪微博的技能团队有上千人,这些人要应对的应战首要有两个方面:一是杂乱的功用,二是用户量添加带来的高并发拜访压力。
这种应战和压力几乎是每个大型互联网公司都要面对的。一个运用给几个人用和给几亿人用是彻底不同的。当用户不断添加的时分,需求耗费的核算资源也会不断添加,需求更多的CPU和内存去处理用户的核算恳求,更多的网络带宽去传输用户的数据,以及磁盘空间存储用户数据。当耗费的资源超过了服务器资源的极限时,服务器就会崩溃,整个体系就无法运用了。 那么咱们应该怎么应对高并发的用户恳求呢?

一、笔直弹性与水平弹性

为了应对高并发用户拜访带来的体系资源耗费,一种处理办法是笔直弹性。所谓的笔直弹性便是提高单台服务器的处理才能,花钱买更高装备的服务器来应对不断添加的恳求量。
在大型的互联网呈现之前,传统的职业,比方银行、电信这些企业的软件体系,首要是运用笔直弹性这种手法完结体系才能的提高。可是跟着用户数量的提高,就需求不断的去换装备更高的服务器,价格成本也越来越高,并且单台服务器的装备是有上限的,以现在的互联网展开状况来说,这种方法显然是不合适的,一般都选用水平弹性。

所谓水平弹性,便是经过多台核算机构成集群,经过这个集群对外共同供给服务,以此来提高体系的全体处理才能。这种方法是现在遍及选用的分布式架构计划。

二、互联网分布式架构演化

分布式架构是互联网企业在事务快速展开进程中,逐步展开起来的一种技能架构,包括了一系列的分布式技能计划:分布式缓存、负载均衡、反向代理与 CDN、分布式音讯队列、分布式数据库、NoSQL 数据库、分布式文件、搜索引擎、微服务等等,还有将这些分布式技能整合起来的分布式架构计划。 这些分布式技能和架构计划是互联网运用跟着用户的不断添加,为了满意高并发用户拜访不断添加的核算和存储需求,逐步演化出来的。能够说,几乎所有这些技能都是由运用需求直接驱动发生的。 下面咱们经过一个典型的互联网运用的展开前史,来看互联网体系是怎么一步一步逐步演化出各种分布式技能,并构成一个杂乱庞大的分布式体系的。

2.1 单机布置

在最早的时分,体系由于用户量比较少,可能只要几个用户,比方刚才说到的微博。一个运用拜访自己服务器上的数据库,拜访自己服务器的文件体系,构成了一个单机体系,这个体系就能够满意少量用户运用了。

对于处理高并发用户请求的一些思考

2.2 首次别离:数据库与运用独立布置

假如这个体系在事务上比较有价值,那么用户就会快速添加。比方像新浪微博引进了一些明星大V开通微博,所以敏捷吸引了这些明星们的大批粉丝前来关注。这个时分服务器就不能接受拜访压力了,需求进行第一次晋级,数据库与运用别离。

对于处理高并发用户请求的一些思考

前面单机布置的时分,数据库和运用程序是布置在一起的。进行第一次别离的时分,运用程序、数据库、文件体系分别布置在不同服务器上,从1台服务器变成了3台服务器,相应的处理才能也比之前的单机布置模式要高很多。 这种别离基本上不需求花费什么技能成本,只需求把数据库,文件服务器进行远程布置,然后改下相应装备即可。

2.3 缓存登场:为数据库遮风挡雨

而跟着用户进一步添加更多粉丝参加微博,3台服务器也不能够接受这样的压力了,那么就需求运用缓存改善功能了。

对于处理高并发用户请求的一些思考

缓存便是将运用程序需求读取的数据放在缓存中,经过缓存读取数据,而不是经过数据库读取数据。缓存首要有分布式缓存和本地缓存两种。分布式缓存将多台服务器一起构成一个集群,存储更多的缓存数据,一起对运用程序供给缓存服务,供给更强壮的缓存才能。 运用缓存,首要有两方面的好处:

  • 一方面运用程序不需求去拜访数据库,直接拜访缓存,速度较快。
  • 另一方面,数据库中的数据是以原始数据的方法存在的,而缓存中的数据通常是以成果方法存在,比方现已构建成某个对象,缓存的便是这个对象,不需求进行对象的核算,这样就削减了核算的时刻,一起也削减了CPU的压力。

最首要的,运用经过拜访缓存降低了对数据库的拜访压力,而数据库通常是整个体系的瓶颈所在。降低了数据库的拜访压力,便是改善整个体系的处理才能。

2.4 事务暴升:运用服务器集群

跟着用户的进一步添加,比方微博有更多的明星参加进来,并带来了更多粉丝。那么运用服务器可能又会成为瓶颈,由于连接很多的并发用户拜访,这时分就需求对运用服务器进行晋级。经过负载均衡服务器,将运用服务器布置为一个集群,添加更多的运用服务器去处理用户的拜访。

对于处理高并发用户请求的一些思考

2.5 数据库再减负:读写别离

在微博上,咱们首要操作是刷微博,也便是读微博数据。假如仅仅明星们发微博,粉丝读微博,那么对数据库的拜访压力并不大,由于之前还有缓存。可是粉丝也是会发微博的,发微博便是向数据库中写数据,这样数据库会再一次成为整个体系的瓶颈点。单一数据库不能接受这么大的拜访压力。 这时分的处理计划便是数据库的读写别离,将一个数据库经过数据仿制的方法,分裂为两个数据库,主数据库首要负责写数据,然后写后的数据同步到从数据库上,确保从数据库和主数据库的数据共同。从数据库首要供给数据库的读操作。

对于处理高并发用户请求的一些思考

经过这样一种手法,将一台数据库服务器水平弹性成两台数据库服务器,能够供给更强壮的数据处理才能。

2.6 究极进化:彻底分布式

关于大多数的互联网运用而言,现在的分布式架构就现已能够满意用户的并发拜访压力了。可是关于更大规划的互联网运用而言,比方新浪微博,还需求处理海量数据的存储与查询,以及由此发生的网络带宽压力以及拜访延迟等问题。此外跟着事务的不断杂乱化,怎么完结体系的低耦合与模块开发、布置也成为了重要的技能应战。

海量数据存储首要是经过分布式数据库、分布式文件体系、NoSQL数据库处理。直接在数据库上查询现已无法满意这些数据的查询功能要求,还需求布置独立的搜索引擎供给查询服务。一起削减数据中心的网络带宽压力,供给更短的拜访延时。运用CDN和反向代理供给前置缓存,尽快回来静态文件资源给用户。

为了使各个子体系更灵敏易于扩展,则运用分布式音讯队列将相关子体系解耦,经过音讯的发布订阅完结子体系间的协作。运用微服务架构将逻辑上独立的模块在物理上也独立布置,单独保护,运用体系经过组合多个微服务完结自己的事务逻辑,完结模块更高等级的复用,从而更快速的开发体系和保护体系。

对于处理高并发用户请求的一些思考

微服务、音讯队列、NoSQL等这些分布式技能在呈现早期的时分,比较有技能难度和运用门槛,只在相对比较大规划的互联网体系中运用。可是这些年跟着技能的不断老练,特别是云核算的遍及,运用门槛逐步降低,许多中小规划的体系,也现已遍及运用这些分布式技能架构规划自己的互联网体系了。

三、总结

现在越来越多的企业选用互联网的方法展开自己的事务。传统体系的用户量是有限而确认的,仓储体系首要面向的是仓库管理员,企业内部体系首要面向的是企业内部人员。可是假如企业要对外展开事务,并且这个事务很有价值,那么用户的添加速度会非常快。很多的用户拜访企业体系,就会发生高并发的压力,需求耗费很多的核算资源,怎么合理并充分的利用添加的核算资源处理事务便是体系架构规划的中心驱动力。首要便是用各种分布式技能去应对高并发量的用户恳求。

可是为了处理高并发问题而选用分布式体系,引进一个集群必定带来集群所需求处理的问题,比方启用数据库集群必定带来数据怎么在集群间分发、主库读写别离怎么防止读库的同步延迟导致数据不共同性、分布式体系之间的调用怎么确保事务性、引进缓存怎么防止缓存和数据库的共同性问题等等