01 数据的迸发为存储带来继续挑战

在5G年代下,视频和图片因其强大的信息承载力,已经成为数据内容的主要载体和信息传播的主要方法。而5G的大带宽、低时延、广衔接的特性激活了云游戏、物联网、视频监控等场景应用,从消费互联网到产业互联网的延伸,愈加促进了终端应用和数据的迸发。

这些终端和数据具有方位涣散、规划大、以及价值密度相对较低一级特点,典型的如:视频监控录像/截图、云游戏录像、海量暂时日志文件等。一方面,我们需要供给就近、低延迟的数据接入与存储才能,另一方面,我们需要在边际进行数据的精细化办理,与核算相结合,剖析其间的要害片段以及其结构化信息。

这样的场景和需求对核算和存储的方法带来了严峻挑战和根本性改变。

协同存储,为边缘计算创造更大价值

02 根据边际云构建方位无感的协同存储服务

用户在运用目标存储时,针对海量数据,提出了大流量、就近、低延迟的要求,边际云在这些方面具有天然优势,但边际云的目标存储在运用方法和体会上存在显着缺乏。相较于传统中心云的region化运用方法,边际云的单点规划较小,而且节点数多了几个量级。

如果每个边际云节点独立进行目标存储服务,无异于将复杂的逻辑交给用户,用户运用时将面对节点资源办理、资源读写调度、单节点可用性运维等许多复杂问题。这会对用户事务带来巨大的挑战,任何节点状况的改变,都可能带来事务的感知,处理欠好乃至会对事务形成严重影响。

以摄像头数据上云为例,传统的方法,用户需要感知终端设备的地理方位,而且需要去维护海量终端设备和云上地址的对应联系,一旦出现单点故障,用户需要做很多的动作来进行调度和搬迁。

协同存储,为边缘计算创造更大价值

传统的数据上云架构

而抱负的架构中,用户无需关怀详细的云上方位,期望与云只要一个交互面,就能完结全网设备的就近、低延迟接入,而且无需关怀云上单节点的负载、水位、异常等状况。

协同存储,为边缘计算创造更大价值

抱负的数据上云架构

边际核算孵化了方位无感的协同存储(EOS)服务,经过中心管控和多个边际节点进行协同,将分布在各地边际节点的物理存储资源,组成一个逻辑一致的目标存储资源池。用户无需关怀读写方位和单节点可用性带来的运维和调度问题,即可得到与运用公有云目标存储一致的接口体会,以及由数量很多的边际存储资源整合而带来的大容量、高弹性的存储资源池。

协同存储,为边缘计算创造更大价值

03 协同存储中心模块

协同存储,为边缘计算创造更大价值

协同存储采用了典型的云边协同架构,其中心包括中心管控与边际节点两部分,其间,中心管控包括以下办理模块:

  1. 元数据办理:会聚全网的元数据进行一致办理,与文件读写调度、文件生命周期等联动;
  2. 资源调度:担任逻辑存储桶与物理存储桶的映射联系办理,依据节点状况、水位进行大局资源动态规划;
  3. 读写调度:依据用户地理方位、所需资源量、文件分布等因素进行大局文件读写调度;
  4. 多点数据协同:对节点数据进行跨节点仿制或数据搬迁,提高全体服务可用性;

边际节点包括以下办理模块:

  1. 节点网关:供给节点文件读写服务,如存储协议兼容、http/ https拜访支撑、动态装备、跨域办理、流控、日志监控等。
  2. 边际管控
  • 与中心管控协同完结完整的管控逻辑,一起在节点范围内具有一定的边际自治才能;
  • 担任节点内存储办理、跨节点数据仿制/搬迁等操作;
  • 担任节点内多引擎容灾。
  1. 存储引擎:供给根底的存储才能(文件读写等)以及文件容灾才能(EC、三副本等)。

04协同存储的要害技术

协同存储,为边缘计算创造更大价值

根据边际节点构建的方位无感分布式协同存储,要害技术在于以下几点:

  1. 节点一致纳管与调度

协同存储,为边缘计算创造更大价值

对用户而言,和边际云只要一个交互面,协同存储将多个物理节点抽象为一个逻辑节点,经过全网资源的一致纳管,进行多维度的协同调度,进程中会综合地理方位、节点带宽、存储空间、设备亲和性等很多因素,然后完结服务的高可用以及数据的就近存取,一起,协同存储供给了灵敏的接入和调度策略供事务按需运用(全国、区域、运营商、单节点、自定义节点范围)。

  1. 文件读写调度

协同存储物理文件存储在边际节点,存储空间、文件元信息等会聚到中心,进行一致的办理和检索。

运用方法上,文件写入和读取均可采用302调度方法,写入一致域名,协同存储经过地理方位、节点水位等综合调度后,将请求跳转到真实的物理节点进行读写,用户无需关怀终端所在方位,即可快速就近、低延迟接入。

  1. 实时的节点状况和容量监测

协同存储会对单个节点进行实时状况与水位检测,当单点不可写时,会主动将请求搬迁到其他节点,完结服务无感漂移和切换,单点恢复后快速仿制同步。

  1. 跨节点多副本

为了应对节点割接、容灾等场景,协同存储供给了跨节点多副本的冗余才能,将数据进行节点间错峰同步。当单点不可用时,协同存储会进行流量的快速搬运,一起也可以在拜访量大时进行多节点读负载均衡,整个进程用户无感知。

协同存储,为边缘计算创造更大价值

  1. 边际一致的存储拜访网关

在全体架构上,协同存储经过边际一致网关进行异构资源的适配,不管是从API、SDK还是授权系统,彻底兼容现有的运用方法,这关于海量的数据源来说,只需要简略装备,便可以快速将数据上传到协同存储,然后确保给用户云边一体化的运用体会,一起去除了Region概念,直接采用了一致的域名接入和办理方法,真正完结了只上一朵云、只存一朵云。

目前协同存储已经在很多场景下落地,典型的如监控设备的截图/录像上传、车载场景的数据就近写入等。未来,我们将与边际算力进行愈加紧密结合,助力网、算、存一体化的边际核算系统开展。协同存储的演进,必将为边际更多场景的落地供给有力支撑,为边际核算带来更多的可能性。