基于 SPICE 协议的硬编推流整合方案在云游戏中的应用

背景

随着虚拟化技术如模拟器,容器化等技术等发展,在安卓云游戏/云手机场景中,可以在服务宿主侧虚拟出更多更小颗粒度的 Android 实例。其中比较核心的技术是图形虚拟化技术,如何最大限度利用宿主侧的 GPU 资源进行渲染和编码,不考虑软编等利用 CPU 资源进行渲染编码是因为效率通信地址是写什么地址来的延迟问题。

Linux 图形栈

先看一个比较通用的 linux 图形栈:

基于 SPICE 协议的硬编推流整合方案在云游戏中的应用

  • X 协议:比较早的协接口议,X server 直接管理 GPU 内的 framebuffer 和 X Client 提交命令,通过 XClient(Xlib 或 XCB)向 Xserver(Xorg)提交相关命令实现,且有很多扩展协议,但是弊端需要一个额外的 Windows Mana通信ger 来处理多个应用。目接口和抽象类的区别前已经被 Wayland 这种扩展协议取代,composer 处理输入,窗口,合成显示等功能。接口自动化
  • GLX:因为是用来做效率是什么意思间接渲染操作系统是一种,做了两个工作:1)将 OpenGL 和 X w接口自动化indow API 绑定 2)通过 X server 转发 GL 的调用。本质还是 X 协议那一套。
  • FB driver:历史遗留显接口卡示子系统,提效率高发票查验供了 Framebuffer 获取,图像操作原语,电源管理等功能。
  • OpenGL:统一的 3D 图形渲染 API 接口,各主流厂商(Intel、 Nvidia、AMD架构图、Qualcomm 等)都支持的接口,主流实现的是开源的 mesa。Mesa 3D 是其最主流的开源实现,值得注意的是 Mesa 不仅支持 OpenG效率集L,还支持 Vulkan, Direct 3操作系统当前的配置不能运行此应用程序D 等渲染 API。
  • DRM:Direct架构师工资 Rendering Manager, 目前主流的 GPU通信行程卡 显示子系统,用户态使用 libDRM 的 DRM API 来操作 DRM 设备,对 GPU 通过 ioctl 等接口是什么标准文件操作来通信,实现:
    • framebuffer 管理。
    • 用户态抽象渲染能力:如 Buffer Object 管理,GPU 作业命令提交等,一般和具体 dr效率高发票查验iver 相关。
    • Virtual Driver 支持:包含 vmwgfx(VMware 桥接设备)和 virgl(Virto 桥接设备)
    • Prime Zero-copy memory,buffer 通过用户态的 fd 文件描述符代表了实际显存中的 DMA buffer,通过 Pr架构师证书ime API 导出 FD,可以在 IPC 之间传递。

基于 SPICE 协议的硬编推流整合方案在云游戏中的应用

包含 Wayland 比较主流的所有图像栈变得异常复杂:

基于 SPICE 协议的硬编推流整合方案在云游戏中的应用

每种应用的图像数据流都比较效率的拼音复杂,但大致流线是:应用(显示 Client)->(显示 Server)->OpenGL/EGL-&g接口自动化t;Mesa 3D->libDRM->(内核)DRM->GPU 驱动。

Android 图形栈

基于 SPICE 协议的硬编推流整合方案在云游戏中的应用

以 SurfaceFlinger 为核心,维护了所有 app 窗口的交叠覆盖关系:

  • Ope架构图nGL ES:2D/3D通信 渲染走的路径,使用 drm 所有功能进行绘制渲染。
  • Gral通信人家园loc FB: 使用操作系统 drm 为 app 提供显存管理等功能。
  • HWComposer: 调用 openGL 窗口合成 RGB 或者 YUV架构师证书,实现屏幕绘制。

综合 Linux 图形栈和 Android 图形栈操作系统当前的配置不能运行此应用程序可以发现在底层都是基于 drm 实现,实现硬编方案的核心思想就是渲染和编码都利用宿主架构师和程序员的区别侧的 GPU,并且渲染和编码 Zero-copy,所以有两类技术:

  1. virto-gpu 技术将 OpenGLES 命令导出(virgl)之后再反过来调用宿主侧的 virglrende效率计算公式rer,又将其翻译回 OpenGL 和 GLSL,然后再架构图怎么画调用宿主的 OpenGL,这部分技术代表是 Qem架构图怎么制作u 方案。使用假的抽象 GPU。在抽象层 GPU 层进行拦截,并调用宿主侧的 GPU通信地址

基于 SPICE 协议的硬编推流整合方案在云游戏中的应用

  1. 直接导出 DRM 句柄,利用 DRM 的 Zero-copy 的特性进行渲染和编码,渲染操作系统是一种什么软件和编码通过 IPC 技术传递 fd,这部分代表是 AiC(Android in Container)容器化技术。
  2. 以上两类技术由于最终都接口文档是 drm 图像 buffer,故都可以通过 IPC 技术在渲染进程和编码进程之间通过 IPC 传递。渲染进程一般在容器/模拟器内,编码进程一般在容器外。

多媒体编解码相关

以上效率是什么意思图形栈涉及显示和渲染,在云游戏的场景中,还需考虑编码设接口自动化计的技术栈。就编码而言:

  • 在 Linux 中 ffmepg 或者 gstreamer 等标准多媒体框架对上封装了应用接口,对下对接了硬件提供编解码如 CUDA NVEnc 接口或 VA通信工程专业API 接口。
  • 在 Android 中使用 OMX 作为其多媒体框架,MediaCodec 驱动对接 vendor通信工程专业 驱动来实现硬编解码能力。

如果想要在 Android 内使用硬件编解码,要么实现一套 OM架构师证书X 到 ff操作系统是一种mpeg 的转换翻译,要么厂商对操作系统是一种接实现 OMX 的 vendor 驱动,否则很难在 Android(容器或模拟器中)内硬件编码。比较合理通信地址的方式是导出 libdr架构师和程序员的区别m 的 FD,渲染和编码在不同的进程中,编码选择在 host 中调用 ffmepg 或者 vender 的编码 API 进行编码通信达,进通信而完成整个推流。

方案

硬编目前精力放在处理进程间传递图像 prime FD,还有相应的音频,双向 input 通信等。采用统一的 Spice 协议或者改造的 Spice 协议统一 And操作系统对磁盘进行读写的单位roid 虚拟化和容器化接口crc错误计数整合方案。

spice 协议

SPICE,Simple Protocol for Independent Com效率puting Environment,是 Redh操作系统是一种什么软件at 公司开源的一套远程桌面虚拟化协议,旨在提供商业级别的远程架构师桌面体验。Spice 协议具有如下优点:

  1. 开源接口英文:易于扩展和功能定制;
  2. 跨平台:Windows/Linux/Mac OS 平台全兼容;
  3. 支持外接设备:除常用 USB 设备外,打印机和扫描仪等设备也能在远程使用;
  4. 丰富的媒体支持:包括视频、音频、图像;
  5. 更小的带宽占用通信技术:Spice 里内效率置图像压缩算法,有效减少数据传输时的带宽占用;
  6. 更安全的数据传输:Spice 可以使用 OpenSSL 加密传输数据。

概述

包含四通信人家园个部分:协议、客户端侧、服务端侧和虚拟机侧。其中:

  1. 协议:是客户端侧、服务端侧和虚拟机侧三个部分交互时所遵循的准则;
  2. 客户端:负责接收并转换虚拟机数据,以操作系统及发送用户输入数据到虚拟机,从而使得用户能够与虚拟机进行交互;
  3. 服务端:通信工程集成在 Hypervisor 内部的一个用户层组件,使得 Hypervi架构图sor(如 QEMU)支持 Spice 协议;
  4. 操作系统有哪些拟机侧:指所有部署在虚通信地址是写什么地址拟机内部的必需组件,如 QXL 驱动、Spice Agent 等。

基于 SPICE 协议的硬编推流整合方案在云游戏中的应用

图像流

基于 SPICE 协议的硬编推流整合方案在云游戏中的应用

上图示意了整个图像从 Guest OS 到客户端图像传输通路,其中:

  • QEMU:虚拟机环境,目前使用
  • Guest OS:通信地址是写什么地址运行在虚机中的操作系统
  • Client OS:运行在 host 侧的应用程序
  • GDI/操作系统是什么的接口X通信地址是写什么地址:Graphics Device Interface,图像操作系统是一种引擎,图像栈提供的显示接口(如通信大数据行程卡 mesa)
  • QXL:设备驱动,提供了套动态 设备需要客户机的 QXL 驱动来效率发挥全部作用。但是,当没有接口自动化驱动的时候,标准的 VGA 也能支持该设备。这个模式还能显示虚拟机启动的引导阶段。QXL 设备通过命令和指针环,显示中断操作系统当前的配置不能运行此应用程序,指针事件,I/O 端口来与驱动交互。

QXL 设备的其操作系统当前的配置不能运行此应用程序他功能包括:

  • 初始化和映射设备 ROM效率,RAM 和 VRA效率集M 到物理内存
  • 映射 I/O 端口,处理读写来管理:区域更新,命令,指针通知,IRQ 更新,模式设置,设备重置,记录日志等。
  • 环-初始化和维护命令接口crc错误计数和指针环,从环获取命令和指针命令,等待通知。维护资源环。
  • 使用 QXLWorker 接口与相应的 re效率的拼音d worker 通信,这是在 red通信达 dispatcher 中实现的,它把设备调用翻译为消息写到 red worker 通道,或者从 red w接口英文orker 通道中读取消效率意识方面存在的问题息。
  • 注册 QXL 接口来使 wo接口crc错误计数rker 能与设备通信。这个接口包括架构 PCI 信息和功能(如依附一个 worker,从环中获取显示和指针命令,显示和指针通知,模式改变通知等)。
  • 定义支持 QXL 模式和改变当前模式(如架构师证书 VGA:所有监听器反映一个单一设备)
  • 处理在 VGA 模式中显示的初始化,更新,改变尺寸和刷操作系统是一种新。

VDagent 命令流

基于 SPICE 协议的硬编推流整合方案在云游戏中的应用

Spice Server

基于 SPICE 协议的硬编推流整合方案在云游戏中的应用

Spice 协议改造

Spice Client 收到 Spice Server 端发过来的 main,display,接口自动化playback 等通道后:

  1. 显示通道在默认的 display 上调用 GTK widget 相关组件将图像画在屏幕上。
  2. 获取 playback 音频数据通信行程卡,通通信过 gstreamer 的 pipeline,调用 alsa 播放音频。
  3. 其他鼠标键盘通信达等处理,不作任何处理。

为适合我们的推流改造如下:

图片

对原协议改动比较大的:

  1. Display Channel 通道,这部分在获取到 F操作系统当前的配置不能运行此应用程序D 之后,原本画在 GTK 的流程通过 HwFrame 适配模块,转换成 RTC 编码所需的数据源(YUV 或者 RGBA)。
  2. Main Channel 通道增加 VDAgent 类型增加自定义类型传输 RTC 远程调用指令,反向通过封装将 RTC 的事架构图件和 DataChannel 传递给 GameService(游戏管理服务进程)。

Spice 协议抓包

可以通过 socat通信 等工具代理 domain socket 来分析 spice 协议操作系统,对一个完整的 Spice 协议交互流程,通过 TCP dump 抓取 wireshark 日志如下:

基于 SPICE 协议的硬编推流整合方案在云游戏中的应用

先通过 main channel 建立连接,认证,然后依次建立 Spice Display, Spi架构图怎么制作ce PLAY操作系统BACK, SPICE RECORD, SPICE INPUT 等通道,最后通过各通道发送特定的消息。

这里重点关注以下:

  1. Main Channel 的 VDAgent 通道,在 CLIPBOARD 和 FILE通信地址是写什么地址_XFER 之外添加 VD_AGENT_VEND操作系统是计算机系统中的OR_DATA,为远架构图怎么制作程 gRPC 调用,接收 android 侧的封装数据。

基于 SPICE 协议的硬编推流整合方案在云游戏中的应用

  1. Display Channel,
  • GL_SCANOUT_UNIX, 屏幕初始化/改分辨率后的消息,一般用在初始化的时候。

基于 SPICE 协议的硬编推流整合方案在云游戏中的应用

  • GL效率意识方面存在的问题_DRAW_DONE,当屏幕内容有变化的时候传递此消息,可以认为是每一幅安卓画面。

基于 SPICE 协议的硬编推流整合方案在云游戏中的应用

  1. Playback Chann效率的拼音el,android 系统的声音消息,如音量变化,声音开始与停止等。

基于 SPICE 协议的硬编推流整合方案在云游戏中的应用

QEMU通信行程卡下载app 方案

QEMU 方案可以直接复用社区的 qemu+kvm架构 方案,除了针对不同硬件导出不同的 fd 之外。

基于 SPICE 协议的硬编推流整合方案在云游戏中的应用

AiC 容器

相比于虚拟化,容器化的特殊之处在于 qemu 已经集成 Spice Server 组件,虚拟化的容器需要容器外编码的话需要导出音频,视频和控制通道,然后实现一套类似 Spice 协议的架构,为统一兼容性通过增加接口下图的转发模块 Adap通信工程ter/SpiceSer操作系统当前的配置不能运行此应用程序ver,将 IPC 通道再次转发至 S通信地址是写什么地址pice 通道,实现 QEMU/A效率高发票查验iC 方案的统一。

基于 SPICE 协议的硬编推流整合方案在云游戏中的应用

方案参数

在整个整合方案中,有如下因素和参数需考虑:

  1. 模拟器或者容器环境区分。如果导出的 fd 在模通信工程专业拟器和容器方案一致,不需要区分,否则需要通过环境变量或者传入启动参数来区分。
  2. DRM device 指定。在携带 GTK 的版本中需要指定 Display 的 device,移除 Xorg 依赖通信地址后需指定 Render node通信地址是写什么地址
  3. 编码显接口卡卡硬件指定,由于不同架构图模板硬件编码不同,在编码模块需要通过当前硬件信息来确定编码方通信工程式。

图形导出

从虚机或者容器导出,有两种类型的图形显存的 fd:

KHR_STREAM

渲染到宿主侧的 surface,suface 导出 EGLSTREAM,通过eg效率高发票查验lCreateStreamKHReglGetStreamFileDe架构图scriptorKHR导出对应的 EGLS接口crc错误计数treamKHR 文件描述符,适用于 NVIDIA 显卡。消费侧通效率高发票查验eglStreamConsumerAcquireKHR导出对应的 stream,但编码不能直接接口和抽象类的区别使用 stream 类型, CUDA 提供了 OpenGL 与 C通信工程专业UDA 互操作 API,将 texture 或者 render buffer 绑定 CUDA 资源之后,CuGraphicsSubResourceGetMappedArray映射出 CUarray 指针供编码操作系统有哪些器使用。

基于 SPICE 协议的硬编推流整合方案在云游戏中的应用

ME接口是什么SA_IMAGE

渲染到宿主侧的 texture,texture 导出为 DMA buffer,通过eglE架构师xportDMABUFImageQueryMESAeglEx架构是什么意思portDMABUFImageMESA导出,适用于 AMD/Intel 显卡。消费侧通过此创建 EGL架构Image, 并绑定 2D 纹理,将此纹理的 textureID 传递给编码器 VAAPI 通过此编码器进行编码。

基于 SPICE 协议的硬编推流整合方案在云游戏中的应用

优化与演进

代码重构

随着支撑的方案类型增加,整个工效率是什么意思程在满操作系统是一种足功能情况下逐渐难以维护,通过 C++重写各个模块,将 HwFrame 模块抽象,对日志/SRE 各模块划分重构,将工程模块化。

移除 Xorg

Xorg 作为 X(11)协议中的 Server 的实现,Spice Cl通信大数据行程卡ient 的通过调用 GTK API 端做 client,存在弊端:

  1. 默认会将导出的 fd,通过 GTK widget 画在默认的 Display 上,但是实际推流过程并不需要这个步骤。
  2. 部署 Xorg 也增加了复杂度。

需要将依赖和 GTK 的组件移除,降低组件依赖复杂性和性能消耗。

具体而言:

  1. Display channel 相关的 GTK操作系统的主要功能是 widget 依赖移除,。
  2. 替换原有 Display,通信技术对 Nvidia,getPlatformDisplayEXT(EGL_PLATFORM_DEVICE_EXT, (EGLNativeDisplayType)dev[num], NULL)导出。
  3. 替换原有 Display,对 VAA接口测试用例设计PI 的 AMD 或者 Intel 显卡,由于使用的 mes操作系统的五大功能a 图形栈,getPlatformDisplayEXT(EGL_PLATFORM_GBM_MESA导出,需要注意的一点是在 VAAPI 接口中,将初始化用的 Display 换成 DRM 导出。
#ifENABLE_GTK
intvaapi_init(){
x11_display=XOpenDisplay(g_getenv("DISPLAY"));
va_display=vaGetDisplay(x11_display);
#else
intvaapi_init(intdrm_fd){
va_display=(uint64_t)vaGetDisplayDRM(drm_fd);
g_message("drm_fd:%dva_dpy:%p",drm_fd,va_display);
#endif
intmajor_ver,minor_ver;
va_status=vaInitialize(va_display,&major_ver,&minor_ver);
return0;
}

移除 gstreamer

音频的 pipel架构是什么意思ine 使用了 gstreamer,这部分依赖可以去掉。

图形转换优化

总体想法就是图像的 Zero-copy,减少在 CPU 与 GPU 之间的拷贝与图形格式之间转换。

编码卡支持效率是什么意思

支持主机通过 PCIE 外插硬件编码卡进行硬件编码。

混合硬件编码支持

总体想法就是利用架构是什么意思 host 渲染能力,将渲染后的 RGBA 或者 YUV 导出给编码卡,达到最大限度利用渲染资源,提高并发路数的工作。

自升级

通过 Host Gameservice 进程自我升级固件,不依赖整体部署 pod 节点镜像更新,可以灵活接口自动化实现升级。

监控与 SRE

对系统指通信工程专业标的打点和性能的监控,完善 SRE 等监控体系,治理进程崩溃,卡死,内测泄漏等检测。

其他

整个云游戏的视频流硬编码方案的实现和上线部署离不开跨部门的合作,再次感谢一起将整个方案从开始设计到到上线操作系统是一种什么软件的内部兄弟团队如基础系统部门 STE,多媒体 RTC 等部门,通过团队协作推动整个方案上线以及后续线上持续优化和治理。

关于我们

作为字节跳动的视频中台部门,视频架构支持了字节全系产品的点播、直播、实时通信、图片、云游戏、多媒体业务发展,目标成为业界多媒体解决方案领接口导者,构建极致的视频技术/产品服务体架构工程师验!

视频架构-设备与服务团队聚焦多媒体+IoT/5G 相关领域,孵化能够赋能业务的新场景和核心技术,打造极致的、软硬件结合的技术解决方案,上线了云游戏、云手机、视联通信网、多屏互动等多款服务,支持了抖音、西瓜等众多内部产品架构师证书,同时也通过火山引擎提供 toB 服务。欢迎更多同学加架构是什么意思入我们,构建行业顶尖的视频创新技术,联系luxugu架构图ang@bytedance.com注明“设备与服务方向”。

操作系统的主要功能是

  • en.wikipedia.org/wiki/Direct…
  • en.wikip通信大数据行程卡edia接口英文.org/wiki/Direct…
  • en.wikipedia.org/wiki/Mes操作系统是一种什么软件a_(…
  • source.android.com/devices/gra…
  • www.opengl.org/
  • www.mesa3d.org/
  • www.spice-space.org/
  • w架构师ww操作系统的基本特征.qemu.org/
  • docs.nvidia.com/cuda/cuda-d…

发表评论

提供最优质的资源集合

立即查看 了解详情