这是我参与「第三届青训营 –后端场」笔记创造活动的的第2篇笔记。

功能优化

  • 事务代码：直接处理用户的恳求

  • SDK代码、基础库：供给了一些抽象的逻辑，如数据结构、网络库、IO库等

  • 语言运行时：供给语言的一些完成，如gc,调度器等 os：供给一个阻隔的运行时环境

优化方式：
  • 事务层优化：
    • 针对特定场景、详细问题
    • 简略取得较大的功能获益
  • 语言运行时优化
    • 处理更通用的功能(内存分配问题，编译器生成代码质量的问题)
    • 考虑更多场景
    • Tradeoffs
  • 数据驱动
    • 自动化功能剖析工具pprof
    • 依靠数据而非猜测
GoSDK:
  • 接口
    • Commands
    • APIs
    • New APIs：做功能优化供给的一些新API
  • 完成
    • Compiler
    • Schedule
    • GC
    • Runtime
    • Libs
    • Profiling
优化要求：
  • 在确保接口安稳的前提下改进详细完成
  • 测验用例：覆盖尽或许多的场景，方便回归，以测验驱动优化
  • 文档：做了什么，没做什么，能到达怎样的效果
  • 阻隔：经过选项操控是否开启优化
  • 可观测：必要的日志输出

01. 自动内存办理

1.1 基本概念

  • 动态内存：程序运行时依据需求分配的内存：malloc()
  • 自动内存办理（废物收回）：由程序语言运行时系统办理动态内存
    • 防止手动办理内存，专注于完成事务逻辑
    • 确保正确性和安全性
  • 三个任务：
    • 为新方针分配空间
    • 找到存活方针
    • 收回逝世方针的内存空间

相关概念

  • Mutator:：事务线程，分配新方针，修正方针指向联系
  • Collector：GC线程，找到存活方针，收回逝世方针的内存空间
  • Serial GC：暂停mutator履行GC，只有一个collector
  • Parallel GC：支撑多个collectors一起收回的GC算法，仍然支撑暂停
  • Concurrent GC：mutators和collector能够一起履行
    • Collectors有必要感知方针指向联系的改动

评价GC算法：

  • 安全性：不能收回存活方针 基本要求
  • 吞吐率：1−GC时刻程序履行总时刻1-\frac{GC时刻}{程序履行总时刻} 花在GC上的时刻越少越好
  • 暂停时刻：stop the world 事务是否感知，时刻越短越好
  • 内存开支：越小越好 GC元数据开支

1.2 追寻废物收回

  • 方针被收回的条件：指针指向联系不可达

进程：

  • 符号根方针
    • 静态变量、全局变量、常量、线程栈等
  • 符号：找到可达方针
    • 求指针指向联系的传递闭包：从根方针动身，找到所有可达方针
  • 收拾所有不可达变量 三种办法
    • 将存活方针复制到别的的内存空间，剩余的内存空间进行方针分配（Copying GC）
    • 将逝世方针的内存符号为‘可分配’（Mark-sweep GC，符号收拾GC)，用一个freelist将逝世方针内存空间办理起来，在freelist中进行内存分配
    • 移动并收拾存货方针(Mark-compact GC)，原地收拾方针，将存货的方针进行压缩，存放在内存最开端的地方，剩余的空间进行分配
      • Copying GC用了一个额外的空间收拾方针，而Mark-compact GC则是在原地进行收拾
    • 依据方针的生命周期，运用不同的符号和收拾战略

1.3 分代GC(Generational GC)

  • 分代假说：大多数方针很快就死掉了
  • Intution：许多方针在分配出来之后很快就不再运用了
  • 每个方针都有年龄：方针经历GC的次数
  • 意图：针对年青和老年的方针，拟定不同的GC战略，降低内存全体的开支
  • 不同年龄的方针处于heap的不同区域

第四次课：高性能 Go 语言发行版优化与落地实践-课程笔记 | 青训营笔记

  • 年青代（young generation）
    • 惯例方针的分配
    • 由于存活方针很少，能够选用copying collection
    • GC吞吐量很高
  • 老时代（old generation）
    • 方针趋向于一向活着，重复复制开支较大
    • 能够选用mark-sweep collection

1.4 引证计数

  • 每个方针都有一个与之相关的引证数目
  • 方针存活的条件：当且仅当引证数大于0

这个办法操作系统有类似的办法，一个文件在内存中被多个指针指向，当指向文件的指针清零时，文件才被删去

  • 长处：
    • 内存办理的操作被平摊到程序履行进程中
    • 内存办理不需要了解runtime的完成细节
  • 缺陷
    • 保护开支大：咱们需要经过原子操作确保引证计数操作的原子性和可见性
    • 无法收回环形数据结构：可经过weak reference处理
    • 内存开支：每个方针都引入的额外内存空间存储引证数目
    • 收回内存仍然或许引发暂停

02. Go内存办理及优化

2.1 Go内存分配

分块

方针：为方针在heap上分配内存 做法：提早将内存分块

  • 调用系统调用mmap()，向os恳求一大块内存，例如4MB
  • 先将内存划分大块，如8KB，称作mspan
  • 再将大块继续划分为特定巨细的小块，用于方针分配
  • noscan mspan：分配不包括指针的方针——GC不需要扫描
  • scan mspan：包括指针的方针——GC需要扫描

方针分配：依据方针的巨细，挑选适宜的块回来

缓存

  • TCMalloc:thread caching
  • 每个p包括一个mcache用于快速分配，用于为绑定与p上的g分配方针
  • mcache办理一组mspan，巨细不同，分配方针时回来一块适宜巨细的mspan
  • 当mcache中的mspan分配完毕，向mcentral中恳求带有未分块的mspan
  • 当mspan中没有分配的方针，mspan会被缓存在mcentral中，而不是立即开释并归还给OS

2.2 Go内存办理优化

Goroutine的并发编程模型依据GMP模型，扼要解释一下GMP的含义：

G:表示goroutine，每个goroutine都有自己的栈空间，定时器，初始化的栈空间在2k左右，空间会随着需求增加。

M:抽象化代表内核线程，记录内核线程栈信息，当goroutine调度到线程时，运用该goroutine自己的栈信息。

P:代表调度器，负责调度goroutine，保护一个本地goroutine队列，M从P上取得goroutine并履行，一起还负责部分内存的办理。

  • 方针分配高频
    • 小方针占比较高
    • Go内存分配途径长
      • g->m->p->mcache->mspan->memory block->return pointer

字节的优化计划：Balanced GC

  • 每个g都绑定一大块内存（1KB），称为goroutine allocation buffer(GAB)
  • GAB用于noscan类型的小方针分配：<128B
  • 运用三个指针保护GAB：base,end,top
  • Bump pointer（指针碰撞）风格的方针分配:直接回来top所指向的内存
if top + size <= end{
	addr := top
	top += size
	return addr
}

无需和其他分配恳求互斥，分配动作简略高效

  • GAB对go的内存办理来说是一个大方针
  • 实质：将多个小方针的分配合并成一次大方针的分配（小方针的分配次数大大削减）
  • 问题：GAB的方针分配方式回导致内存被推迟开释：GAB就是一个方针，其间只有一小块内存存活就会以为整个GAB是存活的
  • 计划：移动GAB中存活的方针
    • GAB总巨细超过必定阈值时，将GAB中存活的方针复制到别的分配的GAB中
    • 原先的GAB能够开释，防止内存走漏
    • 实质：用copying GC的算法办理小方针
    • 依据方针的生命周期，运用不同的符号和收拾战略

03. 编译器和静态剖析

3.1 编译器的结构

第四次课：高性能 Go 语言发行版优化与落地实践-课程笔记 | 青训营笔记

  • 剖析部分（前端）
    • 词法剖析：生成词素（lexeme）
    • 语法剖析：生成语法树（AST）
    • 语义剖析：收集类型信息，进行语义查看
    • 中间代码生成：生成imtermediate representation（IR），IR是机器无关的
  • 综合部份（后端）
    • 代码优化，机器无关优化，生成优化后的IR
    • 代码生成，生成方针代码

3.2 静态剖析

  • 静态剖析：不履行程序代码，推导程序行为，剖析程序性质
  • 操控流：程序履行的流程
  • 数据流：数据在操控流上的传递
  • 经过剖析操控流和数据流，了解更多关于程序的性质，依据这些性质优化代码

3.3 进程内剖析和进程间剖析

  • 进程内剖析：仅在函数内部进行剖析、
  • 进程间剖析：考虑函数调用时的参数传递和回来值的数据流和操控流

04. Go编译器优化

4.1 函数内联

内联：将被调用函数的函数体（callee）的副本替换到调用方位（caller）上，一起重写代码以反映参数的绑定

长处：

  • 消除函数调用开支，例如传递参数、保存寄存器等
  • 将进程间剖析转化为进程内剖析，协助其他优化，例如逃逸剖析

缺陷：

  • 函数体变大，instruction cache(icache)不友好
  • 编译生成的Go镜像变大

函数内联在大多数情况下时正向优化

内联战略：

  • 依据调用和被调用函数的规划决议是否做内联

4.2 Beast Mode

调整函数内联的战略，使更多函数被内联

逃逸剖析

剖析代码中指针的动态效果域：指针在何处能够被访问 思路：

  • 从方针分配出动身，沿着操控流，观察方针的数据流
  • 若发现指针p在当前效果域s：
    • 作为参数传递给其他函数
    • 传递给全局变量
    • 传递给其他的goroutine
    • 传递给已逃逸的指针指向的方针
  • 则指针p指向的方针逃逸出s，反之则没有逃逸出s
  • Beast mode:函数内联拓展了函数边界，使更多的方针不逃逸了
  • 优化：未逃逸的方针能够在栈上分配
    • 方针在站上分配收回很快：移动sp
    • 削减在heap上的分配，降低了GC的开支