图解Go语言内存分配 - 知乎

go内置运行时,采用了自主管理,实现更好的内存使用模式,不需要每次内存分配都进行系统调用

采用TCMalloc算法:把内存分为多级管理,从而降低锁的粒度

将可用的堆内存采用二级分配的方式进行管理:

每个线程都会自行维护一个独立的内存池,内存分配时优先从内存池中分配,内存池不足时向全局内存池申请,避免对全局内存池的频繁竞争

在程序启动时,向操作系统申请一块内存
请添加图片描述
arena:堆区,go动态分配内存,把内存分割为8kb大小的页,一些页组合称为mspan

bitmap:标识 arena 中哪些地址保存了对象,并用4bit标志位标识对象是否包含指针,GC标记信息

​ 1个byte大小内存对应 arena区域中4个指针大小(指针大小8B)内存
bitmap的高地址指向arena的低地址,bitmap由高地址向低地址增长
请添加图片描述
span:存放mspan(arena 分割的页组合起来的内存管理基本单元)的指针,每个指针对应一页

​ 创建mspan时,按页填充对应的spans区域

内存管理单元

mspan:内存管理的基本单元,由一片连续的8kb的页组成的大块内存,一般是操作系统页大小的几倍,包含起始地址、mspan规格、页的数量等内容的双端链表

每个mspan按照自身的属性Size Class大小分割为若干个object,每个object存储一个对象

并且使用一个位图标记未使用的object

属性Size Class决定object大小,mspan只会分配给object尺寸大小接近的对象,对象大小小于object

每个Size Class两个mspan(span class)一个分配给含有指针的对象,一个分配个不含有指针对象
请添加图片描述

操作系统存储模型

多级模型 动态切换(因为数据的调用频率在实时发生变化)
请添加图片描述

虚拟内存与物理内存

在真实物理内存上的虚拟概念,用来代理,贴合用户使用视角

使用户(进程)觉得内存是连续的,而不是割裂的

实现内存“放大”的效果,虚拟内存可以由物理内存+磁盘补足,根据数据冷热进行动态置换

通过页表建立真实物理空间的映射关系

页表:聚合映射关系的数据结构
请添加图片描述

分页管理

虚拟内存中最小的操作单元:页

物理内存:帧

提高内存空间利用率(以页为粒度,外部碎片被替换为内部碎片,更相对可控)

提高内外交换效率

与虚拟内存机制呼应,建立虚拟地址到物理地址的映射关系

Golang内存模型

以空间换时间,一次缓存,多次复用

每次向操作系统多申请内存

堆mheap同样的思想:

对操作系统,用户进程中缓存的内存

对Go进程内部,堆是所有对象的内存起源

多级缓存,实现无/细锁化
请添加图片描述
mcentral 根据对象的大小从小到大排列等级(集合)

当分配内存给一个对象时,会根据其大小找到从属的等级,在对应的mcentral中尝试获取内存

mcache 每个处理器§单独的本地私有缓存,其中冗余每一种等级的内存空间

当尝试获取内存时,根据处理器,查看本地私有的mcache中是否有合适的空间使用,有则直接获取,无则访问mcentral,一级一级升级向上获取

多级规格,提高利用率
mcentral
请添加图片描述
page:go中有独立的内存存储单元,最小的存储单元 8KB

mspan:最小的管理单元,为page的整数倍,从8B到80KB分为67种不同的规格,分配对象时根据大小映射到不同规格的mspan,获取空间

隐藏的0级,处理更大的对象,上不封顶
请添加图片描述

mspan

属于mcentral的一个节点,根据span的不同等级有一个central实例,central存储的span个数是复数
请添加图片描述
stratAddr 起始地址 映射到Go语言中堆内存的一部分空间,也是虚拟内存中对应的地址

npages 页的页数,每个mspan中的页是连续的,可以根据起始地址+页数推导出,对应的内存区域
请添加图片描述
allocCache 基于bitmap辅助快速找到空闲内存块(块大小为对应等级下对象大小)

查找mspan中哪些页是空闲的,可以把对象分配到里面
请添加图片描述

type mspan struct {_    sys.NotInHeap// 标识前后节点的指针next *mspan     prev *mspan     // 起始地址startAddr uintptr// 包含页数,页是连续的npages    uintptr // 标识此前的位置(bit位)都已被占用freeindex uint16// 最多可存放多少个对象(会出现一页存放多个对象的情况)nelems uint16// 每个bit对应一个对象块,标识该块是否被占用allocCache uint64// 标识mspan等级,包含class和noscan信息spanclass spanClass......
}

请添加图片描述
bytes/obj:该大小规格的对象会从当前等级的mspan中获取空间,创建对象过程中,大小会向上取整为8B的整数倍,可以直接实现对象到mspan等级映射

bytes/span:该等级的mspan的总空间大小

object:最多可以new多少个对象

max waste:
请添加图片描述
请添加图片描述

// nocan 标识对象是否包含指针,在gc时是否需要展开标记
// 存在指针需要展开扫描形成完整的有向图
// 会将两类对象,划分给不同的span(同一等级下的不同span)
// 将class+nocan组装为uint8,形成完整的spanClass 标识
// 高7位表示span等级,最低为表示nocan信息
type spanClass uint8func makeSpanClass(sizeclass uint8, noscan bool) spanClass {return spanClass(sizeclass<<1) | spanClass(bool2int(noscan))
}func (sc spanClass) sizeclass() int8 {return int8(sc >> 1)
}func (sc spanClass) noscan() bool {return sc&1 != 0
}

mcache

每个P独有的缓存,交互无锁
请添加图片描述
alloc 将每种spanClass等级的mspan各缓存一个,总数为2*68

对象分配器 tiny allocator 处理小于16B对象的内存分配

type mcache struct {_ sys.NotInHeap// 微对象分配器相关tiny       uintptrtinyoffset uintptrtinyAllocs uintptr// mcache中缓存的mspan,每种各一个alloc [numSpanClasses]*mspan ......
}

mcentral中心缓存

请添加图片描述
每个central对应一个spanClass

会将mspan分为两个链表,有空间mspan链表partial和满空间mspan链表 full

type mcentral struct {_         sys.NotInHeap// 对应的spanClassspanclass spanClass// 有空位mspan集合// 数组长度为2,抗一轮GCpartial [2]spanSet // 无空位full    [2]spanSet
}

mheap全局堆缓存

对于Golang上层应用,堆是操作系统虚拟内存的抽象

堆内存中最小内存存储单元:页(8KB)

负责将连续页组装为mspan

全局内存基于bitMap标识使用情况,一个bit对应一页,0自由,1已被组装为mspan

通过heapArena聚合页,记录页到mspan的映射信息,维护页所属的mspan关系

建立空闲页基数树索引 radix tree index 快速寻找空闲页,获取至少在虚拟视角下连续的空闲页

mcentral 的持有者,持有所有spanClass下mcentral,作为自身缓存,mcentral是mheap更细粒度的缓存(以空间换时间的操作)

内存不够,向操作系统申请,单位:heapArena(64M)

type mheap struct {_ sys.NotInHeap// 堆的全局锁(进程维度)lock mutex// 空闲页分配器,底层由多棵基数树组成的索引,每棵树对应16GB内存空间pages pageAlloc // 记录所有mspan// 所有mspan都是由mheap,使用连续空闲页组装allspans []*mspan // heapAreana 数组 请求内存和映射关系// 64位系统下,二维数组容量为[1][2^22]// 每个heapArena大小64M// 理论上堆的上限为 2^22*64M = 256Tarenas [1 << arenaL1Bits]*[1 << arenaL2Bits]*heapArena// 多个mcentral,总数为spanClass 个数central [numSpanClasses]struct {mcentral mcentral// 用于内存地址对齐pad      [(cpu.CacheLinePadSize - unsafe.Sizeof(mcentral{})%cpu.CacheLinePadSize) % cpu.CacheLinePadSize]byte}......
}

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如若转载,请注明出处:http://www.pswp.cn/pingmian/88959.shtml
繁体地址,请注明出处:http://hk.pswp.cn/pingmian/88959.shtml
英文地址,请注明出处:http://en.pswp.cn/pingmian/88959.shtml

如若内容造成侵权/违法违规/事实不符,请联系英文站点网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

cursor使用mcp连接mysql数据库,url方式

背景。 用cursor生成后端代码。让cursor可以创建响应的表结构以及插入数据。使用的cursor版本是1.2.1 cursor 官网 mcp 说明smithery 中mysql mcp这个mcp具有建表的本领。 在cursor中是这样配置的。 以上这种配置方式是是通过在smithery 网站中配置好自己的mysql数据库连接后才…

Twisted study notes[1]

文章目录serverreferencesserver Twisted usually using subclass twisted.internet.protocol.Protocol to treat protocols .Protocol is a fundamental class in Twisted for implementing network protocols.protocol class instant don’t exists forever because of it w…

Python 数据建模与分析项目实战预备 Day 6 - 多模型对比与交叉验证验证策略

✅ 今日目标 引入多种常见分类模型&#xff08;随机森林、支持向量机、K近邻等&#xff09;比较不同模型的训练效果使用交叉验证提升评估稳定性&#x1f9fe; 一、对比模型列表模型类名&#xff08;sklearn&#xff09;适用说明逻辑回归LogisticRegression基础线、易于解释KNNK…

xss-labs 1-8关

level1打开检查&#xff0c;发现test直接放入h2标签中此时通过script绕过h2标签构造payload127.0.0.1/xss-labs/lvel1.php?name<script>alert(111)</script>直接使用script标签绕过h2,并执行alert,通过level2打开检查&#xff0c;输入的123被放在input标签里面的v…

Conda 核心命令快速查阅表

本表旨在提供一个简洁、高效的 Conda 命令参考&#xff0c;专注于最常用功能的快速查找。 1. 环境管理 (Environment Management)功能 (Function)命令 (Command)示例 (Example)创建新环境conda create -n <env_name> [packages...]conda create -n myenv python3.9 panda…

音视频学习(三十九):IDR帧和I帧

主要区分&#xff1a;I 帧 是帧内编码帧&#xff0c;IDR 帧 是一种特殊的 I 帧&#xff0c;它是“清除参考帧链的强制切断点”。H.264 视频结构 结构 H.264 视频由多个 NAL&#xff08;Network Abstraction Layer&#xff09;单元 构成&#xff0c;每一帧图像可由一个或多个 NA…

人工智能与机器学习暑期科研项目招募(可发表论文)

人工智能与机器学习暑期科研项目招募 华中科技大学博士论文指导我是计算机专业的研二学生&#xff1a;从大二开始接触科研&#xff0c;至今已发表1篇CCF-A类会议论文、1篇CCF-B类会议论文&#xff0c;以及2篇Top期刊论文。正是这段从本科开始的科研经历&#xff0c;让我在保研和…

C盘爆满?一键清理恢复极速体验!“小番茄C盘清理”彻底解放你的电脑

目录 前言 C盘变红&#xff1f;&#xff01;那么你的电脑将会出现下面糟糕的情况&#xff1a; 一、小番茄C盘清理介绍——拯救你的C盘爆红&#xff01; 二、安装登录小番茄C盘清理 2.1 安装小番茄C盘清理 2.2 登录—拥有专属自己电脑的小番茄C盘清理 三、手把手教你深度…

UI前端大数据可视化实战技巧:如何利用数据故事化提升用户参与度?

hello宝子们...我们是艾斯视觉擅长ui设计、前端开发、数字孪生、大数据、三维建模、三维动画10年经验!希望我的分享能帮助到您!如需帮助可以评论关注私信我们一起探讨!致敬感谢感恩!一、引言&#xff1a;从 “图表堆砌” 到 “故事共鸣” 的可视化革命当企业管理者面对布满折线…

CSS基础1.1

HTML骨架<!DOCTYPE html> <!-- 中文网站 --> <html lang"zh-CN"> <head><!--charset"UTF-8" 规定网页的字符编码 --><meta charset"UTF-8"><!-- ie(兼容性差) / edge --><meta http-equiv"X…

前端基础JavaScript 笔记

本文是基于 B 站 pink 老师前端 JavaScript 课程整理的学习笔记 JS简介 JavaScript是一种运行在客户端&#xff08;浏览器&#xff09;的编程语言 作用&#xff1a;1.网页特效(监听用户的一些行为让网页作出对应的反馈) 2.表单验证(针对表单数据的合法性进行判断) 3.数据交互…

「小程序开发」项目结构和页面组成

微信小程序目录 微信小程序的目录,每种文件都有特定用途,组合起来才能构建完整应用。 小程序最基本的目录结构通常包含这些部分: my-miniprogram/ ├── pages/ // 存放所有页面 │ ├── index/ // 存放index页面的逻辑文件 │ └── logs/ …

[element-ui]el-table在可视区域底部固定一个横向滚动条

背景当el-table的列太多时&#xff0c;得拖动横向滚动条才能看到&#xff0c;但如果内容也很多&#xff0c;可能横向滚动条还看不到&#xff0c;又得滑到最下方才能拖动滚动条&#xff0c;这样不太方便。若内容过多时&#xff0c;有个固定在可视区域的横向滚动条就好了&#xf…

大模型核心组件结构与计算顺序详解(Embedding/FFN/LayerNorm等)

在大模型&#xff08;如GPT、BERT、LLaMA等&#xff09;的架构设计中&#xff0c;各个组件的协同工作是模型性能的核心保障。本文将详细解析大模型中Embedding、前馈神经网络&#xff08;FFN&#xff09;、LayerNorm、Softmax、MoE、残差连接的作用及计算顺序&#xff0c;帮助理…

希尔排序:突破传统排序的边界

一、算法思想希尔排序&#xff08;Shell Sort&#xff09;&#xff0c;也被叫做缩小增量排序&#xff0c;是插入排序的一种改进版本。希尔排序的核心在于先将整个待排序的记录序列分割成若干个子序列&#xff0c;分别进行直接插入排序。随着增量逐渐减小&#xff0c;子序列的长…

Kafka事务消息与Exactly-Once语义实战指南

Kafka事务消息与Exactly-Once语义实战指南 在分布式微服务或大数据处理场景中&#xff0c;消息队列常被用于异步解耦、流量削峰和系统伸缩。对于重要业务消息&#xff0c;尤其是金融、订单、库存等场景&#xff0c;消息的精确投递&#xff08;Exactly Once&#xff09;和事务一…

26.将 Python 列表拆分为多个小块

将 Python 列表拆分为多个小块(Chunk a List) 📌 场景 1:按份数 chunk_into_n(lst, n) 将一个列表平均拆分为 n 个块。如果不能整除,最后一块会包含剩余元素。 ✅ 示例代码 from math import ceildef chunk_into_n(lst, n):size = ceil(len

18.理解 Python 中的切片赋值

1. 切片语法回顾 标准切片语法格式为: [start_at : stop_before : step]start_at:起始索引(包含)stop_before:结束索引(不包含)step:步长(默认为 1)例如: lst = [1, 2,

论文 视黄素与细胞修复

王伟教授发布&#xff0c;通过对比兔子和老鼠耳朵穿孔后的复原&#xff0c;控制变量法发现了 视黄素对细胞修复的影响

JavaScript 的执行上下文

当 JS 引擎处理一段脚本内容的时候,它是以怎样的顺序解析和执行的?脚本中的那些变量是何时被定义的?它们之间错综复杂的访问关系又是怎样创建和链接的?要解释这些问题,就必须了解 JS 执行上下文的概念。 JavaScript引擎: JavaScript引擎是一个计算机程序,它接收JavaScri…