当前位置: 首页 > news >正文

go-map+sync.map的底层原理

map

哈希冲突解决方式

1.拉链法

2.开放地址法

底层结构

        Go 的 map 在源码中由 runtime.hmap 结构体表示,buckets-指向桶数组的指针(常规桶),oldbuckets-扩容时指向旧桶数组的指针。

type hmap struct {count     int    // 当前元素个数(len(map) 直接返回此值)flags     uint8  // 状态标志(是否正在扩容、迭代等)B         uint8  // 桶的数量为 2^B(哈希桶数量的对数)noverflow uint16 // 溢出桶的大致数量hash0     uint32 // 哈希种子,用于计算键的哈希值buckets    unsafe.Pointer // 指向桶数组的指针(常规桶)oldbuckets unsafe.Pointer // 扩容时指向旧桶数组的指针nevacuate  uintptr        // 扩容时记录下一个要迁移的桶编号extra *mapextra // 可选字段,用于管理溢出桶
}

bmap结构 

type bmap struct {// 1. 哈希值的高8位数组(快速比较)tophash [bucketCnt]uint8    // bucketCnt默认为8,每个桶最多存8个键值对// 2. 键数组(具体类型由map定义决定)keys    [bucketCnt]KeyType  // 例如int、string等// 3. 值数组(具体类型由map定义决定)values  [bucketCnt]ValueType// 4. 溢出桶指针(链表结构,处理哈希冲突)overflow *bmap
}

tophash [bucketCnt]uint8    // bucketCnt默认为8,每个桶最多存8个键值对

作用​​:存储每个键哈希值的前8位,用于快速过滤不匹配的键。一个key会通过哈希函数得到一个哈希值(高八位就是tophash ),哈希值再对map的数量取模得到桶下标,找到自己存放的位置。

keys    [bucketCnt]KeyType  // 例如int、string等

values  [bucketCnt]ValueType

  • ​容量​​:每个bmap最多存储​​8个键值对​​。
  • ​内存排列​​:
    • ​键和值分开存储​​:键数组(keys)和值数组(values)在内存中连续分布。
    • ​对齐优化​​:根据键和值的大小调整内存对齐,减少碎片。

overflow *bmap

  • ​作用​​:当桶已满时,新键值对存入溢出桶,形成链表。
  • ​示例​​:
    • 插入第9个键值对时,创建新的bmap,链接到overflow指针。
    • 查找时需遍历链表直到找到匹配项或链表末尾。

为什么键和值要分开存放?

  • ​键和值分开存储​​:键数组(keys)和值数组(values)在内存中连续分布。
  • ​对齐优化​​:根据键和值的大小调整内存对齐,减少碎片。

map中一个key的查找过程?

1. ​​哈希计算与桶定位​

  1. 计算键的哈希值 hash := hashFunc(key, h.hash0)
  2. 通过掩码运算定位桶:bucketIndex := hash & (2^B - 1)B为桶数量的指数)。
  3. 确定目标桶 bmap

2. ​​桶内查找与插入​

​遍历tophash数组,寻找空槽或匹配的高8位:

  • ​空槽​​:tophash[i] == 0,表示可插入新键值对。
  • ​匹配​​:tophash[i] == hashHigh,需进一步比较键是否相等。如果key不相等说明槽位被占了,那么查找下一个为空的槽位,如果找到最后发现槽位被占满那么就通过overflow 创建新的bmap插入数据。

go语言中的map怎么解决哈希冲突的?

利用了两种方法拉链法和开放法,看上面的题目回答。

map中一个key的删除过程?

        通过哈希值的高八位查找到一个桶的tophash位置,然后把tophash标记为emptyOne的状态,如果当前tophash位置后面所有的位置为空,那么就将当前位置标记为emptyReset状态,这样如果下一次遍历到了emptyReset就不会往后进行查找,提高了查询的效率。

map的扩容

扩容时机

        负载因子超标​​,负载因子超过为 ​​6.5​​触发双倍扩容。一个桶能存放八个元素,负载因子为6.5的时候表示一个桶中位置快被分配完了,一个桶快满了,很有可能需要遍历溢出桶,那么就会触发双倍扩容。

        溢出桶的数量过多的话就触发等量扩容。插入元素过多就会有溢出桶,然后又删除元素,但是map的删除元素不会释放内存,再进行元素的插入,这样会导致元素的排列很松散。所以需要等量扩容重新排列元素位置,让内存更加紧密。

等量扩容

        等量扩容:并不扩大容量,buckets数量维持不变,重新做一遍搬迁动作,把松散的键值对重新排列一次,使得同一个 bucket 中的 key 排列地更紧密,节省空间,提高 bucket 利用率,进而保证更快的存取。

双倍扩容

双倍扩容:新建一个buckets数组,新的buckets数量大小是原来的2倍,然后I日buckets数据搬迁到新的buckets.

扩容方式?

        map采用渐进式扩容的方式,再插入修改key的时候,会进行元素的搬迁,每一次搬迁1-2个元素,从旧桶中找到一个当前访问的key-value,还有一个是通过迁移编号找到的key-value值,每次移动两个元素,再到新桶中做哈希运算重新放入新桶。

syncmap

        Go 语言中的 sync.Map 是专为并发场景设计的线程安全 map,其底层结构通过 ​​读写分离​​ 和 ​​无锁原子操作​​ 优化性能,尤其适合读多写少的场景。

底层结构

type Map struct {mu     sync.Mutex          // 互斥锁,保护 dirty 的并发写操作read   atomic.Value        // 存储只读数据(readOnly 结构),通过原子操作访问dirty  map[interface{}]*entry  // 存储可写数据,访问时需要加锁misses int                 // 记录从 read 读取失败的次数,触发 dirty 提升为 read
}
type readOnly struct {m       map[interface{}]*entry  // 存储键值对的指针(entry)amended bool                     // 标记 dirty 中是否有 read 中不存在的键
}

 如果amend为true那么就从dirty当中操作.

type entry struct {p unsafe.Pointer  // 指向实际值的指针(可能为 nil、expunged 标记或具体值)
}

entry 的状态管理,​p有三种状态, ​

  • ​正常值​​:entry.p 指向实际值。
  • ​删除标记​​:entry.p = nil(逻辑删除)。
  • ​完全删除​​:entry.p = expunged(一个特殊标记指针),表示键已从 dirty 移除。

有几种方法

Store(),更新插入一个key-value

Load(),返回对应的value

Delete(),删除

Range(),对map进行遍历

sync.map插入流程

  • 如果read当中不包含这个元素的话,那么就对dirty进行操作,获取锁操作dirty。
  • 如果read当中有这个元素并且对应entry指向的状态为nil或者为正常值,直接修改read的值
  • 如果read当中有这个元素并且对应entry指向的状态为expunged的状态的话,那么不光要在read当中进行修改,还要在dirty当中插入新值。

sync.map删除流程

read当中找到对应的数据,然后通过entry指针把指向的value置为nil。

如果read当中找不到对应的值,但是存在于dirty,就把dirty当中对应的entry指针指向expunged状态,表示键已从 dirty 移除。

read map和dirty map怎么互相转换的?

dirty->read

​从 read 无锁读取​​:

  • 通过原子操作获取 read.m,查找键对应的 entry
  • 若找到且 entry.p != nil,直接返回值

如果没有找到,那么加锁访问 dirty​,从 dirty 读取,并增加 misses 计数。

        当 misses >= len(dirty) 时,将 dirty 提升为 read,重置 dirty把dirty置空 和 misses

read->dirty 

     考虑到dirty->read的情况,在最后将 dirty 提升为 read后,会重置 dirty 把dirty置空。此时dirty为空,read不为空。

  如果要插入新的数据那么只能从dirty中进行插入,但此时dirty为空,所以dirty需要复制read当中的数据(这个过程就是dirty的重塑),把read当中value的状态=nil的值都标记成expunged状态,那么dirty不会对expunged状态的值进行复制。

http://www.xdnf.cn/news/26011.html

相关文章:

  • 【测试文档】项目测试文档,测试管理规程,测试计划,测试文档模版,软件测试报告书(Word)
  • FFmpeg+Nginx+VLC打造M3U8直播
  • 基于Ubuntu2504部署OpenStack E版
  • 详解与HTTP服务器相关操作
  • 利用yakit充实渗透字典
  • 【Vue】模板语法与指令
  • Android Studio 获取配置资源与第三方包信息详解
  • SICAR程序标准功能块 FB1512 “Robot_kuka_FB“
  • Windows Server .NET Core 应用程序部署到 IIS 解决首次访问加载慢的问题
  • 从零开始学习 Lucene.Net:.NET Core 中的全文搜索与索引管理
  • 深入Docker核心技术:从Namespace到容器逃逸防御
  • 【MySQL】MySQL建立索引不知道注意什么?
  • 国产之光DeepSeek架构理解与应用分析04
  • 【论文阅读21】-PSOSVM-CNN-GRU-Attention-滑坡预测(2024-12)
  • 模拟投资大师思维:AI对冲基金开源项目详解
  • 故障诊断 | CNN-BiGRU-Attention故障诊断
  • 嵌入式单片机通过ESP8266连接物联网实验
  • .gitignore 可能失效的原因
  • MySQL数据库 - 锁
  • 深入理解C++ 中的vector容器
  • docker架构
  • 【MySQL】SQL语句在MySQL中的执行过程?主要存储引擎区别?
  • LLM做逻辑推理题 - 如何找出不标准的球?
  • kafka认证部署
  • LINUX419 更换仓库(没换成)find命令
  • 中间件--ClickHouse-11--部署示例(Linux宿主机部署,Docker容器部署)
  • Python实现对目标Word文档进行自动化排版【4万字精讲】(14)
  • 多道程序和多任务操作系统区别
  • 设计测试用例模板
  • 意志力的源头——AMCC(前部中扣带皮层)