百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术分类 > 正文

深度解析Golang的map「一」

ztj100 2025-01-11 18:54 19 浏览 0 评论

一、拉链法

之前提到过的拉链法,哈希表原理

二、map底层数据结构

map中的数据被存放在一个数组中,数组的元素是桶(bucket),每个桶至多包含8个键值对数据。

我们先来看看存储数据的结构。


hmap.buckets的元素是一个bmap结构。直接在map.go文件中是看不到的,它是从编译步骤开始将字节分割成这些字段。

字段

解释

topbits

长度为8的数组,元素为:key获取的hash的高8位,遍历时对比使用,提高性能。

keys

长度为8的数组,[]keytype,元素为:具体的key值

elems

长度为8的数组,[]elemtype,元素为:键值对的key对应的值

overflow

指向hmap.extra.overflow溢出桶里的bmap,上面字段长度为8,最多存8组键值对,存满了就往这项的这个bmap存

在src/cmd/compile/internal/gc/reflect.go文件中,可以看到把这些字段加入到bmap结构体中。

// bmap makes the map bucket type given the type of the map.
func bmap(t *types.Type) *types.Type {
	  ...
	  field := make([]*types.Field, 0, 5)
  
	  // The first field is: uint8 topbits[BUCKETSIZE].
	  arr := types.NewArray(types.Types[TUINT8], BUCKETSIZE)
	  field = append(field, makefield("topbits", arr))
  
	  arr = types.NewArray(keytype, BUCKETSIZE)
	  arr.SetNoalg(true)
	  keys := makefield("keys", arr)
	  field = append(field, keys)
  
	  arr = types.NewArray(elemtype, BUCKETSIZE)
	  arr.SetNoalg(true)
	  elems := makefield("elems", arr)
	  field = append(field, elems)
  
	  otyp := types.NewPtr(bucket)
	  if !types.Haspointers(elemtype) && !types.Haspointers(keytype) {
	  	  otyp = types.Types[TUINTPTR]
	  }
	  overflow := makefield("overflow", otyp)
	  field = append(field, overflow)
  
	  t.MapType().Bucket = bucket
  
	  bucket.StructType().Map = t
	  return bucket
}

这个是bmap的结构图

key和value是各自存储的,虽然会使代码组织结构稍显复杂,但好处是能消除例如map[int64]int32所需要的填充(padding),使得内存对齐更加方便。

此外,在8个键值对数据后面有一个overflow指针,因为桶中最多只能装8个键值对,如果有多余的键值对落到当前桶中,那么就需要再构建一个桶(溢出桶),通过overflow指针连接起来。

三、创建map

map初始化有两种方式

make(map[k]v)
make(map[k]v,hint)

对于不指定初始化大小和初始化大小hint<=8时,会调用makemap_small函数,并直接从堆上分配。

func makemap_small() *hmap {
	  h := new(hmap)
	  h.hash0 = fastrand()
	  return h
}

当hint>8时,调用makemap函数。

如果编译器认为map或者第一个bucket可以直接在栈上创建,h或bucket可能非nil。

  • 如果h!=nil,map可以直接用h创建
  • 如果h.buckets!=nil,那么h指向的bucket可以作为map的第一个bucket使用
func makemap(t *maptype, hint int, h *hmap) *hmap {
	  // math.MulUintptr返回hint与t.bucket.size的乘积,并判断该乘积是否溢出。
	  mem, overflow := math.MulUintptr(uintptr(hint), t.bucket.size)
	  if overflow || mem > maxAlloc {
	  	  hint = 0
	  }
  
	  // initialize Hmap
	  if h == nil {
	  	  h = new(hmap)
	  }
	  // 得到哈希种子
	  h.hash0 = fastrand()
  
	  // 根据输入的元素个数hint,找到能装下这些元素的B值
	  B := uint8(0)
	  for overLoadFactor(hint, B) {
	  	  B++
	  }
	  h.B = B
  
	  // 分配初始哈希表
	  // 如果 B==0,那么buckets字段会在后续的mapassign方法中lazily分配
	  if h.B != 0 {
	  	  var nextOverflow *bmap
	  	  // makeBucketArray创建一个map的底层保存buckets的数组,至少会分配 B^2 的大小
	  	  h.buckets, nextOverflow = makeBucketArray(t, h.B, nil)
	  	  if nextOverflow != nil {
	  	  	  h.extra = new(mapextra)
	  	  	  h.extra.nextOverflow = nextOverflow
	  	  }
	  }
  
	  return h
}

分配bucket数组的makeBucketArray函数

func makeBucketArray(t *maptype, b uint8, dirtyalloc unsafe.Pointer) (buckets unsafe.Pointer, nextOverflow *bmap) {
	  base := bucketShift(b)
	  nbuckets := base
	  // 对于小的b值(小于4),即桶的数量小于16时,使用溢出桶的可能性很小,对于此情况,避免计算开销
	  if b >= 4 {
	  	  // 当桶的数量>=16时,正常情况下会额外创建2^(b-4)个溢出桶
	  	  nbuckets += bucketShift(b - 4)
	  	  sz := t.bucket.size * nbuckets
	  	  up := roundupsize(sz)
	  	  if up != sz {
	  	  	  nbuckets = up / t.bucket.size
	  	  }
	  }
  
	  // 如果为nil,会分配一个新的底层数组
	  // 如果不为nil,指向曾经分配过的底层数组,该底层数组是由之前同样的t和b参数通过makeBucketArray分配的,如果数组不为空,需要把该数组之前的数据清空并复用。
	  if dirtyalloc == nil {
	  	  buckets = newarray(t.bucket, int(nbuckets))
	  } else {
	  	  buckets = dirtyalloc
	  	  size := t.bucket.size * nbuckets
	  	  if t.bucket.ptrdata != 0 {
	  	  	  memclrHasPointers(buckets, size)
	  	  } else {
	  	  	  memclrNoHeapPointers(buckets, size)
	  	  }
	  }
  
	  // 即b>=4的情况下,会预分配一些溢出桶
	  // 为了把跟踪这些溢出桶的开销降到最低,使用了以下约定:
	  // 如果预分配的溢出桶的overflow指针为nil,那么可以通过指针碰撞(bumping the pointer)获得更多可用桶。
	  // (关于指针碰撞:假设内存是绝对规整的,所有用过的内存都放在一边,空闲的内存放在另一边,中间放着一个指针作为分界点的指示器,
	  // 那所分配内存就仅仅是把那个指针向空闲空间那边挪动一段与对象大小相等的距离,这种分配方式称为“指针碰撞”)
	  // 对于最后一个溢出桶,需要一个安全的非nil指针指向它
	  if base != nbuckets {
	  	  nextOverflow = (*bmap)(add(buckets, base*uintptr(t.bucketsize)))
	  	  last := (*bmap)(add(buckets, (nbuckets-1)*uintptr(t.bucketsize)))
	  	  // 把溢出桶的最后一个bmap的overflow指向正常桶的第一个bmap
	  	  last.setoverflow(t, (*bmap)(buckets))
	  }
	  return buckets, nextOverflow
}

根据上述代码,我们能确定在正常情况下,正常桶和溢出桶在内存中的存储空间是连续的,只是被hmap 中的不同字段引用而已。

3.1、哈希函数

func fastrand() uint32 {
	  mp := getg().m
	  s1, s0 := mp.fastrand[0], mp.fastrand[1]
	  s1 ^= s1 << 17
	  s1 = s1 ^ s0 ^ s1>>7 ^ s0>>16
	  mp.fastrand[0], mp.fastrand[1] = s0, s1
	  return s0 + s1
}

fastrand的初始化是在go编译过程中,通过调用schedinit函数初始化

func schedinit() {
	  ...
	  fastrandinit() // must run before mcommoninit
	  mcommoninit(_g_.m, -1)
	  alginit()       // maps must not be used before this call
      ...
}

四、map操作

首先,我们先理解一个key如何在map中存储。

例如,先要置一key于map中,该key经过哈希后,得到的哈希值如下:

哈希值低位(low-order bits)用于选择桶,哈希值高位(high-order bits)用于在一个独立的桶中区别出键。

当B等于5时,buckets数组的长度,即桶的数量是32(25),那么我们选择的哈希值低5位,即01010,它的二进制是10,代表10号桶。

再用哈希值的高8位,找到此key在桶中的位置。

最开始桶中没有key,那么新加入的key和value就会被放入第一个key空位和value空位上。

// tophash calculates the tophash value for hash.
func tophash(hash uintptr) uint8 {
	  top := uint8(hash >> (sys.PtrSize*8 - 8)) // sys.PtrSize=8
	  if top < minTopHash {
	  	  top += minTopHash
	  }
	  return top
}

当两个不同的key落在了同一个桶中时,这时就发生了哈希冲突。

go采用链地址法

在桶中按照顺序寻到的第一个空位记录下来,后续在该桶和它的溢出桶中如果没有发现存在该key,将该key置于第一个空位;

否则,就去该桶的溢出桶中寻找空位,

如果没有空位,不存在溢出桶,则添加溢出桶,并将其置于溢出桶的第一个空位

上面的B值为5,所以桶的数量为32。通过哈希函数计算出待插入key的哈希值,低5位哈希值为00110,对应6号桶;高8位10010111,十进制151,
由于桶中前6个已经有正常哈希值填充了(遍历),所以将151对应的高位哈希值放置在7号位上, 对应将key和value分别置于相应的第7位。

相关推荐

如何将数据仓库迁移到阿里云 AnalyticDB for PostgreSQL

阿里云AnalyticDBforPostgreSQL(以下简称ADBPG,即原HybridDBforPostgreSQL)为基于PostgreSQL内核的MPP架构的实时数据仓库服务,可以...

Python数据分析:探索性分析

写在前面如果你忘记了前面的文章,可以看看加深印象:Python数据处理...

CSP-J/S冲奖第21天:插入排序

...

C++基础语法梳理:算法丨十大排序算法(二)

本期是C++基础语法分享的第十六节,今天给大家来梳理一下十大排序算法后五个!归并排序...

C 语言的标准库有哪些

C语言的标准库并不是一个单一的实体,而是由一系列头文件(headerfiles)组成的集合。每个头文件声明了一组相关的函数、宏、类型和常量。程序员通过在代码中使用#include<...

[深度学习] ncnn安装和调用基础教程

1介绍ncnn是腾讯开发的一个为手机端极致优化的高性能神经网络前向计算框架,无第三方依赖,跨平台,但是通常都需要protobuf和opencv。ncnn目前已在腾讯多款应用中使用,如QQ,Qzon...

用rust实现经典的冒泡排序和快速排序

1.假设待排序数组如下letmutarr=[5,3,8,4,2,7,1];...

ncnn+PPYOLOv2首次结合!全网最详细代码解读来了

编辑:好困LRS【新智元导读】今天给大家安利一个宝藏仓库miemiedetection,该仓库集合了PPYOLO、PPYOLOv2、PPYOLOE三个算法pytorch实现三合一,其中的PPYOL...

C++特性使用建议

1.引用参数使用引用替代指针且所有不变的引用参数必须加上const。在C语言中,如果函数需要修改变量的值,参数必须为指针,如...

Qt4/5升级到Qt6吐血经验总结V202308

00:直观总结增加了很多轮子,同时原有模块拆分的也更细致,估计为了方便拓展个管理。把一些过度封装的东西移除了(比如同样的功能有多个函数),保证了只有一个函数执行该功能。把一些Qt5中兼容Qt4的方法废...

到底什么是C++11新特性,请看下文

C++11是一个比较大的更新,引入了很多新特性,以下是对这些特性的详细解释,帮助您快速理解C++11的内容1.自动类型推导(auto和decltype)...

掌握C++11这些特性,代码简洁性、安全性和性能轻松跃升!

C++11(又称C++0x)是C++编程语言的一次重大更新,引入了许多新特性,显著提升了代码简洁性、安全性和性能。以下是主要特性的分类介绍及示例:一、核心语言特性1.自动类型推导(auto)编译器自...

经典算法——凸包算法

凸包算法(ConvexHull)一、概念与问题描述凸包是指在平面上给定一组点,找到包含这些点的最小面积或最小周长的凸多边形。这个多边形没有任何内凹部分,即从一个多边形内的任意一点画一条线到多边形边界...

一起学习c++11——c++11中的新增的容器

c++11新增的容器1:array当时的初衷是希望提供一个在栈上分配的,定长数组,而且可以使用stl中的模板算法。array的用法如下:#include<string>#includ...

C++ 编程中的一些最佳实践

1.遵循代码简洁原则尽量避免冗余代码,通过模块化设计、清晰的命名和良好的结构,让代码更易于阅读和维护...

取消回复欢迎 发表评论: