百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术分类 > 正文

深度解析Golang的map「一」

ztj100 2025-01-11 18:54 27 浏览 0 评论

一、拉链法

之前提到过的拉链法,哈希表原理

二、map底层数据结构

map中的数据被存放在一个数组中,数组的元素是桶(bucket),每个桶至多包含8个键值对数据。

我们先来看看存储数据的结构。


hmap.buckets的元素是一个bmap结构。直接在map.go文件中是看不到的,它是从编译步骤开始将字节分割成这些字段。

字段

解释

topbits

长度为8的数组,元素为:key获取的hash的高8位,遍历时对比使用,提高性能。

keys

长度为8的数组,[]keytype,元素为:具体的key值

elems

长度为8的数组,[]elemtype,元素为:键值对的key对应的值

overflow

指向hmap.extra.overflow溢出桶里的bmap,上面字段长度为8,最多存8组键值对,存满了就往这项的这个bmap存

在src/cmd/compile/internal/gc/reflect.go文件中,可以看到把这些字段加入到bmap结构体中。

// bmap makes the map bucket type given the type of the map.
func bmap(t *types.Type) *types.Type {
	  ...
	  field := make([]*types.Field, 0, 5)
  
	  // The first field is: uint8 topbits[BUCKETSIZE].
	  arr := types.NewArray(types.Types[TUINT8], BUCKETSIZE)
	  field = append(field, makefield("topbits", arr))
  
	  arr = types.NewArray(keytype, BUCKETSIZE)
	  arr.SetNoalg(true)
	  keys := makefield("keys", arr)
	  field = append(field, keys)
  
	  arr = types.NewArray(elemtype, BUCKETSIZE)
	  arr.SetNoalg(true)
	  elems := makefield("elems", arr)
	  field = append(field, elems)
  
	  otyp := types.NewPtr(bucket)
	  if !types.Haspointers(elemtype) && !types.Haspointers(keytype) {
	  	  otyp = types.Types[TUINTPTR]
	  }
	  overflow := makefield("overflow", otyp)
	  field = append(field, overflow)
  
	  t.MapType().Bucket = bucket
  
	  bucket.StructType().Map = t
	  return bucket
}

这个是bmap的结构图

key和value是各自存储的,虽然会使代码组织结构稍显复杂,但好处是能消除例如map[int64]int32所需要的填充(padding),使得内存对齐更加方便。

此外,在8个键值对数据后面有一个overflow指针,因为桶中最多只能装8个键值对,如果有多余的键值对落到当前桶中,那么就需要再构建一个桶(溢出桶),通过overflow指针连接起来。

三、创建map

map初始化有两种方式

make(map[k]v)
make(map[k]v,hint)

对于不指定初始化大小和初始化大小hint<=8时,会调用makemap_small函数,并直接从堆上分配。

func makemap_small() *hmap {
	  h := new(hmap)
	  h.hash0 = fastrand()
	  return h
}

当hint>8时,调用makemap函数。

如果编译器认为map或者第一个bucket可以直接在栈上创建,h或bucket可能非nil。

  • 如果h!=nil,map可以直接用h创建
  • 如果h.buckets!=nil,那么h指向的bucket可以作为map的第一个bucket使用
func makemap(t *maptype, hint int, h *hmap) *hmap {
	  // math.MulUintptr返回hint与t.bucket.size的乘积,并判断该乘积是否溢出。
	  mem, overflow := math.MulUintptr(uintptr(hint), t.bucket.size)
	  if overflow || mem > maxAlloc {
	  	  hint = 0
	  }
  
	  // initialize Hmap
	  if h == nil {
	  	  h = new(hmap)
	  }
	  // 得到哈希种子
	  h.hash0 = fastrand()
  
	  // 根据输入的元素个数hint,找到能装下这些元素的B值
	  B := uint8(0)
	  for overLoadFactor(hint, B) {
	  	  B++
	  }
	  h.B = B
  
	  // 分配初始哈希表
	  // 如果 B==0,那么buckets字段会在后续的mapassign方法中lazily分配
	  if h.B != 0 {
	  	  var nextOverflow *bmap
	  	  // makeBucketArray创建一个map的底层保存buckets的数组,至少会分配 B^2 的大小
	  	  h.buckets, nextOverflow = makeBucketArray(t, h.B, nil)
	  	  if nextOverflow != nil {
	  	  	  h.extra = new(mapextra)
	  	  	  h.extra.nextOverflow = nextOverflow
	  	  }
	  }
  
	  return h
}

分配bucket数组的makeBucketArray函数

func makeBucketArray(t *maptype, b uint8, dirtyalloc unsafe.Pointer) (buckets unsafe.Pointer, nextOverflow *bmap) {
	  base := bucketShift(b)
	  nbuckets := base
	  // 对于小的b值(小于4),即桶的数量小于16时,使用溢出桶的可能性很小,对于此情况,避免计算开销
	  if b >= 4 {
	  	  // 当桶的数量>=16时,正常情况下会额外创建2^(b-4)个溢出桶
	  	  nbuckets += bucketShift(b - 4)
	  	  sz := t.bucket.size * nbuckets
	  	  up := roundupsize(sz)
	  	  if up != sz {
	  	  	  nbuckets = up / t.bucket.size
	  	  }
	  }
  
	  // 如果为nil,会分配一个新的底层数组
	  // 如果不为nil,指向曾经分配过的底层数组,该底层数组是由之前同样的t和b参数通过makeBucketArray分配的,如果数组不为空,需要把该数组之前的数据清空并复用。
	  if dirtyalloc == nil {
	  	  buckets = newarray(t.bucket, int(nbuckets))
	  } else {
	  	  buckets = dirtyalloc
	  	  size := t.bucket.size * nbuckets
	  	  if t.bucket.ptrdata != 0 {
	  	  	  memclrHasPointers(buckets, size)
	  	  } else {
	  	  	  memclrNoHeapPointers(buckets, size)
	  	  }
	  }
  
	  // 即b>=4的情况下,会预分配一些溢出桶
	  // 为了把跟踪这些溢出桶的开销降到最低,使用了以下约定:
	  // 如果预分配的溢出桶的overflow指针为nil,那么可以通过指针碰撞(bumping the pointer)获得更多可用桶。
	  // (关于指针碰撞:假设内存是绝对规整的,所有用过的内存都放在一边,空闲的内存放在另一边,中间放着一个指针作为分界点的指示器,
	  // 那所分配内存就仅仅是把那个指针向空闲空间那边挪动一段与对象大小相等的距离,这种分配方式称为“指针碰撞”)
	  // 对于最后一个溢出桶,需要一个安全的非nil指针指向它
	  if base != nbuckets {
	  	  nextOverflow = (*bmap)(add(buckets, base*uintptr(t.bucketsize)))
	  	  last := (*bmap)(add(buckets, (nbuckets-1)*uintptr(t.bucketsize)))
	  	  // 把溢出桶的最后一个bmap的overflow指向正常桶的第一个bmap
	  	  last.setoverflow(t, (*bmap)(buckets))
	  }
	  return buckets, nextOverflow
}

根据上述代码,我们能确定在正常情况下,正常桶和溢出桶在内存中的存储空间是连续的,只是被hmap 中的不同字段引用而已。

3.1、哈希函数

func fastrand() uint32 {
	  mp := getg().m
	  s1, s0 := mp.fastrand[0], mp.fastrand[1]
	  s1 ^= s1 << 17
	  s1 = s1 ^ s0 ^ s1>>7 ^ s0>>16
	  mp.fastrand[0], mp.fastrand[1] = s0, s1
	  return s0 + s1
}

fastrand的初始化是在go编译过程中,通过调用schedinit函数初始化

func schedinit() {
	  ...
	  fastrandinit() // must run before mcommoninit
	  mcommoninit(_g_.m, -1)
	  alginit()       // maps must not be used before this call
      ...
}

四、map操作

首先,我们先理解一个key如何在map中存储。

例如,先要置一key于map中,该key经过哈希后,得到的哈希值如下:

哈希值低位(low-order bits)用于选择桶,哈希值高位(high-order bits)用于在一个独立的桶中区别出键。

当B等于5时,buckets数组的长度,即桶的数量是32(25),那么我们选择的哈希值低5位,即01010,它的二进制是10,代表10号桶。

再用哈希值的高8位,找到此key在桶中的位置。

最开始桶中没有key,那么新加入的key和value就会被放入第一个key空位和value空位上。

// tophash calculates the tophash value for hash.
func tophash(hash uintptr) uint8 {
	  top := uint8(hash >> (sys.PtrSize*8 - 8)) // sys.PtrSize=8
	  if top < minTopHash {
	  	  top += minTopHash
	  }
	  return top
}

当两个不同的key落在了同一个桶中时,这时就发生了哈希冲突。

go采用链地址法

在桶中按照顺序寻到的第一个空位记录下来,后续在该桶和它的溢出桶中如果没有发现存在该key,将该key置于第一个空位;

否则,就去该桶的溢出桶中寻找空位,

如果没有空位,不存在溢出桶,则添加溢出桶,并将其置于溢出桶的第一个空位

上面的B值为5,所以桶的数量为32。通过哈希函数计算出待插入key的哈希值,低5位哈希值为00110,对应6号桶;高8位10010111,十进制151,
由于桶中前6个已经有正常哈希值填充了(遍历),所以将151对应的高位哈希值放置在7号位上, 对应将key和value分别置于相应的第7位。

相关推荐

其实TensorFlow真的很水无非就这30篇熬夜练

好的!以下是TensorFlow需要掌握的核心内容,用列表形式呈现,简洁清晰(含表情符号,<300字):1.基础概念与环境TensorFlow架构(计算图、会话->EagerE...

交叉验证和超参数调整:如何优化你的机器学习模型

准确预测Fitbit的睡眠得分在本文的前两部分中,我获取了Fitbit的睡眠数据并对其进行预处理,将这些数据分为训练集、验证集和测试集,除此之外,我还训练了三种不同的机器学习模型并比较了它们的性能。在...

机器学习交叉验证全指南:原理、类型与实战技巧

机器学习模型常常需要大量数据,但它们如何与实时新数据协同工作也同样关键。交叉验证是一种通过将数据集分成若干部分、在部分数据上训练模型、在其余数据上测试模型的方法,用来检验模型的表现。这有助于发现过拟合...

深度学习中的类别激活热图可视化

作者:ValentinaAlto编译:ronghuaiyang导读使用Keras实现图像分类中的激活热图的可视化,帮助更有针对性...

超强,必会的机器学习评估指标

大侠幸会,在下全网同名[算法金]0基础转AI上岸,多个算法赛Top[日更万日,让更多人享受智能乐趣]构建机器学习模型的关键步骤是检查其性能,这是通过使用验证指标来完成的。选择正确的验证指...

机器学习入门教程-第六课:监督学习与非监督学习

1.回顾与引入上节课我们谈到了机器学习的一些实战技巧,比如如何处理数据、选择模型以及调整参数。今天,我们将更深入地探讨机器学习的两大类:监督学习和非监督学习。2.监督学习监督学习就像是有老师的教学...

Python教程(三十八):机器学习基础

...

Python 模型部署不用愁!容器化实战,5 分钟搞定环境配置

你是不是也遇到过这种糟心事:花了好几天训练出的Python模型,在自己电脑上跑得顺顺当当,一放到服务器就各种报错。要么是Python版本不对,要么是依赖库冲突,折腾半天还是用不了。别再喊“我...

超全面讲透一个算法模型,高斯核!!

...

神经网络与传统统计方法的简单对比

传统的统计方法如...

AI 基础知识从0.1到0.2——用“房价预测”入门机器学习全流程

...

自回归滞后模型进行多变量时间序列预测

下图显示了关于不同类型葡萄酒销量的月度多元时间序列。每种葡萄酒类型都是时间序列中的一个变量。假设要预测其中一个变量。比如,sparklingwine。如何建立一个模型来进行预测呢?一种常见的方...

苹果AI策略:慢哲学——科技行业的“长期主义”试金石

苹果AI策略的深度原创分析,结合技术伦理、商业逻辑与行业博弈,揭示其“慢哲学”背后的战略智慧:一、反常之举:AI狂潮中的“逆行者”当科技巨头深陷AI军备竞赛,苹果的克制显得格格不入:功能延期:App...

时间序列预测全攻略,6大模型代码实操

如果你对数据分析感兴趣,希望学习更多的方法论,希望听听经验分享,欢迎移步宝藏公众号...

AI 基础知识从 0.4 到 0.5—— 计算机视觉之光 CNN

...

取消回复欢迎 发表评论: