本节围绕以下内容展开:
- 散列表
- 散列函数设计
- 冲突处理
- hashmap数据结构
Golang 中HashMap实现 Java 中HashMap实现 Java 中LinkedHashMap实现 Java 中TreeMap实现
散列表使用某种算法操作(散列函数)将键转化为数组的索引来访问数组中的数据,这样可以通过Key-value的方式来访问数据,达到常数级别的存取效率。现在的nosql数据库都是采用key-value的方式来访问存储数据。
散列表是算法在时间和空间上做出权衡的经典例子。通过一个散列函数,将键值key映射到记录的访问地址,达到快速查找的目的。如果没有内存限制,我们可以直接将键作为数组的索引,所有的操作操作只需要一次访问内存就可以完成。但这种情况不太现实。
- cocos2d 游戏引擎 CCScheduler
- linux 内核bcache。 缓存加速技术,使用SSD固态硬盘作为高速缓存,提高慢速存储设备HDD机械硬盘的性能
- hash表在海量数据处理中有广泛应用。如海量日志中,提取出某日访问百度次数最多的IP
- Java 中HashMap实现。编程语言中HashMap是如何实现的呢? 说说 Java , Golang
- redis hash结构, set通常也是基于Hash结构实现
散列函数就是将键转化为数组索引的过程。且这个函数应该易于计算且能够均与分布所有的键。
散列函数最常用的方法是除留余数法
。这时候被除数应该选用素数
,这样才能保证键值的均匀散布。
散列函数和键的类型有关,每种数据类型都需要相应的散列函数;比如键的类型是整数,那我们可以直接使用除留余数法
;这里特别说明下,大多数情况下,键的类型都是字符串,这个时候我们任然可以使用除留余数法
,将字符串当做一个特别大的整数。
int hash = 0;
for (int i=0;i<s.length();i++){
hash = (R*hash +s.charAt(i)%M);
}
还有,比如下面的:
Hash hashCode(char *key){
int offset = 5;
Hash hashCode = 0;
while(*key){
hashCode = (hashCode << offset) + *key++;
}
return hashCode;
}
使用时 hashCode(key) & (size-1)
就可以得到一个 size-1
范围内的hash值
当然,还有其他的散列函数,如平方取中法
, 随机数法
等。
hash 表有一个特性, 随着元素越来越多, 新插入一个元素发生hash冲突的次数就会越来越多, 查找一个元素的速度也会越来越慢。
不同的关键字得到同一个散列地址f(key1)=f(key2)
,即为碰撞 。这是我们需要尽量避免的情况。常见的处理方法有:
- 拉链法
- 线性探测法
将大小为M的数组中的每个元素指向一条链表,链表中的每个节点都存储了散列值为该元素索引的键值对。每条链表的平均长度是N/M,N是键值对的总个数。如下图:
添加操作:
- 通过hash函数得到hashCode
- 通过hashcode得到index
- 如果index处没有链表,建立好新结点,作为新链表的首结点
- 如果index处已经有链表,先要遍历看key是否已经存在,如果存在直接返回,如果不存在,加入链表头部
删除操作:
- 通过hash函数得到hashCode
- 通过hashcode得到index
- 遍历链表,删除结点
使用大小为M的数组保存N个键值对,当碰撞发生时,直接检查散列表中的下一个位置,如果发现空位置插入新元素。
查找key时,先通过 hash(key) 得到 index, 看index 处 key 是否已经存在,不存在,就向后遍历数组。
这里给出拉链法构造的hashmap的算法,表示如下:
typedef char * Key;
typedef int value;
typedef unsigned int Hash;
/*每个节点表示*/
typedef struct Entry{
Hash hash;
Key key;
Value value;
Entry *next;
}Entry;
typedef struct HashMap{
Entry **heads;
unsigned int size; /* 数组大小*/
unsigned int usage;/* 键值对的个数*/
}HashMap;
Hash hashCode(Key);
HashMap *create(unsigned int size);
HashMap *put(HashMap *,Key ,Value);
int get(HashMap *,Key);
HashMap *_putInHead(HashMap *,int index,Key,Value);
HashMap *_putInList(HashMap *,int index,Key,Value);
Hash hashCode(char *key){
int offset = 5;
Hash hashCode = 0;
while(*key){
hashCode = (hashCode << offset) + *key++;
}
return hashCode;
}
HashMap *create(unsigned int size){
HashMap *hashMap = malloc(sizeof(HashMap));
hashMap->size = size;
hashMap->usage = 0;
hashMap->heads = calloc(size,sizeof(Entry *));
return hashMap;
}
HashMap *put(HashMap *hashMap,Key key,Value value){
if (key == NULL){
return hashMap;
}
Hash hash = hashCode(key);
int index = hash & (size-1);/* */
if (hashMap->heads[index] == NULL){
_putInHead(hashMap,index,key,value);
}else{
_putInList(hashMap,index,key,value);
}
}
Value get(HashMap hashMap*,Key key){
if (key == NULL){
return hashMap;
}
Hash hash = hashCode(key);
int index = hash & (size-1);/* */
Entry *entry = hashMap->heads[index];
while(entry != NULL){
if (entry->hash == hash){
return entry->value;
}
entry = entry->next;
}
return NULL;
}
HashMap *_putInHead(HashMap *hashMap,int index,Key key,Value value){
Entry *newHead = malloc(sizeof(Entry));
newHead->hash = hash;
newHead->key = key;
newHead->value = value;
hashMap->heads[index] = newHead;
(hashMap->usage)++;
return hashMap;
}
HashMap *_putInList(HashMap *hashMap,int index,Key key,Value value){
Entry *lastEntry = hashMap->heads[index];
while(lastEntry != NULL){
if (lastEntry->hash == hash){
return hashMap;
}else{
lastEntry = lastEntry->next;
}
}
lastEntry = malloc(sizeof(Entry));
lastEntry->hash = hash;
lastEntry->key = key;
lastEntry->value = value;
lastEntry->next = hashMap->heads[index];
hashMap->heads[index] = lastEntry;
(hashMap->usage)++;
return hashMap;
}
当hash表保存的键值对数量太多或太少,对hash 表进行扩容和缩容。合理控制内存的使用。
redis hash中, rehash发生在扩容或缩容阶段,扩容是发生在元素的个数等于哈希表数组的长度时,进行2倍的扩容;缩容发生在当元素个数为数组长度的10%时,进行缩容
《Algorithms》