1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
|
<?php /** * 一致性hahs實現類
*
*/
class FlexiHash{
/** * var int
* 虛擬節點
*/
private $_replicas = 200;
/** * 使用hash方法
*/
private $_hasher = null;
/** * 真實節點計數器
*
*/
private $_targetCount = 0;
/** * 位置對應節點,使用者lookup中根據位置確定要訪問的節點
*/
private $_positionToTarget = array ();
/** * 節點對應位置,用於刪除節點
*/
private $_targetToPositions = array ();
/** * 是否已排序
*/
private $_positionToTargetSorted = false;
/** * @ $hasher hash方法
* @ $replicas 虛擬節點的個數
*
* 確定要使用的hash方法和虛擬的節點數,虛擬節點越多,分佈越均勻,但程式的分散式運算越慢
*/
public function __construct(FlexiHash_Hasher $hasher =null, $replicas = null){
// hash方法 $this ->_hasher = $hasher ? $hasher : new FlexiHash_Crc32Hasher();
// 虛擬節點的個數 if (! empty ( $replicas )){
$this ->_replicas = $replicas ;
} } /** * 增加節點,根據虛擬節點數,把節點分佈到更多的虛擬位置上
*/
public function addTarget( $target ){
if (isset( $this ->_targetToPositions[ $target ])) {
throw new FlexiHash_Exception( "Target $target already exists." );
} $this ->_targetToPositions[ $target ] = array ();
for ( $i = 0; $i < $this ->_replicas; $i ++) {
// 根據規定的方法hash $position = $this ->_hasher->hash( $target . $i );
// 虛擬節點對應的真實的節點 $this ->_positionToTarget[ $position ] = $target ;
// 真實節點包含的虛擬節點 $this ->_targetToPositions[ $target ][] = $position ;
} $this ->_positionToTargetSorted = false;
// 真實節點個數 $this ->_targetCount++;
return $this ;
} /** * 新增多個節點
*
*/
public function addTargets( $targets ){
foreach ( $targets as $target ){
$this ->addTarget( $target );
} return $this ;
} /** * 移除某個節點
*
*/
public function removeTarget( $target ){
if (!isset( $this ->_targetToPositions[ $target ])){
throw new FlexiHash_Exception( "target $target does not exist );
} foreach ( $this ->_targetToPositions[ $target ] as $position ){
unset( $this ->_positionToTarget[ $position ]);
} unset( $this ->_targetToPositions[ $target ]);
$this ->_targetCount--;
return $this ;
} /** * 獲取所有節點
*
*/
public function getAllTargets(){
return array_keys ( $this ->_targetToPositions);
} /** * 根據key查詢hash到的真實節點
*
*/
public function lookup( $resource ){
$targets = $this ->lookupList( $resource , 1);
if ( empty ( $targets )){
throw new FlexiHash_Exception( "no targets exist" );
} return $targets [0];
} /** * 查詢資源存在的節點
*
* 描述:根據要求的數量,返回與$resource雜湊後數值相等或比其大並且是最小的數值對應的節點,若不存在或數量不夠,則從虛擬節點排序後的前一個或多個
*/
public function lookupList( $resource , $requestedCount ){
if (! $requestedCount ) {
throw new FlexiHash_Exception( `Invalid count requested` );
} if ( empty ( $this ->_positionToTarget)) {
return array ();
} // 直接節點只有一個的時候 if ( $this ->_targetCount == 1 ){
return array_unique ( array_values ( $this ->_positionToTarget));
} // 獲取當前key進行hash後的值 $resourcePosition = $this ->_hasher->hash( $resource );
$results = array ();
$collect = false;
$this ->_sortPositionTargets();
// 查詢與$resourcePosition 相等或比其大並且是最小的數 foreach ( $this ->_positionToTarget as $key => $value ){
if (! $collect && $key > $resourcePosition ){
$collect = true;
} if ( $collect && !in_array( $value , $results )){
$results [] = $value ;
} // 找到$requestedCount 或個數與真實節點數量相同 if ( count ( $results ) == $requestedCount || count ( $results ) == $this ->_targetCount){
return $results ;
} } // 如數量不夠或者未查到,則從第一個開始,將$results中不存在前$requestedCount-count($results),設定為需要的節點 foreach ( $this ->_positionToTarget as $key => $value ){
if (!in_array( $value , $results )){
$results [] = $value ;
} if ( count ( $results ) == $requestedCount || count ( $results ) == $this ->_targetCount){
return $results ;
} } return $results ;
} /** * 根據虛擬節點進行排序
*/
private function _sortPositionTargets(){
if (! $this ->_positionToTargetSorted){
ksort( $this ->_positionToTarget, SORT_REGULAR);
$this ->_positionToTargetSorted = true;
} } } // end class
/** * hash方式
*/
interface FlexiHash_Hasher{
public function hash( $string );
} class FlexiHash_Crc32Hasher implements FlexiHash_Hasher{
public function hash( $string ){
return sprintf( "%u" ,crc32( $string ));
} } class FlexiHash_Md5Hasher implements FlexiHash_Hasher{
public function hash( $string ){
return substr (md5( $string ), 0, 8);
} } class FlexiHash_Exception extends Exception{
} $runData [ `BEGIN_TIME` ] = microtime(true);
$key = "lihuibin" ;
for ( $i =0; $i <10; $i ++) {
$targetsArray = array (
"127.0.0.1:11211" ,
"127.0.0.1:11212" ,
"127.0.0.1:11213" ,
"127.0.0.1:11214" ,
# "127.0.0.1:11218"
); $flexiHashObj = new FlexiHash( new FlexiHash_Crc32Hasher(),1);
$result = $flexiHashObj ->addTargets( $targetsArray );
$key = $key . "$i" ;
$targets = $flexiHashObj ->lookup( $key );
var_dump( $targets );
# $key = md5(mt_rand());
# $targets = $flexiHashObj ->lookup( $key );
#var_dump( $targets );
} echo "一致性hash:" ;
var_dump(number_format(microtime(true) - $runData [ `BEGIN_TIME` ],6));
exit ;
$runData [ `BEGIN_TIME` ] = microtime(true);
$m = new Memcache;
$m ->connect( `127.0.0.1` , 11211);
for ( $i =0; $i <10000; $i ++) {
$key = md5(mt_rand());
$b = $m ->set( $key , time(), 0, 10);
} echo "單臺機器:" ;
var_dump(number_format(microtime(true) - $runData [ `BEGIN_TIME` ],6));
?> |
phpmemcached一致性hash
本文轉自birdinroom 51CTO部落格,原文連結:http://blog.51cto.com/birdinroom/1591823,如需轉載請自行聯絡原作者
相關文章
- 強一致性hash實現java版本及強一致性hash原理Java
- PHPmemcached常用指令整理PHP
- 一致性Hash學習
- 一致性hash演算法演算法
- 深入淺出一致性Hash原理
- 【策略】一致性Hash演算法演算法
- php memcache 一致性hash入門PHP
- PHP 之一致性 hash 演算法PHP演算法
- 一致性hash演算法的理解演算法
- 一致性Hash的原理與實現
- 【策略】一致性Hash演算法(Hash環)的java程式碼實現演算法Java
- 什麼是一致性Hash演算法?演算法
- 探索c#之一致性Hash詳解C#
- 手動實現一致性 Hash 演算法演算法
- 一致性hash的c++簡單實現C++
- 10分鐘瞭解一致性hash演算法演算法
- 一致性 Hash 演算法的實際應用演算法
- 自己實現一個一致性 Hash 演算法演算法
- 五分鐘瞭解一致性hash演算法演算法
- 一致性Hash在負載均衡中的應用負載
- 一致性hash演算法的一些理解演算法
- 一致性hash演算法原理及go實現演算法Go
- 一致性 hash 演算法( consistent hashing )演算法
- 【轉】什麼是一致性hash演算法?(詳解)演算法
- 一致性hash原理 看這一篇就夠了
- 一文搞懂一致性 hash 的原理和實現
- 一文搞懂一致性hash的原理和實現
- Golang 實現 Redis(7): Redis 叢集與一致性 HashGolangRedis
- 分散式快取一致性hash演算法理解分散式快取演算法
- Java實現一致性Hash演算法深入研究Java演算法
- 給面試官講明白:一致性Hash的原理和實踐面試
- Java教程分享:五分鐘瞭解一致性hash演算法Java演算法
- 對一致性Hash演算法,Java程式碼實現的深入研究演算法Java
- hash
- 【轉載】對一致性Hash演算法,Java程式碼實現的深入研究演算法Java
- 一致性hash和solr千萬級資料分散式搜尋引擎中的應用Solr分散式
- js hashJS
- hash hacker