请选择 进入手机版 | 继续访问电脑版

Redis中国用户组(CRUG)论坛

 找回密码
 立即注册

QQ登录

只需一步,快速开始

扫一扫,访问微社区

搜索
热搜: 活动 交友 discuz
查看: 2103|回复: 0

Redis源码分析(三十六)--- Redis中的11大优秀设计

[复制链接]
  • TA的每日心情
    开心
    2017-8-30 15:46
  • 签到天数: 94 天

    [LV.6]常住居民II

    371

    主题

    481

    帖子

    3827

    积分

    管理员

    Rank: 9Rank: 9Rank: 9

    积分
    3827

    最佳新人活跃会员宣传达人突出贡献优秀版主荣誉管理论坛元老

    发表于 2016-4-19 09:46:10 | 显示全部楼层 |阅读模式

    坚持了一个月左右的时间,从最开始的对Redis的代码做分类,从struct结构体分析开始,到最后分析main主程序结束,中间,各大模块的代码逐个击破,学习,总之,收获了非常多,好久没有这么久的耐心把一个框架学透,学习一个框架,会用那只是小小的一部分,能把背后的原理吃透才是真功夫。在这个学习的最后阶段,是时候要来点干货了,我把这1个多月来的一些总结的一些比较好的代码,和设计思想总结出来了,原本想凑成10大精彩设计的,可后来感觉每个点都挺精彩的,还是做成了11大优秀设计,包证让你打开研究,这里无关语言,重在一种编程的思想和设计,希望大家能好好领会。(下面的排序无关紧要,我只是按照时间顺序下来。后面的链接为我写的相关文章,如果想具体了解,请点击请入)

            1.hyperloglog基量统计算法的实现(http://blog.csdn.net/androidlushangderen/article/details/40683763)。说到这个,比较搞笑的一点是,我刚刚开始竟然以为是某种类型的日志,和slowLog一样,后来才明白,这是一种基量统计算法,类似的算法还有LLC,HLLC是他的升级版本。

             2.zmalloc内存分配的重新实现(http://blog.csdn.net/androidlushangderen/article/details/40659331)。Redis的作者在内存分配上显然是早有准备,不会傻傻的还是调用系统的mallo和free方法,人家在这里做了一个小小的封装,便于管理者更方便的控制系统的内存,下面是一个小小的结构体的声明,看到这个大家估计会明白。

    1. /* 调用zmalloc申请size个大小的空间 */  
    2. void *zmalloc(size_t size) {  
    3.     //实际调用的还是malloc函数  
    4.     void *ptr = malloc(size+PREFIX_SIZE);  
    5.       
    6.     //如果申请的结果为null,说明发生了oom,调用oom的处理方法  
    7.     if (!ptr) zmalloc_oom_handler(size);  
    8. #ifdef HAVE_MALLOC_SIZE  
    9.     //更新used_memory的大小  
    10.     update_zmalloc_stat_alloc(zmalloc_size(ptr));  
    11.     return ptr;  
    12. #else  
    13.     *((size_t*)ptr) = size;  
    14.     update_zmalloc_stat_alloc(size+PREFIX_SIZE);  
    15.     return (char*)ptr+PREFIX_SIZE;  
    16. #endif  
    17. }  
    复制代码

                3.multi事务操作(http://blog.csdn.net/androidlushangderen/article/details/40392209)。Redis中的事务操作给我一种焕然一新的感觉,作者在做此设计的时候,用到了key,和watch key的概念,一个key维护了一个所有watch他的所有Client列表,一个Client自身也拥有一个他所监视的所有key,如果一个key被touch了,所有同样见识此key的客户端的下一步操作统统失效,具体怎么实现,请猛点后面的链接。

                4.redis-benchmark性能测试(http://blog.csdn.net/androidlushangderen/article/details/40211907)。Redis在这里出现了一个性能统计的概念,比较高大上的感觉,与调用了很多latency延时类的方法,就是判断延时的情况来看性能的好坏的。

             5.zipmap压缩结构的设计(http://blog.csdn.net/androidlushangderen/article/details/39994599)。Redis在内存处理上可谓是想尽了办法,ziplist压缩列表和zipmap压缩图就是非常典型的设计。与往常的结构体内直接放一个int64类型的整形变量,这样就占了8个字节,但是一般情况下,我们保存的数值都比较小,1个字节差不多就够了,所有就浪费了7个字节,所以zip压缩系列结构体,就可以动态分配字节应对不同的情况,这个设计非常精彩,要确定这个key-value 的位置,通过前面保留的长度做偏移量的定位。

            6.sparkline微线图的重新设计(http://blog.csdn.net/androidlushangderen/article/details/39964591)。Redis的sparkline的出现应该又是帮我扫盲了,人家可以用字符串的形式输出一张类似折线图的表,利用了采集的很多歌Sample的样本点,这个类多用于分析统计中出现,比如latency.c延时分析类中用到了。

           7.对象引用计数实现内存管理(http://blog.csdn.net/androidlushangderen/article/details/40716469)。我们知道管理对象的生命周期一般有2种方法,1个是根搜索法(JVM中用的就是这个),另一个就是引用计数法,而Redis就给我们对此方法的实现,下面是对象增引用和减少引用的实现:

    1. /* robj对象增减引用计数,递增robj中的refcount的值 */  
    2. void incrRefCount(robj *o) {  
    3.     //递增robj中的refcount的值  
    4.     o->refcount++;  
    5. }  
    复制代码
    1. /* 递减robj中的引用计数,引用到0后,释放对象 */  
    2. void decrRefCount(robj *o) {  
    3.     //如果之前的引用计数已经<=0了,说明出现异常情况了  
    4.     if (o->refcount <= 0) redisPanic("decrRefCount against refcount <= 0");  
    5.     if (o->refcount == 1) {  
    6.         //如果之前的引用计数为1,再递减一次,恰好内有被任何对象引用了,所以就可以释放对象了  
    7.         switch(o->type) {  
    8.         case REDIS_STRING: freeStringObject(o); break;  
    9.         case REDIS_LIST: freeListObject(o); break;  
    10.         case REDIS_SET: freeSetObject(o); break;  
    11.         case REDIS_ZSET: freeZsetObject(o); break;  
    12.         case REDIS_HASH: freeHashObject(o); break;  
    13.         default: redisPanic("Unknown object type"); break;  
    14.         }  
    15.         zfree(o);  
    16.     } else {  
    17.         //其他对于>1的引用计数的情况,只需要按常规的递减引用计数即可  
    18.         o->refcount--;  
    19.     }  
    20. }  
    复制代码

    减少引用的方法实现是重点。

           8.fork子进程实现后台程序(http://blog.csdn.net/androidlushangderen/article/details/40266579)。fork创建子线程实现后台程序的操作,我还是第一次见能这么用的,以前完全不知道fork能怎么使用的,这次真的是涨知识了。里面关键的一点是fork方法在子线程和父线程中的返回值不同做处理,父线程返回子线程的PID号,在子线程中返回的是0.

    1. /* 后台进行rbd保存操作 */  
    2. int rdbSaveBackground(char *filename) {  
    3.     pid_t childpid;  
    4.     long long start;  
    5.   
    6.     if (server.rdb_child_pid != -1) return REDIS_ERR;  
    7.   
    8.     server.dirty_before_bgsave = server.dirty;  
    9.     server.lastbgsave_try = time(NULL);  
    10.   
    11.     start = ustime();  
    12.     //利用fork()创建子进程用来实现rdb的保存操作  
    13.     //此时有2个进程在执行这段函数的代码,在子进行程返回的pid为0,  
    14.     //所以会执行下面的代码,在父进程中返回的代码为孩子的pid,不为0,所以执行else分支的代码  
    15.     //在父进程中放返回-1代表创建子进程失败  
    16.     if ((childpid = fork()) == 0) {  
    17.         //在这个if判断的代码就是在子线程中后执行的操作  
    18.         int retval;  
    19.   
    20.         /* Child */  
    21.         closeListeningSockets(0);  
    22.         redisSetProcTitle("redis-rdb-bgsave");  
    23.         //这个就是刚刚说的rdbSave()操作  
    24.         retval = rdbSave(filename);  
    25.         if (retval == REDIS_OK) {  
    26.             size_t private_dirty = zmalloc_get_private_dirty();  
    27.   
    28.             if (private_dirty) {  
    29.                 redisLog(REDIS_NOTICE,  
    30.                     "RDB: %zu MB of memory used by copy-on-write",  
    31.                     private_dirty/(1024*1024));  
    32.             }  
    33.         }  
    34.         exitFromChild((retval == REDIS_OK) ? 0 : 1);  
    35.     } else {  
    36.         //执行父线程的后续操作  
    37.         /* Parent */  
    38.         server.stat_fork_time = ustime()-start;  
    39.         server.stat_fork_rate = (double) zmalloc_used_memory() * 1000000 / server.stat_fork_time / (1024*1024*1024); /* GB per second. */  
    40.         latencyAddSampleIfNeeded("fork",server.stat_fork_time/1000);  
    41.         if (childpid == -1) {  
    42.             server.lastbgsave_status = REDIS_ERR;  
    43.             redisLog(REDIS_WARNING,"Can't save in background: fork: %s",  
    44.                 strerror(errno));  
    45.             return REDIS_ERR;  
    46.         }  
    47.         redisLog(REDIS_NOTICE,"Background saving started by pid %d",childpid);  
    48.         server.rdb_save_time_start = time(NULL);  
    49.         server.rdb_child_pid = childpid;  
    50.         updateDictResizePolicy();  
    51.         return REDIS_OK;  
    52.     }  
    53.     return REDIS_OK; /* unreached */  
    54. }  
    复制代码

              9.long long 类型转为String类型方法(http://blog.csdn.net/androidlushangderen/article/details/40649623)。以前做过很多字符串转数值和数值转字符串的算法实现,也许你的功能是实现了,但是效率呢,但面对的是非常长的long long类型的数字时,效率可能会更低。Redis在这里给我们提供了一个很好的思路,平时我们/10的计算,再%1o求余数,人家直接来了个/100的,然后直接通过字符串数组和余数值直接的映射,进行计算。算法如下;
    1. /* Convert a long long into a string. Returns the number of
    2. * characters needed to represent the number.
    3. * If the buffer is not big enough to store the string, 0 is returned.
    4. *
    5. * Based on the following article (that apparently does not provide a
    6. * novel approach but only publicizes an already used technique):
    7. *
    8. * https://www.facebook.com/notes/facebook-engineering/three-optimization-tips-for-c/10151361643253920
    9. *
    10. * Modified in order to handle signed integers since the original code was
    11. * designed for unsigned integers. */  
    12. /* long long类型转化为string类型 */  
    13. int ll2string(char* dst, size_t dstlen, long long svalue) {  
    14.     static const char digits[201] =  
    15.         "0001020304050607080910111213141516171819"  
    16.         "2021222324252627282930313233343536373839"  
    17.         "4041424344454647484950515253545556575859"  
    18.         "6061626364656667686970717273747576777879"  
    19.         "8081828384858687888990919293949596979899";  
    20.     int negative;  
    21.     unsigned long long value;  
    22.   
    23.     /* The main loop works with 64bit unsigned integers for simplicity, so
    24.      * we convert the number here and remember if it is negative. */  
    25.     /* 在这里做正负号的判断处理 */  
    26.     if (svalue < 0) {  
    27.         if (svalue != LLONG_MIN) {  
    28.             value = -svalue;  
    29.         } else {  
    30.             value = ((unsigned long long) LLONG_MAX)+1;  
    31.         }  
    32.         negative = 1;  
    33.     } else {  
    34.         value = svalue;  
    35.         negative = 0;  
    36.     }  
    37.   
    38.     /* Check length. */  
    39.     uint32_t const length = digits10(value)+negative;  
    40.     if (length >= dstlen) return 0;  
    41.   
    42.     /* Null term. */  
    43.     uint32_t next = length;  
    44.     dst[next] = '\0';  
    45.     next--;  
    46.     while (value >= 100) {  
    47.         //做值的换算  
    48.         int const i = (value % 100) * 2;  
    49.         value /= 100;  
    50.         //i所代表的余数值用digits字符数组中的对应数字代替了  
    51.         dst[next] = digits[i + 1];  
    52.         dst[next - 1] = digits[i];  
    53.         next -= 2;  
    54.     }  
    55.   
    56.     /* Handle last 1-2 digits. */  
    57.     if (value < 10) {  
    58.         dst[next] = '0' + (uint32_t) value;  
    59.     } else {  
    60.         int i = (uint32_t) value * 2;  
    61.         dst[next] = digits[i + 1];  
    62.         dst[next - 1] = digits[i];  
    63.     }  
    64.   
    65.     /* Add sign. */  
    66.     if (negative) dst[0] = '-';  
    67.     return length;  
    68. }  
    复制代码

             10.正则表达式的实现算法(http://blog.csdn.net/androidlushangderen/article/details/40649623)。正则表达式在我们平时用的可是非常多的,可有多少知道,正则表达式是如何实现通过简单的模式进程匹配,背后的原理实现到底怎么样呢,为什么?就可以代表任何一个字符接着往后匹配,*代表的是所有字符,要实现这样一个算法,也不是那么容易的哦,Redis就实现了这么一个算法,算是捡到宝了吧。
    1. /* Glob-style pattern matching. */  
    2. /*支持glob-style的通配符格式,如*表示任意一个或多个字符,?表示任意字符,[abc]表示方括号中任意一个字母。*/  
    3. int stringmatchlen(const char *pattern, int patternLen,  
    4.         const char *string, int stringLen, int nocase)  
    5. {  
    6.     while(patternLen) {  
    7.         switch(pattern[0]) {  
    8.         case '*':  
    9.             while (pattern[1] == '*') {  
    10.                 //如果出现的是**,说明一定匹配  
    11.                 pattern++;  
    12.                 patternLen--;  
    13.             }  
    14.             if (patternLen == 1)  
    15.                 return 1; /* match */  
    16.             while(stringLen) {  
    17.                 if (stringmatchlen(pattern+1, patternLen-1,  
    18.                             string, stringLen, nocase))  
    19.                     return 1; /* match */  
    20.                 string++;  
    21.                 stringLen--;  
    22.             }  
    23.             return 0; /* no match */  
    24.             break;  
    25.         case '?':  
    26.             if (stringLen == 0)  
    27.                 return 0; /* no match */  
    28.             /* 因为?能代表任何字符,所以,匹配的字符再往后挪一个字符 */  
    29.             string++;  
    30.             stringLen--;  
    31.             break;  
    32.         case '[':  
    33.         {  
    34.             int not, match;  
    35.   
    36.             pattern++;  
    37.             patternLen--;  
    38.             not = pattern[0] == '^';  
    39.             if (not) {  
    40.                 pattern++;  
    41.                 patternLen--;  
    42.             }  
    43.             match = 0;  
    44.             while(1) {  
    45.                 if (pattern[0] == '\\') {  
    46.                     //如果遇到转义符,则模式字符往后移一个位置  
    47.                     pattern++;  
    48.                     patternLen--;  
    49.                     if (pattern[0] == string[0])  
    50.                         match = 1;  
    51.                 } else if (pattern[0] == ']') {  
    52.                     //直到遇到另外一个我中括号,则停止  
    53.                     break;  
    54.                 } else if (patternLen == 0) {  
    55.                     pattern--;  
    56.                     patternLen++;  
    57.                     break;  
    58.                 } else if (pattern[1] == '-' && patternLen >= 3) {  
    59.                     int start = pattern[0];  
    60.                     int end = pattern[2];  
    61.                     int c = string[0];  
    62.                     if (start > end) {  
    63.                         int t = start;  
    64.                         start = end;  
    65.                         end = t;  
    66.                     }  
    67.                     if (nocase) {  
    68.                         start = tolower(start);  
    69.                         end = tolower(end);  
    70.                         c = tolower(c);  
    71.                     }  
    72.                     pattern += 2;  
    73.                     patternLen -= 2;  
    74.                     if (c >= start && c <= end)  
    75.                         match = 1;  
    76.                 } else {  
    77.                     if (!nocase) {  
    78.                         if (pattern[0] == string[0])  
    79.                             match = 1;  
    80.                     } else {  
    81.                         if (tolower((int)pattern[0]) == tolower((int)string[0]))  
    82.                             match = 1;  
    83.                     }  
    84.                 }  
    85.                 pattern++;  
    86.                 patternLen--;  
    87.             }  
    88.             if (not)  
    89.                 match = !match;  
    90.             if (!match)  
    91.                 return 0; /* no match */  
    92.             string++;  
    93.             stringLen--;  
    94.             break;  
    95.         }  
    96.         case '\\':  
    97.             if (patternLen >= 2) {  
    98.                 pattern++;  
    99.                 patternLen--;  
    100.             }  
    101.             /* fall through */  
    102.         default:  
    103.             /* 如果没有正则表达式的关键字符,则直接比较 */  
    104.             if (!nocase) {  
    105.                 if (pattern[0] != string[0])  
    106.                     //不相等,直接不匹配  
    107.                     return 0; /* no match */  
    108.             } else {  
    109.                 if (tolower((int)pattern[0]) != tolower((int)string[0]))  
    110.                     return 0; /* no match */  
    111.             }  
    112.             string++;  
    113.             stringLen--;  
    114.             break;  
    115.         }  
    116.         pattern++;  
    117.         patternLen--;  
    118.         if (stringLen == 0) {  
    119.             while(*pattern == '*') {  
    120.                 pattern++;  
    121.                 patternLen--;  
    122.             }  
    123.             break;  
    124.         }  
    125.     }  
    126.     if (patternLen == 0 && stringLen == 0)  
    127.         //如果匹配字符和模式字符匹配的长度都减少到0了,说明匹配成功了  
    128.         return 1;  
    129.     return 0;  
    130. }  
    复制代码

             11.Redis的drand48()随机算法重实现(http://blog.csdn.net/androidlushangderen/article/details/40582189)。Redis随机算法的实现作为11大设计的最后一个,并不是说这个设计相比前面有多么的烂,因为我觉得比较有特点,我就追加了一个上去。由于Redis的作者考虑到随机算法的在不同的操作系统可能会表现出不同的特性,所以不建议采用math.rand()方法,而是基于drand48()的算法重新实现了一个。具体什么叫drand48().请猛点链接处。

           好了,以上就是我印象中的Redis中比较优秀的设计。其实在Redis的很多还有很多优秀代码的痕迹,由于篇幅有限,等待着读者自己去学习,发现。


    转自:http://blog.csdn.net/androidlushangderen/article/details/40918317

    上一篇:Redis源码分析(三十五)--- redis.c服务端的实现分析(2)

    下一篇:全完结




    您需要登录后才可以回帖 登录 | 立即注册

    本版积分规则

    阿里云
    阿里云

    Archiver|手机版|小黑屋|Redis中国用户组 ( 京ICP备15003959号

    GMT+8, 2017-9-21 20:26 , Processed in 0.114326 second(s), 33 queries .

    Powered by Discuz! X3.2

    © 2001-2013 Comsenz Inc.

    快速回复 返回顶部 返回列表