《Redis设计与实现》

编辑推荐

内容简介

　　《Redis设计与实现》对Redis的大多数单机功能以及所有多机功能的实现原理进行了介绍，展示了这些功能的核心数据结构以及关键的算法思想。通过阅读《Redis设计与实现》，读者可以快速、有效地了解Redis的内部构造以及运作机制，这些知识可以帮助读者更好、更高效地使用Redis。《Redis设计与实现》主要分为四大部分。第一部分“数据结构与对象”介绍了Redis中的各种对象及其数据结构，并说明这些数据结构如何影响对象的功能和性能。第二部分“单机数据库的实现”对Redis实现单机数据库的方法进行了介绍，包括数据库、RDB持久化、AOF持久化、事件等。第三部分“多机数据库的实现”对Redis的Sentinel、复制（replication）、集群（cluster）三个多机功能进行了介绍。第四部分“独立功能的实现”对Redis中各个相对独立的功能模块进行了介绍，涉及发布与订阅、事务、Lua脚本、排序、二进制位数组、慢查询日志、监视器等。

作者简介

　　黄健宏，软件开发者，他喜欢函数式编程，热爱开源软件。出于对数据库的强烈兴趣，他开始阅读和分析Redis源代码，并对Redis2.6和Redis3.0的源代码进行了详细注释。他翻译并维护着Redis中文文档网站www.RedisDoc.com，编写了OORedis库。除此之外，他还是《RedisinAction》一书的译者。

精彩书评

目录

前言
致谢
第1章引言1
1.1Redis版本说明1
1.2章节编排1
1.3推荐的阅读方法4
1.4行文规则4
1.5配套网站5

第一部分·数据结构与对象
第2章简单动态字符串8
2.1SDS的定义9
2.2SDS与C字符串的区别10
2.3SDSAPI17
2.4重点回顾18
2.5参考资料18
第3章链表19
3.1链表和链表节点的实现20
3.2链表和链表节点的API21
3.3重点回顾22
第4章字典23
4.1字典的实现24
4.2哈希算法27
4.3解决键冲突28
4.4rehash29
4.5渐进式rehash32
4.6字典API36
4.7重点回顾37
第5章跳跃表38
5.1跳跃表的实现39
5.2跳跃表API44
5.3重点回顾45
第6章整数集合46
6.1整数集合的实现46
6.2升级48
6.3升级的好处50
6.4降级51
6.5整数集合API51
6.6重点回顾51
第7章压缩列表52
7.1压缩列表的构成52
7.2压缩列表节点的构成54
7.3连锁更新57
7.4压缩列表API59
7.5重点回顾59
第8章对象60
8.1对象的类型与编码60
8.2字符串对象64
8.3列表对象68
8.4哈希对象71
8.5集合对象75
8.6有序集合对象77
8.7类型检查与命令多态81
8.8内存回收84
8.9对象共享85
8.10对象的空转时长87
8.11重点回顾88

第二部分·单机数据库的实现
第9章数据库90
9.1服务器中的数据库90
9.2切换数据库91
9.3数据库键空间93
9.4设置键的生存时间或过期时间99
9.5过期键删除策略107
9.6Redis的过期键删除策略108
9.7AOF、RDB和复制功能对过期键的处理111
9.8数据库通知113
9.9重点回顾117
第10章RDB持久化118
10.1RDB文件的创建与载入119
10.2自动间隔性保存121
10.3RDB文件结构125
10.4分析RDB文件133
10.5重点回顾137
10.6参考资料137
第11章AOF持久化138
11.1AOF持久化的实现139
11.2AOF文件的载入与数据还原142
11.3AOF重写143
11.4重点回顾150
第12章事件151
12.1文件事件151
12.2时间事件156
12.3事件的调度与执行159
12.4重点回顾161
12.5参考资料161
第13章客户端162
13.1客户端属性163
13.2客户端的创建与关闭172
13.3重点回顾174
第14章服务器176
14.1命令请求的执行过程176
14.2serverCron函数184
14.3初始化服务器192
14.4重点回顾196

第三部分·多机数据库的实现
第15章复制198
15.1旧版复制功能的实现199
15.2旧版复制功能的缺陷201
15.3新版复制功能的实现203
15.4部分重同步的实现204
15.5PSYNC命令的实现209
15.6复制的实现211
15.7心跳检测216
15.8重点回顾218
第16章Sentinel219
16.1启动并初始化Sentinel220
16.2获取主服务器信息227
16.3获取从服务器信息229
16.4向主服务器和从服务器发送信息230
16.5接收来自主服务器和从服务器的频道信息231
16.6检测主观下线状态234
16.7检查客观下线状态236
16.8选举领头Sentinel238
16.9故障转移240
16.10重点回顾243
16.11参考资料244
第17章集群245
17.1节点245
17.2槽指派251
17.3在集群中执行命令258
17.4重新分片265
17.5ASK错误267
17.6复制与故障转移273
17.7消息281
17.8重点回顾288

第四部分·独立功能的实现
第18章发布与订阅290
18.1频道的订阅与退订292
18.2模式的订阅与退订295
18.3发送消息298
18.4查看订阅信息300
18.5重点回顾303
18.6参考资料304
第19章事务305
19.1事务的实现306
19.2WATCH命令的实现310
19.3事务的ACID性质314
19.4重点回顾319
19.5参考资料320
第20章Lua脚本321
20.1创建并修改Lua环境322
20.2Lua环境协作组件327
20.3EVAL命令的实现329
20.4EVALSHA命令的实现332
20.5脚本管理命令的实现333
20.6脚本复制336
20.7重点回顾342
20.8参考资料343
第21章排序344
21.1SORT命令的实现345
21.2ALPHA选项的实现347
21.3ASC选项和DESC选项的实现348
21.4BY选项的实现350
21.5带有ALPHA选项的BY选项的实现352
21.6LIMIT选项的实现353
21.7GET选项的实现355
21.8STORE选项的实现358
21.9多个选项的执行顺序359
21.10重点回顾361
第22章二进制位数组362
22.1位数组的表示363
22.2GETBIT命令的实现365
22.3SETBIT命令的实现366
22.4BITCOUNT命令的实现369
22.5BITOP命令的实现376
22.6重点回顾377
22.7参考资料377
第23章慢查询日志378
23.1慢查询记录的保存380
23.2慢查询日志的阅览和删除382
23.3添加新日志383
23.4重点回顾385
第24章监视器386
24.1成为监视器387
24.2向监视器发送命令信息387
24.3重点回顾388

前言/序言

　　时间回到2011年4月，当时我正在编写一个用户关系模块，这个模块需要实现一个“共同关注”功能，用于计算出两个用户关注了哪些相同的用户。
　　举个例子，假设huangz关注了peter、tom、jack三个用户，而john关注了peter、tom、bob、david四个用户，那么当huangz访问john的页面时，共同关注功能就会计算并打印出类似“你跟john都关注了peter和tom”这样的信息。
　　从集合计算的角度来看，共同关注功能本质上就是计算两个用户关注集合的交集，因为交集这个概念是如此的常见，所以我很自然地认为共同关注这个功能可以很容易地实现，但现实却给了我当头一棒：我所使用的关系数据库并不直接支持交集计算操作，要计算两个集合的交集，除了需要对两个数据表执行合并（join）操作之外，还需要对合并的结果执行去重复（distinct）操作，最终导致交集操作的实现变得异常复杂。
　　是否存在直接支持集合操作的数据库呢？带着这个疑问，我在搜索引擎上面进行查找，并最终发现了Redis。在我看来，Redis正是我想要找的那种数据库——它内置了集合数据类型，并支持对集合执行交集、并集、差集等集合计算操作，其中的交集计算操作可以直接用于实现我想要的共同关注功能。
　　得益于Redis本身的简单性，以及Redis手册的详尽和完善，我很快学会了怎样使用Redis的集合数据类型，并用它重新实现了整个用户关系模块：重写之后的关系模块不仅代码量更少，速度更快，更重要的是，之前需要使用一段甚至一大段SQL查询才能实现的功能，现在只需要调用一两个Redis命令就能够实现了，整个模块的可读性得到了极大的提高。
　　自此之后，我开始在越来越多的项目里面使用Redis，与此同时，我对Redis的内部实现也越来越感兴趣，一些问题开始频繁地出现在我的脑海中，比如：
　　??Redis的五种数据类型分别是由什么数据结构实现的？
　　??Redis的字符串数据类型既可以存储字符串（比如"helloworld"），又可以存储整数和浮点数（比如10086和3.14），甚至是二进制位（使用SETBIT等命令），Redis在内部是怎样存储这些值的？
　　??Redis的一部分命令只能对特定数据类型执行（比如APPEND只能对字符串执行，HSET只能对哈希表执行），而另一部分命令却可以对所有数据类型执行（比如DEL、TYPE和EXPIRE），不同的命令在执行时是如何进行类型检查的？Redis在内部是否实现了一个类型系统？
　　??Redis的数据库是怎样存储各种不同数据类型的键值对的？数据库里面的过期键又是怎样实现自动删除的？
　　??除了数据库之外，Redis还拥有发布与订阅、脚本、事务等特性，这些特性又是如何实现的？
　　??Redis使用什么模型或者模式来处理客户端的命令请求？一条命令请求从发送到返回需要经过什么步骤？
　　为了找到这些问题的答案，我再次在搜索引擎上面进行查找，可惜的是这次搜索并没有多少收获：Redis还是一个非常年轻的软件，对它的最好介绍就是官方网站上面的文档，但是这些文档主要关注的是怎样使用Redis，而不是介绍Redis的内部实现。另外，网上虽然有一些博客文章对Redis的内部实现进行了介绍，但这些文章要么不齐全（只介绍了Redis中的少数几个特性），要么就写得过于简单（只是一些概述性的文章），要么关注的就是旧版本（比如2.0、2.2或者2.4，而当时的最新版已经是2.6了）。
　　综合来看，详细而且完整地介绍Redis内部实现的资料，无论是外文还是中文都不存在。意识到这一点之后，我决定自己动手注释Redis的源代码，从中寻找问题的答案，并通过写博客的方式与其他Redis用户分享我的发现。在积累了七八篇Redis源代码注释文章之后，我想如果能将这些博文汇集成书的话，那一定会非常有趣，并且我自己也会从中学到很多知识。于是我在2012年年末开始创作《Redis设计与实现》，并最终于2013年3月8日在互联网发布了《Redis设计与实现》的第一版。
　　尽管《Redis设计与实现》第一版顺利发布了，但在我的心目中，这个第一版还是有很多不完善的地方：
　　??比如说，因为第一版是我边注释Redis源代码边写的，如果有足够时间让我先完整地注释一遍Redis的源代码，然后再进行写作的话，那么书本在内容方面应该会更为全面。
　　??又比如说，第一版只介绍了Redis的内部机制和单机特性，但并没有介绍Redis多机特性，而我认为只有将关于多机特性的介绍也包含进来，这本《Redis设计与实现》才算是真正的完成了。
　　就在我考虑应该何时编写新版来修复这些缺陷的时候，机械工业出版社的吴怡编辑来信询问我是否有兴趣正式地出版《Redis设计与实现》，能够正式地出版自己写的书一直是我梦寐以求的事情，我找不到任何拒绝这一邀请的理由，就这样，在《Redis设计与实现》第一版发布几天之后，新版《Redis设计与实现》的写作也马不停蹄地开始了。
　　从2013年3月到2014年1月这11个月间，我重新注释了Redis在unstable分支的源代码（也即是现在的Redis3.0源代码），重写了《Redis设计与实现》第一版已有的所有章节，并向书中添加了关于二进制位操作（bitop）、排序、复制、Sentinel和集群等主题的新章节，最终完成了这本新版的《Redis设计与实现》。《Redis设计与实现》不仅介绍了Redis的内部机制（比如数据库实现、类型系统、事件模型），而且还介绍了大部分Redis单机特性（比如事务、持久化、Lua脚本、排序、二进制位操作），以及所有Redis多机特性（如复制、Sentinel和集群）。
　　虽然作者创作《Redis设计与实现》的初衷只是为了满足自己的好奇心，但了解Redis内部实现的好处并不仅仅在于满足好奇心：通过了解Redis的内部实现，理解每一个特性和命令背后的运作机制，可以帮助我们更高效地使用Redis，避开那些可能会引起性能问题的陷阱。我衷心希望这本新版《Redis设计与实现》能够帮助读者更好地了解Redis，并成为更优秀的Redis使用者。
　　《Redis设计与实现》的第一版获得了很多热心读者的反馈，这本新版的很多改进也来源于读者们的意见和建议，因此我将继续在www.RedisBook.com设置disqus论坛（可以不注册直接发贴），欢迎读者随时就这本新版《Redis设计与实现》发表提问、意见、建议、批评、勘误，等等，我会努力地采纳大家的意见，争取在将来写出更好的《Redis设计与实现》，以此来回报大家对《Redis设计与实现》的支持。
　　黄健宏（huangz）
　　2014年3月于清远