RocketMQ实战与原理解析【杨开元】

内容简介：

本书由云栖社区官方出品。
作者是阿里资深数据专家，对RocketMQ有深入的研究，并有大量的实践经验。在写这本书之前，作者不仅系统、深入地阅读了RocketMQ的源代码，而且还向RocketMQ的官方开发团队深入了解了它的诸多设计细节。作者结合自己多年使用RocketMQ的经验，从开发和运维两个维度，给出了大部分场景下的优秀实践，能帮助读者在学会使用和用好RocketMQ的同时，尽量少“踩坑”。同时，本书也结合源码分析了分布式消息队列的原理，使读者可以在复杂业务场景下定制有特殊功能的消息队列。

全书共13章，在逻辑上分为两大部分：
*部分（第1~8章）：RocketMQ实战
第1~2章详细讲解了RocketMQ如何快速入门，以及在生产环境下的配置和使用；
第3~4章具体讲解了不同类型生产者和消费者的特点，以及分布式消息队列的协调者NameServer；
第5章从消息的存储、发送、复制和高可用等多个维度讲解了RocketMQ的内部机制；

作者简介：

杨开元

*数据专家，毕业于北京大学，有10年IT行业研发经验。对RocketMQ有深入的研究，是RocketMQ源码贡献者。曾就职于甲骨文和猎豹移动，专注于大数据和实时计算。在大量的工作实践中，对MySQL、J2EE、JVM、Spring、Hadoop、Kafka、Storm、Flink都有深入研究。喜欢剖析源码，分析原理，为开源项目贡献代码。

云栖社区

云栖社区是面向开发者的开放型技术平台，服务于云计算技术全生态。包含博客、问答、培训、设计研发、资源下载等产品，以分享专业、优质、高效的技术为己任，帮助技术人快速成长与发展。

欢迎关注云栖社区微信公众号：yunqiinsight ，打开精彩代码生活！

目录：

推荐序

前言

第1章 快速入门1

1.1 消息队列功能介绍1

1.1.1 应用解耦1

1.1.2 流量消峰2

1.1.3 消息分发3

1.2 RocketMQ简介4

1.3 快速上手RocketMQ4

1.3.1 RocketMQ的下载、安装和配置 5

1.3.2 启动消息队列服务6

1.3.3 用命令行发送和接收消息6

1.3.4 关闭消息队列6

1.4 本章小结7

第2章 生产环境下的配置和使用8

2.1 RocketMQ各部分角色介绍8

2.2 多机集群配置和部署9

2.2.1 启动多个NameServer和Broker10

2.2.2 配置参数介绍11

2.3 发送/接收消息示例13

2.4 常用管理命令15

2.5 通过图形界面管理集群21

2.6 本章小结22

第3章 用适合的方式发送和接收消息23

3.1 不同类型的消费者23

3.1.1 DefaultMQPushConsumer的使用23

3.1.2 DefaultMQPushConsumer的处理流程25

3.1.3 DefaultMQPushConsumer的流量控制28

3.1.4 DefaultMQPullConsumer30

3.1.5 Consumer的启动、关闭流程32

3.2 不同类型的生产者33

3.2.1 DefaultMQProducer 34

3.2.2 发送延迟消息36

3.2.3 自定义消息发送规则36

3.2.4 对事务的支持37

3.3 如何存储队列位置信息38

3.4 自定义日志输出42

3.5 本章小结44

第4章 分布式消息队列的协调者45

4.1 NameServer的功能45

4.1.1 集群状态的存储结构46

4.1.2 状态维护逻辑47

4.2 各个角色间的交互流程48

4.2.1 交互流程源码分析48

4.2.2 为何不用ZooKeeper50

4.3 底层通信机制50

4.3.1 Remoting模块51

4.3.2 协议设计和编解码54

4.3.3 Netty库56

4.4 本章小结56

第5章 消息队列的核心机制57

5.1 消息存储和发送57

5.2 消息存储结构58

5.3 高可用性机制60

5.4 同步刷盘和异步刷盘61

5.5 同步复制和异步复制62

5.6 本章小结63

第6章 可靠性优先的使用场景64

6.1 顺序消息64

6.1.1 全局顺序消息64

6.1.2 部分顺序消息65

6.2 消息重复问题67

6.3 动态增减机器67

6.3.1 动态增减NameServer67

6.3.2 动态增减Broker69

6.4 各种故障对消息的影响70

6.5 消息优先级72

6.6 本章小结73

第7章 吞吐量优先的使用场景74

7.1 在Broker端进行消息过滤74

7.1.1 消息的Tag和Key74

7.1.2 通过Tag进行过滤75

7.1.3 用SQL表达式的方式进行过滤75

7.1.4 Filter Server方式过滤77

7.2 提高Consumer处理能力78

7.3 Consumer的负载均衡80

7.3.1 DefaultMQPushConsumer的负载均衡80

7.3.2 DefaultMQPullConsumer的负载均衡81

7.4 提高Producer的发送速度83

7.5 系统性能调优的一般流程85

7.6 本章小结87

第8章 和其他系统交互88

8.1 在SpringBoot中使用RocketMQ88

8.1.1 直接使用88

8.1.2 通过Spring Messaging方式使用90

8.2 直接使用云上RocketMQ91

8.3 RocketMQ与Spark、Flink对接93

8.4 自定义开发运维工具93

8.4.1 开源版本运维工具功能介绍94

8.4.2 基于Tools模块开发自定义运维工具95

8.5 本章小结96

第9章 首个Apache中间件顶级项目97

9.1 RocketMQ的前世今生97

9.2 Apache顶级项目（TLP）之路98

9.3 源码结构99

9.4 不断迭代的代码100

9.5 本章小结102

第10章 NameServer源码解析103

10.1 模块入口代码的功能103

10.1.1 入口函数103

10.1.2 解析命令行参数104

10.1.3 初始化NameServer的Controller105

10.2 NameServer的总控逻辑106

10.3 核心业务逻辑处理107

10.4 集群状态存储109

10.5 本章小结111

第11章 最常用的消费类112

11.1 整体流程112

11.1.1 上层接口类112

11.1.2 DefaultMQPushConsumer的实现者114

11.1.3 获取消息逻辑116

11.2 消息的并发处理118

11.2.1 并发处理过程118

11.2.2 ProcessQueue对象121

11.3 生产者消费者的底层类122

11.3.1 MQClientInstance类的创建规则122

11.3.2 MQClientInstance类的功能124

11.4 本章小结127

第12章 主从同步机制128

12.1 同步属性信息128

12.2 同步消息体130

12.3 sync_master和async_master132

12.4 本章小结134

第13章 基于Netty的通信实现135

13.1 Netty介绍135

13.2 Netty架构总览136

13.2.1 重新实现ByteBuffer136

13.2.2 统一的异步 I/O接口137

13.2.3 基于拦截链模式的事件模型138

13.2.4 高级组件139

13.3 Netty用法示例140

13.3.1 Discard服务器140

13.3.2 查看收到的数据144

13.4 RocketMQ基于Netty的通信功能实现145

13.4.1 顶层抽象类145

13.4.2 自定义协议148

13.4.3 基于Netty的Server和Client151

13.5 本章小结152

媒体评论：

从2013年开源至今，RocketMQ承载了阿里巴巴数年“双十一”的峰值流量，并且被业界多个大型互联网公司、大型央企和金融证券系统广泛使用。本书从开发和运维的双重视角对RocketMQ做了详细的阐述，既能满足入门读者的需求，又能满足需要通过源代码了解RocketMQ工作原理的中高端读者的需求。

——王小瑞 阿里巴巴资深技术专家/ApacheRocketMQ PMC Chair

这是一本非常具有实战意义的手册，可以帮助工程师快速了解RocketMQ并展开实操。理论清晰，案例实用，体现了作者深厚的技术功底。

——夏振宇 微瑞思创董事长

消息中间件是分布式系统中依赖广泛的中间件产品，作为Apache中间件项目，RocketMQ已经经历了众多大型互联网公司的线上检验，不论是从可靠性还是吞吐量上都得到广泛的认可。相信这本书的出版，对正在使用和计划研究RockemMQ技术的开发者来说是个大大的福音。

——王晓东 凤凰金融高级副总裁

消息队列是重要的中间件之一，已经成为大型应用不可或缺的组件。本书从原理和应用的角度对RocketMQ进行了详细的讲解，无论是入门还是进阶，本书都可以作为你的良师益友。

——张彦龙 滴滴出行高级数据专家

作者在RocketMQ领域有多年的一线开发、调优经验，他将以独到的方式带领你走上RocketMQ的进阶之路。本书可以帮助开发者，更加高效、快速地构建起分布式服务，将工程师从服务稳定性、分布式事务一致性的桎梏中解放出来。

——耿嘉安 360大数据专家

阿里自研的分布式消息中间件RocketMQ已是Apache软件基金会*项目。在“双11”大促中消息容量达到万亿级，适合电商、金融、大数据以及物联网领域。在如今技术自主可控的发展趋势下，相信RocketMQ会帮助更多开发者实现实践创新。

——郭雪梅 云栖社区总编