如何解读《微信技术总监谈架构：微信之道——大道至简》

本人VINCI公司工程师，前两天正好内部写了个科普文章，发在微信公众号：VinciChina2015，大家可以移步去VINCI微信公众号。

一、前言

最近在朋友圈看到有人分享腾讯微信技术总监周颢的一个技术报告，题目是《微信技术总监谈架构：微信之道——大道至简》（演讲全文整理、演讲PPT讲稿下载），我也转发了一下。然后就被本司妹子看到了，非让我解释一下。

无奈微信的技术人员出来交流的太少了，只能写下这篇浅显的文章，通俗的解释一下微信背后的技术力量。

二、敏捷

在微信的技术报告中，通篇演讲所说的内容，其实都是为了两个字服务：“敏捷”。首先，我们要先解释一下敏捷。

在软件领域，敏捷软件开发实际上已经是一种术语，它又称敏捷开发，是一种从1990年代开始逐渐引起广泛关注的一些新型软件开发方法，是一种应对快速变化的需求的一种软件开发能力。敏捷 (Agile)也是一股思潮, 它包括了好几种软件开发的方法论 (methodology); 这些方法论又是建立在许多业界证明行之有效的最佳实践方法 (best practices) 上面的，例如：Software Development Rhythms 、ASD/Adaptive Software Development、Scrum、XP Extreme Programming等等。敏捷开发最终的目的，都是使软件能够快速迭代和交付。

So，简单来说就是为了软件快速迭代和交付，微信的技术做了什么事情，是如何做的。

在报告中，有一段话的意思是这样的：微信的成功来源于产品决策的成功，为了给产品决策最大的自由度和能力，微信的技术允许发布前十分钟的需求变更。做到这个事情非常非常牛，我必须要解释一下它的难度。

一个人的精力是有限的也是容易出错的，所以，在传统软件开发流程中，规定了一系列的规范来保证软件能够不出错。一个需求的完整开发流程大致是这样的：需求提出，技术分析，开发，自测，模块测试，联调测试，灰度测试，完整发布。

即使已经做了这么多步的保证，所有故障的80%仍然是发布导致的。为了保证服务的稳定性——微信的及格线是99.95%——开发中的变更一般是很昂贵的，因为需要把已经走过的步骤再重走一遍。所以大部分软件开发对于开发中的需求变更都是非常忌讳的，对于开发人员来说也是如此，谁也不想辛苦完成的东西再重新来一遍，或者因为频繁的需求变更导致测试不完全而出现故障。放张漫画感受一下程序员的心情



对于微信来说，更是如此。我估计微信内部有上百个模块，几千台服务器，任意一个模块、程序出现问题都可能会影响到微信的正常服务。尤其是在发布前十分钟还允许变更，需要一套强大的技术、测试和监控系统才能支持如此的任性。

对比一下前东家（不能说名字，也算个大厂），固定每周发布两次，发布持续时间4个小时。例如，周二发布一次，那周二发布的所有需求在周一上午已经确定了；如果发布失败了，第二天继续发这个。我曾经见过有一个需求一周都没有发上去。

在如此困难的情况下，微信凭借了几个思路来做到如此敏捷，后面我来依次解释一下。

三、努力减少人为的错误

既然人的问题如此突出，那么，要想提高效率做到敏捷，一定要先从人的方面着手。
微信的这篇报告提出的思路是：大系统小做+基础组件。应该说，这是一个工业界普遍的解决思路。

我们一般人看到的软件，例如微信，就是在自己手机上运行的一个程序，无所谓大小系统，所有的功能都集中在一起，集中在一个软件中，无需也不能拆分。但在这种服务类软件例如微信、微博等，还有一个更加庞大在后端服务器的程序。

第一，一般来说，后端服务的逻辑相对前端软件来说更复杂：

后端程序要做各种计算、验证和存储的功能。如果前端软件端的代码有几万行的话，后端服务的代码一般要有几十万或者上百万行。例如，简单的登录，在前端只不过发一个登录的请求到后端服务器，而服务器要做的事情呢，从数据库中取得你的用户名和密码验证信息，把请求过来的用户名加密密码（密码不能明文存储，要经过一些复杂的计算过程取得一个加密的东西）和数据库的进行验证；判断是否一个异常登录（还要从数据库取的最近的登录信息）；判断是否过频繁登录（防止恶意服务器攻击）；等这些都做完了，才能返回说登录成功了。

第二，服务器端程序要比前端软件层承载更多的请求和更大的压力：

还是以上一点说的登录举例，所有的那些操作，服务器端要在100ms之内处理完成；同时，这种登录请求每一秒都有几万或者十几万。至少现在，一台普通服务器是无法同时处理这么多请求的，这就表示后端程序要部署很多台机器才行，这也造成了更多的复杂性。

如此复杂的系统，一个人是万万驾驭不了的。那么，唯一的选择就是把复杂变成简单。

首先，针对逻辑复杂的特点，我们会把几十万行代码组成的系统进行拆分，拆分一般是依据功能性，例如：注册登录、消息逻辑、漂流瓶等等，然后把这些程序分别部署到不同的服务器上。

放一页报告的PPT：


这张图应该是微信服务器端的主要逻辑和部署结构，其中每一个机器的图都是一组（很多台）服务器。这样的好处很明显，当拆分后，一个人只需要了解其中某一个模块的程序即可，不再需要详细的了解其他东西是怎么运行的。

但是，逻辑的复杂性解决了，又出现了另外一个问题，就是远程调用的复杂度和稳定性问题。

定义一下远程调用（RPC）：

In computer science, a remote procedure call (RPC) is an inter-process communication that allows a computer program to cause a subroutine or procedure to execute in another address space (commonly on another computer on a shared network) without the programmer explicitly coding the details for this remote interaction.

简单来说，要调用的程序在另外一台物理服务器上。

而有网络参与的情况下，可靠性要比单机调用低一个等级，为了弥补这个可靠性的降低，需要做很多异常情况处理，例如：网络断了、有一次调用非常慢，有一台服务器没有响应了等等。

我们前面又提到，微信只有几十上百个模块在同时运行，不能要求每一个模块都把这些复杂的东西都做一次，并且受限于经验的问题，每个人做的都会不一样会有遗漏，这个时候，远程服务框架这个基础组件就应运而生了。

在报告中的一页PPT，提到了两个基础组件：



就是属于远程服务框架中的一部分，它能够让开发人员很简单的使用，10分钟即可写一个远程调用，并且各种错误都由框架处理了，只要很开心的关心我们的业务是如何运行的即可。Yes，开发快了好多倍。

当然，远程服务框架是一个很复杂和系统的工程，他至少应该关心4个方面：

• 开发的简易型
• 服务的分布式调用链及服务状态的跟踪统计
• 服务的配置管理，包括服务发现、负载均衡和依赖管理
• 服务之间的调度和生命周期管理
  

阿里巴巴公司曾经开源过一套远程服务框架：dubbo，摘一张它的程序整体设计图:



在报告中还提到一个很重要的基础组件，存储组件，它屏蔽了容灾扩容等复杂问题。

存储是如此重要，所有的内容最终都要落到存储上；存储是如此重要，大部分的操作最终都要从存储读数据。正因为存储的重要，所以它又显的非常脆弱，任何一点小的问题，一定会影响一大批用户。

在这种情况下，务必要进行减少存储的出错几率，并且让上层屏蔽这些处理，让开发人员专注于自己的模块，这种思想和前面说的远程调用框架思路是一致的。

在报告中，提到了4中容灾模型，前面两种分别是主备、双写，这个就不多说了，主要说下另外两种。

Set模型+双写：



这里，报告里说的不慎明确，他说能够实现完全一致的备份副本，但是只能支持追加写以及需要外部索引，类似简化版的GoogleFS，主要存储图片和音频。这里我脑补一下，希望能猜中。

读到这些关键字，除了GoogleFS，我还想起了一个东西：bitcask模型。



bitcask模型有一个外部索引，一般是放到内存中，保存了每一个key所在的文件位置和value长度及位置；在写入的时候，追加写入文件中，并更新索引内容，把位置指向新的磁盘位置。bitcask模型的好处是对于机械磁盘友好,写吞吐量大，数据持久化好不用担心crash后的数据丢失问题。这种模型就和报告所说的特点很像了，只不过把内存索引放到了外部一个单独的服务里面。当一个Set写入失败的时候，只需要写入另外一个，并把索引写入索引服务即可；读的时候，先读索引服务，然后去某一个Set中读取数据。因为每一个Set都做了主备模型，并不特别担心不可读。

四、及时发现错误

说了这么多，我们做了好多事情来尽量避免问题的产生，提高生产效率，但是遗憾的是，错误永远不可避免，这个时候，能够及时发现错误并解决它，影响尽量少的人就成了关键。微信给出的答案是：一套简单易用的监控系统+自动报警+灰度上线

对于这个，我其实没有啥好说的，都应该能很好的理解，任何软件服务的监控工作都是必不可少的。不过听视频上说的，微信5分钟即可部署好一个监控点并设置好报警阈值，完成监控和自动报警的工作，这个还是很牛的。

还有一项技术是灰度上线。顾名思义，灰度介于黑与白之间。在这里的意义就是，上线时只上线一部分，目的是用一部分用户检测代码的正确性，如果出现异常可以迅速的回到之前正确的代码上，实现影响尽量少的用户。



从报告给出的截图看，微信可以实现上线时任意选择要上线的服务器。如果上线有问题，也只会影响到访问到问题服务器的用户。当一台服务器上线验证没有问题，可以选择多几台上线，最后再上线全部服务器。这样就减少了很多的风险，有更大的容错性。

全站即时通讯技术资料分类

[1] 网络编程基础资料：
《TCP/IP详解 - 第11章·UDP：用户数据报协议》
《TCP/IP详解 - 第17章·TCP：传输控制协议》
《TCP/IP详解 - 第18章·TCP连接的建立与终止》
《TCP/IP详解 - 第21章·TCP的超时与重传》
《理论经典：TCP协议的3次握手与4次挥手过程详解》
《理论联系实际：Wireshark抓包分析TCP 3次握手、4次挥手过程》
《计算机网络通讯协议关系图（中文珍藏版）》
《NAT详解：基本原理、穿越技术(P2P打洞)、端口老化等》
《UDP中一个包的大小最大能多大？》
《Java新一代网络编程模型AIO原理及Linux系统AIO介绍》
《NIO框架入门(三)：iOS与MINA2、Netty4的跨平台UDP双向通信实战》
《NIO框架入门(四)：Android与MINA2、Netty4的跨平台UDP双向通信实战》
>> 更多同类文章 ……

[2] 有关IM/推送的通信格式、协议的选择：
《为什么QQ用的是UDP协议而不是TCP协议？》
《移动端即时通讯协议选择：UDP还是TCP？》
《如何选择即时通讯应用的数据传输格式》
《强列建议将Protobuf作为你的即时通讯应用数据传输格式》
《移动端IM开发需要面对的技术问题（含通信协议选择）》
《简述移动端IM开发的那些坑：架构设计、通信协议和客户端》
《理论联系实际：一套典型的IM通信协议设计详解》
《58到家实时消息系统的协议设计等技术实践分享》
>> 更多同类文章 ……

[3] 有关IM/推送的心跳保活处理：
《Android进程保活详解：一篇文章解决你的所有疑问》
《Android端消息推送总结：实现原理、心跳保活、遇到的问题等》
《为何基于TCP协议的移动端IM仍然需要心跳保活机制？》
《微信团队原创分享：Android版微信后台保活实战分享(进程保活篇)》
《微信团队原创分享：Android版微信后台保活实战分享(网络保活篇)》
《移动端IM实践：实现Android版微信的智能心跳机制》
《移动端IM实践：WhatsApp、Line、微信的心跳策略分析》
>> 更多同类文章 ……

[4] 有关WEB端即时通讯开发：
《新手入门贴：史上最全Web端即时通讯技术原理详解》
《Web端即时通讯技术盘点：短轮询、Comet、Websocket、SSE》
《SSE技术详解：一种全新的HTML5服务器推送事件技术》
《Comet技术详解：基于HTTP长连接的Web端实时通信技术》
《WebSocket详解（一）：初步认识WebSocket技术》
《socket.io实现消息推送的一点实践及思路》
>> 更多同类文章 ……

[5] 有关IM架构设计：
《浅谈IM系统的架构设计》
《简述移动端IM开发的那些坑：架构设计、通信协议和客户端》
《一套原创分布式即时通讯(IM)系统理论架构方案》
《从零到卓越：京东客服即时通讯系统的技术架构演进历程》
《蘑菇街即时通讯/IM服务器开发之架构选择》
《腾讯QQ1.4亿在线用户的技术挑战和架构演进之路PPT》
《微信技术总监谈架构：微信之道——大道至简(演讲全文)》
《如何解读《微信技术总监谈架构：微信之道——大道至简》》
《快速裂变：见证微信强大后台架构从0到1的演进历程（一）》
《17年的实践：腾讯海量产品的技术方法论》
>> 更多同类文章 ……

[6] 有关IM安全的文章：
《即时通讯安全篇（一）：正确地理解和使用Android端加密算法》
《即时通讯安全篇（二）：探讨组合加密算法在IM中的应用》
《即时通讯安全篇（三）：常用加解密算法与通讯安全讲解》
《即时通讯安全篇（四）：实例分析Android中密钥硬编码的风险》
《传输层安全协议SSL/TLS的Java平台实现简介和Demo演示》
《理论联系实际：一套典型的IM通信协议设计详解（含安全层设计）》
《微信新一代通信安全解决方案：基于TLS1.3的MMTLS详解》
《来自阿里OpenIM：打造安全可靠即时通讯服务的技术实践分享》
>> 更多同类文章 ……

[7] 有关实时音视频开发：
《即时通讯音视频开发（一）：视频编解码之理论概述》
《即时通讯音视频开发（二）：视频编解码之数字视频介绍》
《即时通讯音视频开发（三）：视频编解码之编码基础》
《即时通讯音视频开发（四）：视频编解码之预测技术介绍》
《即时通讯音视频开发（五）：认识主流视频编码技术H.264》
《即时通讯音视频开发（六）：如何开始音频编解码技术的学习》
《即时通讯音视频开发（七）：音频基础及编码原理入门》
《即时通讯音视频开发（八）：常见的实时语音通讯编码标准》
《即时通讯音视频开发（九）：实时语音通讯的回音及回音消除概述》
《即时通讯音视频开发（十）：实时语音通讯的回音消除技术详解》
《即时通讯音视频开发（十一）：实时语音通讯丢包补偿技术详解》
《即时通讯音视频开发（十二）：多人实时音视频聊天架构探讨》
《即时通讯音视频开发（十三）：实时视频编码H.264的特点与优势》
《即时通讯音视频开发（十四）：实时音视频数据传输协议介绍》
《即时通讯音视频开发（十五）：聊聊P2P与实时音视频的应用情况》
《即时通讯音视频开发（十六）：移动端实时音视频开发的几个建议》
《即时通讯音视频开发（十七）：视频编码H.264、V8的前世今生》
《简述开源实时音视频技术WebRTC的优缺点》
《良心分享：WebRTC 零基础开发者教程（中文）》
>> 更多同类文章 ……

[8] IM开发综合文章：
《移动端IM开发需要面对的技术问题》
《开发IM是自己设计协议用字节流好还是字符流好？》
《请问有人知道语音留言聊天的主流实现方式吗？》
《IM系统中如何保证消息的可靠投递（即QoS机制）》
《谈谈移动端 IM 开发中登录请求的优化》
《完全自已开发的IM该如何设计“失败重试”机制？》
《微信对网络影响的技术试验及分析（论文全文）》
《即时通讯系统的原理、技术和应用（技术论文）》
《开源IM工程“蘑菇街TeamTalk”的现状：一场有始无终的开源秀》
>> 更多同类文章 ……

[9] 开源移动端IM技术框架资料：
《开源移动端IM技术框架MobileIMSDK：快速入门》
《开源移动端IM技术框架MobileIMSDK：常见问题解答》
《开源移动端IM技术框架MobileIMSDK：压力测试报告》
《开源移动端IM技术框架MobileIMSDK：Android版Demo使用帮助》
《开源移动端IM技术框架MobileIMSDK：Java版Demo使用帮助》
《开源移动端IM技术框架MobileIMSDK：iOS版Demo使用帮助》
《开源移动端IM技术框架MobileIMSDK：Android客户端开发指南》
《开源移动端IM技术框架MobileIMSDK：Java客户端开发指南》
《开源移动端IM技术框架MobileIMSDK：iOS客户端开发指南》
《开源移动端IM技术框架MobileIMSDK：Server端开发指南》
>> 更多同类文章 ……

[10] 有关推送技术的文章：
《iOS的推送服务APNs详解：设计思路、技术原理及缺陷等》
《Android端消息推送总结：实现原理、心跳保活、遇到的问题等》
《扫盲贴：认识MQTT通信协议》
《一个基于MQTT通信协议的完整Android推送Demo》
《求教android消息推送：GCM、XMPP、MQTT三种方案的优劣》
《移动端实时消息推送技术浅析》
《扫盲贴：浅谈iOS和Android后台实时消息推送的原理和区别》
《绝对干货：基于Netty实现海量接入的推送服务技术要点》
《移动端IM实践：谷歌消息推送服务(GCM)研究（来自微信）》
《为何微信、QQ这样的IM工具不使用GCM服务推送消息？》
>> 更多同类文章 ……

[11] 更多即时通讯技术好文分类：
http://www.52im.net/forum.php?mod=collection&op=all

附录：有关QQ、微信的文章汇总

[1] 有关QQ、微信的技术文章：
《微信后台团队：微信后台异步消息队列的优化升级实践分享》
《微信团队原创分享：微信客户端SQLite数据库损坏修复实践》
《腾讯原创分享(一)：如何大幅提升移动网络下手机QQ的图片传输速度和成功率》
《腾讯原创分享(二)：如何大幅压缩移动网络下APP的流量消耗（下篇）》
《腾讯原创分享(二)：如何大幅压缩移动网络下APP的流量消耗（上篇）》
《微信Mars：微信内部正在使用的网络层封装库，即将开源》
《如约而至：微信自用的移动端IM网络层跨平台组件库Mars已正式开源》
《开源libco库：单机千万连接、支撑微信8亿用户的后台框架基石 [源码下载]》
《微信新一代通信安全解决方案：基于TLS1.3的MMTLS详解》
《微信团队原创分享：Android版微信后台保活实战分享(进程保活篇)》
《微信团队原创分享：Android版微信后台保活实战分享(网络保活篇)》
《Android版微信从300KB到30MB的技术演进(PPT讲稿) [附件下载]》
《微信团队原创分享：Android版微信从300KB到30MB的技术演进》
《微信技术总监谈架构：微信之道——大道至简(演讲全文)》
《微信技术总监谈架构：微信之道——大道至简(PPT讲稿) [附件下载]》
《如何解读《微信技术总监谈架构：微信之道——大道至简》》
《微信海量用户背后的后台系统存储架构(视频+PPT) [附件下载]》
《微信异步化改造实践：8亿月活、单机千万连接背后的后台解决方案》
《微信朋友圈海量技术之道PPT [附件下载]》
《微信对网络影响的技术试验及分析（论文全文）》
《一份微信后台技术架构的总结性笔记》
《架构之道：3个程序员成就微信朋友圈日均10亿发布量[有视频]》
《快速裂变：见证微信强大后台架构从0到1的演进历程（一）》
《快速裂变：见证微信强大后台架构从0到1的演进历程（二）》
《微信团队原创分享：Android内存泄漏监控和优化技巧总结》
《全面总结iOS版微信升级iOS9遇到的各种“坑”》
《微信团队原创资源混淆工具：让你的APK立减1M》
《微信团队原创Android资源混淆工具：AndResGuard [有源码]》
《Android版微信安装包“减肥”实战记录》
《iOS版微信安装包“减肥”实战记录》
《移动端IM实践：iOS版微信界面卡顿监测方案》
《微信“红包照片”背后的技术难题》
《移动端IM实践：iOS版微信小视频功能技术方案实录》
《移动端IM实践：Android版微信如何大幅提升交互性能（一）》
《移动端IM实践：Android版微信如何大幅提升交互性能（二）》
《移动端IM实践：实现Android版微信的智能心跳机制》
《移动端IM实践：WhatsApp、Line、微信的心跳策略分析》
《移动端IM实践：谷歌消息推送服务(GCM)研究（来自微信）》
《移动端IM实践：iOS版微信的多设备字体适配方案探讨》
>> 更多同类文章 ……

[2] 有关QQ、微信的技术故事：
《技术往事：创业初期的腾讯——16年前的冬天，谁动了马化腾的代码》
《技术往事：史上最全QQ图标变迁过程，追寻IM巨人的演进历史》
《开发往事：深度讲述2010到2015，微信一路风雨的背后》
《开发往事：微信千年不变的那张闪屏图片的由来》
《开发往事：记录微信3.0版背后的故事（距微信1.0发布9个月时）》
《一个微信实习生自述：我眼中的微信开发团队》
>> 更多同类文章 ……

（原文链接：https://www.zhihu.com/question/28165323）

hi，lz你好，一直不太明白set模型+双写是个啥意思，能解释下吗，谢谢

大道至简

微信强

发布前10分钟还能改需求，对微信这么大的服务来说真是太牛x了

确实很牛啊