请选择 进入手机版 | 继续访问电脑版

默认
打赏 发表评论 3
如何解读《微信技术总监谈架构:微信之道——大道至简》

本人VINCI公司工程师,前两天正好内部写了个科普文章,发在微信公众号:VinciChina2015,大家可以移步去VINCI微信公众号。


一、前言


最近在朋友圈看到有人分享腾讯微信技术总监周颢的一个技术报告,题目是《微信技术总监谈架构:微信之道——大道至简》(演讲全文整理演讲PPT讲稿下载),我也转发了一下。然后就被本司妹子看到了,非让我解释一下。

无奈微信的技术人员出来交流的太少了,只能写下这篇浅显的文章,通俗的解释一下微信背后的技术力量。

二、敏捷


在微信的技术报告中,通篇演讲所说的内容,其实都是为了两个字服务:“敏捷”。首先,我们要先解释一下敏捷。

在软件领域,敏捷软件开发实际上已经是一种术语,它又称敏捷开发,是一种从1990年代开始逐渐引起广泛关注的一些新型软件开发方法,是一种应对快速变化的需求的一种软件开发能力。敏捷 (Agile)也是一股思潮, 它包括了好几种软件开发的方法论 (methodology); 这些方法论又是建立在许多业界证明行之有效的最佳实践方法 (best practices) 上面的,例如:Software Development Rhythms 、ASD/Adaptive Software Development、Scrum、XP Extreme Programming等等。敏捷开发最终的目的,都是使软件能够快速迭代和交付。

So,简单来说就是为了软件快速迭代和交付,微信的技术做了什么事情,是如何做的。

在报告中,有一段话的意思是这样的:微信的成功来源于产品决策的成功,为了给产品决策最大的自由度和能力,微信的技术允许发布前十分钟的需求变更。做到这个事情非常非常牛,我必须要解释一下它的难度。

一个人的精力是有限的也是容易出错的,所以,在传统软件开发流程中,规定了一系列的规范来保证软件能够不出错。一个需求的完整开发流程大致是这样的:需求提出,技术分析,开发,自测,模块测试,联调测试,灰度测试,完整发布。

即使已经做了这么多步的保证,所有故障的80%仍然是发布导致的。为了保证服务的稳定性——微信的及格线是99.95%——开发中的变更一般是很昂贵的,因为需要把已经走过的步骤再重走一遍。所以大部分软件开发对于开发中的需求变更都是非常忌讳的,对于开发人员来说也是如此,谁也不想辛苦完成的东西再重新来一遍,或者因为频繁的需求变更导致测试不完全而出现故障。放张漫画感受一下程序员的心情

4202b62de3222386d633d3ecd165fca1_r.jpg

对于微信来说,更是如此。我估计微信内部有上百个模块,几千台服务器,任意一个模块、程序出现问题都可能会影响到微信的正常服务。尤其是在发布前十分钟还允许变更,需要一套强大的技术、测试和监控系统才能支持如此的任性。

对比一下前东家(不能说名字,也算个大厂),固定每周发布两次,发布持续时间4个小时。例如,周二发布一次,那周二发布的所有需求在周一上午已经确定了;如果发布失败了,第二天继续发这个。我曾经见过有一个需求一周都没有发上去。

在如此困难的情况下,微信凭借了几个思路来做到如此敏捷,后面我来依次解释一下。

三、努力减少人为的错误


既然人的问题如此突出,那么,要想提高效率做到敏捷,一定要先从人的方面着手。
微信的这篇报告提出的思路是:大系统小做+基础组件。应该说,这是一个工业界普遍的解决思路。

我们一般人看到的软件,例如微信,就是在自己手机上运行的一个程序,无所谓大小系统,所有的功能都集中在一起,集中在一个软件中,无需也不能拆分。但在这种服务类软件例如微信、微博等,还有一个更加庞大在后端服务器的程序。

第一,一般来说,后端服务的逻辑相对前端软件来说更复杂:

后端程序要做各种计算、验证和存储的功能。如果前端软件端的代码有几万行的话,后端服务的代码一般要有几十万或者上百万行。例如,简单的登录,在前端只不过发一个登录的请求到后端服务器,而服务器要做的事情呢,从数据库中取得你的用户名和密码验证信息,把请求过来的用户名加密密码(密码不能明文存储,要经过一些复杂的计算过程取得一个加密的东西)和数据库的进行验证;判断是否一个异常登录(还要从数据库取的最近的登录信息);判断是否过频繁登录(防止恶意服务器攻击);等这些都做完了,才能返回说登录成功了。

第二,服务器端程序要比前端软件层承载更多的请求和更大的压力:

还是以上一点说的登录举例,所有的那些操作,服务器端要在100ms之内处理完成;同时,这种登录请求每一秒都有几万或者十几万。至少现在,一台普通服务器是无法同时处理这么多请求的,这就表示后端程序要部署很多台机器才行,这也造成了更多的复杂性。

如此复杂的系统,一个人是万万驾驭不了的。那么,唯一的选择就是把复杂变成简单。

首先,针对逻辑复杂的特点,我们会把几十万行代码组成的系统进行拆分,拆分一般是依据功能性,例如:注册登录、消息逻辑、漂流瓶等等,然后把这些程序分别部署到不同的服务器上。

放一页报告的PPT:
a72f4f05f45afd0ece8535fcfd38a915_r.jpg

这张图应该是微信服务器端的主要逻辑和部署结构,其中每一个机器的图都是一组(很多台)服务器。这样的好处很明显,当拆分后,一个人只需要了解其中某一个模块的程序即可,不再需要详细的了解其他东西是怎么运行的。

但是,逻辑的复杂性解决了,又出现了另外一个问题,就是远程调用的复杂度和稳定性问题。

定义一下远程调用(RPC):

In computer science, a remote procedure call (RPC) is an inter-process communication that allows a computer program to cause a subroutine or procedure to execute in another address space (commonly on another computer on a shared network) without the programmer explicitly coding the details for this remote interaction.


简单来说,要调用的程序在另外一台物理服务器上。

而有网络参与的情况下,可靠性要比单机调用低一个等级,为了弥补这个可靠性的降低,需要做很多异常情况处理,例如:网络断了、有一次调用非常慢,有一台服务器没有响应了等等。

我们前面又提到,微信只有几十上百个模块在同时运行,不能要求每一个模块都把这些复杂的东西都做一次,并且受限于经验的问题,每个人做的都会不一样会有遗漏,这个时候,远程服务框架这个基础组件就应运而生了。

在报告中的一页PPT,提到了两个基础组件:

2e2a2d607eafc11bcc79a4bf7d65639d_r.jpg

就是属于远程服务框架中的一部分,它能够让开发人员很简单的使用,10分钟即可写一个远程调用,并且各种错误都由框架处理了,只要很开心的关心我们的业务是如何运行的即可。Yes,开发快了好多倍。

当然,远程服务框架是一个很复杂和系统的工程,他至少应该关心4个方面:

  • 开发的简易型
  • 服务的分布式调用链及服务状态的跟踪统计
  • 服务的配置管理,包括服务发现、负载均衡和依赖管理
  • 服务之间的调度和生命周期管理

阿里巴巴公司曾经开源过一套远程服务框架:dubbo,摘一张它的程序整体设计图:

5b19b50d9ef5315b39ff4a3c50ab8788_r.jpg

在报告中还提到一个很重要的基础组件,存储组件,它屏蔽了容灾扩容等复杂问题。

存储是如此重要,所有的内容最终都要落到存储上;存储是如此重要,大部分的操作最终都要从存储读数据。正因为存储的重要,所以它又显的非常脆弱,任何一点小的问题,一定会影响一大批用户。

在这种情况下,务必要进行减少存储的出错几率,并且让上层屏蔽这些处理,让开发人员专注于自己的模块,这种思想和前面说的远程调用框架思路是一致的。

在报告中,提到了4中容灾模型,前面两种分别是主备、双写,这个就不多说了,主要说下另外两种。

Set模型+双写:

59f2073038176eae708a3ea4228138e4_r.jpg

这里,报告里说的不慎明确,他说能够实现完全一致的备份副本,但是只能支持追加写以及需要外部索引,类似简化版的GoogleFS,主要存储图片和音频。这里我脑补一下,希望能猜中。

读到这些关键字,除了GoogleFS,我还想起了一个东西:bitcask模型。

QQ20160402-8.png

bitcask模型有一个外部索引,一般是放到内存中,保存了每一个key所在的文件位置和value长度及位置;在写入的时候,追加写入文件中,并更新索引内容,把位置指向新的磁盘位置。bitcask模型的好处是对于机械磁盘友好,写吞吐量大,数据持久化好不用担心crash后的数据丢失问题。这种模型就和报告所说的特点很像了,只不过把内存索引放到了外部一个单独的服务里面。当一个Set写入失败的时候,只需要写入另外一个,并把索引写入索引服务即可;读的时候,先读索引服务,然后去某一个Set中读取数据。因为每一个Set都做了主备模型,并不特别担心不可读。

四、及时发现错误


说了这么多,我们做了好多事情来尽量避免问题的产生,提高生产效率,但是遗憾的是,错误永远不可避免,这个时候,能够及时发现错误并解决它,影响尽量少的人就成了关键。微信给出的答案是:一套简单易用的监控系统+自动报警+灰度上线

对于这个,我其实没有啥好说的,都应该能很好的理解,任何软件服务的监控工作都是必不可少的。不过听视频上说的,微信5分钟即可部署好一个监控点并设置好报警阈值,完成监控和自动报警的工作,这个还是很牛的。

还有一项技术是灰度上线。顾名思义,灰度介于黑与白之间。在这里的意义就是,上线时只上线一部分,目的是用一部分用户检测代码的正确性,如果出现异常可以迅速的回到之前正确的代码上,实现影响尽量少的用户。

6af0e1780de6a5651d476b0b38fd0123_r.jpg

从报告给出的截图看,微信可以实现上线时任意选择要上线的服务器。如果上线有问题,也只会影响到访问到问题服务器的用户。当一台服务器上线验证没有问题,可以选择多几台上线,最后再上线全部服务器。这样就减少了很多的风险,有更大的容错性。

全站即时通讯技术资料分类


[1] 网络编程基础资料:
TCP/IP详解 - 第11章·UDP:用户数据报协议
TCP/IP详解 - 第17章·TCP:传输控制协议
TCP/IP详解 - 第18章·TCP连接的建立与终止
TCP/IP详解 - 第21章·TCP的超时与重传
理论经典:TCP协议的3次握手与4次挥手过程详解
理论联系实际:Wireshark抓包分析TCP 3次握手、4次挥手过程
计算机网络通讯协议关系图(中文珍藏版)
NAT详解:基本原理、穿越技术(P2P打洞)、端口老化等
UDP中一个包的大小最大能多大?
Java新一代网络编程模型AIO原理及Linux系统AIO介绍
NIO框架入门(三):iOS与MINA2、Netty4的跨平台UDP双向通信实战
NIO框架入门(四):Android与MINA2、Netty4的跨平台UDP双向通信实战
>> 更多同类文章 ……

[2] 有关IM/推送的通信格式、协议的选择:
为什么QQ用的是UDP协议而不是TCP协议?
移动端即时通讯协议选择:UDP还是TCP?
如何选择即时通讯应用的数据传输格式
强列建议将Protobuf作为你的即时通讯应用数据传输格式
移动端IM开发需要面对的技术问题(含通信协议选择)
简述移动端IM开发的那些坑:架构设计、通信协议和客户端
理论联系实际:一套典型的IM通信协议设计详解
58到家实时消息系统的协议设计等技术实践分享
>> 更多同类文章 ……

[3] 有关IM/推送的心跳保活处理:
Android进程保活详解:一篇文章解决你的所有疑问
Android端消息推送总结:实现原理、心跳保活、遇到的问题等
为何基于TCP协议的移动端IM仍然需要心跳保活机制?
微信团队原创分享:Android版微信后台保活实战分享(进程保活篇)
微信团队原创分享:Android版微信后台保活实战分享(网络保活篇)
移动端IM实践:实现Android版微信的智能心跳机制
移动端IM实践:WhatsApp、Line、微信的心跳策略分析
>> 更多同类文章 ……

[4] 有关WEB端即时通讯开发:
新手入门贴:史上最全Web端即时通讯技术原理详解
Web端即时通讯技术盘点:短轮询、Comet、Websocket、SSE
SSE技术详解:一种全新的HTML5服务器推送事件技术
Comet技术详解:基于HTTP长连接的Web端实时通信技术
WebSocket详解(一):初步认识WebSocket技术
socket.io实现消息推送的一点实践及思路
>> 更多同类文章 ……

[5] 有关IM架构设计:
浅谈IM系统的架构设计
简述移动端IM开发的那些坑:架构设计、通信协议和客户端
一套原创分布式即时通讯(IM)系统理论架构方案
从零到卓越:京东客服即时通讯系统的技术架构演进历程
蘑菇街即时通讯/IM服务器开发之架构选择
腾讯QQ1.4亿在线用户的技术挑战和架构演进之路PPT
微信技术总监谈架构:微信之道——大道至简(演讲全文)
如何解读《微信技术总监谈架构:微信之道——大道至简》
快速裂变:见证微信强大后台架构从0到1的演进历程(一)
17年的实践:腾讯海量产品的技术方法论
>> 更多同类文章 ……

[6] 有关IM安全的文章:
即时通讯安全篇(一):正确地理解和使用Android端加密算法
即时通讯安全篇(二):探讨组合加密算法在IM中的应用
即时通讯安全篇(三):常用加解密算法与通讯安全讲解
即时通讯安全篇(四):实例分析Android中密钥硬编码的风险
传输层安全协议SSL/TLS的Java平台实现简介和Demo演示
理论联系实际:一套典型的IM通信协议设计详解(含安全层设计)
微信新一代通信安全解决方案:基于TLS1.3的MMTLS详解
来自阿里OpenIM:打造安全可靠即时通讯服务的技术实践分享
>> 更多同类文章 ……

[7] 有关实时音视频开发:
即时通讯音视频开发(一):视频编解码之理论概述
即时通讯音视频开发(二):视频编解码之数字视频介绍
即时通讯音视频开发(三):视频编解码之编码基础
即时通讯音视频开发(四):视频编解码之预测技术介绍
即时通讯音视频开发(五):认识主流视频编码技术H.264
即时通讯音视频开发(六):如何开始音频编解码技术的学习
即时通讯音视频开发(七):音频基础及编码原理入门
即时通讯音视频开发(八):常见的实时语音通讯编码标准
即时通讯音视频开发(九):实时语音通讯的回音及回音消除概述
即时通讯音视频开发(十):实时语音通讯的回音消除技术详解
即时通讯音视频开发(十一):实时语音通讯丢包补偿技术详解
即时通讯音视频开发(十二):多人实时音视频聊天架构探讨
即时通讯音视频开发(十三):实时视频编码H.264的特点与优势
即时通讯音视频开发(十四):实时音视频数据传输协议介绍
即时通讯音视频开发(十五):聊聊P2P与实时音视频的应用情况
即时通讯音视频开发(十六):移动端实时音视频开发的几个建议
即时通讯音视频开发(十七):视频编码H.264、V8的前世今生
简述开源实时音视频技术WebRTC的优缺点
良心分享:WebRTC 零基础开发者教程(中文)
>> 更多同类文章 ……

[8] IM开发综合文章:
移动端IM开发需要面对的技术问题
开发IM是自己设计协议用字节流好还是字符流好?
请问有人知道语音留言聊天的主流实现方式吗?
IM系统中如何保证消息的可靠投递(即QoS机制)
谈谈移动端 IM 开发中登录请求的优化
完全自已开发的IM该如何设计“失败重试”机制?
微信对网络影响的技术试验及分析(论文全文)
即时通讯系统的原理、技术和应用(技术论文)
开源IM工程“蘑菇街TeamTalk”的现状:一场有始无终的开源秀
>> 更多同类文章 ……

[9] 开源移动端IM技术框架资料:
开源移动端IM技术框架MobileIMSDK:快速入门
开源移动端IM技术框架MobileIMSDK:常见问题解答
开源移动端IM技术框架MobileIMSDK:压力测试报告
开源移动端IM技术框架MobileIMSDK:Android版Demo使用帮助
开源移动端IM技术框架MobileIMSDK:Java版Demo使用帮助
开源移动端IM技术框架MobileIMSDK:iOS版Demo使用帮助
开源移动端IM技术框架MobileIMSDK:Android客户端开发指南
开源移动端IM技术框架MobileIMSDK:Java客户端开发指南
开源移动端IM技术框架MobileIMSDK:iOS客户端开发指南
开源移动端IM技术框架MobileIMSDK:Server端开发指南
>> 更多同类文章 ……

[10] 有关推送技术的文章:
iOS的推送服务APNs详解:设计思路、技术原理及缺陷等
Android端消息推送总结:实现原理、心跳保活、遇到的问题等
扫盲贴:认识MQTT通信协议
一个基于MQTT通信协议的完整Android推送Demo
求教android消息推送:GCM、XMPP、MQTT三种方案的优劣
移动端实时消息推送技术浅析
扫盲贴:浅谈iOS和Android后台实时消息推送的原理和区别
绝对干货:基于Netty实现海量接入的推送服务技术要点
移动端IM实践:谷歌消息推送服务(GCM)研究(来自微信)
为何微信、QQ这样的IM工具不使用GCM服务推送消息?
>> 更多同类文章 ……

[11] 更多即时通讯技术好文分类:
http://www.52im.net/forum.php?mod=collection&op=all

附录:有关QQ、微信的文章汇总


[1] 有关QQ、微信的技术文章:
微信后台团队:微信后台异步消息队列的优化升级实践分享
微信团队原创分享:微信客户端SQLite数据库损坏修复实践
腾讯原创分享(一):如何大幅提升移动网络下手机QQ的图片传输速度和成功率
腾讯原创分享(二):如何大幅压缩移动网络下APP的流量消耗(下篇)
腾讯原创分享(二):如何大幅压缩移动网络下APP的流量消耗(上篇)
微信Mars:微信内部正在使用的网络层封装库,即将开源
如约而至:微信自用的移动端IM网络层跨平台组件库Mars已正式开源
开源libco库:单机千万连接、支撑微信8亿用户的后台框架基石 [源码下载]
微信新一代通信安全解决方案:基于TLS1.3的MMTLS详解
微信团队原创分享:Android版微信后台保活实战分享(进程保活篇)
微信团队原创分享:Android版微信后台保活实战分享(网络保活篇)
Android版微信从300KB到30MB的技术演进(PPT讲稿) [附件下载]
微信团队原创分享:Android版微信从300KB到30MB的技术演进
微信技术总监谈架构:微信之道——大道至简(演讲全文)
微信技术总监谈架构:微信之道——大道至简(PPT讲稿) [附件下载]
如何解读《微信技术总监谈架构:微信之道——大道至简》
微信海量用户背后的后台系统存储架构(视频+PPT) [附件下载]
微信异步化改造实践:8亿月活、单机千万连接背后的后台解决方案
微信朋友圈海量技术之道PPT [附件下载]
微信对网络影响的技术试验及分析(论文全文)
一份微信后台技术架构的总结性笔记
架构之道:3个程序员成就微信朋友圈日均10亿发布量[有视频]
快速裂变:见证微信强大后台架构从0到1的演进历程(一)
快速裂变:见证微信强大后台架构从0到1的演进历程(二)
微信团队原创分享:Android内存泄漏监控和优化技巧总结
全面总结iOS版微信升级iOS9遇到的各种“坑”
微信团队原创资源混淆工具:让你的APK立减1M
微信团队原创Android资源混淆工具:AndResGuard [有源码]
Android版微信安装包“减肥”实战记录
iOS版微信安装包“减肥”实战记录
移动端IM实践:iOS版微信界面卡顿监测方案
微信“红包照片”背后的技术难题
移动端IM实践:iOS版微信小视频功能技术方案实录
移动端IM实践:Android版微信如何大幅提升交互性能(一)
移动端IM实践:Android版微信如何大幅提升交互性能(二)
移动端IM实践:实现Android版微信的智能心跳机制
移动端IM实践:WhatsApp、Line、微信的心跳策略分析
移动端IM实践:谷歌消息推送服务(GCM)研究(来自微信)
移动端IM实践:iOS版微信的多设备字体适配方案探讨
>> 更多同类文章 ……

[2] 有关QQ、微信的技术故事:
技术往事:创业初期的腾讯——16年前的冬天,谁动了马化腾的代码
技术往事:史上最全QQ图标变迁过程,追寻IM巨人的演进历史
开发往事:深度讲述2010到2015,微信一路风雨的背后
开发往事:微信千年不变的那张闪屏图片的由来
开发往事:记录微信3.0版背后的故事(距微信1.0发布9个月时)
一个微信实习生自述:我眼中的微信开发团队
>> 更多同类文章 ……

(原文链接:https://www.zhihu.com/question/28165323

即时通讯网 - 即时通讯开发者社区! 来源: - 即时通讯开发者社区!

上一篇:微信技术总监谈架构:微信之道——大道至简(演讲全文)下一篇:求助:我要做一个聊天界面,通过Socket怎样跟服务器建立连接呢

本帖已收录至以下技术专辑

推荐方案
评论 3
hi,lz你好,一直不太明白set模型+双写是个啥意思,能解释下吗,谢谢
大道至简
签名: 慢慢
打赏楼主 ×
使用微信打赏! 使用支付宝打赏!

Processed in 0.156249 second(s), 39 queries , Gzip On.

返回顶部