请选择 进入手机版 | 继续访问电脑版

默认
打赏 发表评论 27
想开发IM:买成品怕坑?租第3方怕贵?找开源自已撸?尽量别走弯路了... 找站长给点建议
理论联系实际:一套典型的IM通信协议设计详解
微信扫一扫关注!

前言


本文要谈的IM通信协议指的是应用层通信“语言”,并非指传输层协议(如TCP、UDP)。IM通信协议的制定是IM开发中起点,也是贯穿设计、开发、运维始终的核心所在,通信协议设计的好坏,直接影响后绪环节的用户体验(数据流量、耗电量、通信速度)、兼容性(新老版本的无缝融合)、扩展性(后绪的版本升级怎么办)等,是个基础且极其重要的工作之一。

本文将以理论联系实际的方式,详细讲解一套典型IM的通信协议设计的方方面面。

本文原作者是58同城网的沈剑:58同城技术委员会主席、高级架构师、优秀讲师。前百度hi团队成员,负责过58同城im系统的架构设计。

IM通信协议的分层设计


所谓“协议”是双方共同遵守的规则,例如:离婚协议,停战协议。

协议有语法、语义、时序三要素:

  • (1)语法:即数据与控制信息的结构或格式
  • (2)语义:即需要发出何种控制信息,完成何种动作以及做出何种响应
  • (3)时序:即事件实现顺序的详细说明

一套典型的IM通信协议设计分为三层:应用层、安全层、传输层。

b.jpeg

IM应用层协议设计


应用层协议选型,常见的有三种:文本协议、二进制协议、流式XML协议。

1文本协议


文本协议是指 “贴近人类书面语言表达”的通讯传输协议,典型的协议是http协议。一个http协议大致长成这样:
GET / HTTP/1.1
User-Agent: curl
Host: musicml.net
Accept: */*

文本协议的特点是:

  • a. 可读性好,便于调试
  • b. 扩展性也好(通过key:value扩展)
  • c. 解析效率一般(一行一行读入,按照冒号分割,解析key和value)
  • d. 对二进制的支持不好 ,比如语音/视频

IM中,MSN使用的是文本协议。


2二进制协议


二进制协议是指binary协议,典型是ip协议,以下是ip协议的一个图示:

a.jpeg

二进制协议一般定长包头和可扩展变长包体 ,每个字段固定了含义 ,例如IP协议的前4个bit表示协议版本号 (Version)(详情请参见《TCP/IP详解》第3章)。

二进制协议有这样一些特点:

  • a. 可读性差,难于调试
  • b. 扩展性不好 ,如果要扩展字段,旧版协议就不兼容了,所以一般设计时会有一个Version字段
  • c. 解析效率超高(几乎没有解析代价)
  • d. 对二进制的支持不好 ,比如语音/视频

IM中,QQ使用的时二进制协议。


3流式XML协议


IM的准标准协议xmpp就是使用流式XML,像gtalk,校内通这些im都是基于xmpp的。让我们来看一个xmpp协议的例子:
<message
to=’[url=mailto:romeo@example.net]romeo@example.net[/url]’
from=’[url=mailto:juliet@example.com]juliet@example.com[/url]’
type=’chat’
xml : lang=’en’>
<body>Wherefore art thou, Romeo?</body>
</message>

从xml标签中大致可以判断这是一个romeo发给juliet的聊天消息。xmpp协议可以实现跨域的互通。例如gtalk和校内通用户聊天。只要服务端实现了s2s服务(server to server) ,不过现在的im基本没有互通需求 ,所以这个服务基本没有人实现。

XMPP协议有几个特点:

  • a.它是准标准协议,可以跨域互通
  • b.XML的优点,可读性好,扩展性好
  • c.解析代价超高(dom解析)
  • d.有效数据传输率超低(大量的标签)

个人旗帜鲜明的强烈不建议使用xmpp,特别是无线端im,如果要用,一定要自己做压缩 ,减少网络流量(用过xmpp的同学都清楚,发一个登录包需要多少交互,要浪费多少流量)。

4实际的例子


下面来看一个im协议的实际例子 。一般常见的做法是:定长二进制包头,可扩展变长包体。包体可以使用用文本、XML等扩展性好的协议。包头负责传输和解析效率,与业务无关。包体保证扩展性,与业务相关。

这是一个实际的16字节im二进制定长包头:
//sizeof(cs_essay-header)=16
struct cs_essay-header
{
    uint32_t version;
    uint32_t magic_num;
    uint32_t cmd;
    uint32_t len;
    uint8_t data[];
}__attribute__((packed));

- a. 前4个字节是version;
- b. 接下来的4个字节是个“魔法数字(magic_num)“,用来保证数据错位或丢包问题,常见的做法是,包头放几个约定好的特殊字符,包尾放几个约定好的特殊字符 约定好,发给你的协议,某几个字节位置,是0x 01020304 ,才是正常报文;
- c. 接下来是command(命令号),用来区分是keepalive报文、业务报文、密钥交换报文等;
- d. len(包体长度),告知服务端要接收多长的包体。

这是一个实际的可扩展im变长包体:
message CUserLoginReq
{
    optional string username = 1;
    optional string passwd = 2;
}
message CUserLoginResp
{
    optional uint64 uid =1;
}

使用的是google的Protobuf协议(玩过的人都懂),可以看到,登录请求包传入的是用户名与密码,登录响应包返回的是用户的uid。当然,除了Protobuf,可选择的可扩展包体协议还有xml、json、mcpack(大家懂?)等。(关于使用Protobuf的文章请见《强列建议将Protobuf作为你的即时通讯应用数据传输格式》:http://www.52im.net/thread-277-1-1.html,更多IM的协议方面的文章请见:http://www.52im.net/forum.php?mod=collection&action=view&ctid=18

个人旗帜鲜明的推荐使用Protobuf主要有几个原因:

  • a. 现成的解析库种类多,可以生成C++、Java、php等10余种语言代码(详见请点击:http://www.52im.net/thread-277-1-1.html
  • b. 自带压缩功能
  • c. 在工业界已广泛应用
  • d. google制造

IM安全层协议设计


im协议,消息的保密性非常重要 ,谁都不希望自己聊天内容被看到,所以安全层是必不可少的。

1使用SSL


证书管理微微复杂,代价有点高。

2自行加解密


自己来搞加解密,核心在于密钥的生成与管理,密钥管理方式有多种,主要有这么三种:

(1)固定密钥
服务端和客户端约定好一个密钥,同时约定好一个加密算法(eg:AES ),每次客户端im在发送前,就用约定好的算法,以及约定好的密钥加密再传输,服务端收到报文后,用约定好的算法,约定好的密钥再解密。这种方式,密钥和算法对程序员都是透明的。

(2)一人一密钥
简单说来就是每个人的密钥是固定的,但是每个人之间又不同,其实就是在固定密钥的算法中包含用户的某一特殊属性,比如用户uid、手机号、qq号等。

(3)动态密钥(一session一密钥)
动态密钥,一Session一密钥的安全性更高,每次会话前协商密钥。密钥协商的过程要经过2次非对称密钥的随机生成,1次对称加密密钥的随机生成,具体详情这里不展开,有兴趣的同学可以看下SSL密钥协商额过程。

IM传输层协议设计


可选的协议有TCP和UDP。现在的IM传输层基本都是使用TCP,有了epoll等技术后,多连接就不是瓶颈了,单机几十万链接没什么问题。58同城现在线上单机连接好像是10w?(可能单机性能测试可以到百万,线上一般跑到几十万)

关于QQ使用UDP的问题(请见《为什么QQ用的是UDP协议而不是TCP协议?》帖子中的讨论)。个人不清楚QQ使用UPD作为传输层协议的初衷,但猜测是因为10多年前Client 10K问题没有得到很好解决,一台服务器支撑不了1W个TCP连接 ,腾讯的同时在线量高,没办法,只有用UDP了,但UDP又不可靠,故只能在UDP上实现TCP的超时/重传/确认等机制啦。

结语


关于QQ使用UDP协议,在讨论的过程中,有同学提出了一个非常好的问题“无线环境下,UDP更好,可以做到状态无关,而TCP不稳定,进出电梯就要断线,用户体验不好”。

其实吧,“用户状态可以设计的与连接状态无关”,如果大家感兴趣,后续我可以撰文和大家聊一聊,传输层使用TCP,怎么做到在线状态与底层连接无关。

更多类似文章


更多IM协议设计、选型等方面的文章请见:http://www.52im.net/forum.php?mod=collection&action=view&ctid=18

附录:更多相关精华文章


[1] 有关IM/推送的通信格式、协议的选择:
Protobuf通信协议详解:代码演示、详细原理介绍等
一个基于Protocol Buffer的Java代码演示
简述传输层协议TCP和UDP的区别
为什么QQ用的是UDP协议而不是TCP协议?
移动端即时通讯协议选择:UDP还是TCP?
网络编程懒人入门(四):快速理解TCP和UDP的差异
网络编程懒人入门(五):快速理解为什么说UDP有时比TCP更有优势
如何选择即时通讯应用的数据传输格式
强列建议将Protobuf作为你的即时通讯应用数据传输格式
全方位评测:Protobuf性能到底有没有比JSON快5倍?
移动端IM开发需要面对的技术问题(含通信协议选择)
简述移动端IM开发的那些坑:架构设计、通信协议和客户端
理论联系实际:一套典型的IM通信协议设计详解
58到家实时消息系统的协议设计等技术实践分享
详解如何在NodeJS中使用Google的Protobuf
技术扫盲:新一代基于UDP的低延时网络传输层协议——QUIC详解
金蝶随手记团队分享:还在用JSON? Protobuf让数据传输更省更快(原理篇)
金蝶随手记团队分享:还在用JSON? Protobuf让数据传输更省更快(实战篇)
>> 更多同类文章 ……

[2] 有关IM架构设计的文章:
浅谈IM系统的架构设计
简述移动端IM开发的那些坑:架构设计、通信协议和客户端
一套海量在线用户的移动端IM架构设计实践分享(含详细图文)
一套原创分布式即时通讯(IM)系统理论架构方案
从零到卓越:京东客服即时通讯系统的技术架构演进历程
蘑菇街即时通讯/IM服务器开发之架构选择
腾讯QQ1.4亿在线用户的技术挑战和架构演进之路PPT
微信后台基于时间序的海量数据冷热分级架构设计实践
微信技术总监谈架构:微信之道——大道至简(演讲全文)
如何解读《微信技术总监谈架构:微信之道——大道至简》
快速裂变:见证微信强大后台架构从0到1的演进历程(一)
17年的实践:腾讯海量产品的技术方法论
移动端IM中大规模群消息的推送如何保证效率、实时性?
现代IM系统中聊天消息的同步和存储方案探讨
IM开发基础知识补课(二):如何设计大量图片文件的服务端存储架构?
IM开发基础知识补课(三):快速理解服务端数据库读写分离原理及实践建议
IM开发基础知识补课(四):正确理解HTTP短连接中的Cookie、Session和Token
WhatsApp技术实践分享:32人工程团队创造的技术神话
微信朋友圈千亿访问量背后的技术挑战和实践总结
王者荣耀2亿用户量的背后:产品定位、技术架构、网络方案等
IM系统的MQ消息中间件选型:Kafka还是RabbitMQ?
腾讯资深架构师干货总结:一文读懂大型分布式系统设计的方方面面
以微博类应用场景为例,总结海量社交系统的架构设计步骤
快速理解高性能HTTP服务端的负载均衡技术原理
子弹短信光鲜的背后:网易云信首席架构师分享亿级IM平台的技术实践
知乎技术分享:从单机到2000万QPS并发的Redis高性能缓存实践之路
IM开发基础知识补课(五):通俗易懂,正确理解并用好MQ消息队列
微信技术分享:微信的海量IM聊天消息序列号生成实践(算法原理篇)
微信技术分享:微信的海量IM聊天消息序列号生成实践(容灾方案篇)
新手入门:零基础理解大型分布式架构的演进历史、技术原理、最佳实践
一套高可用、易伸缩、高并发的IM群聊、单聊架构方案设计实践
阿里技术分享:深度揭秘阿里数据库技术方案的10年变迁史
阿里技术分享:阿里自研金融级数据库OceanBase的艰辛成长之路
社交软件红包技术解密(一):全面解密QQ红包技术方案——架构、技术实现等
社交软件红包技术解密(二):解密微信摇一摇红包从0到1的技术演进
社交软件红包技术解密(三):微信摇一摇红包雨背后的技术细节
社交软件红包技术解密(四):微信红包系统是如何应对高并发的
社交软件红包技术解密(五):微信红包系统是如何实现高可用性的
社交软件红包技术解密(六):微信红包系统的存储层架构演进实践
社交软件红包技术解密(七):支付宝红包的海量高并发技术实践
社交软件红包技术解密(八):全面解密微博红包技术方案
社交软件红包技术解密(九):谈谈手Q红包的功能逻辑、容灾、运维、架构等
即时通讯新手入门:一文读懂什么是Nginx?它能否实现IM的负载均衡?
即时通讯新手入门:快速理解RPC技术——基本概念、原理和用途
多维度对比5款主流分布式MQ消息队列,妈妈再也不担心我的技术选型了
从游击队到正规军(一):马蜂窝旅游网的IM系统架构演进之路
从游击队到正规军(二):马蜂窝旅游网的IM客户端架构演进和实践总结
IM开发基础知识补课(六):数据库用NoSQL还是SQL?读这篇就够了!
瓜子IM智能客服系统的数据架构设计(整理自现场演讲,有配套PPT)
阿里钉钉技术分享:企业级IM王者——钉钉在后端架构上的过人之处
从游击队到正规军(三):基于Go的马蜂窝旅游网分布式IM系统技术实践
>> 更多同类文章 ……

[3] 更多其它架构设计相关文章:
腾讯资深架构师干货总结:一文读懂大型分布式系统设计的方方面面
快速理解高性能HTTP服务端的负载均衡技术原理
子弹短信光鲜的背后:网易云信首席架构师分享亿级IM平台的技术实践
知乎技术分享:从单机到2000万QPS并发的Redis高性能缓存实践之路
新手入门:零基础理解大型分布式架构的演进历史、技术原理、最佳实践
阿里技术分享:深度揭秘阿里数据库技术方案的10年变迁史
阿里技术分享:阿里自研金融级数据库OceanBase的艰辛成长之路
达达O2O后台架构演进实践:从0到4000高并发请求背后的努力
优秀后端架构师必会知识:史上最全MySQL大表优化方案总结
小米技术分享:解密小米抢购系统千万高并发架构的演进和实践
一篇读懂分布式架构下的负载均衡技术:分类、原理、算法、常见方案等
通俗易懂:如何设计能支撑百万并发的数据库架构?
多维度对比5款主流分布式MQ消息队列,妈妈再也不担心我的技术选型了
从新手到架构师,一篇就够:从100到1000万高并发的架构演进之路
美团技术分享:深度解密美团的分布式ID生成算法
12306抢票带来的启示:看我如何用Go实现百万QPS的秒杀系统(含源码)
>> 更多同类文章 ……

(原文链接:http://chuansong.me/n/1393172

即时通讯网 - 即时通讯开发者社区! 来源: - 即时通讯开发者社区!

上一篇:谈谈移动端 IM 开发中登录请求的优化下一篇:简述移动端IM开发的那些坑:架构设计、通信协议和客户端

本帖已收录至以下技术专辑

推荐方案
评论 27
说的很不错,牛逼哄哄高大上的架构文章也比不上几行实用的文字和代码有意义,收藏了
签名: 星期六,那又怎样,还是得上班
收藏·
感谢,已收藏
签名: asdf
赞一个
签名: 有志者事竟成
不错不错,简单明了
收藏收藏
很实用,不错
实用,Mark
签名: 哈哈哈哈
要做IMSDK真是件头大的事情啊
签名: 哈哈哈哈
引用:Sands_Lee 发表于 2017-08-31 18:15
要做IMSDK真是件头大的事情啊

慢慢撸
签名: 《[活动] 融云IM首购专享:首月费用仅需199元!》:https://www.rongcloud.cn/active/im199/?utm_source=52im&utm_term=199
收藏了。
签名:
学习了
签名: 签个到都要吐槽的吗
58的单机是10w链接?那么厉害,我们现在才一万啊
感谢,已收藏
感谢,已收藏 楼主一直在用心整理供我们学习 辛苦了!
学习
签名: 学习了
学习了
学习了
学习了
打赏楼主 ×
使用微信打赏! 使用支付宝打赏!

返回顶部