请选择 进入手机版 | 继续访问电脑版

默认
打赏 发表评论 3
想开发IM:买成品怕坑?租第3方怕贵?找开源自已撸?尽量别走弯路了... 找站长给点建议
58到家实时消息系统的架构设计及技术选型经验总结
微信扫一扫关注!

前言


实时消息平台产生的背景是基于58核心的业务——58速运,58速运的业务是做最便捷的同城的货运。基于早期HTTP伪实时消息推送的种种问题,我们开发了新的实时消息推送平台,目的就是解决系统的稳定性等性能问题,为业务部门减少压力。

面临的问题和技术难点


需要解决什么业务问题:
  • 端到云的实时上报需求:58速运司机端GPS实时上报
  • 云到端的实时推送需求:58速运司机订单实时推送
  • 端到端的聊天消息需求:用户、商户、客服之间的聊天沟通

技术难点:
  • APP无线环境下消息可达性
  • 通用性:平台实现尽量与业务解耦

总结传统解决方案的不足


1端到云:http轮询上报GPS消息


方案一:直接通过业务线web-server写DB
1.png

方案二:通用web-server层调用业务服务层写DB
2.png

潜在不足:
  • http短连接代价高(反复创建与销毁连接)
  • web-server层吞吐量较低(每秒处理千级别请求)

2云到端:通过第三方push或者推送服务


方案一:通过APNs或者米推等第三方推送
方案二:通过自己搭建mqtt服务推送
潜在不足:
  • 第三方可达性与实时性无法保证:为了整个云服务的可用性第3方可能会进行推送限速(PS:潜规则)
  • mqtt可用性是个问题

3端到端:结合上面两种方法实现


3.png

传统方案往往可以通过结合【端到云】与【云到端】来结合解决【端到端】的实时消息推送问题。

58到家实时消息平台的实现细节


1业务的分析与抽象


司机、用户、商家、客服均为“在线”业务。

2端到云的优化


传统方案潜在的问题:http轮询效率不高,web-server性能有限。

优化TIPS:消息平台使用tcp长连接(如下图)
4.png

潜在的问题:消息平台与业务线app-server耦合,需要switch case业务线类型来分发投递消息,新增业务线需要新增RPC调用(如下图)
5.png

优化TIPS:使用消息总线msg-queue解耦(如下图)
6.jpeg

小结:
可以看到,使用消息总线后,新增消息发送方,消息平台只需要配置消息类型与消息总线主题的映射关系,新增的app-server消费方订阅新的主题即可,实现消息平台与业务的解耦。

3云到端的优化


潜在的问题:可用性问题与第三方限速
优化TIPS:自己提供消息平台集群,提供RPC接口,实现“云到端”的消息通道(见下图)
7.png
这里要注意的是,“端到云”使用消息总线,是为了业务解耦。“云到端”直接使用RPC接口,也是为了业务解耦,新增消息推送方,消息平台无需改动代码。

潜在的问题:不少司机推送订单无回复,抢单率比预期的低
优化TIPS:引入状态实时存储,只有“在线”状态的用户才推送消息(见下图)
8.png

4端到端的优化


如果业务无关,则直接通过tcp通道投递;如果业务相关,发送方先来一个“端到云”的投递(通过mq),业务服务器处理再反向来一个“云到端”的投递(RPC)给接收方。

潜在问题:如果接收方不在线怎么办
优化TIPS:增加DB存储离线消息(见下图)
9.png

潜在的问题:无线环境下经常网络不稳(例如进出电梯断网),消息经常丢失
优化TIPS:消息平台收到消息先落地数据库,接收方收到后应用层ACK再删除,以保证不丢失(见下图)
10.png

如上图(本文最重要的2张图之一),整个消息投递流程为:
  • 发送发将消息发给消息平台
  • 消息平台先将消息落地DB
  • 消息平台回复发送方消息发送成功(此时和接收方是否接到无关)
  • 与此同时,并行的把消息投递给接收方(如果不在线就存离线了)
  • 接收方应用层ACK表示收到了消息
  • 消息平台将消息删除
  • 告之接收方ACK已经成功处理

可以看到,是使用“应用层ACK来解决消息可达性问题的”。

潜在问题:发送方没有收到第3步骤中的消息平台回复怎么办?
优化TIPS:发送方重发(服务器无状态)

潜在问题:接收方收到重发的冗余消息怎么办?
优化TIPS:接收方去重(可以做到服务端完全无状态,只需要简单投递消息即可)

5分层架构说明


11.png

整个系统的分层架构如上图(本文最重要的2张图之二),整个消息平台系统由:
  • 消息平台在APP里的msg-sdk,向APP提供帅气的接口
  • msg-gate,整个消息平台的tcp接入门户,保持tcp长连接,初步攻防,加解密,压缩解压缩
  • msg-logic,整个消息平台逻辑处理的部分
  • redis,高可用redis集群存储用户在线状态online/offline,以及用户在哪一台msg-gate接入(如果在线)
  • DB,存储离线消息

非消息平台的几个业务部分:
  • APP:业务方APP,可以有多个,通过msg-sdk来接入消息平台
  • mq:消息平台通过mq来给业务方服务器发“端到云”的消息
  • app-server:业务方后端,可以有多个,通过mq接收“端到云”的消息,通过RPC发送“云到端”的消息

6对外提供的接口说明


消息平台对业务方提供的接口是很少很通用的接口。

msg-sdk对APP提供的核心接口有:
  • login:接入消息平台
  • logout:登出消息平台
  • c2s:发送client to server“端到云”的消息
  • c2c:发送client to client“端到端”的消息
  • get-offline-msg:拉取离线消息
  • on-msg-recieved:收到消息的callback回调接口

消息平台对app-server提供的核心接口有:
  • s2c:发送server to client“云到端”的消息

其他业务方不需要关注,是msg-sdk与消息平台之间的内部接口有:
  • keepalive:用于msg-sdk与消息平台的连接保持(对业务方透明)
  • c2c-ack:用户c2c接口的应用层ack接口(对业务方透明)

7如何实现跨帐号体系的聊天


既然是通用的消息平台,如何实现跨帐号体系的消息发送呢(即如何实现qq与旺旺的聊天)?

解决方案:不再使用uid作为整个系统运行的key,而使用domain+uid,或者appid+uid来作为整个系统运行的key
潜在耦合点:这样的话,login接口的逻辑处理,消息平台需要switch case (domain或者appid)来进行不同的登录验证,与业务有一定的耦合,不过新增帐号体系的频度很低,远比新增消息类型低。

8协议的扩展性设计


APP本质是cs架构,一旦放出去的版本就很难收回来,其兼容系要求远比bs架构难,如何做到新增功能的同时,还能方便的兼容历史旧版APP呢?

(1)如何方便的增加接口?

解决方案:协议使用定长包头 + 变长包体,使用命令号cmd来扩展新接口【这个变化对业务层是透明的,是msg-sdk与消息平台之间的事情】,具体协议设计请参见《58到家实时消息系统的协议设计等技术实践分享》。

(2)对于同一个接口,能否增加参数,而不影响旧版本的APP?
解决方案:使用可扩展的序列化协议,例如protobuffer【protobuffer这个东西也对业务线透明】。关于更多Protobuf及其它协议、数据传输格式的文章请见:《IM/推送的通信格式、协议篇》。

(3)对于业务方,有很多种类的消息类型,有很多复杂的业务需求,如何保证业务扩展性的同时,又不会增加消息平台的复杂性,并对旧版本APP兼容?
例如业务线可能有这样的潜在需求:
  • 推送一个运营消息
  • 推送消息内容支持字体、字号、加粗、颜色
  • 推送消息支持图片
  • 业务支持“窗口震动”,以及“对方正在输入......”等需求

解决方案:使用可扩展的消息体协议(对消息平台透明),例如xml/json来支持可扩展的多样消息类型,并对旧版本APP兼容。
<msg>
<type>1</type>
<fond>宋体</font>
<content>hello, world!</content>
<pic>[url=http://pic.daojia.com/hello.jpg</pic>]http://pic.daojia.com/hello.jpg</pic>[/url]
</msg>
使用这种消息内容协议,能保证:扩展性好、旧版本兼容、对消息平台透明等诸多好处,强烈建议使用

分布式架构细节


抱歉,主持人提醒时间已到,分布式架构扩展性、负载均衡性、可用性、一致性的问题线下和大家分享,先放一个分布式架构图吧:

12.png

总结


(1)“端到云”消息投递:
TCP消息通道,消息总线业务解耦。

(2)“云到端”消息投递:
提供RPC接口,引入状态存储。

(3)“端到端”消息投递步骤如下图:
13.png

(4)“端到端”消息投递技巧
        a)先存离线消息防丢失
        b)ACK机制保证可达
        c)发送方消息重发
        d)接收方消息去重

(5)可扩展协议设计
        a)定长包头,变长包体,随时增加接口
        b)可扩展序列化协议,随时变化接口
        c)可扩展消息协议,随时增加类型

(6)支持跨帐号体系聊天(多个域):
使用domain(或者appid)+uid作为综合key

(7)分层架构如下图:
14.png

更多资料


更多推送技术资料,请见好文精选:http://www.52im.net/forum.php?mod=collection&action=view&ctid=11

全站即时通讯技术资料分类


[1] 网络编程基础资料:
TCP/IP详解 - 第11章·UDP:用户数据报协议
TCP/IP详解 - 第17章·TCP:传输控制协议
TCP/IP详解 - 第18章·TCP连接的建立与终止
TCP/IP详解 - 第21章·TCP的超时与重传
理论经典:TCP协议的3次握手与4次挥手过程详解
理论联系实际:Wireshark抓包分析TCP 3次握手、4次挥手过程
计算机网络通讯协议关系图(中文珍藏版)
NAT详解:基本原理、穿越技术(P2P打洞)、端口老化等
UDP中一个包的大小最大能多大?
Java新一代网络编程模型AIO原理及Linux系统AIO介绍
NIO框架入门(三):iOS与MINA2、Netty4的跨平台UDP双向通信实战
NIO框架入门(四):Android与MINA2、Netty4的跨平台UDP双向通信实战
>> 更多同类文章 ……

[2] 有关IM/推送的通信格式、协议的选择:
为什么QQ用的是UDP协议而不是TCP协议?
移动端即时通讯协议选择:UDP还是TCP?
如何选择即时通讯应用的数据传输格式
强列建议将Protobuf作为你的即时通讯应用数据传输格式
移动端IM开发需要面对的技术问题(含通信协议选择)
简述移动端IM开发的那些坑:架构设计、通信协议和客户端
理论联系实际:一套典型的IM通信协议设计详解
58到家实时消息系统的协议设计等技术实践分享
>> 更多同类文章 ……

[3] 有关IM/推送的心跳保活处理:
Android进程保活详解:一篇文章解决你的所有疑问
Android端消息推送总结:实现原理、心跳保活、遇到的问题等
为何基于TCP协议的移动端IM仍然需要心跳保活机制?
微信团队原创分享:Android版微信后台保活实战分享(进程保活篇)
微信团队原创分享:Android版微信后台保活实战分享(网络保活篇)
移动端IM实践:实现Android版微信的智能心跳机制
移动端IM实践:WhatsApp、Line、微信的心跳策略分析
>> 更多同类文章 ……

[4] 有关WEB端即时通讯开发:
新手入门贴:史上最全Web端即时通讯技术原理详解
Web端即时通讯技术盘点:短轮询、Comet、Websocket、SSE
SSE技术详解:一种全新的HTML5服务器推送事件技术
Comet技术详解:基于HTTP长连接的Web端实时通信技术
WebSocket详解(一):初步认识WebSocket技术
socket.io实现消息推送的一点实践及思路
>> 更多同类文章 ……

[5] 有关IM架构设计:
浅谈IM系统的架构设计
简述移动端IM开发的那些坑:架构设计、通信协议和客户端
一套原创分布式即时通讯(IM)系统理论架构方案
从零到卓越:京东客服即时通讯系统的技术架构演进历程
蘑菇街即时通讯/IM服务器开发之架构选择
腾讯QQ1.4亿在线用户的技术挑战和架构演进之路PPT
微信技术总监谈架构:微信之道——大道至简(演讲全文)
如何解读《微信技术总监谈架构:微信之道——大道至简》
快速裂变:见证微信强大后台架构从0到1的演进历程(一)
17年的实践:腾讯海量产品的技术方法论
>> 更多同类文章 ……

[6] 有关IM安全的文章:
即时通讯安全篇(一):正确地理解和使用Android端加密算法
即时通讯安全篇(二):探讨组合加密算法在IM中的应用
即时通讯安全篇(三):常用加解密算法与通讯安全讲解
即时通讯安全篇(四):实例分析Android中密钥硬编码的风险
传输层安全协议SSL/TLS的Java平台实现简介和Demo演示
理论联系实际:一套典型的IM通信协议设计详解(含安全层设计)
微信新一代通信安全解决方案:基于TLS1.3的MMTLS详解
来自阿里OpenIM:打造安全可靠即时通讯服务的技术实践分享
>> 更多同类文章 ……

[7] 有关实时音视频开发:
即时通讯音视频开发(一):视频编解码之理论概述
即时通讯音视频开发(二):视频编解码之数字视频介绍
即时通讯音视频开发(三):视频编解码之编码基础
即时通讯音视频开发(四):视频编解码之预测技术介绍
即时通讯音视频开发(五):认识主流视频编码技术H.264
即时通讯音视频开发(六):如何开始音频编解码技术的学习
即时通讯音视频开发(七):音频基础及编码原理入门
即时通讯音视频开发(八):常见的实时语音通讯编码标准
即时通讯音视频开发(九):实时语音通讯的回音及回音消除概述
即时通讯音视频开发(十):实时语音通讯的回音消除技术详解
即时通讯音视频开发(十一):实时语音通讯丢包补偿技术详解
即时通讯音视频开发(十二):多人实时音视频聊天架构探讨
即时通讯音视频开发(十三):实时视频编码H.264的特点与优势
即时通讯音视频开发(十四):实时音视频数据传输协议介绍
即时通讯音视频开发(十五):聊聊P2P与实时音视频的应用情况
即时通讯音视频开发(十六):移动端实时音视频开发的几个建议
即时通讯音视频开发(十七):视频编码H.264、V8的前世今生
简述开源实时音视频技术WebRTC的优缺点
良心分享:WebRTC 零基础开发者教程(中文)
>> 更多同类文章 ……

[8] IM开发综合文章:
移动端IM开发需要面对的技术问题
开发IM是自己设计协议用字节流好还是字符流好?
请问有人知道语音留言聊天的主流实现方式吗?
IM系统中如何保证消息的可靠投递(即QoS机制)
谈谈移动端 IM 开发中登录请求的优化
完全自已开发的IM该如何设计“失败重试”机制?
微信对网络影响的技术试验及分析(论文全文)
即时通讯系统的原理、技术和应用(技术论文)
开源IM工程“蘑菇街TeamTalk”的现状:一场有始无终的开源秀
>> 更多同类文章 ……

[9] 开源移动端IM技术框架资料:
开源移动端IM技术框架MobileIMSDK:快速入门
开源移动端IM技术框架MobileIMSDK:常见问题解答
开源移动端IM技术框架MobileIMSDK:压力测试报告
开源移动端IM技术框架MobileIMSDK:Android版Demo使用帮助
开源移动端IM技术框架MobileIMSDK:Java版Demo使用帮助
开源移动端IM技术框架MobileIMSDK:iOS版Demo使用帮助
开源移动端IM技术框架MobileIMSDK:Android客户端开发指南
开源移动端IM技术框架MobileIMSDK:Java客户端开发指南
开源移动端IM技术框架MobileIMSDK:iOS客户端开发指南
开源移动端IM技术框架MobileIMSDK:Server端开发指南
>> 更多同类文章 ……

[10] 有关推送技术的文章:
iOS的推送服务APNs详解:设计思路、技术原理及缺陷等
Android端消息推送总结:实现原理、心跳保活、遇到的问题等
扫盲贴:认识MQTT通信协议
一个基于MQTT通信协议的完整Android推送Demo
求教android消息推送:GCM、XMPP、MQTT三种方案的优劣
移动端实时消息推送技术浅析
扫盲贴:浅谈iOS和Android后台实时消息推送的原理和区别
绝对干货:基于Netty实现海量接入的推送服务技术要点
移动端IM实践:谷歌消息推送服务(GCM)研究(来自微信)
为何微信、QQ这样的IM工具不使用GCM服务推送消息?
>> 更多同类文章 ……

[11] 更多即时通讯技术好文分类:
http://www.52im.net/forum.php?mod=collection&op=all

(原文链接:http://chuansong.me/n/294112646558

即时通讯网 - 即时通讯开发者社区! 来源: - 即时通讯开发者社区!

标签:推送技术
上一篇:58到家实时消息系统的协议设计等技术实践分享下一篇:从0到1的快速裂变:详解快的打车架构设计及技术实践

本帖已收录至以下技术专辑

推荐方案
评论 3
很详细,受益无穷
如上图(本文最重要的2张图之一),整个消息投递流程为:
发送发将消息发给消息平台


图中的数字次序,和文字解释的次序有点对不上啊。
引用:danielstock 发表于 2020-05-10 14:19
如上图(本文最重要的2张图之一),整个消息投递流程为:
发送发将消息发给消息平台

是的,你的眼力很好,数字画重了,第2次出现的“3”应该改为“4”,后面的序号依此类推
签名: 又头疼了,草特玛。。
打赏楼主 ×
使用微信打赏! 使用支付宝打赏!

返回顶部