请选择 进入手机版 | 继续访问电脑版

默认
打赏 发表评论 32
想开发IM:买成品怕坑?租第3方怕贵?找开源自已撸?尽量别走弯路了... 找站长给点建议
即时通讯音视频开发(一):视频编解码之理论概述
微信扫一扫关注!

1、前言


即时通讯应用中的实时音视频技术,几乎是IM开发中的最后一道高墙。原因在于:实时音视频技术 = 音视频处理技术 + 网络传输技术 的横向技术应用集合体,而公共互联网不是为了实时通信设计的。有关实时音视频开发时的技术难题请参见《音视频云声网Agora:从demo到实用,中间还差1万个WebRTC》。

本文主要讲解实时音视频技术中视频技术的编解码基础理论。

2、系列文章


本文是系列文章中的第1篇,本系列文章的大纲如下:


3、视频为何需要压缩?


  • 未经压缩的数字视频的数据量巨大
  • 存储困难:一张DVD只能存储几秒钟的未压缩数字视频。
  • 传输困难 1兆的带宽传输一秒的数字电视视频需要大约4分钟。

1.png

4、主要压缩了什么东西?


原始视频压缩的目的是去除冗余信息,可以去除的冗余包括:

  • 空间冗余:图像相邻像素之间有较强的相关性
  • 时间冗余:视频序列的相邻图像之间内容相似
  • 编码冗余:不同像素值出现的概率不同
  • 视觉冗余:人的视觉系统对某些细节不敏感
  • 知识冗余:规律性的结构可由先验知识和背景知识得到

5、数据压缩是怎么分类的?


  • 无损压缩(Lossless):压缩前、解压缩后图像完全一致X=X',压缩比低(2:1~3:1)。典型格式例如:Winzip,JPEG-LS。
  • 有损压缩(Lossy):压缩前解压缩后图像不一致X≠X',压缩比高(10:1~20:1),利用人的视觉系统的特性。典型格式例如:MPEG-2,H.264/AVC,AVS。

2.png

6、什么是“编解码器”?


  • 编码器(Encoder):压缩信号的设备或程序;
  • 解码器(Decoder):解压缩信号的设备或程序;
  • 编解码器(Codec):编解码器对。

7、编解码的技术流程和原理


7.1编码器中的关键技术


3.png

7.2编解码中的关键技术


4.png

8、编解码器的实现


编解码器的实现平台:

  • 超大规模集成电路VLSI
  • ASIC, FPGA
  • 数字信号处理器DSP
  • 软件

编解码器产品:

  • 机顶盒
  • 数字电视
  • 摄像机
  • 监控器

9、视频编码的标准


编码标准作用:

  • 兼容:不同厂家生产的编码器压缩的码流能够被不同厂家的解码器解码
  • 高效:标准编解码器可以进行批量生产,节约成本。

主流的视频编码标准:

  • MPEG-2
  • MPEG-4 Simple Profile
  • H.264/AVC
  • AVS
  • VC-1

标准化组织:

  • ITU:International Telecommunications Union
  • VCEG:Video Coding Experts Group
  • ISO:International Standards Organization
  • MPEG:Motion Picture Experts Group

10、视频传输


  • 视频传输:通过传输系统将压缩的视频码流从编码端传输到解码端
  • 传输系统:互联网,地面无线广播,卫星

11、视频传输面临的问题


传输系统不可靠:

  • 带宽限制
  • 信号衰减
  • 噪声干扰
  • 传输延迟

视频传输出现的问题:

  • 不能解码出正确的视频
  • 视频播放延迟

12、视频传输差错控制


差错控制(Error Control)解决视频传输过程中由于数据丢失或延迟导致的问题。

差错控制技术有:

  • 信道编码差错控制技术
  • 编码器差错恢复
  • 解码器差错隐藏

13、视频传输中QoS质量保证参数


  • 数据包的端到端的延迟
  • 带宽:比特/秒
  • 数据包的流失率
  • 数据包的延迟时间的波动

附录:更多实时音视频技术文章


[1] 开源实时音视频技术WebRTC的文章:
开源实时音视频技术WebRTC的现状
简述开源实时音视频技术WebRTC的优缺点
访谈WebRTC标准之父:WebRTC的过去、现在和未来
良心分享:WebRTC 零基础开发者教程(中文)[附件下载]
WebRTC实时音视频技术的整体架构介绍
新手入门:到底什么是WebRTC服务器,以及它是如何联接通话的?
WebRTC实时音视频技术基础:基本架构和协议栈
浅谈开发实时视频直播平台的技术要点
[观点] WebRTC应该选择H.264视频编码的四大理由
基于开源WebRTC开发实时音视频靠谱吗?第3方SDK有哪些?
开源实时音视频技术WebRTC中RTP/RTCP数据传输协议的应用
简述实时音视频聊天中端到端加密(E2EE)的工作原理
实时通信RTC技术栈之:视频编解码
开源实时音视频技术WebRTC在Windows下的简明编译教程
网页端实时音视频技术WebRTC:看起来很美,但离生产应用还有多少坑要填?
了不起的WebRTC:生态日趋完善,或将实时音视频技术白菜化
腾讯技术分享:微信小程序音视频与WebRTC互通的技术思路和实践
融云技术分享:基于WebRTC的实时音视频首帧显示时间优化实践
>> 更多同类文章 ……

[2] 实时音视频开发的其它精华资料:
实时语音聊天中的音频处理与编码压缩技术简述
网易视频云技术分享:音频处理与压缩技术快速入门
学习RFC3550:RTP/RTCP实时传输协议基础知识
基于RTMP数据传输协议的实时流媒体技术研究(论文全文)
声网架构师谈实时音视频云的实现难点(视频采访)
浅谈开发实时视频直播平台的技术要点
还在靠“喂喂喂”测试实时语音通话质量?本文教你科学的评测方法!
实现延迟低于500毫秒的1080P实时音视频直播的实践分享
移动端实时视频直播技术实践:如何做到实时秒开、流畅不卡
如何用最简单的方法测试你的实时音视频方案
技术揭秘:支持百万级粉丝互动的Facebook实时视频直播
简述实时音视频聊天中端到端加密(E2EE)的工作原理
移动端实时音视频直播技术详解(一):开篇
移动端实时音视频直播技术详解(二):采集
移动端实时音视频直播技术详解(三):处理
移动端实时音视频直播技术详解(四):编码和封装
移动端实时音视频直播技术详解(五):推流和传输
移动端实时音视频直播技术详解(六):延迟优化
理论联系实际:实现一个简单地基于HTML5的实时视频直播
IM实时音视频聊天时的回声消除技术详解
浅谈实时音视频直播中直接影响用户体验的几项关键技术指标
如何优化传输机制来实现实时音视频的超低延迟?
首次披露:快手是如何做到百万观众同场看直播仍能秒开且不卡顿的?
Android直播入门实践:动手搭建一套简单的直播系统
网易云信实时视频直播在TCP数据传输层的一些优化思路
实时音视频聊天技术分享:面向不可靠网络的抗丢包编解码器
P2P技术如何将实时视频直播带宽降低75%?
专访微信视频技术负责人:微信实时视频聊天技术的演进
腾讯音视频实验室:使用AI黑科技实现超低码率的高清实时视频聊天
微信团队分享:微信每日亿次实时音视频聊天背后的技术解密
近期大热的实时直播答题系统的实现思路与技术难点分享
福利贴:最全实时音视频开发要用到的开源工程汇总
七牛云技术分享:使用QUIC协议实现实时视频直播0卡顿!
实时音视频聊天中超低延迟架构的思考与技术实践
理解实时音视频聊天中的延时问题一篇就够
实时视频直播客户端技术盘点:Native、HTML5、WebRTC、微信小程序
写给小白的实时音视频技术入门提纲
微信多媒体团队访谈:音视频开发的学习、微信的音视频技术和挑战等
腾讯技术分享:微信小程序音视频技术背后的故事
微信多媒体团队梁俊斌访谈:聊一聊我所了解的音视频技术
新浪微博技术分享:微博短视频服务的优化实践之路
实时音频的混音在视频直播应用中的技术原理和实践总结
以网游服务端的网络接入层设计为例,理解实时通信的技术挑战
腾讯技术分享:微信小程序音视频与WebRTC互通的技术思路和实践
新浪微博技术分享:微博实时直播答题的百万高并发架构实践
技术干货:实时视频直播首屏耗时400ms内的优化实践
爱奇艺技术分享:轻松诙谐,讲解视频编解码技术的过去、现在和将来
零基础入门:实时音视频技术基础知识全面盘点
实时音视频面视必备:快速掌握11个视频技术相关的基础概念
淘宝直播技术干货:高清、低延时的实时视频直播技术解密
>> 更多同类文章 ……

(原文链接:http://www.cnblogs.com/xkfz007/archive/2012/08/12/2613690.html

即时通讯网 - 即时通讯开发者社区! 来源: - 即时通讯开发者社区!

评分

1

查看评分

本帖已收录至以下技术专辑

推荐方案
评论 32
感谢楼主分享
感谢楼主分享
楼主好人一生平安
签名:
感谢楼主分享
提示: 作者被禁止或删除 内容自动屏蔽
签名:
站长是怎么过滤那些广告垃圾信息的?
引用:fhaoquan 发表于 2016-12-04 14:58
站长是怎么过滤那些广告垃圾信息的?

后台有关键词过滤
签名: 开始期待国庆了。。。
感谢楼主的分享
签名: 该会员没有填写今日想说内容.
帖子内容非常精简, 很多干货
签名: 该会员没有填写今日想说内容.
我来看看能不能增加一点金币..
谢谢大神整理的精华
签名: android通讯开发
感谢楼主分享,很有用
签名: 刚注册,很不错
提示: 作者被禁止或删除 内容自动屏蔽
签名:
整理的很好
基础贴
谢谢大神整理的精华
签名: 心情好
感谢分享
谢谢分享
签名: 哈哈哈哈哈哈
Thanks for sharing
打赏楼主 ×
使用微信打赏! 使用支付宝打赏!

返回顶部