CDN高级技术专家周哲: 深度剖析短视频分发过程中的用户体验优化技术点

2018深圳云栖大会已经圆满落幕,在飞天技术汇-弹性计算、网络和CDN专场中,阿里云CDN高级技术专家周哲为我们带来了《海量短视频极速分发》的主题分享,带领我们从视频内容采集、上传、存储和分发的角度介绍整体方案,并且重点讲解短视频加速的注意事项和用户体验优化要点。

讲解从三个部分展开:短视频应用场景,阿里云短视频解决方案,阿里云对短视频用户体验优化的相关优化。

短视频应用场景

短视频比图片和文字包含更多的信息,在移动互联网普及的今天,短视频应用场景非常广泛。

一、 社群分享场景
用户可以录制视频,进行特效编辑处理,上传到服务器,通过社区的方式分享给好友。

二、 电商场景
商家可以快速拍摄、制作商品的短片,把商品的介绍视频发给消费者,这样可以提高购买转化率。
二、 IM聊天场景
在交流过程中,通过随拍随传的短视频,用户可以更生动的表达观点,更真实的传递情感
三、 新媒体场景
区别于传统、单一的图文展示形态,短视频可以快速收集及发布新闻,一键呈现世界
四、 体育赛事场景
集成短视频SDK后,用户可以在现场实时拍摄和剪辑,生成具有传播价值的短视频,通过分享来全网同步赛事

阿里云针对短视频的业务场景,提供了一整套技术解决方案。在主播端,提供了视频上传SDK和短视频SDK,在观众端提供视频播放SDK,在服务器端提供点播服务、OSS存储和CDN加速。

对于开发者来说,短视频解决方案的使用流程是这样的:首先主播端使用短视频SDK对用户的视频进行录制、特效处理和剪辑,然后将视频通过上传SDK上传到服务器端,在服务器端先通过点播服务进行转码以及视频处理,然后把处理好的视频存储到OSS上,做持久化保存。在播放端集成播放器SDK,播放器会向CDN请求资源,CDN如果有缓存会把缓存的数据发给客户端。如果CDN缓存没有数据会去OSS中拉取数据,在返回给客户端,并把数据缓存到CDN上。开发者使用这些技术组件,可以快速的开发短视频业务。

下面,我们逐一介绍解决方案的能力与特点。

解决方案中的视频SDK,包括短视频、上传和播放三个。短视频SDK包含人脸贴图、高级美颜的功能,在用户录制视频之后先进行本地美颜再进行上传,同时也提供专业滤镜、MV特效和裁剪压缩、添加音乐的功能,使视频剪辑大众化;上传SDK通过快速通道可以把视频传输到服务器端,支持断点续传、后台上传、多文件管理等功能;播放器SDK支持Android、IOS、flash、H5等多个平台、加密播放和安全下载等。

点播和存储服务,点播服务提供视频管理相关的功能,比如视频转码,窄带高清可以在相同的用户观感体验下,节约30%的带宽;云剪辑功能可以在线对视频进行编辑处理;同时点播服务提供丰富的数据统计,开发者利用阿里云提供的API访问实时数据。

同时,阿里云也在视频领域开放了AI技术,包括内容审核,降低违规风险;智能封面,对视频结构化处理和算法选取最优视频帧作为视频封面;标签预测,通过AI来识别视频中文字、图像、人物等信息,自动生成视频标签等。
基于短视频业务产生的海量数据,阿里云也提供了高可靠、强安全、低成本的存储服务。

为了应对短视频大规模的业务需求,阿里云CDN建设了大量的基础设施。
首先,阿里云CDN拥有全球1200多个节点,分布在全球各个国家和地区,贴近用户部署,使用户更快速的访问视频内容,使视频体验更好。同时,为了面对业务的突发流量,阿里云提供了超过80TB的带宽储备,为持续增长的业务保驾护航。并且,单节点缓存容量超过1PB,通过提供更大的缓存空间,来提升用户访问速度。

介绍完了解决方案之后,周哲老师又为大家介绍了阿里云在短视频领域的一些优化技术。

短视频用户体验的关键指标有首屏时间、播放卡顿和播放错误。

首屏时间是指在视频稳定播放期间,从用户点击播放到视频开始播放之间的时间差。首屏时间越长,会导致用户提前结束播放。
播放卡顿是指在播放过程中的不流畅情况,会严重影响用户体验。
播放错误是指用户播放视频时没有成功播放,或出现异常导致提前中断。

用户体验优化剖析

为了解决这些问题,我们对整个架构进行剖析。
首先,终端用户使用阿里云提供的视频SDK来请求调度服务器,调度服务器返回对应的节点IP,然后播放器通过CDN的节点IP来请求资源,CDN的边缘节点如果有缓存的话可以从本地发给播放器,如果没有缓存就去二级节点进行访问,二级节点没有缓存会去OSS或者用户源站拉取数据。

阿里云CDN有一级节点、二级节点的缓存,二级节点的作用是:
第一,做资源收敛,避免相同请求同时回源,减少源站压力
第二,离边缘节点接近,在边缘节点没命中的时候,能够更快的从二级节点获取到数据
第三,提供更大的存储空间,提高命中。

同时,阿里云对于整个播放过程,进行一些用户体验相关的数据打点,通过这些数据来进行分析,得到了一些优化点。

第一就是播放器,播放器是否优化决定了终端用户的观看质量。首先,我们对播放器SDK做了相关优化,比如,通过减少首次缓冲时间,可以设置在受到视频第一个P帧就开始解码播放;提供动态缓存大小,当出现网络抖动的时候,可以动态增加缓存大小,对数据进行预加载,通过这种方式来降低卡顿率;针对播放错误,播放器SDK实现了网络重试机制,来提供播放成功率。

第二个优化是针对调度系统,用户在访问边缘节点的时候,访问调度服务器,调度服务器返回的IP地址是不是最优的网络链路,这个很大程度上影响用户对于视频的下载速度。阿里云自研了智能调度系统,可以选择用户到边缘节点的最优链路,来反馈给客户端。

第三是阿里云提供非常多的网络节点覆盖,让边缘节点距离用户更近,来提升用户访问速度。

第四个优化点是在用户向CDN服务器获取数据时,当出现网络抖动的时候,会有下载速度降低情况产生,阿里云CDN针对TCP协议栈进行优化,通过更高效的协议栈算法来提升下载速度。

第五个优化点是开发者可以使用阿里云提供的窄带高清功能,来降低播放视频的带宽。

第六是用户在访问边缘节点的时候,如果请求在边缘节点MISS会直接回源,应时间变慢,而如果边缘节点命中,用户的下载的速度就和边缘节点缓存服务器的性能具有强关联性了,阿里云针对缓存服务器的性能做了很多优化,通过加大边缘服务器的空间和智能优化,来提升访问速率。

第七,阿里云也支持全链路监控,来提早发现问题,针对性优化,确保稳定服务

智能调度系统优化

这里详细介绍一下智能调度的优化,针对调度系统,阿里云做了五个方面的优化,第一个是精准的IP数据库会持续更新,基于第三方IP库数据、whois平台和淘宝手机用户在访问数据时的一些经纬度信息,会对IP库进行主动探测,基于这些维度的数据,进行计算和生成。IP库数据的准确性会对调度系统提供数据支撑。

第二个是提供HTTPDNS服务,用户通过localdns请求调度服务器,会遇到第一个问题是:localdns和用户ip位置有不匹配问题,会出现基于localdns调度时,调度系统看到的客户端ip和用户真实ip不一致,导致调度不准确;

第二个问题是:用户查询dns服务器时,在查询过程中会出现dns结果被串改的情况。通过httpdns服务,可以解决由于localdns和ip地址不匹配问题,同时也可以做到dns结果防串改,使调度更精准。播放器基于httpdns对dns查询做预加载,并对结果做缓存,减少dns查询查询带来的首屏时间慢。

第三点是基于用户体验的自动化调度,会基于用户的客户端IP以及用户到每个节点的网络情况、当前各个节点的状态,来进行计算,通过一些机器学习的方式,来预测用户到哪个节点的网络链路为最优。这样就确保给用户IP地址返回最优的网络链路。

第四个是大数据分析,选择最优节点。通过当前节点覆盖情况和用户访问流量趋势,进行数据预测,去选择在哪里建点,并且去计算这些节点覆盖哪些用户的网络质量是最优的,为调度系统提供数据支撑。

最后一点是基于内容调度,通过302做内容粒度的调度,把相同URL调度到同一台机器上,提高命中率。

缓存性能优化

阿里云CDN针对缓存系统也做了很多优化。

通过自研的缓存系统,开发基于裸盘的缓存系统。使用内存、SSD、SATA三级缓存架构,把最热的资源存储到内存中,次热的资源存储在SSD中,冷的资源存储在SATA中,并且通过热点迁移的方式,把SATA中热的资源迁移到内存和SSD中,再通过淘汰算法,把内存和SSD中的冷的资源淘汰到SATA 盘中。通过这种方式,提供内存和SSD的命中率,降低SATA盘的IO读写情况,来存储更多的冷资源,提高边缘节点利用率。同时,自研的文件系统对IO操作做了很多优化,比如说合并IP对齐写入功能,避免内存碎片和磁盘碎片带来的IO性能严重下降。对大文件进行切片存储,分片存储到不同磁盘中,避免因单个视频文件过热导致磁盘性能下降。

通过以上的优化措施,缓存的平均命中率在95%以上,首字节时间低于10ms。

基于用户体验的TCP协议栈优化

第一个优化点是基于时间序的丢包发现机制,主要是在TCP协议栈里去分析TCP发包的时间序列,然后能够识别出哪些包丢掉了,快速发现丢包和快速重传。
第二个优化点是主动丢包发现机制,是指我们在发现包的时候去主动探测,避免通过超时来发现丢包,减少丢包发现的时间,提高进行重传
第三个是自适应的初始化窗口,针对不同业务场景使用不同初始化窗口大小。
第四个是更激进的拥塞避免算法,针对网络不好的情况,在协议栈中识别状态,使用更激进的发包策略,解决下载速度慢的问题。
第五个优化点是使用更小的链接超时时间,来更早的发现丢包。

基于以上的优化,我们使用第三方检测平台,对某短视频业务1.2M文件,和其他CDN厂商做性能对比测试,相同文件大小从内容下载时间上看,使用阿里云CDN有2%-6%的性能提升。其余数据也表现优异。

欢迎大家来使用阿里云点播服务、CDN和OSS存储,来搭建短视频应用。

原文地址:http://blog.51cto.com/13145856/2094251

时间: 2024-10-11 03:13:49

CDN高级技术专家周哲: 深度剖析短视频分发过程中的用户体验优化技术点的相关文章

CDN高级技术专家周哲:深度剖析短视频分发过程中的用户体验优化技术点

深圳云栖大会已经圆满落幕,在3月29日飞天技术汇-弹性计算.网络和CDN专场中,阿里云CDN高级技术专家周哲为我们带来了<海量短视频极速分发>的主题分享,带领我们从视频内容采集.上传.存储和分发的角度介绍整体方案,并且重点讲解短视频加速的注意事项和用户体验优化要点. 讲解从三个部分展开:短视频应用场景.阿里云短视频解决方案.阿里云对短视频用户体验的相关优化. 短视频应用场景 短视频比图片和文字包含更多的信息,在移动互联网普及的今天,短视频应用场景非常广泛. 一. 社群分享场景 用户可以录制视频

AI技术在短视频APP开发中的应用主要在于四个方面

你平均每天花在短视频APP上的时间是多久? 你目前使用最长时间的一款短视频APP是什么? 移动短视频APP开发可以在这四个方面应用AI技术 移动短视频APP开发可以在这四个方面应用AI技术 短视频APP已经成为了我们生活中消遣娱乐的一种普遍方式,移动短视频APP可以随时随地想看就看,比阅读文字更加简单便捷,而且还可以缓解工作,学习的压力,而且在不知不觉中刷一下短视频APP时间过的非常快,不仅如此还能利用移动短视频APP了解自内心新闻以及流行的话题等等,还能结交新的朋友,增加与朋友互动的频率. 移

短视频app开发过程中需要注意的细节

短视频相比较传统的文字.图片宣传而言,更加具有趣味性,传播范围广,又因为其内容短小精悍去又不失价值和意义,深受投资者的喜爱,无数商家也加入到短视频APP开发的行业中来.那今天拓幻科技分享一下,短视频APP开发过程中都是有哪些需要注意的呢?一.视频特效和素材视频特效是给短视频增加美颜特效和不同的贴纸图案,让短视频更加具有趣味性,让用户乐于去观看并进行传播,这样的短视频更容易吸引他人的注意.这也是短视频区别于传统视频之处,这个时代传统的视频已经不太能吸引用户的注意了,就连看电影也要追求"好莱坞大片&

使用ffmpeg视频编码过程中踩的一个坑

今天说说使用ffmpeg在写视频编码程序中踩的一个坑,这个坑让我花了好多时间,回头想想,很多时候一旦思维定势真的挺难突破的.下面是不正确的编码结果: 使用ffmpeg做视频编码过程中,首先要新建数据帧,并为数据帧分配相应内存,以便于保存图像数据,为数据帧分配内存需要用到av_image_alloc()这个函数,该函数将根据传入的图像宽.高.图像格式.数据对齐基数等参数进行内存分配. 这其中有一个参数可能会让人迷惑,那就是数据对齐基数这个参数该设置多少?顺便说说为什么要数据对齐,之所以要对齐,主要

短视频 SDK 功能点技术实现方式详解

第三方短视频解决方案作为快速切入短视频行业的首选方式,选择一款功能齐全.性能优异的短视频解决方案十分重要. 今天我们来谈谈短视频 SDK 6大重要功能点及其技术实现方式. 短视频拍摄 断点续拍 指在拍摄过程中可以进行分段式拍摄,并将最终拍摄的所有内容合成一个视频的功能. 通过断点续拍功能可以轻松实现不同的视频内容拼接,快速打造出视频拼接功能,进一步强化平台高质量的内容输出. △ 断点拍摄功能 技术实现 断点续拍功能实现需要在进行断点拍摄时直接调用系统 API 或 第三方的相机库,将每一段 mov

关于直播系统和短视频系统安卓手机屏幕适配的方向思路

直播与短视频的接踵而至,将互联网推向了网红经济时代,而智能手机的更新迭代为二者的发展提供了"温床".但随着Android机型的增多,设备碎片化的程度也在不断加深,因此为了保证用户在不同Android机型下的体验效果一致,我们需要对各种手机屏幕进行适配.下面我们就来聊下直播系统和短视频系统Android机型的适配问题.1. 布局组件的适配关于组件的适配,这里有几种不同的适配方案.一是使用密度无关像素dp或独立比例像素sp单位指定尺寸:二是多使用相对布局(RelativeLayout)或线

2018亚太CDN峰会开幕,阿里云王海华解读云+端+AI的短视频最佳实践

摘要: 4月11-12日,2018亚太CDN峰会在北京隆重召开,在11日下午的短视频论坛中,阿里云高级技术专家王海华进行了<短视频最佳实践:云+端+AI>的主题演讲,分享了短视频的生命周期关键点和阿里云技术解决方案. 4月11-12日,2018亚太CDN峰会在北京隆重召开,在11日下午的短视频论坛中,阿里云高级技术专家王海华进行了<短视频最佳实践:云+端+AI>的主题演讲,分享了短视频的生命周期关键点和阿里云技术解决方案.以下全文为演讲内容. 每个人都将成名十五秒钟 短视频已经走进

深度解析!短视频如何成为现象级产品

欢迎大家前往腾讯云+社区,获取更多腾讯海量技术实践干货哦~ 本文由 BestSDK 团队发布在腾讯云+社区 2016 年中国移动短视频用户数为 1.5 亿,今年预计会达到 2.4 亿,增长率高达 58.2%,可见短视频的热度在一直提升:近几年,短视频的生产模式在不断演进,从 UGC 到 PGC,再到最新的 MCN,内容的产能和质量均得到了巨大提升. 短视频发展史 ?图 1 图 1 所示是短视频及直播的发展史,众所周知,2016 年是直播元年,在这期间诞生了很多直播平台,比如熊猫.映客.斗鱼等:而

浅谈短视频APP的发展趋势

2014年6月20日,在AppAnnie最新发布5月应用指数中,美拍荣登“非游戏类iOS榜单”全球下载量第一位置,成为全球iOS应用商店最热门APP.能在<AppAnnie应用指数>这份App市场晴雨表上大放异彩,美拍必然有它的独特之处.而美拍正是我们现在所熟知的最热门的短视频APP之一.而其他短视频APP诸如腾讯的微视之流也逐渐占据了我们的生活.那么,短视频APP为什么会突然爆火于网络?其未来发展趋势又是如何呢? 我们以美拍为例,首先从其优点说起. 第一,短视频APP圈住了如今爱美的女性.