l 传统数据监控方案中的“哑铃效应”问题
DVR(Digital Video Record,也叫数字硬盘录像机)的出现使得监控由模拟时代进入数字监控时代,到了今天,DVR已经被广泛应用于各种监控应用场合,成为了最主要的数字监控设备。DVR本身是一个多功能型产品,可完成模拟图像数字化,本地存储,网络浏览等诸多功能。DVS(Digital Video Server,视频服务器),可认为是不带本地硬盘的视频服务器。多功能是DVR/DVS的最大优势,同时也是其最大的问题所在,由于本身需支持多种功能,性能不可避免的受到影响。“什么功能都有一些(实时看、前端控制、本地图像存储、远程浏览等都可实现),但什么功能都不强(看得不够清楚、控制时延大、存储不可靠、回放图像差等)”是对DVR/DVS最贴切的评介。
当需要实现集中存储或支持多人同时看一个监控点时,中间通过流媒体服务进行转存或复制。如下图所示:

这种方案是当前DVR监控中最常用的方案。当规模小或是用户对监控的要求不高时,尚可以应付,但是当监控系统规模变大时,很容易形成“哑铃效应”问题。
首先是如何将流数据切成一个个文件进行存储,满足监控应急响应的要求,所有监控应用中,在事故处理时,都希望可以尽可能及时的回放历史图像。所有历史图像回放都是通过调用播放存储下来的视频文件形成的,由于文件形成期间,管理人员是无法读取该文件的,比如很多“DVR+流媒体服务器”方式的监控应用中,采用每半小时形成一个视频文件的方式对监控图像进行存储,这就意味着在当前时刻以前半小时以内的历史图像是无法调用的。但在紧急事件发生时,人们希望能够尽快看到历史图像,甚至要求可以随时回放,这样又要求数据流形成文件的时间间隔尽可能短,但时间过短又会给造系统成巨大的性能压力。所以在大规模监控系统,形成文件的时间间隔和人们对监控系统及时响应的要求必然形成无法调和的矛盾。如以5分钟形成一个视频文件考虑,每个监控点一天就将产生近300个文件,如果每个监控点的历史图像要存储30天,就意味着每个监控点需要产生近9000个文件,对于一个大规模监控系统,如1000路,系统将需要处理900万个文件,系统必然不堪重任。
其次是流媒体服务器的性能瓶颈问题,这种方式下,流媒体服务需将视频流数据转换为文件进行存储。由于前端存在大量的视频流数据,后端需要进行大量的文件存储工作。流媒体服务的处理性能,带宽等都容易成为性能瓶颈。整个系统的性能分布成哑铃状,两端大,中间小,这也是“哑铃效应”名称的由来。 实际上,在很多大规模监控方案中,为了解决流媒体服务器性能瓶颈的问题,一般会采用流媒体服务器群的方式完成这些功能。但多个流媒体服务器又会引入新的问题,如多个服务器之间如何进行负载分担?某个服务器Down掉后,系统如何将该服务器上承载的流量切换至其他服务器?这些服务器如何管理?如何共享一个存储空间?等等,解决这些问题需要一个非常优秀的集群管理系统,增加系统复杂性的同时,还额外需要一笔不菲的预算,更遗憾的是,目前业界还未见到有一个很好的集群管理系统可以很好的解决该问题。
第三个问题是检索的效率,文件系统本来是为随机读写的数据管理应用设计的,检索效率较低,一个含几百万个文件的系统的检索效率很难想象的。所以,当系统规模扩大后,传统数字监控方案的效率下降很快。
此外,该方式还将带来其他诸多问题,不一一描述。
综上所述,我们可以发现,“哑铃效应”问题的根源在于两点,一是文件系统本身的机制,二是流媒体服务器性能瓶颈。
l 解决之道
作为IP领域的领导厂商之一,H3C同时在IP网络、IP视频、IP存储等领域有着长期的技术和产品积累。进入IP监控领域后,H3C将这些技术进行融合,首家将iSCSI块存储(iSCSI,即internet SCSI,基于IP的SCSI协议,SCSI的全称是Small Computer System Interface,小型计算机系统接口)的存储方式引入监控中,从而有效的解决了大规模数字监控方案中的“哑铃效应”问题。
不同于文件的随机读写,监控系统中的视频数据实际上是可采用顺序读写方式的,当存储时间到期后可对原有视频数据进行依次覆盖。利用这点,采用iSCSI块方式进行视频存储可以很好的规避文件系统工作机制和流媒体服务器性能瓶颈的问题。
如下图所示:

当某个监控点的图像需要进行集中存储时,前端编码器与IP SAN设备(如H3C Neocean EX1000)建立iSCSI连接,然后将存储视频流进行iSCSI协议封装,直接采用数据块的方式将视频数据写入IP SAN存储设备中。 通过这种方式,监控视频数据的存储不需要转换为视频文件,自然也不需要流媒体服务器。从而有效的规避了引发“哑铃效应”的文件系统问题和流媒体服务器性能瓶颈问题。具备良好的可扩展性,无论监控规模有多大,整个系统不会存在性能瓶颈。
这种方式下,由于所有视频存储流量都采用P2P方式直接进行存储,通过优化存储设备的分布式部署和网络的路由,可以很容易的实现整网流量的优化,避免网络的带宽瓶颈。
IP SAN设备完成某个监控点视频数据块的存储工作后,根据监控点的IP地址、写入视频数据的起始和终止时间,自动生成一个块索引值。DM(数据管理服务器)和IP SAN之间通过Polling机制进行通信,获取最新的视频存储信息。对所有监控图像的检索等通过DM完成。
这种方式不仅具备良好的可扩展性,同时,由于对视频数据的存储和检索回放等都是直接通过iSCSI数据块操作完成的,因此可实现对历史图像的随时回放及精确到秒级的检索,满足客户应急响应的监控需求。
当然这种方式必然对监控厂商的技术积累和实力提出了更高的要求,如要求编码器支持双码流,实时监控视频流和存储视频流可以独立编码,同时编码器支持iSCSI协议。双码流是现在所有高端编码器的基本要求,实现的厂商较多,编码器支持iSCSI则要求监控厂商同时具备专业的存储技术积累,对于目前的多数监控厂商而言,存在一定的技术门槛。可喜的是,我们看到,越来越多的监控厂商认识到存储对于一个监控方案的重要性,开始进行这方面的技术积累。