京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据时代要突破的难点
大数据已经成为行业不能不提的话题,它涵盖了4V面向,分别是处理时效(Velocity)、数据格式(Variety)、数据量(Volume)与真实性(Veracity),通过快速的采集、发现和分析,从大量化、多类别的数据中提取价值。
扩展到一个城市来讲,那么多的摄像头每天工作着,每个街道的人流数据、车流数据都在其中,即便不用来刑侦,但作为数据的二次开发却又不可忽略的意义,庞大数据整体汇集起来,就是一个城市的人车分布图,静态的如不同区域人的特征、车的特征,动态的如人车的路径、停留模式,这对城市的规划和管理都有重大的参考价值。但是安防大数据采集、存储、发现和分析依然有不少问题亟待解决。
数据大联网缺乏统一标准
在中国,平安城市发展迅速,越来越多的城市及用户正感受到这一工程带来的安全感。从2005年平安城市建设作为概念走进中国,8年建设中,平安城市建设不仅在技术上实现了突破,在建设理念上也实现了新飞跃。今后几年中,平安城市将不断向智慧城市靠拢。那么建设到何种程度才能算得上智慧呢?离真正智慧城市的路有多遥远呢?
智慧城市中必须实现的是数据的共享,跨区域视频监控联网、监控资源整合与共享,政府各部门之间的视频监控资源的共享等等。但是不同的地方城市,不同的行业类别,不同的管理方式都会有不同的监控系统方案,一直都存在行业标准的缺乏问题,数据的融合或者共享中会有兼容性难题,有些甚至是不可实现的。
大规模视频监控联网的技术难度是比较大的,以实现异构平台互联互通为主要目的的联网接口协议在传统的安防技术规范较少涉及,如果联网接口协议未经验证测试,往往难以实现异构平台的互联互通,就算能够实现互通,在系统功能、稳定性等方面也会存在很多问题。从浙江省发布DB33/T629-2007以来,国内外也陆续发布了可以支持视频监控联网的技术协议,但从成熟度上看都存在一定的问题。
大数据存储容易出现问题
在大数据时代来临之际,我们面临的挑战还有存储问题。大数据中的大容量通常可达到PB级的数据规模,那么对于海量数据存储系统扩展能力的要求也会很高。以国内某省为例,公共视频监控已经超过100多万个摄像头,总保有量近400万,以此估计,全国摄像头数量不少于4000万,某投行的报告称行业每年还在以20%加速增长,行业龙头海康威视(002415,股吧)12年的年报披露的销售量就达570万套(含前后端),增长37%.而另一个数据也很惊人,英国的摄像头数量与人口数量之比已经达到1:15.粗略计世界至少有1亿个摄像头在角落静静的看着,这样的视频监控将是数据的大生成器。从摄像前端的海量数据和到有效数据之间的也存在矛盾,摄像头不停歇的工作,如实记录镜头覆盖范围发生的一切,但对于客户来讲大部分信息是无效,有效信息可能只分布在一个较短的时间段内,大量的数据存储给数据库带来不小的压力,而无效的数据更是对于资源的浪费。
与此同时,存储系统的扩展一定要简便,尽量能通过增加模块或磁盘柜来增加容量,甚至不需要停机。基于这样的需求,客户现在越来越青睐Scale-out架构的存储。Scale-out集群结构的特点是每个节点除了具有一定的存储容量之外,内部还具备数据处理能力以及互联设备,与传统存储系统的烟囱式架构完全不同,Scale-out架构可以实现无缝平滑的扩展,避免存储孤岛。
大数据时代数据的行为分析
数据共享就意味着无可限量的机会。市场调研机构IDC指出,大数据已经走出了“科学研究”阶段,逐渐进入了商业主流。大数据时代,最重要的一点就是数据共享和数据分析处理,从庞大的数据库中,找寻到相对应的线索,贯穿起来创出意想不到的效果。除此之外,还可以通过大数据分析营销习性,海康威视一款智能监控摄像机的应用证实了这一点,它通过对视频信号进行分析理解,透析卖场商铺人流量和产品关注度等。大数据将带来一波生产率增长和消费者盈余浪潮。
电子科技大学互联网科学中心主任周涛教授介绍了今年公开的一项最新研究成果:某个手机用户只要曾出现在4个基站的服务区,利用大数据模型,研究者就能把他从百万用户中区分出来,识别他的身份,准确率为95%.同样的案例在安防领域也时有发生,监控视频数据,透过智能分析发现某人、车在银行外无故多次徘徊,就可以从实施重点监控,以防不测。常见的应用包括入侵检测、周界告警、车辆识别、交通违法监控等。
全国性的大数据时代在安防行业还有一段路要走,亟待解决的问题还很多。但是从局部的的数据共享,数据联网来看,已经表现出了不俗的前景,可以预见未来市场更为广阔。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
CDA数据分析师 出品 作者:李诗怡 一、数据分析四大思维 1. 对比思维:没有对比就没有分析 核心观点:单独一个数字没有意义,有 ...
2026-10-05Kimball 是方法,星型模型是它产出的形状。 很多人把"Kimball vs 星型模型"当成一道选择题——这本身就是个误会:Kimball 是动词 ...
2026-10-05写在开头 老板在微信上甩来一句: "帮我看下为什么销量跌了。" ” 你回工位,打开 SQL,开始写。查订单表、拉近三个月、按 ...
2026-10-03CDA数据分析师 出品 作者:李诗怡 1. 事实表 vs 维度表 对比维度 事实表 维度表 核心问题 记录“业务发生了什么事” 描述 ...
2026-10-02做数据聚合时,PySpark的groupBy()确实能完成统计,这也是它的本职工作。但它有一个根本性局限:每一组数据,最终只能返回一行 ...
2026-10-01热力地图是数据可视化中极具辨识度与实用性的空间分析图表,结合地理空间维度与数据密度特征,通过颜色深浅、色阶渐变直观展示数 ...
2026-09-30 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-09-30同样是“银行数据岗”,在国有大行总行数据中心、在一家城商行的零售部、在银行系金融科技子公司、在保险公司,工作内容、成长节 ...
2026-09-29在数据分析与统计学研究中,数据往往不是独立存在的,不同变量之间普遍存在相互关联、相互影响的关系。相关性统计分析是挖掘变量 ...
2026-09-29 导读:大多数人只把 dataclasses 当成偷懒工具,用来少写 __init__、__repr__ 这类魔法方法。但它的能力远不止于此。本文带 ...
2026-09-29 很多数据分析师能熟练地计算指标、搭建标签体系,但当被问到“画像到底在解决什么问题”“画像和标签是什么关系”“画像如何 ...
2026-09-29在MySQL数据库运维与业务开发中,行业普遍存在“数据达到千万级就必须分表”的说法。但在实际生产环境中,千万条数据并不是强制 ...
2026-09-28CDA数据分析师 出品 作者:李诗怡 1. 5W1H 分析法 定义:经典系统性思维框架,通过六个核心维度对问题进行全方位拆解与剖析,确 ...
2026-09-28 很多分析师在设计标签时思路清晰,但真到落地环节却面临“数据在手,不知如何转化为可用标签”的困境:或因加工方式选择不当 ...
2026-09-28CDA数据分析师 出品 作者:李诗怡 1. 用户标签体系 定义: 通过一系列高度精炼的特征标识,对用户属性、行为与偏好进行量化刻画 ...
2026-09-24Pandas是Python生态中用于表格数据处理的核心库,广泛应用于数据清洗、统计运算、报表输出、数据分析建模等场景。在处理极大数值 ...
2026-09-24随着数字经济快速发展,数据已成为核心生产要素,各行各业的业务沉淀、用户行为、设备运行、市场交易均产生海量数据。数据处理作 ...
2026-09-24 很多分析师每天和数据打交道,但当被问到“标签是什么”“标签和指标有什么区别”“标签体系如何设计”时,却常常答不上来。 ...
2026-09-24在时序数据分析中,大部分业务数据并非持续平稳变化,而是会在某些时间节点出现突然抬升、断崖下跌、趋势反转、波动异变等现象, ...
2026-09-23在统计学与数据分析中,研究多组数据差异最常用的方法为单因素方差分析与事后多重比较。很多数据分析初学者容易混淆两者功能,认 ...
2026-09-23