京公网安备 11010802034615号
经营许可证编号:京B2-20210330
与时俱新 企业大数据时代与嵌入式系_数据分析师
进入物联网时代后,嵌入式系统便从独立发展时代进入智能化服务的大科技时代。在物联网应用中,嵌入式系统承担了底层的物理信息采集任务,将物联网的人文数据时代,推进到包括海量物理数据的大数据时代。在大数据时代,嵌入式系统告别了独立的产品发展阶段,进入到大数据的社会服务时代。
1、什么是大数据?
1.1大数据时代的诞生
互联网诞生以后,出现了一个全球化的、以人文信息为主体的海量数据体系。当嵌入式系统将互联网延伸到物理世界后,增加了真实世界中实时的、海量的物理参数与物理状的数据。海量的人文数据与海量的物理数据,构成了物联网世界中真实世界与虚拟世界完整的数据群。其数据的超大规模,以及数据可怕的增殖速度,人们只好用一个最简约的名词“大数据”来形容它。
据统计2008年全球数据量为0.49ZB,2009年为0.8ZB,2010年为1.2ZB,2011年为1.8ZB,相当于全球每人产生200GB以上的数据。相比之下,2012年底人类生产的所有印刷材料数据为200PB(0.0002ZB),人类历史上说过的话语数据总和为5EB(0.005ZB)。可以看出,如今整个人类文明所获得的全部数据,绝大部分产生于物联网,而且有90%是过去两年内产生的。到了2020年,全世界所产生的数据规模将达到今天的44倍。
1.2大数据中的数据特性
大数据除了继承互联网数据的数字化、全球化特征外,还带有诸多物联网的新特征,如超海量、实时性与大信息等。这些数据特征引发了数据处理的革命。
(1)数字化,是指大数据中的数据,都是“0”、“1”状态的量子化符号的数字体系,具有可无限传播、变换、存储、转移、处理的能力,可以实现无损耗、无差误的操作。具有这种量子化符号的数字体系,保证了大数据转移中的可靠性。
(2)全球化,是指大数据具有无限时空、无限通达的互联网寄生环境,包括全球化的计算机网、电信网、电视网与智能电网的独立寄生环境。全球化无限时空性质的大数据,形成了人人可无限共享的知识平台与智力平台。
(3)超海量,是指数字化时代,人类社会信息数字归一化后,在网络平台上的海量集合。互联网海量的人文数据与物联网追加的海量物理数据,形成了完整的超海量信息数据。
(4)实时性,是指大数据中的物理数据都是真实事物物理状态实时更新的数据。嵌入式系统以各种方式实时地采集事物的物理状态,满足了大数据应用中的实时性要求。例如,全球气象数据的动态更新与天气的实时处理与预报。
(5)泛信息,是指大数据信息的全息性、冗余性、混杂性与无限扩展性等特征。大数据中涵盖了人文、物理,虚拟世界、真实世界中形形色色的信息内容,通过不断地信息挖掘,可实现不同层次的应用;大数据中的鱼龙混杂现象,导致大数据应用中出现虚假、冗余、价值密度低的数据现象。
1.3大数据的数据应用革命
小数据时代,人类在事物的有限数据基础上,建立起一整套数据分析、处理方法,从有限数据信息中了解相对完整的事物面貌。大数据时代,无限扩展的数据使事物从模糊到清晰,只要将足够多的数据集合起来,便可展现出事物的原貌。以一个大型建筑的描述为例:在有限的几个观察者提供模糊数据后,有经验的建筑师可以描绘出该建筑的近似形象;用不同视角的几张二维图片数据,经过计算机拼接算法,得出相对准确的三维建筑图像;如果在建筑物的每个细微之处都能采集到该点的空间数据,只要将这些数据“粘贴”起来,就能形成该建筑较为准确的图像。这是一种大数据的量子化信息的合成技术。众多学者都一致认为:数据洪流会使传统科学方法变得过时,没有模型与假设就可以分析数据,海量数据使统计科学变得时髦。
2、大数据与嵌入式系统
从单片机时代开始,30多年来,嵌入式系统从单机物联、分布式物联、总线物联到互联网的普遍接入,最终完成了物理世界与互联网的融合,将互联网带入到物联网的大数据时代。在大数据时代,嵌入式系统将进入到产品与技术的数据服务时代。
2.1嵌入式系统的变迁
从20世纪70年代单片机诞生以来,嵌入式系统经历了单片机时代、嵌入式系统时代、物联网时代,如今又进人大数据的智能化服务时代。
单片机时代,是传统电子系统智能化改造时代。嵌入式系统时代,在单片机的基础上出现了一些新兴的智能化工具,它们突破了传统电子系统领域,是智能化工具的创新时代,也是电子技术与计算机技术的交叉融合时代。物联网时代,是智能化工具网络化的发展时代。嵌入式系统的网络接人手段与网络集群能力,将互联网变革到物联网,使物联网进入到一个大科技的发展时代。
大数据时代,是嵌入式系统从独立的智能化产品开发时代,转入到嵌入式系统智能化服务的时代。这时嵌入式系统已进入平台模式的后技术发展时代,硬件平台基础上的软件服务将上升为主要矛盾;技术整合也成为大数据时代嵌入式系统智能化服务的主要手段。
2.2嵌入式系统与大数据
大数据中所有与物理对象相关的数据,都是通过形形色色的嵌入式系统智能化工具采集而来的;智能化工具具有对物理实时采集与数据的实时处理能力,从而保证了大数据中物理数据的实时性;物质世界中大多数物理数据都是模拟量数据,嵌入式系统可以实现模拟量数据到数字量数据的转换,使这部分物理数据也能进入大数据领域;智能化工具的智力采集方式,可以随时随地在数据采集中拓展数据中的信息量。真实的大量模拟量在没有转化成数字量时,数据中的大量信息难以应用。当转化成数字量以后,可以通过各种信号处理手段,将保留在数字信号中的大量信息发掘出来。
3、嵌入式系统的数据服务时代
大数据时代,是一个以信息挖掘为中心的数据服务时代。嵌入式系统的数据采集、处理、智能化控制,以及后技术时代应用软件的技术转型,必将使嵌入式系统从产品、技术的独立发展时代,转变到大数据的服务时代。
3.1产品与技术的服务支持
多年来,嵌入式系统一直引领智能化产品与技术的发展潮流,为智能化系统的社会服务打下了良好的基础。从传统电话到数字电话、手持电话、2G手机,再到3G时代的智能手机;从传统电表、数字电表到智能电表;从传统家用电器、数字家电、智能家电到智能家居;从汽车电器、汽车电子、汽车总线到智能化汽车电子系统等,莫不体现出嵌入式系统产品与技术的发展轨迹。形形色色的嵌入式系统的产品与技术,构成了广泛的知识平台,为大数据服务提供了良好的平台环境支持。未来,嵌入式系统更多地体现为产品与技术的整合服务。例如,在智能手机领域,嵌入式系统多年来的触摸屏技术、多核技术、网络接入技术、GPS技术、CCD/CMOS影像传感技术、传感器接入技术、DSP的数据处理技术,以及MCU的数据采集与智能化控制等领域技术,为智能手机产品与服务应用提供了一个良好的产品与技术服务平台。未来的大数据应用中,智能手机无疑会成为智能化社会生活中的核心设备与手段。
3.2在信息智能电网中开辟新天地
目前,物联网的网络基础有计算机的互联网、电信网、广播电视网与智能电网。与传统的三网相比,智能电网有其特殊的优异性能,如有数据准入的可管理渠道、坚强的数据网络建设、点到点的可靠的有线网络体系,以及以行业行为为中心的应用模式等。未来,将以智能电网用户端电器广泛接人为契机,开创智能电网的大数据服务时代。智能电表普遍的家庭接入,有望结束长期以来智能家居只开花不结果的困顿局面。智能家居将以智能电表为先导,迅速延伸到所有家用电器,逐渐形成以信息智能电网为中心的智能家居服务体系。
3.3关注半导体厂商的服务转型
嵌入式系统技术发展得益于半导体厂家的芯片技术与开发环境支持。从嵌入式系统发展史中,可以领会到半导体产业引领嵌入式系统技术的发展的基础性作用。随着嵌入式系统后技术时代的到来,以及大数据时代嵌入式系统的数据服务转型,半导体厂家会率先引领这一潮流。嵌入式系统业界应充分关注半导体厂家转型时期的技术动向,即后技术时代的软硬件平台化的技术整合与数据服务时代的综合化器件。例如,近期飞思卡尔推出的塔式模块化开发平台与TI公司陆续推出的软硬件集成化服务平台,均体现了转型时期半导体厂商的技术转型。这种技术转型为嵌入式系统的大数据服务提供了最有力的技术支持。
结语
嵌入式系统的普遍网络接入,将互联网变革到物联网;与此同时,将互联网虚拟世界海量的人文数据推进到真实世界与虚拟世界相互交融的大数据时代。信息大数据时代,嵌入式系统将走出产品与技术研发的独立领域,用产品与技术为社会服务。在这个转型时代,信息智能电网将给嵌入式系统带来巨大的机遇,信息智能电网智能化终端接入是嵌入式系统未来的重要发展舞台。国家电网推行的智能电表工程,将是嵌入式系统的最佳切入点。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
CDA数据分析师 出品 作者:李诗怡 定义区别 · 场景举例 · 指标分类 · 计算方法 知识体系总览 模块 包含内容 一、核 ...
2026-10-09在数据分析工作流中,业务数据大多存储在各类关系型数据库内,例如MySQL、PostgreSQL、SQLite等。Pandas是Python生态中主流的数 ...
2026-10-09在数字化精细化运营时代,海量用户存在需求差异、行为差异、价值差异与偏好差异。如果企业采用“一刀切”的统一营销、统一服务、 ...
2026-10-09 很多数据分析师拿到数据就开始清洗、建模,但当被问到“这批数据属于什么类型——结构化还是非结构化?分类变量还是数值变量 ...
2026-10-09指标体系是企业数字化分析、业务监控、经营决策的核心基础框架,是将零散数据转化为可衡量、可对比、可落地业务价值的关键体系。 ...
2026-10-08随着市场竞争日趋饱和,同质化低价竞争逐渐陷入内卷僵局,传统以价格、渠道、促销为核心的营销模式边际效益持续递减。在此背景下 ...
2026-10-08 很多数据分析师画过趋势图、做过业绩预测,但当被问到“这个月销售额增长20%,到底是长期趋势自然增长,还是促销活动的短期 ...
2026-10-08你有没有想过,手机里点外卖、刷社交软件、转一笔账,背后到底是谁在替你"记着账"? 答案其实很简单:数据库,以及跟它对话的那 ...
2026-10-07CDA数据分析师 出品 作者:李诗怡 一、数据分析四大思维 1. 对比思维:没有对比就没有分析 核心观点:单独一个数字没有意义,有 ...
2026-10-05Kimball 是方法,星型模型是它产出的形状。 很多人把"Kimball vs 星型模型"当成一道选择题——这本身就是个误会:Kimball 是动词 ...
2026-10-05写在开头 老板在微信上甩来一句: "帮我看下为什么销量跌了。" ” 你回工位,打开 SQL,开始写。查订单表、拉近三个月、按 ...
2026-10-03CDA数据分析师 出品 作者:李诗怡 1. 事实表 vs 维度表 对比维度 事实表 维度表 核心问题 记录“业务发生了什么事” 描述 ...
2026-10-02做数据聚合时,PySpark的groupBy()确实能完成统计,这也是它的本职工作。但它有一个根本性局限:每一组数据,最终只能返回一行 ...
2026-10-01热力地图是数据可视化中极具辨识度与实用性的空间分析图表,结合地理空间维度与数据密度特征,通过颜色深浅、色阶渐变直观展示数 ...
2026-09-30 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-09-30同样是“银行数据岗”,在国有大行总行数据中心、在一家城商行的零售部、在银行系金融科技子公司、在保险公司,工作内容、成长节 ...
2026-09-29在数据分析与统计学研究中,数据往往不是独立存在的,不同变量之间普遍存在相互关联、相互影响的关系。相关性统计分析是挖掘变量 ...
2026-09-29 导读:大多数人只把 dataclasses 当成偷懒工具,用来少写 __init__、__repr__ 这类魔法方法。但它的能力远不止于此。本文带 ...
2026-09-29 很多数据分析师能熟练地计算指标、搭建标签体系,但当被问到“画像到底在解决什么问题”“画像和标签是什么关系”“画像如何 ...
2026-09-29在MySQL数据库运维与业务开发中,行业普遍存在“数据达到千万级就必须分表”的说法。但在实际生产环境中,千万条数据并不是强制 ...
2026-09-28