
对大数据现象和概念追根溯源,大致可以分为三个阶段。一是20世纪80年代至90年代中期,是大数据认知的萌芽阶段。1980年,美国著名未来学家阿尔文?托夫勒在《第三次浪潮》一书中将大数据盛赞为“第三次浪潮的华彩乐章”。二是20世纪90年代中期到21世纪前10年,是大数据广受各界关注的阶段。美国高德纳(Gartner Group)公司的分析师道格拉斯.兰尼(Douglas Laney)2001年首次从大数据的特征的角度对大数据进行了相对明确的定义,强调大数据必须具备3V特征,即容量大、多样化和速度快。三是2010年至今,是大数据战略应用被提上日程并迅速发展的阶段。美国总统科学技术顾问委员会于2010年给奥巴马总统和国会呈报了题为《规划数字化的未来》的报告。麦肯锡公司于2011年发布了《大数据:创新、竞争和生产力的下一个前沿》的报告。2012年更是一个重要年份。1月,瑞士达沃斯世界经济论坛发布报告《大数据大影响》;3月,美国奥巴马政府颁布了《大数据的研究和发展计划》;5 月,联合国秘书长执行办公室发布了《大数据促发展:挑战与机遇》的报告;6月,经合组织OECD统计委员会第9届会议发布《使用大数据作决策》研究报告。2013年则可以称为中国统计的大数据元年。7月,“大数据时代统计学:机遇与挑战——中国统计学高端论坛”在上海财经大学举办;10月,主题为“大数据背景下的统计”的第十七次全国统计科学讨论会在杭州举行。11月,国家统计局与阿里、百度等11家企业签署了大数据战略合作框架协议。
什么是大数据?麦肯锡报告的定义是,“大数据是指大小超出了传统数据库软件工具的抓取、存储、管理和分析能力的数据群”。维基百科(Wikipedia)的表述是,“大数据是难以用现有的数据库管理工具处理的兼具海量特征和复杂性特征的数据集成。”涂子沛将大数据定义为那些大小已经超出了传统意义上的尺度,一般的软件工具难以捕捉、存储、管理和分析的数据,认为一般应该是“太字节”的数量级。阿里创始人马云则说,大数据就是一种服务。而我们的同仁在研究中提出:大数据是指采用多种数据收集方式,汇集不同数据源,通过采用现代信息技术和架构能够高速分析处理的、具有高度应用价值和决策支持功能的多种类型数据及其技术集成。
从存在形态看:大数据分为可以用二维表反映的结构化数据和不能以二维表反映的非结构化数据,如音频、视频、图片等。从数据来源看:大数据可分为行政记录数据、商业记录数据、互联网及搜索引擎数据三大类。行政记录数据包括个人信息记录数据,单位信息记录数据和自然和资源记录数据等;商业记录数据包括电子商务交易数据,企业生产经营数据和信息咨询报告数据等;互联网数据则包括搜索引擎数据,新闻媒体数据和社交平台数据等。而大数据的特征,从最初的3V已经被归纳为6V加1C。即数据体量大(Volume),类型多样化(Variety),处理速度快(Velocity),应用价值大(Value),数据获取与发送的方式自由灵活(Vender),准确性(veracity) 和处理和分析难度非常大(Complexity)。
相对于传统数据,大数据多是自动化或半自动化生成;数据的搜集、处理、存储和分析能力都已极大提高;数据主体和来源日趋多元化;非结构化数据占绝大多数;需要大量过滤才能提取有用价值;隐私与安全也存在着巨大隐患。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
机器学习解决实际问题的核心关键:从业务到落地的全流程解析 在人工智能技术落地的浪潮中,机器学习作为核心工具,已广泛应用于 ...
2025-09-09SPSS 编码状态区域中 Unicode 的功能与价值解析 在 SPSS(Statistical Product and Service Solutions,统计产品与服务解决方案 ...
2025-09-09CDA 数据分析师:驾驭商业数据分析流程的核心力量 在商业决策从 “经验驱动” 向 “数据驱动” 转型的过程中,商业数据分析总体 ...
2025-09-09R 语言:数据科学与科研领域的核心工具及优势解析 一、引言 在数据驱动决策的时代,无论是科研人员验证实验假设(如前文中的 T ...
2025-09-08T 检验在假设检验中的应用与实践 一、引言 在科研数据分析、医学实验验证、经济指标对比等领域,常常需要判断 “样本间的差异是 ...
2025-09-08在商业竞争日益激烈的当下,“用数据说话” 已从企业的 “加分项” 变为 “生存必需”。然而,零散的数据分析无法持续为业务赋能 ...
2025-09-08随机森林算法的核心特点:原理、优势与应用解析 在机器学习领域,随机森林(Random Forest)作为集成学习(Ensemble Learning) ...
2025-09-05Excel 区域名定义:从基础到进阶的高效应用指南 在 Excel 数据处理中,频繁引用单元格区域(如A2:A100、B3:D20)不仅容易出错, ...
2025-09-05CDA 数据分析师:以六大分析方法构建数据驱动业务的核心能力 在数据驱动决策成为企业共识的当下,CDA(Certified Data Analyst) ...
2025-09-05SQL 日期截取:从基础方法到业务实战的全维度解析 在数据处理与业务分析中,日期数据是连接 “业务行为” 与 “时间维度” 的核 ...
2025-09-04在卷积神经网络(CNN)的发展历程中,解决 “梯度消失”“特征复用不足”“模型参数冗余” 一直是核心命题。2017 年提出的密集连 ...
2025-09-04CDA 数据分析师:驾驭数据范式,释放数据价值 在数字化转型浪潮席卷全球的当下,数据已成为企业核心生产要素。而 CDA(Certified ...
2025-09-04K-Means 聚类:无监督学习中数据分群的核心算法 在数据分析领域,当我们面对海量无标签数据(如用户行为记录、商品属性数据、图 ...
2025-09-03特征值、特征向量与主成分:数据降维背后的线性代数逻辑 在机器学习、数据分析与信号处理领域,“降维” 是破解高维数据复杂性的 ...
2025-09-03CDA 数据分析师与数据分析:解锁数据价值的关键 在数字经济高速发展的今天,数据已成为企业核心资产与社会发展的重要驱动力。无 ...
2025-09-03解析 loss.backward ():深度学习中梯度汇总与同步的自动触发核心 在深度学习模型训练流程中,loss.backward()是连接 “前向计算 ...
2025-09-02要解答 “画 K-S 图时横轴是等距还是等频” 的问题,需先明确 K-S 图的核心用途(检验样本分布与理论分布的一致性),再结合横轴 ...
2025-09-02CDA 数据分析师:助力企业破解数据需求与数据分析需求难题 在数字化浪潮席卷全球的当下,数据已成为企业核心战略资产。无论是市 ...
2025-09-02Power BI 度量值实战:基于每月收入与税金占比计算累计税金分摊金额 在企业财务分析中,税金分摊是成本核算与利润统计的核心环节 ...
2025-09-01巧用 ALTER TABLE rent ADD INDEX:租房系统数据库性能优化实践 在租房管理系统中,rent表是核心业务表之一,通常存储租赁订单信 ...
2025-09-01