京公网安备 11010802034615号
经营许可证编号:京B2-20210330
对大数据现象和概念追根溯源,大致可以分为三个阶段。一是20世纪80年代至90年代中期,是大数据认知的萌芽阶段。1980年,美国著名未来学家阿尔文?托夫勒在《第三次浪潮》一书中将大数据盛赞为“第三次浪潮的华彩乐章”。二是20世纪90年代中期到21世纪前10年,是大数据广受各界关注的阶段。美国高德纳(Gartner Group)公司的分析师道格拉斯.兰尼(Douglas Laney)2001年首次从大数据的特征的角度对大数据进行了相对明确的定义,强调大数据必须具备3V特征,即容量大、多样化和速度快。三是2010年至今,是大数据战略应用被提上日程并迅速发展的阶段。美国总统科学技术顾问委员会于2010年给奥巴马总统和国会呈报了题为《规划数字化的未来》的报告。麦肯锡公司于2011年发布了《大数据:创新、竞争和生产力的下一个前沿》的报告。2012年更是一个重要年份。1月,瑞士达沃斯世界经济论坛发布报告《大数据大影响》;3月,美国奥巴马政府颁布了《大数据的研究和发展计划》;5 月,联合国秘书长执行办公室发布了《大数据促发展:挑战与机遇》的报告;6月,经合组织OECD统计委员会第9届会议发布《使用大数据作决策》研究报告。2013年则可以称为中国统计的大数据元年。7月,“大数据时代统计学:机遇与挑战——中国统计学高端论坛”在上海财经大学举办;10月,主题为“大数据背景下的统计”的第十七次全国统计科学讨论会在杭州举行。11月,国家统计局与阿里、百度等11家企业签署了大数据战略合作框架协议。
什么是大数据?麦肯锡报告的定义是,“大数据是指大小超出了传统数据库软件工具的抓取、存储、管理和分析能力的数据群”。维基百科(Wikipedia)的表述是,“大数据是难以用现有的数据库管理工具处理的兼具海量特征和复杂性特征的数据集成。”涂子沛将大数据定义为那些大小已经超出了传统意义上的尺度,一般的软件工具难以捕捉、存储、管理和分析的数据,认为一般应该是“太字节”的数量级。阿里创始人马云则说,大数据就是一种服务。而我们的同仁在研究中提出:大数据是指采用多种数据收集方式,汇集不同数据源,通过采用现代信息技术和架构能够高速分析处理的、具有高度应用价值和决策支持功能的多种类型数据及其技术集成。
从存在形态看:大数据分为可以用二维表反映的结构化数据和不能以二维表反映的非结构化数据,如音频、视频、图片等。从数据来源看:大数据可分为行政记录数据、商业记录数据、互联网及搜索引擎数据三大类。行政记录数据包括个人信息记录数据,单位信息记录数据和自然和资源记录数据等;商业记录数据包括电子商务交易数据,企业生产经营数据和信息咨询报告数据等;互联网数据则包括搜索引擎数据,新闻媒体数据和社交平台数据等。而大数据的特征,从最初的3V已经被归纳为6V加1C。即数据体量大(Volume),类型多样化(Variety),处理速度快(Velocity),应用价值大(Value),数据获取与发送的方式自由灵活(Vender),准确性(veracity) 和处理和分析难度非常大(Complexity)。
相对于传统数据,大数据多是自动化或半自动化生成;数据的搜集、处理、存储和分析能力都已极大提高;数据主体和来源日趋多元化;非结构化数据占绝大多数;需要大量过滤才能提取有用价值;隐私与安全也存在着巨大隐患。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在业务数据分析中,按天拆分统计夜间时段的数据是高频需求——比如电商夜间订单监测、平台夜间用户活跃度分析、运维系统夜间异常 ...
2026-07-29在机器学习建模与特征工程实践中,判断不同特征对模型预测效果的贡献度,是特征筛选、模型解释、业务归因的核心环节。特征置换重 ...
2026-07-29 很多数据分析师精通Excel单元格操作,但当被问到“表结构数据的基本处理单位是什么”“字段和记录的本质区别”“为什么表结 ...
2026-07-29【核心关键词】岗位、数字化、经验、课程、方法论、决策、企业、大方向、数据分析、销售管理、理论知识、思维方式、分析销售、 ...
2026-07-28在问卷调研、用户分群、效果对比等业务数据分析中,分类变量的关联性与差异性验证是高频需求。卡方检验作为针对离散分类数据的经 ...
2026-07-28 数据分析师八成以上的时间在和数据表格打交道,但许多人拿到Excel后习惯性地先算、先分析,结果回头发现漏了一列关键数据, ...
2026-07-28在Excel数据分析与报表制作中,数据透视表是快速完成多维度汇总、分组统计的核心工具。很多从业者在得到透视表汇总结果后,为了 ...
2026-07-27 很多数据分析师每天与Excel打交道,但当被问到“表格结构数据的基本处理单位是什么”“数据类型误判会引发哪些分析错误”“ ...
2026-07-27当下,我们已然步入数据要素价值全面释放的智能时代。数据不再只是零散的数字记录,更是驱动新质生产力运转的核心动能、滋养人工 ...
2026-07-27【核心关键词】客户、数据分析、指标体系、数据采集、数据指标、业务数据、分析思路、业务需求、分析方法 【专访摘要】本次 CDA ...
2026-07-24在数据分析、业务建模与数字化运营体系中,原始业务数据普遍存在缺失、重复、异常、口径不一致等质量问题,直接用于分析与建模会 ...
2026-07-24 很多数据分析师能熟练计算均值、标准差,但当被问到“如何用一张图让业务方3秒内看懂核心结论”“面对不同数据类型该怎么选 ...
2026-07-24在数据驱动的精细化运营体系中,指标是业务判断、效果复盘、策略优化的核心依据。随着企业数据化程度提升,指标数量持续膨胀,但 ...
2026-07-23在用户运营与产品增长体系中,留存是衡量产品真实价值与用户粘性的核心标尺,也是决定用户生命周期价值、获客投产比的底层因素。 ...
2026-07-23 很多数据分析师精通Excel、SQL、Python等工具,但当被问到“面对一个具体的业务问题,该用什么分析方法”“描述性分析和诊断 ...
2026-07-23【核心关键词】埋点、产品、互联网、数据库、决策、数据分析、产品经理、商业模式、移动互联网、指标体系、运营模块、大数据平 ...
2026-07-22在高并发、大数据量的业务系统中,单表数据量达到千万级甚至亿级后,会出现查询性能骤降、索引维护成本飙升、存储扩容困难等问题 ...
2026-07-22 很多企业团队并非缺乏指标,而是陷入“指标失控”:仪表盘上堆满实时跳动的数据,却无法回答“当前瓶颈在哪、下一步该做什么 ...
2026-07-22在金融风控、企业运营、行业研究等数据分析场景中,大量数据以面板数据形态存在:例如多家分支机构连续多个季度的风险指标、多位 ...
2026-07-21 很多数据分析师每天都在计算指标、制作报表,但当被问到“什么叫指标数据元”“指标数据标准包含哪些核心维度”“指标数据质 ...
2026-07-21