
大数据不是“最正确”,而是“最可能”
这两年大数据的发展速度令人惊讶,深究起来似乎要感谢商家们不遗余力地“宣传”,让大数据终于落入凡间,然而,聚光灯之外的大数据又是怎样的呢?
你真的懂得大数据吗?
仔细想想,你真的懂得大数据吗?笔者发现很多人其实都是道听途说,一知半解。最近 RADICA DATA LAB 早前进行“大数据市场应用调查”,表示教育水平更高者更熟悉大数据。
大数据其实并不是甚么新奇奥秘的玩意,说穿了它就只是 Found Data ,将零散杂乱的各种数据统合分析,从而演算出某些结论、推测以及反应。昔日的数据库是被动的,它要求使用者逐一回馈,像是填写各项问卷、收集技术样本等等。
“最可能的答案”而非“最正确的答案”
不论是收集过程、数量以及分析数据都需要花费大量时间,而且往往是针对一些特定主题及目的,数据亦不够全面。然而由于现在电脑及手机的普及,以及网络通讯的流行,实现新的数据收集方式:将大量“数位化资讯”进行演算分析从而“数据化”。即使是普通人也会听闻及发现,为什么手机会知道自己的喜好,搜索时都是将自己常去的网站排名靠前,显示的广告都是自己有兴趣的,这就是大众所感知到的“大数据”如何影响自己。
大数据有别过去收集数据的方式,它不需要刻版而特定的数据,纵使再零碎不全,都一律交由电脑收集及识别。大众日常于网络上做的每一步活动,都有纪录下来,让有关方面可以依据需要分析用户个人喜好、居住地区、考虑条件、特定浏览时间等等提供“最可能的答案”,而非“最正确的答案”。
大数据重视关联
大数据是违反科学的:科学讲求精确,它却讲求模糊。科学讲求因果,它只重视关联。科学只纪录有用的数据,它却是所有数据都有价值。早于 20 世纪 20 年代 B.Russell 就提出过有关的论文,之后 1965 年 L.A.zadeh 发表模糊集合理论,正式奠定基础。模糊理论实际上是模糊集合、模糊关系、模糊逻辑、模糊控制、模糊量测等理论的泛称。
过去人类尤其是西方科学重精确轻模糊,胡适亦曾撰文《差不多先生传》,[大数据魔方]崇尚西方学风的他们抨击讽刺中国人特有的“近似推理( Approximation reasoning )”:缺乏科学精神,凡事模棱两可,只要差不多就好。讽刺的是不出数十年,西方科技发展就要学习差不多先生,追求不明确与模糊概念。事实上,模糊理论应用最有效最广泛的领域就是模糊控制。模糊控制出人意料的解决了传统西方理论逻辑无法解决或难以解决的疑难,并取得了一些惊人的成效:大数据就是其中的佼佼者。
大数据未必百分百正确,但又合乎一般人理解的范围
例如“青年”这个概念,它的内涵大家都清楚明白,但是什么样的年龄阶段内的人是青年,恐怕大家莫衷一是,因为在“青年”这个概念中没有一个清晰确定的边界与外延,这就是模糊概念。人们在认识模糊性时往往带有主观性,每个人对模糊事物的认知不可能完全相同。我们询问一千人他们认知中“年青”的年龄范围,那么我们可能得到一千个不同的答案。尽管如此,当我们用模糊统计的方法对海量数据进行分析时,答案又具有一定的规律性。
大数据就是以相近的原理运作,假设我们要求电脑在甲城市报告“低收入青年的数量”,这里所说的“低收入”、“青年”都是模糊概念,过去的统计学要先求出“何谓低收入”“何谓青年”的“精确范围”然后才能进行下一步的统计:你要先告诉电脑某个薪金以下是低收入,哪个年龄阶层是青年,然后在资料库指定栏位找符合的条目。然而在大数据时代下,电脑能通过模糊概念去分析判断,演算法会自己跑自己分析“低收入”及“青年”大概的范围,将相关的数据条列出来。它未必百分百正确,但又合乎一般人理解的范围。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
PowerBI 累计曲线制作指南:从 DAX 度量到可视化落地 在业务数据分析中,“累计趋势” 是衡量业务进展的核心视角 —— 无论是 “ ...
2025-08-15Python 函数 return 多个数据:用法、实例与实战技巧 在 Python 编程中,函数是代码复用与逻辑封装的核心载体。多数场景下,我们 ...
2025-08-15CDA 数据分析师:引领商业数据分析体系构建,筑牢企业数据驱动根基 在数字化转型深化的今天,企业对数据的依赖已从 “零散分析” ...
2025-08-15随机森林中特征重要性(Feature Importance)排名解析 在机器学习领域,随机森林因其出色的预测性能和对高维数据的适应性,被广 ...
2025-08-14t 统计量为负数时的分布计算方法与解析 在统计学假设检验中,t 统计量是常用的重要指标,其分布特征直接影响着检验结果的判断。 ...
2025-08-14CDA 数据分析师与业务数据分析步骤 在当今数据驱动的商业世界中,数据分析已成为企业决策和发展的核心驱动力。CDA 数据分析师作 ...
2025-08-14前台流量与后台流量:数据链路中的双重镜像 在商业数据分析体系中,流量数据是洞察用户行为与系统效能的核心依据。前台流量与 ...
2025-08-13商业数据分析体系构建与 CDA 数据分析师的协同赋能 在企业数字化转型的浪潮中,商业数据分析已从 “可选工具” 升级为 “核 ...
2025-08-13解析 CDA 数据分析师:数据时代的价值挖掘者 在数字经济高速发展的今天,数据已成为企业核心资产,而将数据转化为商业价值的 ...
2025-08-13解析 response.text 与 response.content 的核心区别 在网络数据请求与处理的场景中,开发者经常需要从服务器返回的响应中提取数 ...
2025-08-12MySQL 统计连续每天数据:从业务需求到技术实现 在数据分析场景中,连续日期的数据统计是衡量业务连续性的重要手段 —— 无论是 ...
2025-08-12PyTorch 中 Shuffle 机制:数据打乱的艺术与实践 在深度学习模型训练过程中,数据的呈现顺序往往对模型性能有着微妙却关键的影响 ...
2025-08-12Pandas 多列条件筛选:从基础语法到实战应用 在数据分析工作中,基于多列条件筛选数据是高频需求。无论是提取满足特定业务规则的 ...
2025-08-12人工智能重塑 CDA 数据分析领域:从工具革新到能力重构 在数字经济浪潮与人工智能技术共振的 2025 年,数据分析行业正经历着前所 ...
2025-08-12游戏流水衰退率:计算方法与实践意义 在游戏行业中,流水(即游戏收入)是衡量一款游戏商业表现的核心指标之一。而游戏流水衰退 ...
2025-08-12CDA 一级:数据分析入门的基石 在当今数据驱动的时代,数据分析能力已成为职场中的一项重要技能。CDA(Certified Data Anal ...
2025-08-12破解游戏用户流失困局:从数据洞察到留存策略 在游戏行业竞争白热化的当下,用户流失率已成为衡量产品健康度的核心指标。一款游 ...
2025-08-11数据时代的黄金入场券:CDA 认证解锁职业新蓝海 一、万亿级市场需求下的数据分析人才缺口 在数字化转型浪潮中,数据已成为企业核 ...
2025-08-11DBeaver 实战:实现两个库表结构同步的高效路径 在数据库管理与开发工作中,保持不同环境(如开发库与生产库、主库与从库)的表 ...
2025-08-08t 检验与卡方检验:数据分析中的两大统计利器 在数据分析领域,统计检验是验证假设、挖掘数据规律的重要手段。其中,t 检验和卡 ...
2025-08-08