
对大数据的认识不应盲目跟风_数据分析师
由于大数据技术发展迅速,一些囫囵吞枣的浅知误见也随之流传,如不及时纠正,将造成对大数据先入为主的误区,影响经济社会发展。
近年来,大数据在我国得到一致重视,各行各业兴起了一股重视大数据、应用大数据的热潮。这种全民迅速接受新生事物的现象,反映了中国经过改革开放,现代化意识深入人心的可喜状况,令人鼓舞。但是,由于大数据技术发展迅速,一些囫囵吞枣的浅知误见也随之流传,如不及时纠正,将造成对大数据先入为主的误区,影响经济社会发展。当前国内十分流行的《大数据时代》(维克托·迈尔-舍恩伯格等著,浙江人民出版社,2013年,以下简称《时代》)中提出了三个存在严重谬误的观点,特此指出,以期引起注意。
“不是因果关系,而是相互关系”?
《时代》一书的主要观点之一是,大数据时代“不是因果关系,而是相互关系”。其实,早在18世纪,英国怀疑论者休谟就指出,“不但我们的理性不能帮助我们发现原因和结果的最终联系,而且经验给我们指出它们的恒常结合以后,我们也不能凭自己的理性使自己相信,我们为什么把那种经验扩大到我们所曾观察过那些特殊事物以外。我们只是假设,却永远不能证明,我们所经验过的那些事物必然类似于我们所未曾发现的那些对象。”
《时代》一书将这一早已提出几个世纪的观点,作为大数据时代的新概念,不仅陈旧,而且错误。因为,简单地说大数据时代“不是因果关系,而是相互关系”,说明作者不了解因果关系本身也是一种相互关系,即原因与结果前后相继的相互关系,因此将因果关系归结为相互关系并不比因果关系本身更有内涵,实际上,这甚至是一种同义反复。
正确的观点应该明确因果关系是一种什么样的相互关系,而这一点经过20世纪自然科学和数理哲学的研究已经有了更深刻的认识。计算机的发明,使得人们开始从计算机语言表达、传递信息的角度来理解知识的起点。大数据时代的到来,使得人们豁然开朗。
经济学者李德伟教授在《时代》中译本发表之前,就已提出大数据时代不再强调因果关系,也不是简单地将因果关系归为相互关系,而是精确地指出客观事物运动序列之间存在同构关系,特别是人类认识与外部客观事物之间存在对应的、同构的关系,信息的表达、传输和存储就是一种同构关系,也就是说,外部客观事物运动与人的主观认识都是客观世界的事物现象,是协调性的、一一对应的相互关系,主观认识映像只是承载、传递外部客观事物现象的一种符号系统。无论是从人自身悟出来,还是从外部经验事物抽象出来,都是同构的、对应的关系。
“不是随机样本,而是全体数据”?
《时代》一书认为大数据时代“不是随机样本,而是全体数据”,认识事物不再是从随机抽取的部分样本,而是从全部数据出发。这种说法忽视了全部与部分的辩证关系。人类在有限的时间内不可能穷尽事物的全部,绝对真理只能在人类前后相继的、永远不会停止的认识过程中实现。任何事物的发展总是有过去、现在和未来,现在的是现在,未来的尚未出现,全部案例不可能在有限时间内达到,认识也永远不会完结。未来的与过去和现在相比还是无穷大的。正因为如此,波普尔才提出,“全称命题不可证实,只能证伪。”
实际上,过去的小数据时代的抽样调查方法与现在的大数据方法相比,只能说是大数据时代可以用更为精确的、全面的数据,以包含更大因素的仿真模型来追踪、分析模拟现实,取得比过去更为精确的认识结果。尽管如此,与全体相比,已经认识的永远是少数,误差、错误还是不能完全消除。例如,通过人口普查分析现在中国人具有什么特点。不要说全部认识现有13亿人口的全部属性不可能(因为事物属性有无穷层次),即使说能够完全认识现有13亿人口全部属性,也不意味着过去、未来的中国人,也能够全部认识。未来的中国人与已经认识的现有中国人相比还是无穷大。因此,大数据与小数据相比只是以巨量的、全面的、即时的数据来认识事物,但是要掌握全体数据在有限时间内总是不可能的。
“不是精确性,而是混杂性”?
《时代》作者说大数据时代“不是精确性,而是混杂性”,意指小数据时代是讲究精确性,大数据时代因为掌握了大量数据可以不再拘泥于精确性,而是依靠大数据比较模糊地行动。这显然是错误的。因为在小数据时代能够掌握精确的小数据,但是大多数数据却被遗漏、舍弃,认识的结果就无法实现精确、全面,真理和错误的边界也不是很清楚,这时的认识是模糊的、有偏差的。在大数据时代,因为掌握了更为全面的数据,可以在更大的范围认识事物,因此,能够更为准确、量化,以至于对一些中间模糊区域也可以得到更为准确的认识,其精确度和模糊度、误差本身都更为精确量化。例如,在计算机信息系统中,发布更多的信息,通过反复比对、纠错机制,降低噪音,到达精确度。这一点在人类的认识活动中本来就是这样做的,“耳听为虚”就以“眼见为实”来纠错,小数据一两个来回不可能正确,反复多次大数据比对,就能达到越来越高的精确度,误差率就越来越小。
中国人口世界第一,信息产业市场最大,最有机会发展信息化、大数据和智慧化产业。但中国目前在对大数据的认识上有一种盲目跟外国之风的倾向。对于国外大数据理论,我们应以批判的眼光保持清醒的认识。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
Python HTTP 请求工具对比:urllib.request 与 requests 的核心差异与选择指南 在 Python 处理 HTTP 请求(如接口调用、数据爬取 ...
2025-09-12解决 pd.read_csv 读取长浮点数据的科学计数法问题 为帮助 Python 数据从业者解决pd.read_csv读取长浮点数据时的科学计数法问题 ...
2025-09-12CDA 数据分析师:业务数据分析步骤的落地者与价值优化者 业务数据分析是企业解决日常运营问题、提升执行效率的核心手段,其价值 ...
2025-09-12用 SQL 验证业务逻辑:从规则拆解到数据把关的实战指南 在业务系统落地过程中,“业务逻辑” 是连接 “需求设计” 与 “用户体验 ...
2025-09-11塔吉特百货孕妇营销案例:数据驱动下的精准零售革命与启示 在零售行业 “流量红利见顶” 的当下,精准营销成为企业突围的核心方 ...
2025-09-11CDA 数据分析师与战略 / 业务数据分析:概念辨析与协同价值 在数据驱动决策的体系中,“战略数据分析”“业务数据分析” 是企业 ...
2025-09-11Excel 数据聚类分析:从操作实践到业务价值挖掘 在数据分析场景中,聚类分析作为 “无监督分组” 的核心工具,能从杂乱数据中挖 ...
2025-09-10统计模型的核心目的:从数据解读到决策支撑的价值导向 统计模型作为数据分析的核心工具,并非简单的 “公式堆砌”,而是围绕特定 ...
2025-09-10CDA 数据分析师:商业数据分析实践的落地者与价值创造者 商业数据分析的价值,最终要在 “实践” 中体现 —— 脱离业务场景的分 ...
2025-09-10机器学习解决实际问题的核心关键:从业务到落地的全流程解析 在人工智能技术落地的浪潮中,机器学习作为核心工具,已广泛应用于 ...
2025-09-09SPSS 编码状态区域中 Unicode 的功能与价值解析 在 SPSS(Statistical Product and Service Solutions,统计产品与服务解决方案 ...
2025-09-09CDA 数据分析师:驾驭商业数据分析流程的核心力量 在商业决策从 “经验驱动” 向 “数据驱动” 转型的过程中,商业数据分析总体 ...
2025-09-09R 语言:数据科学与科研领域的核心工具及优势解析 一、引言 在数据驱动决策的时代,无论是科研人员验证实验假设(如前文中的 T ...
2025-09-08T 检验在假设检验中的应用与实践 一、引言 在科研数据分析、医学实验验证、经济指标对比等领域,常常需要判断 “样本间的差异是 ...
2025-09-08在商业竞争日益激烈的当下,“用数据说话” 已从企业的 “加分项” 变为 “生存必需”。然而,零散的数据分析无法持续为业务赋能 ...
2025-09-08随机森林算法的核心特点:原理、优势与应用解析 在机器学习领域,随机森林(Random Forest)作为集成学习(Ensemble Learning) ...
2025-09-05Excel 区域名定义:从基础到进阶的高效应用指南 在 Excel 数据处理中,频繁引用单元格区域(如A2:A100、B3:D20)不仅容易出错, ...
2025-09-05CDA 数据分析师:以六大分析方法构建数据驱动业务的核心能力 在数据驱动决策成为企业共识的当下,CDA(Certified Data Analyst) ...
2025-09-05SQL 日期截取:从基础方法到业务实战的全维度解析 在数据处理与业务分析中,日期数据是连接 “业务行为” 与 “时间维度” 的核 ...
2025-09-04在卷积神经网络(CNN)的发展历程中,解决 “梯度消失”“特征复用不足”“模型参数冗余” 一直是核心命题。2017 年提出的密集连 ...
2025-09-04