京公网安备 11010802034615号
经营许可证编号:京B2-20210330
数据收集或比数据挖掘更有意义
按照今天信息技术的发达程度,数据收集看起来很容易。一个摄像头每天收集多少信息?空间跑着那么多卫星,它们每天收集多少信息?好像不用愁没有信息。而数据挖掘要从繁杂的信息中寻找知识,就很困难了。但是,事情可能不是那么简单。在某些情况下,数据收集可能比数据挖掘更难、更有意义。
不竟想起所谓“费米悖论(Fermi Paradox)”.1950年的一天,诺贝尔奖获得者、物理学家费米在和别人讨论飞碟及外星人问题时,突然冒出一句:“如果有外星人,他们为什么没在这里?”这句看似简单的问话,就是着名的“费米悖论”.如果认为在如此广阔的宇宙中(上百亿光年的空间,约700万亿亿颗恒星),在如此漫长的时间里(100亿~160亿年),全宇宙总共只诞生了太阳系的地球这唯一的文明,这听起来无论如何总是极端武断的。那么,总该有一个两个外星文明被我们发现,或到地球来访问过了吧?为什么它们至今仍然是沉默的呢?人类能用100万年的时间飞往银河系各个星球,那么,外星人只要比人类早进化100万年,现在就应该来到地球了。迄今为止,仍然缺乏任何被科学共同体接受的证据,能够证明地外文明的存在;另一方面,科学共同体也无法提出任何令人信服的证据,能够证明外星文明不存在,这就使得“费米悖论”成为一个极端开放的问题
我们学偏微分方程的时候,总是要先论证某一类方程解的存在性。知道解的存在,才能去求解。可是,不求出解来,怎么知道解是存在的呢?这就是一个悖论。对存在的数据集应用算法过去是产生新发现的有效方法,而现在新知识可以使用可用的材料资源创造财富,比累积新资源更有效。过去,生物学家,天文学家和宇宙学家从历史数据中找发现,考古学家艰难地去挖掘。现在,他们可以重建所有的废墟和人工制品,从卫星和航拍图像侦察到的表面跟踪想象出来。研究(Research)就真成了重新搜索(Re-Search)。
联想到马航MH370失联事件。2014年3月8日凌晨1时20分,由马来西亚吉隆坡飞往中国北京的马来西亚航空公司MH370航班与地面失去联系,机上239人中有154名中国籍乘客。此事已经过去35天,先后26个国家参加搜索,出动几百架次飞机和军舰、商船,花费超过5000万美元。先说在南海,折腾了10多天一无所获;有人根据卫星图像说是在吉尔吉斯西北部的塔拉斯州州府以南约30公里处的山谷里;后来又说是在印度洋;反复折腾,试图收集MH370的数据,但是,至今没找到。按理说,有关的数据多的是,即使是这35天的卫星数据、搜索飞机得到的数据,不可谓不大,不管你怎么去挖掘这些数据,你也得不到任何MH370的数据。这个例子说明,在某些情况下,数据收集比数据挖掘更难、更有意义,因为这种数据收集就是发现。新闻联播每天都播MH370搜索的消息。新闻联播1分钟值多少钱?做过广告的公司也许知道,反正很贵。也许会说,那是因为机上有154名同胞。可是,国内死人的事天天有,怎么没花这么多的笔墨?这问题很复杂。即使黑匣子找到了,各国都有自己的秘密,只能用各国都能接受的方式做报道。所以,这里的数据分析是和政治有关的,甚至说,数据收集的过程也与政治有关。不要认为,大数据能解决一切。而在数据收集中,硬件技术不可缺少。我们国家在硬件技术和生产方面应该承认差距,加强研究、制造和发展。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在机器学习建模、数据预处理、抽样划分、模型初始化训练的全流程中,随机种子是控制实验随机性、保证结果可复现、提升模型稳定性 ...
2026-08-04Python作为面向对象的主流编程语言,核心编程体系由变量、方法、类三大基础要素构成。三者层层递进、相互协作,支撑起所有基础代 ...
2026-08-04 很多数据分析师沉迷于复杂的机器学习算法,却忽略了数据分析最基础也最核心的能力——描述性统计。事实上,80%的商业分析问 ...
2026-08-04为什么学习数据分析? 当下,我们已然步入数据要素价值全面释放的智能时代。数据不再只是零散的数字记录,更是驱动新质生产力运 ...
2026-08-03CDA等级认证证书有效期为三年,三年进行一次年审,主要考察CDA持证人的职业发展情况;学历、工作单位及职业变更情况;继续教育 ...
2026-08-03【核心关键词】金融、岗位、企业、算法、知识、专业、理论、课程、软件、数据分析、业务类型、应用场景、经营管理、大型企业、 ...
2026-08-03在日常数据分析、业务报表复盘、业绩预测工作中,平均增长率是衡量数据长期变化趋势的核心指标,广泛用于营收增长、用户增长、销 ...
2026-08-03很多人把统计学理解为“一堆公式和计算”,却忽略了它的本质——一门让数据“开口说话”的科学。真正的数据分析高手,不是会算平 ...
2026-08-03在数据指标体系搭建工作中,从业者常困惑于指标搭建的核心逻辑:究竟是依托一线零散数据自下而上汇总指标,还是基于战略目标自上 ...
2026-07-31在数据分析、问卷研究、实验复盘、业务建模的工作中,大多数人最关注的是“用什么统计方法”:是做T检验、方差分析、卡方检验, ...
2026-07-31 许多数据分析师精通Excel函数和SQL查询,但当面对一张上万行的销售明细表,要快速回答“哪个地区销量最高”“哪款产品增长最 ...
2026-07-31在问卷调研的数据分析流程中,“先检验信效度,再开展进阶统计分析”是通用的规范逻辑。很多从业者会听到“问卷效度高,后续可以 ...
2026-07-30【核心关键词】大数据、统计学、专业、毕业生、论文、课程、计算机、建模、知识、数据分析、机器学习、数据科学、大数据技术、 ...
2026-07-30 很多数据分析师掌握了Excel函数、会写SQL查询,但当被问到“数据从哪里来”“数据加工有哪些步骤”“如何使用分析工具连接数 ...
2026-07-30在业务数据分析中,按天拆分统计夜间时段的数据是高频需求——比如电商夜间订单监测、平台夜间用户活跃度分析、运维系统夜间异常 ...
2026-07-29在机器学习建模与特征工程实践中,判断不同特征对模型预测效果的贡献度,是特征筛选、模型解释、业务归因的核心环节。特征置换重 ...
2026-07-29 很多数据分析师精通Excel单元格操作,但当被问到“表结构数据的基本处理单位是什么”“字段和记录的本质区别”“为什么表结 ...
2026-07-29【核心关键词】岗位、数字化、经验、课程、方法论、决策、企业、大方向、数据分析、销售管理、理论知识、思维方式、分析销售、 ...
2026-07-28在问卷调研、用户分群、效果对比等业务数据分析中,分类变量的关联性与差异性验证是高频需求。卡方检验作为针对离散分类数据的经 ...
2026-07-28 数据分析师八成以上的时间在和数据表格打交道,但许多人拿到Excel后习惯性地先算、先分析,结果回头发现漏了一列关键数据, ...
2026-07-28