
大数据时代 数据分析如何进行
大数据时代究竟意味着什么?更多数据——理论上,全部数据都可以纳入收集、挖掘、分析和利用的范畴。正如牛津大学网络学院互联网研究所治理与监管专业教授维克托·迈尔-舍恩伯格在其所著的《大数据时代》一书中指出的,“我们可以分析更多的数据,有时候甚至可以处理和某个特别现象相关的所有数据,而不再依赖于随机采样”。
《大数据时代》也指出,海量数据纳入分析,必然意味着甄别、筛除,并由此带来误差和相对精确的结果。“误差”和“相对精确”是什么意思呢?基于计算机和互联网的系统服务、软件服务仍不免出现出错乃至面临崩溃,比如,杀毒软件会发生“错杀”、“误杀”,手机里的防骚扰软件有时会对通讯录里边的已有号码开展拦截,最可靠的电子邮箱仍不免将明明很安全的邮件驱逐到“垃圾邮箱”。
纽约大学统计系教授冯启思(Kaiser Fung)在《数据统治世界》一书中,对大数据时代到来背景下,数据挖掘分析所需遵循的统计规律及其应用进行了深入而颇具趣味的探讨。冯启思以反兴奋剂组织为例,更深入的探讨了误差和相对精确问题。
对于反兴奋剂组织而言,“假阴性”、“假阳性”或许是永远无法避免的尴尬,前者指的是服用禁药却通过某种方式主动或检测机构的疏漏,而错误检测为隐性,以类固醇检测为例,每确认一个使用就要漏过十个“假阴性”;后者则指没有服用过禁药的无辜者,却被药检为阳性。“假阳性”与正确的药检隐性的比例达到了1:899。药检检测机构面对的一个消长关系是:假阳性少了,假阴性就多了,反之亦然,即放宽检测的某些指标,可以减少乃至防止无辜者被错检为假阳性的可能;收紧某些指标,就会减少服用禁药者逃过处罚的比率,看上去,这是个均衡的风险等式。实则不然,错检无辜者的假阳性事件,会给体育部门、反兴奋剂组织带来极大压力,招致运动员工会、媒体和公众的强烈抨击;假阴性引起的批评就要少得多,因为没有直接的、个人化的受害者。因此,检测机构会尽量避免假阳性发生,容忍“假阳性”的存在,宁可放过十个,也绝不冤枉一个。
在一些国家和地区,刑事案件侦办以及反恐机构开展中运用到的测谎,则出现了反向偏向,造成大量的无辜者被认定为罪犯或恐怖主义组织成员,为其没有犯下的罪行错误承担责任。值得注意的是,无论是反兴奋剂检测,还是反恐检查,都较早的体现了大数据海量采集数据的理念,应用并不断更新升级数据挖掘与分析的技术,但仍不能避免假阳性和假阴性两类误差带来的极大代价(经济代价和社会代价),甚至可能因错误检测和冤案葬送公众对反恐体系、司法体制的信心。很显然,大数据时代在误差不可避免的情况下,要在假阳性和假阴性两类误差之间取得某种平衡,让误差造成的社会总成本趋于最低,而这也才是相对精确的要义所在。
数据挖掘与数据分析,所对应的是“统计式思维”。冯启思在《数据统治世界》这本书中分别谈及了平均数与差异性、随机模型和相关模型、组别差异、精确与误差、小概率等“统计式思维”涉及到的重要概念。归结他的观点,第一,数据分析要避免陷入平均化误区,要努力辨识发现数据差异性。举例来说,百年一遇的灾害,并不能理解为在一百年内每一年的灾害风险只有1%,事实上很多保险公司在偿付巨灾后的赔款时迅速滑向破产,就源于对灾害风险极端变异性和空间集中性的忽略。第二,要挖掘数据之间的相关性,而不能仅仅停留于因果性。第三,要善于建立标准对数据开展分类分组分析,也就是实现更趋精确的比较。第四,重视风险,但要避免将过多资源投放到防止或争取某些小概率事件发生之上。这些要点不仅是大数据时代值得重视和遵循的数据挖掘分析重要原则,而且也有助于人们更好、更为深入的认识社会复杂系统,借助数据挖掘分析的力量改善工作与生活。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
如何考取数据分析师证书:以 CDA 为例 在数字化浪潮席卷各行各业的当下,数据分析师已然成为企业挖掘数据价值、驱动决策的 ...
2025-07-15CDA 精益业务数据分析:驱动企业高效决策的核心引擎 在数字经济时代,企业面临着前所未有的数据洪流,如何从海量数据中提取有 ...
2025-07-15MySQL 无外键关联表的 JOIN 实战:数据整合的灵活之道 在 MySQL 数据库的日常操作中,我们经常会遇到需要整合多张表数据的场景 ...
2025-07-15Python Pandas:数据科学的瑞士军刀 在数据驱动的时代,面对海量、复杂的数据,如何高效地进行处理、分析和挖掘成为关键。 ...
2025-07-15用 SQL 生成逆向回滚 SQL:数据操作的 “后悔药” 指南 在数据库操作中,误删数据、错改字段或误执行批量更新等问题时有发生。 ...
2025-07-14t检验与Wilcoxon检验的选择:何时用t.test,何时用wilcox.test? t 检验与 Wilcoxon 检验的选择:何时用 t.test,何时用 wilcox. ...
2025-07-14AI 浪潮下的生存与进阶: CDA数据分析师—开启新时代职业生涯的钥匙(深度研究报告、发展指导白皮书) 发布机构:CDA数据科 ...
2025-07-13LSTM 模型输入长度选择技巧:提升序列建模效能的关键 在循环神经网络(RNN)家族中,长短期记忆网络(LSTM)凭借其解决长序列 ...
2025-07-11CDA 数据分析师报考条件详解与准备指南 在数据驱动决策的时代浪潮下,CDA 数据分析师认证愈发受到瞩目,成为众多有志投身数 ...
2025-07-11数据透视表中两列相乘合计的实用指南 在数据分析的日常工作中,数据透视表凭借其强大的数据汇总和分析功能,成为了 Excel 用户 ...
2025-07-11尊敬的考生: 您好! 我们诚挚通知您,CDA Level I和 Level II考试大纲将于 2025年7月25日 实施重大更新。 此次更新旨在确保认 ...
2025-07-10BI 大数据分析师:连接数据与业务的价值转化者 在大数据与商业智能(Business Intelligence,简称 BI)深度融合的时代,BI ...
2025-07-10SQL 在预测分析中的应用:从数据查询到趋势预判 在数据驱动决策的时代,预测分析作为挖掘数据潜在价值的核心手段,正被广泛 ...
2025-07-10数据查询结束后:分析师的收尾工作与价值深化 在数据分析的全流程中,“query end”(查询结束)并非工作的终点,而是将数 ...
2025-07-10CDA 数据分析师考试:从报考到取证的全攻略 在数字经济蓬勃发展的今天,数据分析师已成为各行业争抢的核心人才,而 CDA(Certi ...
2025-07-09【CDA干货】单样本趋势性检验:捕捉数据背后的时间轨迹 在数据分析的版图中,单样本趋势性检验如同一位耐心的侦探,专注于从单 ...
2025-07-09year_month数据类型:时间维度的精准切片 在数据的世界里,时间是最不可或缺的维度之一,而year_month数据类型就像一把精准 ...
2025-07-09CDA 备考干货:Python 在数据分析中的核心应用与实战技巧 在 CDA 数据分析师认证考试中,Python 作为数据处理与分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 检验:数据趋势与突变分析的有力工具 在数据分析的广袤领域中,准确捕捉数据的趋势变化以及识别 ...
2025-07-08备战 CDA 数据分析师考试:需要多久?如何规划? CDA(Certified Data Analyst)数据分析师认证作为国内权威的数据分析能力认证 ...
2025-07-08