京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据需要建立规则和标准_数据分析师
作为在上世纪90年代就提出可穿戴设备概念的潘特兰教授,在大数据方面也享有卓著声誉,但他对大数据的看法,站在互联网业者的角度来看略显保守。因为他最为人称道的几个研究方向并非大数据的应用,而是个人数据采集规则,大数据安全和隐私等。不过这些在我们眼里看上去远比不上大数据发展优先的主题,并不妨碍他成为大数据领域首屈一指的专家。
潘特兰的学生中牛人辈出,有发明谷歌眼镜的,也有发明面部识别技术的。潘特兰本人则较为热衷于为大数据采集和应用制定规则,设立标准,甚至还在世界经济论坛这种重大场合为政治及经济人物提供各种与此有关的建议,可以看得出,大数据的规则和秩序是他更为看重的主题。这在当前整个社会对大数据的狂热情绪下,似乎显得有些违和,但谁也不敢肯定,几年后这未必就不是一个至高议题。
与那些喜欢做美食但自己不吃的厨师一样,潘特兰作为可穿戴设备教父,自己是不戴可穿戴设备的。虽然没有明说,但他对产自IT界的各种可穿戴设备所表现出的鄙夷,还是能够令人清晰感知到的。吃饭的时候他曾表达过这样的意思:不要相信那些现有的可穿戴设备,未来的大数据与之没有半点关系。而在现场视频中对各种市面上常见的可穿戴设备进行测试时,结果也确实与其态度有所吻合,所有加入测试的设备无一幸免地暴露出数据上的偏差,外观不错的小米手环误差率竟然达到了15%。
潘特兰将这些设备称之为简单、劣质,而他自己认可的可穿戴设备标准,则完全以用户体验为导向。他认为,那些设备光是能将人的步速和心跳频率测出来,本质上是没什么用的,用户需要让这些设备告诉自己,今天他的身体到底好不好,有没有什么欠缺,该如何进行调理等等。他所说的这种我们从未见过的场景,我想就是可穿戴设备和大数据紧密结合的产物了,很遗憾这种产品目前还没问世。
大数据的四个阶段,采集、存储、分析、应用,目前的发展水平似乎仍停留在采集阶段,但对此已有分歧了。大公司喜欢把合理诉求和自我诉求巧妙混合在一起,然后拿出来说事儿,他们对数据的渴望是贪婪的,恨不得能采集的都采集到,然后实现数据互通,最终实现产品化和商业化。
但要注意到的问题是,数据采集和使用仍然是应该有边界的。就拿BAT来说,腾讯把聊天记录作为大数据样本,阿里把交易信息作为大数据样本,百度把越权抓取的非公开信息作为大数据样本,从法理上来说都是存在一定风险的。个人网上信息的所有权在过去并不是个问题,未来一定会是个问题。
潘特兰为此提出的解决方案,则更显人性化,基于用户角度去考虑问题,较少考虑商业因素。他认为,每个人都有权使用自己的数据,选择进入或者退出网络,或者选择是否分享给别人。只有用户对数据应用和安全放心了,不觉得会有什么问题了,才会有真正的大数据。
其实很容易理解这些话的含义,大公司对数据的撷取是主动的,而用户对数据的被收集则是被动的,这对于一个未来的庞大产业而言,不可能不是一个问题。英国微电影“黑镜“中有个场景,在一个人出车祸死后,系统自动搜集此人在各种社交网络上的发言和分享,类似于人肉搜索,然后基于这些数据模仿出其语言,再通过逼真的模拟语音,实现与未亡人进行跨阴阳两界对话的效果。这个场景相当令人震撼,也相当令人担忧。
如果大数据应用到这个地步,必然会出现不良后果,这会反过头来损害大数据产业的发展。潘特兰说的那些话意思在于,你让用户自己去选择个人数据的应用,赋予其主动权,这才是对大数据发展更有好处的事情。
例如,用户如果认为自己的身体数据并没什么隐私问题,你给他退出的权利,他会主动给你上传更多的优质数据,而这些数据是公司们想通过技术手段收集,也收集不来的。可穿戴设备与这种兼顾了用户权利的数据结合,才会达到他心目中的理想效果。
其实我一直都有个看法,通过大数据预测未来是一件不靠谱的事情,不管你的应用技术如何发达,IT设备如何高效,这本质上是一种违背能量守恒定律的臆想,如永动机一样永远不能实现。不过,在预测未来之外,大数据可做的事情其实要比我们想象的更多,如石油带动能源革命一样,会对未来的人类生活产生重大影响。
这个事情需要有序推进还是野蛮生长,着实是值得深思的问题。由于数据维度的不同,文化习惯的差异,大数据之间未来发展到应用阶段时,会呈现出严重的不同步现象,出现失真,解决这个问题的关键,在于规则和标准。而为大数据建立规则和标准,似乎正是潘特兰教授真正心向往之的一件事,因为他知道,这可能会影响到一个革命性产业在未来的走向。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在MySQL数据库运维与开发实践中,经常出现一种典型现象:数据库实际存储的数据量很小,数据表条数少、文件体积低,但服务器整体 ...
2026-09-11 很多数据分析师能熟练计算均值、标准差,但当被问到“总体和样本有什么区别”“参数和统计量有什么关系”“数据级别的高低如 ...
2026-09-11CDA数据分析师 出品 作者:李诗怡 定义: 将同一时间段内因具备相同属性或共同经历的用户划分为群体,分析其留存与生命周期价值 ...
2026-09-11在零售、商超、餐饮、线下门店等实体商业运营中,客流与销售额是衡量门店经营状态的两大核心指标。销售额是门店经营的最终结果, ...
2026-09-10在数据可视化体系中,柱形图是最基础、应用最广泛的图表类型,其中**累计柱形图(堆积柱状图)**是兼顾整体总量与内部结构的核心 ...
2026-09-10 许多数据分析师精通Excel函数和SQL查询,但当面对一张上万行的销售明细表,要快速回答“哪个地区销量最高”“哪款产品增长最 ...
2026-09-10在Python Pandas数据分析中,DataFrame是承载结构化数据的核心载体,数据清洗、数据修正、条件赋值、字段更新等实操场景,都离不 ...
2026-09-09 很多数据分析师掌握了Excel函数、会写SQL查询,但当被问到“数据从哪里来”“数据加工有哪些步骤”“如何使用分析工具连接数 ...
2026-09-09卡方检验(Chi-Square Test)是统计学中针对分类数据的经典显著性检验方法,核心用于判断两个离散分类变量是否相互独立、数据实 ...
2026-09-09CDA数据分析师 出品 作者:李诗怡 1. 销售漏斗阶段判断 题目:销售漏斗模型中,通过广告、社交媒体等方式触达品牌信息(如浏览品 ...
2026-09-07在Python数据分析中,Pandas库的DataFrame是最核心、最常用的结构化数据表对象,类似于Excel的二维表格,具备规整的行列结构、字 ...
2026-09-07在数据分析、经营复盘、业绩预测与经济统计工作中,平均增速(平均增长率)是衡量数据长期变化趋势、业务发展快慢的核心指标。不 ...
2026-09-07 很多数据分析师精通Excel单元格操作,但当被问到“表结构数据的基本处理单位是什么”“字段和记录的本质区别”“为什么表结 ...
2026-09-07随着大数据技术的快速发展,商业竞争逐步从传统的经验式经营转变为数据驱动的精细化运营。海量的用户行为数据、交易数据、运营数 ...
2026-09-04CDA数据分析师 出品 作者:李诗怡 1. 波士顿矩阵(BCG Matrix) 定义: BCG于1970年提出的业务组合分析工具,以"市场增长率"(纵 ...
2026-09-04 数据分析师八成以上的时间在和数据表格打交道,但许多人拿到Excel后习惯性地先算、先分析,结果回头发现漏了一列关键数据, ...
2026-09-04数据透视表是Excel与Power BI中最核心的数据分析工具,具备快速汇总、维度拆分、动态筛选的能力,可高效完成数据归类与统计展示 ...
2026-09-03在Power BI数据分析可视化场景中,堆积柱状图+折线图是最常用的复合图表组合。堆积柱状图适合展示各细分维度当期数值、结构占比 ...
2026-09-03 很多数据分析师每天与Excel打交道,但当被问到“表格结构数据的基本处理单位是什么”“数据类型误判会引发哪些分析错误”“ ...
2026-09-03CDA数据分析师 出品 作者:李诗怡 一、8个核心数据清洗函数 1. TRIM:一键清除多余空格(最常用) 作用:仅保留文本中"单词/字 ...
2026-09-02