京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据需要建立规则和标准_数据分析师培训
作为在上世纪90年代就提出可穿戴设备概念的潘特兰教授,在大数据方面也享有卓著声誉,但他对大数据的看法,站在互联网业者的角度来看略显保守。因为他最为人称道的几个研究方向并非大数据的应用,而是个人数据采集规则,大数据安全和隐私等。不过这些在我们眼里看上去远比不上大数据发展优先的主题,并不妨碍他成为大数据领域首屈一指的专家。
潘特兰的学生中牛人辈出,有发明谷歌眼镜的,也有发明面部识别技术的。潘特兰本人则较为热衷于为大数据采集和应用制定规则,设立标准,甚至还在世界经济论坛这种重大场合为政治及经济人物提供各种与此有关的建议,可以看得出,大数据的规则和秩序是他更为看重的主题。这在当前整个社会对大数据的狂热情绪下,似乎显得有些违和,但谁也不敢肯定,几年后这未必就不是一个至高议题。
与那些喜欢做美食但自己不吃的厨师一样,潘特兰作为可穿戴设备教父,自己是不戴可穿戴设备的。虽然没有明说,但他对产自IT界的各种可穿戴设备所表现出的鄙夷,还是能够令人清晰感知到的。吃饭的时候他曾表达过这样的意思:不要相信那些现有的可穿戴设备,未来的大数据与之没有半点关系。而在现场视频中对各种市面上常见的可穿戴设备进行测试时,结果也确实与其态度有所吻合,所有加入测试的设备无一幸免地暴露出数据上的偏差,外观不错的小米手环误差率竟然达到了15%。
潘特兰将这些设备称之为简单、劣质,而他自己认可的可穿戴设备标准,则完全以用户体验为导向。他认为,那些设备光是能将人的步速和心跳频率测出来,本质上是没什么用的,用户需要让这些设备告诉自己,今天他的身体到底好不好,有没有什么欠缺,该如何进行调理等等。他所说的这种我们从未见过的场景,我想就是可穿戴设备和大数据紧密结合的产物了,很遗憾这种产品目前还没问世。
大数据的四个阶段,采集、存储、分析、应用,目前的发展水平似乎仍停留在采集阶段,但对此已有分歧了。大公司喜欢把合理诉求和自我诉求巧妙混合在一起,然后拿出来说事儿,他们对数据的渴望是贪婪的,恨不得能采集的都采集到,然后实现数据互通,最终实现产品化和商业化。
但要注意到的问题是,数据采集和使用仍然是应该有边界的。就拿BAT来说,腾讯把聊天记录作为大数据样本,阿里把交易信息作为大数据样本,百度把越权抓取的非公开信息作为大数据样本,从法理上来说都是存在一定风险的。个人网上信息的所有权在过去并不是个问题,未来一定会是个问题。
潘特兰为此提出的解决方案,则更显人性化,基于用户角度去考虑问题,较少考虑商业因素。他认为,每个人都有权使用自己的数据,选择进入或者退出网络,或者选择是否分享给别人。只有用户对数据应用和安全放心了,不觉得会有什么问题了,才会有真正的大数据。
其实很容易理解这些话的含义,大公司对数据的撷取是主动的,而用户对数据的被收集则是被动的,这对于一个未来的庞大产业而言,不可能不是一个问题。英国微电影“黑镜“中有个场景,在一个人出车祸死后,系统自动搜集此人在各种社交网络上的发言和分享,类似于人肉搜索,然后基于这些数据模仿出其语言,再通过逼真的模拟语音,实现与未亡人进行跨阴阳两界对话的效果。这个场景相当令人震撼,也相当令人担忧。
如果大数据应用到这个地步,必然会出现不良后果,这会反过头来损害大数据产业的发展。潘特兰说的那些话意思在于,你让用户自己去选择个人数据的应用,赋予其主动权,这才是对大数据发展更有好处的事情。
例如,用户如果认为自己的身体数据并没什么隐私问题,你给他退出的权利,他会主动给你上传更多的优质数据,而这些数据是公司们想通过技术手段收集,也收集不来的。可穿戴设备与这种兼顾了用户权利的数据结合,才会达到他心目中的理想效果。
其实我一直都有个看法,通过大数据预测未来是一件不靠谱的事情,不管你的应用技术如何发达,IT设备如何高效,这本质上是一种违背能量守恒定律的臆想,如永动机一样永远不能实现。不过,在预测未来之外,大数据可做的事情其实要比我们想象的更多,如石油带动能源革命一样,会对未来的人类生活产生重大影响。
这个事情需要有序推进还是野蛮生长,着实是值得深思的问题。由于数据维度的不同,文化习惯的差异,大数据之间未来发展到应用阶段时,会呈现出严重的不同步现象,出现失真,解决这个问题的关键,在于规则和标准。而为大数据建立规则和标准,似乎正是潘特兰教授真正心向往之的一件事,因为他知道,这可能会影响到一个革命性产业在未来的走向。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
指标体系是企业数字化分析、业务监控、经营决策的核心基础框架,是将零散数据转化为可衡量、可对比、可落地业务价值的关键体系。 ...
2026-10-08随着市场竞争日趋饱和,同质化低价竞争逐渐陷入内卷僵局,传统以价格、渠道、促销为核心的营销模式边际效益持续递减。在此背景下 ...
2026-10-08 很多数据分析师画过趋势图、做过业绩预测,但当被问到“这个月销售额增长20%,到底是长期趋势自然增长,还是促销活动的短期 ...
2026-10-08你有没有想过,手机里点外卖、刷社交软件、转一笔账,背后到底是谁在替你"记着账"? 答案其实很简单:数据库,以及跟它对话的那 ...
2026-10-07CDA数据分析师 出品 作者:李诗怡 一、数据分析四大思维 1. 对比思维:没有对比就没有分析 核心观点:单独一个数字没有意义,有 ...
2026-10-05Kimball 是方法,星型模型是它产出的形状。 很多人把"Kimball vs 星型模型"当成一道选择题——这本身就是个误会:Kimball 是动词 ...
2026-10-05写在开头 老板在微信上甩来一句: "帮我看下为什么销量跌了。" ” 你回工位,打开 SQL,开始写。查订单表、拉近三个月、按 ...
2026-10-03CDA数据分析师 出品 作者:李诗怡 1. 事实表 vs 维度表 对比维度 事实表 维度表 核心问题 记录“业务发生了什么事” 描述 ...
2026-10-02做数据聚合时,PySpark的groupBy()确实能完成统计,这也是它的本职工作。但它有一个根本性局限:每一组数据,最终只能返回一行 ...
2026-10-01热力地图是数据可视化中极具辨识度与实用性的空间分析图表,结合地理空间维度与数据密度特征,通过颜色深浅、色阶渐变直观展示数 ...
2026-09-30 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-09-30同样是“银行数据岗”,在国有大行总行数据中心、在一家城商行的零售部、在银行系金融科技子公司、在保险公司,工作内容、成长节 ...
2026-09-29在数据分析与统计学研究中,数据往往不是独立存在的,不同变量之间普遍存在相互关联、相互影响的关系。相关性统计分析是挖掘变量 ...
2026-09-29 导读:大多数人只把 dataclasses 当成偷懒工具,用来少写 __init__、__repr__ 这类魔法方法。但它的能力远不止于此。本文带 ...
2026-09-29 很多数据分析师能熟练地计算指标、搭建标签体系,但当被问到“画像到底在解决什么问题”“画像和标签是什么关系”“画像如何 ...
2026-09-29在MySQL数据库运维与业务开发中,行业普遍存在“数据达到千万级就必须分表”的说法。但在实际生产环境中,千万条数据并不是强制 ...
2026-09-28CDA数据分析师 出品 作者:李诗怡 1. 5W1H 分析法 定义:经典系统性思维框架,通过六个核心维度对问题进行全方位拆解与剖析,确 ...
2026-09-28 很多分析师在设计标签时思路清晰,但真到落地环节却面临“数据在手,不知如何转化为可用标签”的困境:或因加工方式选择不当 ...
2026-09-28CDA数据分析师 出品 作者:李诗怡 1. 用户标签体系 定义: 通过一系列高度精炼的特征标识,对用户属性、行为与偏好进行量化刻画 ...
2026-09-24Pandas是Python生态中用于表格数据处理的核心库,广泛应用于数据清洗、统计运算、报表输出、数据分析建模等场景。在处理极大数值 ...
2026-09-24