京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据需要建立规则和标准_数据分析师培训
作为在上世纪90年代就提出可穿戴设备概念的潘特兰教授,在大数据方面也享有卓著声誉,但他对大数据的看法,站在互联网业者的角度来看略显保守。因为他最为人称道的几个研究方向并非大数据的应用,而是个人数据采集规则,大数据安全和隐私等。不过这些在我们眼里看上去远比不上大数据发展优先的主题,并不妨碍他成为大数据领域首屈一指的专家。
潘特兰的学生中牛人辈出,有发明谷歌眼镜的,也有发明面部识别技术的。潘特兰本人则较为热衷于为大数据采集和应用制定规则,设立标准,甚至还在世界经济论坛这种重大场合为政治及经济人物提供各种与此有关的建议,可以看得出,大数据的规则和秩序是他更为看重的主题。这在当前整个社会对大数据的狂热情绪下,似乎显得有些违和,但谁也不敢肯定,几年后这未必就不是一个至高议题。
与那些喜欢做美食但自己不吃的厨师一样,潘特兰作为可穿戴设备教父,自己是不戴可穿戴设备的。虽然没有明说,但他对产自IT界的各种可穿戴设备所表现出的鄙夷,还是能够令人清晰感知到的。吃饭的时候他曾表达过这样的意思:不要相信那些现有的可穿戴设备,未来的大数据与之没有半点关系。而在现场视频中对各种市面上常见的可穿戴设备进行测试时,结果也确实与其态度有所吻合,所有加入测试的设备无一幸免地暴露出数据上的偏差,外观不错的小米手环误差率竟然达到了15%。
潘特兰将这些设备称之为简单、劣质,而他自己认可的可穿戴设备标准,则完全以用户体验为导向。他认为,那些设备光是能将人的步速和心跳频率测出来,本质上是没什么用的,用户需要让这些设备告诉自己,今天他的身体到底好不好,有没有什么欠缺,该如何进行调理等等。他所说的这种我们从未见过的场景,我想就是可穿戴设备和大数据紧密结合的产物了,很遗憾这种产品目前还没问世。
大数据的四个阶段,采集、存储、分析、应用,目前的发展水平似乎仍停留在采集阶段,但对此已有分歧了。大公司喜欢把合理诉求和自我诉求巧妙混合在一起,然后拿出来说事儿,他们对数据的渴望是贪婪的,恨不得能采集的都采集到,然后实现数据互通,最终实现产品化和商业化。
但要注意到的问题是,数据采集和使用仍然是应该有边界的。就拿BAT来说,腾讯把聊天记录作为大数据样本,阿里把交易信息作为大数据样本,百度把越权抓取的非公开信息作为大数据样本,从法理上来说都是存在一定风险的。个人网上信息的所有权在过去并不是个问题,未来一定会是个问题。
潘特兰为此提出的解决方案,则更显人性化,基于用户角度去考虑问题,较少考虑商业因素。他认为,每个人都有权使用自己的数据,选择进入或者退出网络,或者选择是否分享给别人。只有用户对数据应用和安全放心了,不觉得会有什么问题了,才会有真正的大数据。
其实很容易理解这些话的含义,大公司对数据的撷取是主动的,而用户对数据的被收集则是被动的,这对于一个未来的庞大产业而言,不可能不是一个问题。英国微电影“黑镜“中有个场景,在一个人出车祸死后,系统自动搜集此人在各种社交网络上的发言和分享,类似于人肉搜索,然后基于这些数据模仿出其语言,再通过逼真的模拟语音,实现与未亡人进行跨阴阳两界对话的效果。这个场景相当令人震撼,也相当令人担忧。
如果大数据应用到这个地步,必然会出现不良后果,这会反过头来损害大数据产业的发展。潘特兰说的那些话意思在于,你让用户自己去选择个人数据的应用,赋予其主动权,这才是对大数据发展更有好处的事情。
例如,用户如果认为自己的身体数据并没什么隐私问题,你给他退出的权利,他会主动给你上传更多的优质数据,而这些数据是公司们想通过技术手段收集,也收集不来的。可穿戴设备与这种兼顾了用户权利的数据结合,才会达到他心目中的理想效果。
其实我一直都有个看法,通过大数据预测未来是一件不靠谱的事情,不管你的应用技术如何发达,IT设备如何高效,这本质上是一种违背能量守恒定律的臆想,如永动机一样永远不能实现。不过,在预测未来之外,大数据可做的事情其实要比我们想象的更多,如石油带动能源革命一样,会对未来的人类生活产生重大影响。
这个事情需要有序推进还是野蛮生长,着实是值得深思的问题。由于数据维度的不同,文化习惯的差异,大数据之间未来发展到应用阶段时,会呈现出严重的不同步现象,出现失真,解决这个问题的关键,在于规则和标准。而为大数据建立规则和标准,似乎正是潘特兰教授真正心向往之的一件事,因为他知道,这可能会影响到一个革命性产业在未来的走向。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
平均数是数据分析、数理统计与日常运算中最基础、最常用的统计量,核心作用是浓缩一组数据的整体水平、刻画数据集中趋势。在众多 ...
2026-08-24在MySQL数据库中,InnoDB存储引擎作为主流事务型引擎,默认事务隔离级别为可重复读(Repeatable Read,RR),这与SQL Server、Or ...
2026-08-24 很多数据分析师拿到数据就开始清洗、建模,但当被问到“这批数据属于什么类型——结构化还是非结构化?分类变量还是数值变量 ...
2026-08-24 很多数据分析师画过趋势图、做过业绩预测,但当被问到“这个月销售额增长20%,到底是长期趋势自然增长,还是促销活动的短期 ...
2026-08-21在数据分析与数据可视化工作中,直方图是展示数据分布特征、离散程度、集中区间的核心图表,能够直观呈现数值数据的频次分布规律 ...
2026-08-20在数据分析领域有一句核心准则:垃圾数据进,垃圾数据出。数据清洗是数据分析、数据建模、数据可视化之前的必经前置工序,也是保 ...
2026-08-20 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-08-20在Python数据分析与数据清洗工作中,Pandas是最核心的数据处理库,DataFrame是结构化数据的标准存储格式。在实时数据采集、循环 ...
2026-08-19在零售行业大数据分析与精细化运营领域,纸尿裤旁摆放啤酒是最经典、最具代表性的商业案例。两种看似毫无关联的商品,一个是婴幼 ...
2026-08-19 很多数据分析师能熟练地计算指标、搭建标签体系,但当被问到“画像到底在解决什么问题”“画像和标签是什么关系”“画像如何 ...
2026-08-19在数据分析、业务监控、质量检测与风险管控工作中,数据波动性是衡量数据稳定性、业务健康度、结果可信度的核心依据。数据波动代 ...
2026-08-18很多分析师在设计标签时思路清晰,但真到落地环节却面临“数据在手,不知如何转化为可用标签”的困境:或因加工方式选择不当导致 ...
2026-08-18在数据分析、业务评价、产品评级、用户分层与综合决策场景中,单一指标往往无法全面、客观地评价事物整体水平。现实中的评价对象 ...
2026-08-18在数理统计、假设检验、数据分析与机器学习领域中,卡方分布(χ²分布)是继正态分布、t分布之后最重要的连续型概率分布之一。 ...
2026-08-17在Python数据清洗、文本校验、账号密码规则校验、脏数据过滤、字符串规整化处理中,正则表达式是最高效、最常用的文本匹配工具。 ...
2026-08-17 很多分析师每天和数据打交道,但当被问到“标签是什么”“标签和指标有什么区别”“标签体系如何设计”时,却常常答不上来。 ...
2026-08-17手游行业具备用户迭代快、竞争激烈、用户粘性易流失的典型特征。随着新游持续上线、玩家审美升级、玩法疲劳等问题出现,存量用户 ...
2026-08-14在数字化产品运营、商业数据分析、业务增长管理中,零散的指标统计无法支撑系统性的业务决策。单一的点击率、转化率、销量数据只 ...
2026-08-14 很多数据分析师每天都在写SQL,但当被问到“数据查询语言(DQL)的本质是什么”“SELECT语句中各子句的书写顺序与实际执行顺 ...
2026-08-14在数据库数据分析、数据清洗、报表统计与业务查询场景中,日期时间是最高频、最核心的基础字段。数据库中存储的日期格式多样,包 ...
2026-08-13