京公网安备 11010802034615号
经营许可证编号:京B2-20210330
爱德华・斯诺登曝光NSA监听之后,乔治・奥威尔著作《1984》的销量都增加了。就目前的情况来说,即使人们不喜欢老大哥在监视自己,也要准备好接受隐私被冒犯的代价,来换得安全保障。
那么“大数据”会怎么样?快速增长的个人数据掌握在公司们手中,它们使用新型的数据分析和人工智能技术来改进自己的产品和服务,预测顾客的需求。谷歌首席执行官拉里・佩奇(Larry Page)描述他心目中理想的科技形态是“一个真正智能的助理,能够帮人类去做事,我们就不必再费脑筋”。
试想一下居住在虚拟的唐顿庄园(Downton Abbey)里,有一台电脑帮你安排一天的计划,给出旅行的最佳路线建议、可能想要观看的影片和最适宜搭乘的航班——甚至帮你订票——这的确有诱惑力。我们都在赶时间,想要一个简单轻松的生活。只要不被信息轰炸或是迫失选择,有个私人助理服务还是不错的。
但是NSA监听事件让所有人大吃一惊,虽然监听计划已经存在60年了,我怀疑许多人是否能明白他们每天制造的数据量有多大,或者是否了解如今科技发展到怎样的程度——一小撮大数据公司已经在进行数据挖掘。科技发展得太快,两年前还认为是不可能的事情如今已经十分平常了。
“未来既令人激动又让人恐惧。拥有海量数据的公司们甚至要比你还要了解你自己。它们能预测你下面可能做什么,”李开复说。他是Google中国的前任CEO,目前在北京做投资。
上周我在一篇专栏文章里将谷歌与19世纪的通用电气进行了比较——这是一家创新的工业公司,借助了在新技术潮流发展的力量。不利的一面是谷歌、亚马逊、微软以及其他科技巨头正在积累自己的力量,需要小心翼翼地控制。
NSA和大数据公司将它们的数据库和计算能力用在了不同的地方——一个是发现间谍和恐怖分子,一个是为用户匹配服务。它们对大规模数据库的使用有相似之处,比如模式识别和网络分析等等。
更进一步来看,这涉及到人工智能技术,比如在用户输入关键词时分析搜索的目的、实时将演讲翻译成另外一种语言(像微软去年在中国演示的那样)、通过读取上千张图像去学习分辨一只猫的照片。
计算机学习人类趋同行为的能力被称作是“深度学习(deep learning)”,值得注意的是谷歌已经聘请了该领域的几位前沿学者,其中就包括科学家、作家雷・库兹韦尔(Ray Kurzweil)。NSA向美国私人公司开放的技术转让中就有“领先的机器学习技术”。
这种软件可以从信息碎片中预测许多东西,只要碎片足够多就可以,好像NSA从运营商Verizon那里获取电话拨叫元数据并对其分析一样。总统奥巴马向美国公民保证“没人在窃听你的电话”,但是只要拨叫纪录就足够了。
哈佛大学教授拉坦娅・斯威妮(Latanya Sweeney)的一项研究表明,有87%的人在获知年龄、性别和邮政编码的情况下能够被确认身份,只要在公开数据库里交叉确认(cross-checked)就可以。这恰恰是社交网络和互联网公司通常所收集的数据。
大数据公司的惊人能力来自一点,它们可以将顾客的个人数据进行整合,其中就涵盖购买的何种商品、位置在哪里(由移动电话的GPS搜集)。由此生成一组有关顾客意图的“推测数据(inferred data)”。
举例说明,如果我在印度时用安卓手机搜索“泰姬陵”,谷歌会优先显示北方邦(Uttar Pradesh)的神庙结果。如果我在伦敦东部的布里克街(Brick Lane),则会返回本地的孟加拉风味餐厅结果。基于我的评价纪录提供餐馆预订服务也就不难实现了。
从一方面来说,如果确实做到这一点(只要是一家好餐厅)我会很高兴,因为能够节省我的一些操作。从另一方面来看,正如世界经济论坛关于个人数据的报告里所讲:“预测数据给人感觉好像无所不知的老大哥在盯着监控录像一样。”
其中引发的担忧之一是掌握这种软件能力的大数据公司很难与之抗衡。我和其他用户提供的数据越多,它们对我们意图的预测就越准确。机器大脑越用越精明。
另外一个和信任有关。社交网络在保护用户数据方面做得很差,它们只拥有一小片段涉及用户行为、习惯和意愿的信息。很明显为什么NSA会把社交网络作为目标——NSA有计算能力,他们需要数据原料。
第三点是所有权的问题。我们都对自己的信息享有一定的权利。但是这些信息和其他人的信息被整合到一个大规模的意愿数据库中,情况会有什么变化?如果我改变主意,如何让信息恢复原状?
最重要的一点,我们不知道这种技术意味着什么,因为我们还处于大数据时代的初级阶段。诚然大数据有许多地方令人倾佩,但是需要一些时间让人们爱上它。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在MySQL数据库运维与开发实践中,经常出现一种典型现象:数据库实际存储的数据量很小,数据表条数少、文件体积低,但服务器整体 ...
2026-09-11 很多数据分析师能熟练计算均值、标准差,但当被问到“总体和样本有什么区别”“参数和统计量有什么关系”“数据级别的高低如 ...
2026-09-11CDA数据分析师 出品 作者:李诗怡 定义: 将同一时间段内因具备相同属性或共同经历的用户划分为群体,分析其留存与生命周期价值 ...
2026-09-11在零售、商超、餐饮、线下门店等实体商业运营中,客流与销售额是衡量门店经营状态的两大核心指标。销售额是门店经营的最终结果, ...
2026-09-10在数据可视化体系中,柱形图是最基础、应用最广泛的图表类型,其中**累计柱形图(堆积柱状图)**是兼顾整体总量与内部结构的核心 ...
2026-09-10 许多数据分析师精通Excel函数和SQL查询,但当面对一张上万行的销售明细表,要快速回答“哪个地区销量最高”“哪款产品增长最 ...
2026-09-10在Python Pandas数据分析中,DataFrame是承载结构化数据的核心载体,数据清洗、数据修正、条件赋值、字段更新等实操场景,都离不 ...
2026-09-09 很多数据分析师掌握了Excel函数、会写SQL查询,但当被问到“数据从哪里来”“数据加工有哪些步骤”“如何使用分析工具连接数 ...
2026-09-09卡方检验(Chi-Square Test)是统计学中针对分类数据的经典显著性检验方法,核心用于判断两个离散分类变量是否相互独立、数据实 ...
2026-09-09CDA数据分析师 出品 作者:李诗怡 1. 销售漏斗阶段判断 题目:销售漏斗模型中,通过广告、社交媒体等方式触达品牌信息(如浏览品 ...
2026-09-07在Python数据分析中,Pandas库的DataFrame是最核心、最常用的结构化数据表对象,类似于Excel的二维表格,具备规整的行列结构、字 ...
2026-09-07在数据分析、经营复盘、业绩预测与经济统计工作中,平均增速(平均增长率)是衡量数据长期变化趋势、业务发展快慢的核心指标。不 ...
2026-09-07 很多数据分析师精通Excel单元格操作,但当被问到“表结构数据的基本处理单位是什么”“字段和记录的本质区别”“为什么表结 ...
2026-09-07随着大数据技术的快速发展,商业竞争逐步从传统的经验式经营转变为数据驱动的精细化运营。海量的用户行为数据、交易数据、运营数 ...
2026-09-04CDA数据分析师 出品 作者:李诗怡 1. 波士顿矩阵(BCG Matrix) 定义: BCG于1970年提出的业务组合分析工具,以"市场增长率"(纵 ...
2026-09-04 数据分析师八成以上的时间在和数据表格打交道,但许多人拿到Excel后习惯性地先算、先分析,结果回头发现漏了一列关键数据, ...
2026-09-04数据透视表是Excel与Power BI中最核心的数据分析工具,具备快速汇总、维度拆分、动态筛选的能力,可高效完成数据归类与统计展示 ...
2026-09-03在Power BI数据分析可视化场景中,堆积柱状图+折线图是最常用的复合图表组合。堆积柱状图适合展示各细分维度当期数值、结构占比 ...
2026-09-03 很多数据分析师每天与Excel打交道,但当被问到“表格结构数据的基本处理单位是什么”“数据类型误判会引发哪些分析错误”“ ...
2026-09-03CDA数据分析师 出品 作者:李诗怡 一、8个核心数据清洗函数 1. TRIM:一键清除多余空格(最常用) 作用:仅保留文本中"单词/字 ...
2026-09-02