京公网安备 11010802034615号
经营许可证编号:京B2-20210330
忘掉大数据—万物皆数据,数据藏大道
为什么要忘掉大数据?
是不是大数据无用?恰恰相反,大数据太有用了,大数据无处不在,它可以跟所有的应用结合,当然前提是能够采集到相匹配的数据,而随着科技的发展,采集数据的范围越来越大、存储技术越来越先进、计算能力越来越强、算法越来越智能,越来越多的问题能够用数据技术来解决。那我为什么还是要忘掉它?理由有二:其一,数据的关键不在于“数据”本身,而是它表征的事实,我们必须回归到数据产生的场景中去理解数据,也必须从场景出发去应用数据,单纯的大数据毫无意义,想成为一个大数据专家,得先成为某一个应用领域的专家;其二,这是个人对大数据发展的终极梦想,因为数据,我们的生活更加自然,最终再也觉察不到大数据的存在,那才是真正的大数据时代!
回想上古时代,人类对这个世界一无所知或者知之甚少,因为无知,也就无争,所以“老死不相往来”,社会是一种“自然”的稳态,后来,部分人掌握了更多的数据,开始争夺利益,道德崩塌,社会变迁,只有大数据发展到人人都能平等的获取同样多的数据,社会才会进入一种新的“自然”的稳态。道家洞悉了天机,为“自然”的秩序,无为,也无所不为!
扯远了…….接下来谈谈我对数据的理解。
一、数据=Know,数据一直存在
1、数据是人类对世界的观测: 数据是个什么样的东东?我是这么看的,我把世界分为如下这些元素:a、道,主宰世界的运行; b、公理/定理、规律 ;c、场景,包括政治人文地理气候等;d、参与者,包括人和万物,大到天体,小到粒子;于是所有的事情都可以抽象成这样,在a和b的作用下,c和d相互影响在时空中运行,而这时候出现了一个旁观者,把它观测到的这一切记录下来,就形成了我们所说的数据。
数据体现了人类的意志:数据的来源只有两种,要么人类通过手工记录,要么通过科技手段按照人类设想记录下来,记录者对事物的理解、采取的采集手段决定了数据长啥样!所以看到数据,要追溯回记录者当时怎么想怎么记的,才可能真正搞懂数据。
数据并不客观,它是有角度的:正因为数据体现了人类的意志,而人类只能选取某些角度去观测世界,因而记录下来的数据是有角度的,它离客观事实有很大的距离。譬如《史记》就体现了司马迁的偏好,项羽不是帝王,却列入本纪之中,可见其对于项羽的推崇心理。
数据表征事实,但数据只是事实的采样:事物的细节很多,人类只能对局部的点进行记录(空间抽样),也不可能连续记录(时间抽样)。譬如你记录了时间、地点、人物、事件,但还有人物心理、周边环境、星际运行、甚至粒子级别的运动,人类观测不过来,也记录不过来,很多东西无法表征,更存储不下来所有。
数据不仅失真,还可能错漏:眼里见到的不一定就是真实,最终记录下来的也不一定是眼里见到的,还有技术的误差……
真正的“数据”是世界发生的这一切,这个“数据”无穷大,一直存在:相比之下,人类的采集及表征存储技术实在是太渺小了!不少专家惊呼大数据时代来了,我们可以不用抽样能够全数据处理了,真实情况是,人类永远没有全数据,我们对这个世界“Know”得太少啊,真正的大数据时代还早得很!
(注:在我的概念,数据有广义狭义之分,广义的“数据”就是世界发生的这一切,狭义的数据是指人类记录下来的)
顺便也说一下,强人工智能时代还远着呢,且不谈意识那些深层次的话题,也不探究存储及表征技术的落后,三个理由,其一,AI在采集数据方面是预设角度的,而人类对一个事物观测角度有无穷想象空间,你自己都无法预知你会留意哪些方面,其二,模型方面,AI的学习方向也是预设的,人类大脑的联想关联能力、快速归纳能力AI无法做到,譬如婴儿第一次见到围巾,你教它把它挂到脖子上,下次它见到长的东西如皮带,它也会创造性的往脖子上挂,没人教过它围巾与皮带的关联关系!我举的这个例子不一定恰当,相信宝爸宝妈能举出更多更好的例子(欢迎投稿供引用)。其三,解读数据及数据影响行动的能力,AI还太弱。
2、“数据”是物质与意识之间的连接
人类对世界的认知就是体现在对“数据”的掌握,物质通过“数据”传递给意识,意识接收“数据”感知物质。没有“数据”,物质与意识就会中断。脱离了肌壳,不知道灵魂还能不能接收“数据”,如果不能,那就跟物质中断了,这种状态跟创世元灵忍受过的难以想象的孤寂差不多。
3、数据=Know
查英语词典,“know”有知道、了解、懂三层含义,这三层渐进的解释和大数据实在是太吻合了,单一的数据能帮人们浅层次的“知道”一些事实,多维度的数据让我们进一步的“了解”事实,而对数据的综合提炼、深度洞察才能称之为“懂”,“懂”事物的规律、发展方向!所有的数据都是帮助我们Know,譬如运营报表是帮助我们“know”过去的运营情况、监控预警是帮助我们“Know”当下正在发生什么异常的事情、目标客户数据是帮助我们“Know”客户未来会有什么样的购买需求;而大数据挖掘就是利用我们已经“Know”的事实数据去推测我们想“Know”的东西。
二、数据的方法一直在使用
人类一直在有意无意的采用数据方法来思考,几乎所有的领域都有数据的影子。譬如读心术,不就是通过分析身体语言、微观动作、面部动作、空间行为、触觉等非语言行为数据再结合社会习俗、文化背景、民族习惯、现场气氛、对象资料等背景信息来推测对象的心理么?最近“别对我撒谎”就是试图利用图像数据来分析心理,当然智能程度还很低;而侦探就是通过收集现场等数据试图还原真相;所谓闻香识女人、知己知己百战不殆、分久必合合久必分等都是对数据的收集和运用;占卜算卦就更神奇了,利用道具来产生数据(当然,不知道是否还采集了空气中一些神秘的数据)然后推测人的命运……
但是,现行的数据技术并不能解决所有的问题,因为很多数据还没办法收集存储,随着采集技术的发展,未来,一切皆可测量,一切皆可数据化,所有领域的专家,都将是数据科学家。 未来,请忘掉大数据,不要问大数据能做什么,而是几乎所有的领域都必须应用数据技术。大数据无处不在,也就是不存在。
三、所谓的模型、算法,都是为了让数据产生新的数据,Know->行动
前面也说了,数据挖掘,就是利用已掌握的数据推测未知,推测的结果就是一个新的数据,譬如你没有用户的性别数据,只能通过用户的浏览习惯、浏览网页分类来推测它的性别,这个性别对于你就是一个新的数据。
不能影响行动的数据都是没有意义的,换句话说,数据必须与商业(应用)相结合。千辛万苦整出一个数据,没有相应的应用流程来承接,那就徒劳无功。
四、经验也是大数据
大数据出现之后,人们对数据驱动津津乐道,什么数据驱动营销、数据驱动管理、数据驱动运营………如果凭经验做事情,似乎就被一棍子打死。但是,数据看起来很多,实际上很少(前面说的抽样、失真……),它并不总能解决问题,如果掌握的数据与目标相去甚远,无论算法多么的牛叉,都得不到一个与目标匹配的数据结果。
而人类的经验是基于多年接收的大数据运用大脑提炼的结果,除了五官,人类身体的每一寸肌肤都在接收并处理大数据,人类的大脑比计算机模型强得不知道哪里去了,匹配度高的经验效果远远好于一般的数据结果。
所以,别瞧不起经验,很多情况下,数据无能为力!
结语
数据没想象那么强大,但未来数据无处不在,最后,人类一定会忘掉大数据!
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在 MySQL 实际应用中,“频繁写入同一表” 是常见场景 —— 如实时日志存储(用户操作日志、系统运行日志)、高频交易记录(支付 ...
2025-10-30为帮助教育工作者、研究者科学分析 “班级规模” 与 “平均成绩” 的关联关系,我将从相关系数的核心定义与类型切入,详解 “数 ...
2025-10-30对 CDA(Certified Data Analyst)数据分析师而言,“相关系数” 不是简单的数字计算,而是 “从业务问题出发,量化变量间关联强 ...
2025-10-30在构建前向神经网络(Feedforward Neural Network,简称 FNN)时,“隐藏层数目设多少?每个隐藏层该放多少个神经元?” 是每个 ...
2025-10-29这个问题切中了 Excel 用户的常见困惑 —— 将 “数据可视化工具” 与 “数据挖掘算法” 的功能边界混淆。核心结论是:Excel 透 ...
2025-10-29在 CDA(Certified Data Analyst)数据分析师的工作中,“多组数据差异验证” 是高频需求 —— 例如 “3 家门店的销售额是否有显 ...
2025-10-29在数据分析中,“正态分布” 是许多统计方法(如 t 检验、方差分析、线性回归)的核心假设 —— 数据符合正态分布时,统计检验的 ...
2025-10-28箱线图(Box Plot)作为展示数据分布的核心统计图表,能直观呈现数据的中位数、四分位数、离散程度与异常值,是质量控制、实验分 ...
2025-10-28在 CDA(Certified Data Analyst)数据分析师的工作中,“分类变量关联分析” 是高频需求 —— 例如 “用户性别是否影响支付方式 ...
2025-10-28在数据可视化领域,单一图表往往难以承载多维度信息 —— 力导向图擅长展现节点间的关联结构与空间分布,却无法直观呈现 “流量 ...
2025-10-27这个问题问到了 Tableau 中两个核心行级函数的经典组合,理解它能帮你快速实现 “相对位置占比” 的分析需求。“index ()/size ( ...
2025-10-27对 CDA(Certified Data Analyst)数据分析师而言,“假设检验” 绝非 “套用统计公式的机械操作”,而是 “将模糊的业务猜想转 ...
2025-10-27在数字化运营中,“凭感觉做决策” 早已成为过去式 —— 运营指标作为业务增长的 “晴雨表” 与 “导航仪”,直接决定了运营动作 ...
2025-10-24在卷积神经网络(CNN)的训练中,“卷积层(Conv)后是否添加归一化(如 BN、LN)和激活函数(如 ReLU、GELU)” 是每个开发者都 ...
2025-10-24在数据决策链条中,“统计分析” 是挖掘数据规律的核心,“可视化” 是呈现规律的桥梁 ——CDA(Certified Data Analyst)数据分 ...
2025-10-24在 “神经网络与卡尔曼滤波融合” 的理论基础上,Python 凭借其丰富的科学计算库(NumPy、FilterPy)、深度学习框架(PyTorch、T ...
2025-10-23在工业控制、自动驾驶、机器人导航、气象预测等领域,“状态估计” 是核心任务 —— 即从含噪声的观测数据中,精准推断系统的真 ...
2025-10-23在数据分析全流程中,“数据清洗” 恰似烹饪前的食材处理:若食材(数据)腐烂变质、混杂异物(脏数据),即便拥有精湛的烹饪技 ...
2025-10-23在人工智能领域,“大模型” 已成为近年来的热点标签:从参数超 1750 亿的 GPT-3,到万亿级参数的 PaLM,再到多模态大模型 GPT-4 ...
2025-10-22在 MySQL 数据库的日常运维与开发中,“更新数据是否会影响读数据” 是一个高频疑问。这个问题的答案并非简单的 “是” 或 “否 ...
2025-10-22