京公网安备 11010802034615号
经营许可证编号:京B2-20210330
忘掉大数据—万物皆数据,数据藏大道
为什么要忘掉大数据?
是不是大数据无用?恰恰相反,大数据太有用了,大数据无处不在,它可以跟所有的应用结合,当然前提是能够采集到相匹配的数据,而随着科技的发展,采集数据的范围越来越大、存储技术越来越先进、计算能力越来越强、算法越来越智能,越来越多的问题能够用数据技术来解决。那我为什么还是要忘掉它?理由有二:其一,数据的关键不在于“数据”本身,而是它表征的事实,我们必须回归到数据产生的场景中去理解数据,也必须从场景出发去应用数据,单纯的大数据毫无意义,想成为一个大数据专家,得先成为某一个应用领域的专家;其二,这是个人对大数据发展的终极梦想,因为数据,我们的生活更加自然,最终再也觉察不到大数据的存在,那才是真正的大数据时代!
回想上古时代,人类对这个世界一无所知或者知之甚少,因为无知,也就无争,所以“老死不相往来”,社会是一种“自然”的稳态,后来,部分人掌握了更多的数据,开始争夺利益,道德崩塌,社会变迁,只有大数据发展到人人都能平等的获取同样多的数据,社会才会进入一种新的“自然”的稳态。道家洞悉了天机,为“自然”的秩序,无为,也无所不为!
扯远了…….接下来谈谈我对数据的理解。
一、数据=Know,数据一直存在
1、数据是人类对世界的观测: 数据是个什么样的东东?我是这么看的,我把世界分为如下这些元素:a、道,主宰世界的运行; b、公理/定理、规律 ;c、场景,包括政治人文地理气候等;d、参与者,包括人和万物,大到天体,小到粒子;于是所有的事情都可以抽象成这样,在a和b的作用下,c和d相互影响在时空中运行,而这时候出现了一个旁观者,把它观测到的这一切记录下来,就形成了我们所说的数据。
数据体现了人类的意志:数据的来源只有两种,要么人类通过手工记录,要么通过科技手段按照人类设想记录下来,记录者对事物的理解、采取的采集手段决定了数据长啥样!所以看到数据,要追溯回记录者当时怎么想怎么记的,才可能真正搞懂数据。
数据并不客观,它是有角度的:正因为数据体现了人类的意志,而人类只能选取某些角度去观测世界,因而记录下来的数据是有角度的,它离客观事实有很大的距离。譬如《史记》就体现了司马迁的偏好,项羽不是帝王,却列入本纪之中,可见其对于项羽的推崇心理。
数据表征事实,但数据只是事实的采样:事物的细节很多,人类只能对局部的点进行记录(空间抽样),也不可能连续记录(时间抽样)。譬如你记录了时间、地点、人物、事件,但还有人物心理、周边环境、星际运行、甚至粒子级别的运动,人类观测不过来,也记录不过来,很多东西无法表征,更存储不下来所有。
数据不仅失真,还可能错漏:眼里见到的不一定就是真实,最终记录下来的也不一定是眼里见到的,还有技术的误差……
真正的“数据”是世界发生的这一切,这个“数据”无穷大,一直存在:相比之下,人类的采集及表征存储技术实在是太渺小了!不少专家惊呼大数据时代来了,我们可以不用抽样能够全数据处理了,真实情况是,人类永远没有全数据,我们对这个世界“Know”得太少啊,真正的大数据时代还早得很!
(注:在我的概念,数据有广义狭义之分,广义的“数据”就是世界发生的这一切,狭义的数据是指人类记录下来的)
顺便也说一下,强人工智能时代还远着呢,且不谈意识那些深层次的话题,也不探究存储及表征技术的落后,三个理由,其一,AI在采集数据方面是预设角度的,而人类对一个事物观测角度有无穷想象空间,你自己都无法预知你会留意哪些方面,其二,模型方面,AI的学习方向也是预设的,人类大脑的联想关联能力、快速归纳能力AI无法做到,譬如婴儿第一次见到围巾,你教它把它挂到脖子上,下次它见到长的东西如皮带,它也会创造性的往脖子上挂,没人教过它围巾与皮带的关联关系!我举的这个例子不一定恰当,相信宝爸宝妈能举出更多更好的例子(欢迎投稿供引用)。其三,解读数据及数据影响行动的能力,AI还太弱。
2、“数据”是物质与意识之间的连接
人类对世界的认知就是体现在对“数据”的掌握,物质通过“数据”传递给意识,意识接收“数据”感知物质。没有“数据”,物质与意识就会中断。脱离了肌壳,不知道灵魂还能不能接收“数据”,如果不能,那就跟物质中断了,这种状态跟创世元灵忍受过的难以想象的孤寂差不多。
3、数据=Know
查英语词典,“know”有知道、了解、懂三层含义,这三层渐进的解释和大数据实在是太吻合了,单一的数据能帮人们浅层次的“知道”一些事实,多维度的数据让我们进一步的“了解”事实,而对数据的综合提炼、深度洞察才能称之为“懂”,“懂”事物的规律、发展方向!所有的数据都是帮助我们Know,譬如运营报表是帮助我们“know”过去的运营情况、监控预警是帮助我们“Know”当下正在发生什么异常的事情、目标客户数据是帮助我们“Know”客户未来会有什么样的购买需求;而大数据挖掘就是利用我们已经“Know”的事实数据去推测我们想“Know”的东西。
二、数据的方法一直在使用
人类一直在有意无意的采用数据方法来思考,几乎所有的领域都有数据的影子。譬如读心术,不就是通过分析身体语言、微观动作、面部动作、空间行为、触觉等非语言行为数据再结合社会习俗、文化背景、民族习惯、现场气氛、对象资料等背景信息来推测对象的心理么?最近“别对我撒谎”就是试图利用图像数据来分析心理,当然智能程度还很低;而侦探就是通过收集现场等数据试图还原真相;所谓闻香识女人、知己知己百战不殆、分久必合合久必分等都是对数据的收集和运用;占卜算卦就更神奇了,利用道具来产生数据(当然,不知道是否还采集了空气中一些神秘的数据)然后推测人的命运……
但是,现行的数据技术并不能解决所有的问题,因为很多数据还没办法收集存储,随着采集技术的发展,未来,一切皆可测量,一切皆可数据化,所有领域的专家,都将是数据科学家。 未来,请忘掉大数据,不要问大数据能做什么,而是几乎所有的领域都必须应用数据技术。大数据无处不在,也就是不存在。
三、所谓的模型、算法,都是为了让数据产生新的数据,Know->行动
前面也说了,数据挖掘,就是利用已掌握的数据推测未知,推测的结果就是一个新的数据,譬如你没有用户的性别数据,只能通过用户的浏览习惯、浏览网页分类来推测它的性别,这个性别对于你就是一个新的数据。
不能影响行动的数据都是没有意义的,换句话说,数据必须与商业(应用)相结合。千辛万苦整出一个数据,没有相应的应用流程来承接,那就徒劳无功。
四、经验也是大数据
大数据出现之后,人们对数据驱动津津乐道,什么数据驱动营销、数据驱动管理、数据驱动运营………如果凭经验做事情,似乎就被一棍子打死。但是,数据看起来很多,实际上很少(前面说的抽样、失真……),它并不总能解决问题,如果掌握的数据与目标相去甚远,无论算法多么的牛叉,都得不到一个与目标匹配的数据结果。
而人类的经验是基于多年接收的大数据运用大脑提炼的结果,除了五官,人类身体的每一寸肌肤都在接收并处理大数据,人类的大脑比计算机模型强得不知道哪里去了,匹配度高的经验效果远远好于一般的数据结果。
所以,别瞧不起经验,很多情况下,数据无能为力!
结语
数据没想象那么强大,但未来数据无处不在,最后,人类一定会忘掉大数据!
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在统计调查与数据分析中,抽样方法分为简单随机抽样与复杂抽样两大类。简单随机抽样因样本均匀、计算简便,是基础的抽样方式,但 ...
2026-02-02在数据驱动企业发展的今天,“数据分析”已成为企业经营决策的核心支撑,但实践中,战略数据分析与业务数据分析两个概念常被混淆 ...
2026-02-02在数据驱动企业发展的今天,“数据分析”已成为企业经营决策的核心支撑,但实践中,战略数据分析与业务数据分析两个概念常被混淆 ...
2026-02-02B+树作为数据库索引的核心数据结构,其高效的查询、插入、删除性能,离不开节点间指针的合理设计。在日常学习和数据库开发中,很 ...
2026-01-30在数据库开发中,UUID(通用唯一识别码)是生成唯一主键、唯一标识的常用方式,其标准格式包含4个短横线(如550e8400-e29b-41d4- ...
2026-01-30商业数据分析的价值落地,离不开标准化、系统化的总体流程作为支撑;而CDA(Certified Data Analyst)数据分析师,作为经过系统 ...
2026-01-30在数据分析、质量控制、科研实验等场景中,数据波动性(离散程度)的精准衡量是判断数据可靠性、稳定性的核心环节。标准差(Stan ...
2026-01-29在数据分析、质量检测、科研实验等领域,判断数据间是否存在本质差异是核心需求,而t检验、F检验是实现这一目标的经典统计方法。 ...
2026-01-29统计制图(数据可视化)是数据分析的核心呈现载体,它将抽象的数据转化为直观的图表、图形,让数据规律、业务差异与潜在问题一目 ...
2026-01-29箱线图(Box Plot)作为数据分布可视化的核心工具,能清晰呈现数据的中位数、四分位数、异常值等关键统计特征,广泛应用于数据分 ...
2026-01-28在回归分析、机器学习建模等数据分析场景中,多重共线性是高频数据问题——当多个自变量间存在较强的线性关联时,会导致模型系数 ...
2026-01-28数据分析的价值落地,离不开科学方法的支撑。六种核心分析方法——描述性分析、诊断性分析、预测性分析、规范性分析、对比分析、 ...
2026-01-28在机器学习与数据分析领域,特征是连接数据与模型的核心载体,而特征重要性分析则是挖掘数据价值、优化模型性能、赋能业务决策的 ...
2026-01-27关联分析是数据挖掘领域中挖掘数据间潜在关联关系的经典方法,广泛应用于零售购物篮分析、电商推荐、用户行为路径挖掘等场景。而 ...
2026-01-27数据分析的基础范式,是支撑数据工作从“零散操作”走向“标准化落地”的核心方法论框架,它定义了数据分析的核心逻辑、流程与目 ...
2026-01-27在数据分析、后端开发、业务运维等工作中,SQL语句是操作数据库的核心工具。面对复杂的表结构、多表关联逻辑及灵活的查询需求, ...
2026-01-26支持向量机(SVM)作为机器学习中经典的分类算法,凭借其在小样本、高维数据场景下的优异泛化能力,被广泛应用于图像识别、文本 ...
2026-01-26在数字化浪潮下,数据分析已成为企业决策的核心支撑,而CDA数据分析师作为标准化、专业化的数据人才代表,正逐步成为连接数据资 ...
2026-01-26数据分析的核心价值在于用数据驱动决策,而指标作为数据的“载体”,其选取的合理性直接决定分析结果的有效性。选对指标能精准定 ...
2026-01-23在MySQL查询编写中,我们习惯按“SELECT → FROM → WHERE → ORDER BY”的语法顺序组织语句,直觉上认为代码顺序即执行顺序。但 ...
2026-01-23