
互联网上的数据挖掘
今天早上看了一篇文章,内容如题,感觉写的不错!什么样是人性化的服务?
想听一首歌,不必想好其歌名,到搜索引擎里去搜索、下载;而是输入现在的心情,比如“激昂”,播放器就自动播放出《男儿当自强》这样的歌曲,而且一首接着一首。
想去旅游,不必苦思要去什么具体的城市,而是输入大概想法,比如“浪漫的周末度假”,就能马上看到十个建议:包括一家临海宾馆的情侣房、烛光晚餐、一套在周五晚起飞周日晚返归的机票。
要完成这些人性化服务靠搜索引擎是不行的,得靠数据挖掘。现在,数据挖掘的各种应用离为我们提供上面这些真实服务已经越来越近了。
数据挖掘(Data Mining)与我们所熟悉的信息检索(Information Retrieval)的不同之处在于:信息检索是针对数据的明显特征来寻找信息,比如Google等搜索引擎就是寻找含有某关键词的网页、并且根据链接数 来判断其重要性。而数据挖掘则要复杂很多,其目的是要在大量数据中“挖掘出有趣的可理解的知识”,这是搜索引擎不能完成的。所以数据挖掘也叫数据库中知识 发现(Knowledge Discovery in Database,KDD)。
本质上,数据挖掘能够把海量数据变成可被人类可直接
利用的信息,是一个“把冰冷信息人性化”的过程。现在,针对数据挖掘的前沿应用已经非常之多,覆盖了不同的领域,以不同的方式呈现出来。今后,互联网用户
所接触到的不再只会是传统搜索引擎输出的一排排的网页,而可能是温情脉脉的令自己更加亲切和感动的方式。
本文发表于博锐管理在线|www.boraid.com|37
音乐
互 联网用户会在很多场合,比如博客和论坛里,留下很多自己对音乐的看法,比如在某种心情下推荐的歌曲,在某种情绪下整理了一张歌单。就留下了比如“今天我好 亢奋,我在听《男儿当自强》”这样的线索。有道把这千千万万个用户的“声音”整合起来,通过提炼、去除噪音、自动聚合相关词、配对,就实现了心情和音乐的 一一对应。
Google音乐里的“挑歌”功能,与有道随心听也神似。Google挑歌的方式是:提供可供用户自己调节的音调、音色等搜索
选项,每一个选项都有一个滑块可供自由调节。用鼠标点击拖动滑块,通过节奏的舒缓或强烈、音调的低沉或尖锐、音色的丰富或单纯来查询最希望听到的音乐。笔
者尝试挑出一首“节奏舒缓,声调低沉,音色适中”的歌,“挑歌”输出的结果是张学友的《相思风雨中》和徐小凤的《蒙蒙夜雨》。
这两个产品
会完全改变以往的寻找音乐的方式:只有当你想好某一首歌的名字后,才能去搜索引擎里把它找出来。其实音乐的历史远远早于文字,所以音乐应当回归人类沟通的
本能,挑歌和随心听的功能可以用音乐自身特性去搜索音乐,让音乐跨越语言和文字的障碍,成为人类最自然的沟通方式。
广告
创业公司PeerSet新发布了一个广告数据工具,能够通过网页内容分析提供网络用户“心理”方面的特征。Peerset的技术能够有机地把用户的兴趣、价值观、生活方式、对品牌的态度关联在一起。让广告主了解到这些背景信息。
基 本上,Peerset的套路是跟踪社交媒体上的各种互动,试图加以解释、并且把各种信息加以关联,然后为广告主给出结果。比如,如果广告的特征“时尚”, 那么Peerset就可能根据对信息的检测和梳理得出:那些谈论“情欲都市”和“麦当娜”的人就是合适的受众。Peerset就是要通过“心理”方面的特 征把对不同广告合适的不同人群找出来。
Peerset不只是提供关于目标人群的数据库给广告主,还会整合当前的广告系统,直接把相应的广 告放到合适的网页位置上去。比如,对于想做广告的时尚服装广告主,Peerset会在接单以后,直接把广告投放到Facebook上一个喜欢《情欲都市》 电影的那个用户的页面上。
这种广告方式又与搜索引擎的广告有了本质的不同。搜索引擎广告的优势在于对准了有明确购买倾向的用户,而 Peerset广告能够把有潜在购买倾向的用户“挖掘”出来。是的,这种方式与传统的品牌展示广告目的相似,不过,Peerset要更有效率。因为品牌广 告是撒大网,而Peerset试图做到“精准”匹配。
调研
Facebook手里有3亿用户和每天4000万次状态更新, 利用如此巨大的海量数据,可以对几乎任何话题做评测。诸如人们最关注的品牌,最关心的政治问题。于是工程师们决定利用这些数据,来评测国民幸福指数 (Gross National Happiness)。这个新应用将最大可能地评测美国Facebook用户是幸福还是悲观的。产品开发人员是这样描述的:
把来自全国各 地的数百万Facebook用户的状态更新数据集合在一起,可以说明国民的幸福感有多强。评测国民感到幸运、幸福,以及对生活满意的程度是这项国民幸福指 数评测项目的一部分。当用户在状态更新中使用比平时多的积极词汇(或少的消极词汇)时,表示这一天比平时更幸福。
这些数据都是匿名从 Facebook论坛上收集的。为确定某些状态信息究竟表示幸福还是悲伤,或两者都不是,这项应用还必须搜索开发人员确定的与每个情绪相联系的流行短语和 词汇。结果是:周一人们的幸福指数最低,然后一直到周末,幸福指数不断上升,在下一周开始时,又跌至最低。通常,幸福指数在假期附近较高。今年6月底,人 们的幸福指数急速下滑,这可能与流行音乐之王Michael Jackson的逝世有关。
旅游
Center?d是由 YahooLocal这款产品的前总经理Dulski掌舵的一个活动组织网站,也就是把促成一个聚会活动所需要的三要素便捷地组织起来:人,地点,计划 (people,place,plan)。不过,Cener?d特别之处是,在其搜索结果里加入了“语义分析”,号称其结果要比同类网站的“关键词”搜索 结果更好。
Center?d已经积累了100万次的针对活动的搜索,并把这些搜索根据其目的进行分类。为此,Center?d的自主大量的分析发生在网上的关于某个活动的谈话或者讨论,以对这个活动打上“正面”或者“负面”的标签。然后形成数据库,再形成图表。
Dulski 认为,这种基于语义的分析要比普通的关键词搜索更好,因为能够筛除很多不精确的匹配。比如,一个“不适合同性恋的Party”,就不会出现在一个对“同性 恋Party”做搜索的结果里。因为Center?d已经通过语义分析知道了,“同性恋”前面的“不合适”就表示一个“负面”评价。
基于这个数据库,Center?d就能够形成一个针对不同标准的活动指南。比如,在北京的浪漫之旅、廉价旅游四川等等。这些特定标准的搜索结果大部分由数据库自动生成,但也有少量编辑参与其中,以确保质量。
Dulski 说,很多用户来到Center?d时其实脑袋里并没有一个明确的目的,所以诸如“北京的浪漫之旅”或者“儿童们的六一节日”这样的柔性、感性、概念性的东 西能够容易激起他们的兴趣,并且一步步诱导他们完成一次活动的准备。看,这个看法跟Google挑歌和有道随心听的逻辑是多么神似。唯一不同的是所针对的 对象不一样。
任何服务或者工具面对的都不是一个对自己需求有明确认识的理性人,而是一个有着一点感觉,但需要被引导的感性人。这无疑是一条正确的发展之路。
产品改进
数据挖掘也在帮助产品经理们改善用户体验。在很多大的互联网公司,这实际上成为了辅佐公司战略的数字神经系统。
互联网公司一般都记录了所有用户在其网站(尤其是网络游戏和社交网络)上的所有点击、行为路径、相应的时间。如果用户尝试一个新产品,用一两秒钟就退出来了,说明这个产品可能有问题,而不是用户不想用;而其中出问题的很可能就在用户的最后一次点击发生的地方。
比如腾讯就一款网游中的子弹射出后的弹道设置做研究,根据对用户的挖掘数据认为,游戏原本设计的逼真效果对中国用户并不合适,而用户对一种新设计的“比较爽快的、节奏快的、鲜明的”的弹道设计更加兴奋。
在 网游业,数据挖掘的最系统应用就是盛大的“平台”战略。也就是,把任意一款游戏拿到其从2004年就开始建立的一套“评测”体系去走流程,就可以知道这款 游戏到底会不会受到玩家的欢迎。其根据,就来自于盛大在过去运营的上百款游戏的用户数据的记录、分析、关联、最后建立模型。基于这套评测流程,盛大就可以 对一款新游戏做出判断,到底该不该运营、如何去改进、潜力有多大,都有了一套从数字出发的答案。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
机器学习解决实际问题的核心关键:从业务到落地的全流程解析 在人工智能技术落地的浪潮中,机器学习作为核心工具,已广泛应用于 ...
2025-09-09SPSS 编码状态区域中 Unicode 的功能与价值解析 在 SPSS(Statistical Product and Service Solutions,统计产品与服务解决方案 ...
2025-09-09CDA 数据分析师:驾驭商业数据分析流程的核心力量 在商业决策从 “经验驱动” 向 “数据驱动” 转型的过程中,商业数据分析总体 ...
2025-09-09R 语言:数据科学与科研领域的核心工具及优势解析 一、引言 在数据驱动决策的时代,无论是科研人员验证实验假设(如前文中的 T ...
2025-09-08T 检验在假设检验中的应用与实践 一、引言 在科研数据分析、医学实验验证、经济指标对比等领域,常常需要判断 “样本间的差异是 ...
2025-09-08在商业竞争日益激烈的当下,“用数据说话” 已从企业的 “加分项” 变为 “生存必需”。然而,零散的数据分析无法持续为业务赋能 ...
2025-09-08随机森林算法的核心特点:原理、优势与应用解析 在机器学习领域,随机森林(Random Forest)作为集成学习(Ensemble Learning) ...
2025-09-05Excel 区域名定义:从基础到进阶的高效应用指南 在 Excel 数据处理中,频繁引用单元格区域(如A2:A100、B3:D20)不仅容易出错, ...
2025-09-05CDA 数据分析师:以六大分析方法构建数据驱动业务的核心能力 在数据驱动决策成为企业共识的当下,CDA(Certified Data Analyst) ...
2025-09-05SQL 日期截取:从基础方法到业务实战的全维度解析 在数据处理与业务分析中,日期数据是连接 “业务行为” 与 “时间维度” 的核 ...
2025-09-04在卷积神经网络(CNN)的发展历程中,解决 “梯度消失”“特征复用不足”“模型参数冗余” 一直是核心命题。2017 年提出的密集连 ...
2025-09-04CDA 数据分析师:驾驭数据范式,释放数据价值 在数字化转型浪潮席卷全球的当下,数据已成为企业核心生产要素。而 CDA(Certified ...
2025-09-04K-Means 聚类:无监督学习中数据分群的核心算法 在数据分析领域,当我们面对海量无标签数据(如用户行为记录、商品属性数据、图 ...
2025-09-03特征值、特征向量与主成分:数据降维背后的线性代数逻辑 在机器学习、数据分析与信号处理领域,“降维” 是破解高维数据复杂性的 ...
2025-09-03CDA 数据分析师与数据分析:解锁数据价值的关键 在数字经济高速发展的今天,数据已成为企业核心资产与社会发展的重要驱动力。无 ...
2025-09-03解析 loss.backward ():深度学习中梯度汇总与同步的自动触发核心 在深度学习模型训练流程中,loss.backward()是连接 “前向计算 ...
2025-09-02要解答 “画 K-S 图时横轴是等距还是等频” 的问题,需先明确 K-S 图的核心用途(检验样本分布与理论分布的一致性),再结合横轴 ...
2025-09-02CDA 数据分析师:助力企业破解数据需求与数据分析需求难题 在数字化浪潮席卷全球的当下,数据已成为企业核心战略资产。无论是市 ...
2025-09-02Power BI 度量值实战:基于每月收入与税金占比计算累计税金分摊金额 在企业财务分析中,税金分摊是成本核算与利润统计的核心环节 ...
2025-09-01巧用 ALTER TABLE rent ADD INDEX:租房系统数据库性能优化实践 在租房管理系统中,rent表是核心业务表之一,通常存储租赁订单信 ...
2025-09-01