京公网安备 11010802034615号
经营许可证编号:京B2-20210330
数据挖掘大战 机器怎么做到“见信如面”
大数据杀熟?隐私换便捷?一度被热捧的大数据挖掘,近日站在了舆论的风口浪尖:一些商家利用大数据挖掘技术“杀熟”被网友亲测证实;百度董事长兼CEO李彦宏一句“中国人对隐私问题没有那么敏感”,更是让它的处境雪上加霜。大数据挖掘技术就像一位有了负面新闻的明星,霎时间光彩暗淡,似乎变成了偷人隐私的小贼。
《大数据时代》一书畅销之后的几年,大数据虽不再那么当红,但并未隐退,它的持续发展已成为人工智能得以实现的基础之一。
那么,大数据挖掘究竟是怎样的技术?从诞生发展至今,那些埋头苦干的技术人员又让它长了哪些本领?面对大数据难以管理的问题,有没有技术手段加以控制?
用户画像:机器给人类贴标签
“通过打标签的方式建立用户画像,是数据挖掘常用的一种技术。”北京大学计算机科学技术研究所多媒体信息处理研究室主任彭宇新教授解释,建立用户画像就是利用社交网络的信息,根据用户社会属性、生活习惯和消费行为等信息,抽象出一个标签化的用户模型,目标是使机器实现类似于人的“见信如面”的能力。社交网络数据是实现这一目标的基础,机器对人的“初相见”多是源自于对社交网络数据的挖掘。
标签,通常是通过对用户信息进行分析得到的高度精炼的特征标识,使得机器方便做信息提取、聚合分析等处理。标签本身无需再做过多文本分析等处理工作,这为利用机器提取标准化信息提供了便利。
“有了标签,计算机就能够自动处理与人相关的信息,能够通过算法、模型逐步‘理解’ 人。”彭宇新介绍,多个标签共同完成画像,整个过程可分三步走:一是采集数据,即基于文本的信息抓取,口语称为“爬数据”;二是用户行为建模,通过机器学习技术,形成算法模型,判断用户可能的一些行为;三是可视化展现,把机器运算出来的结果,通过能让人类理解的方式展现出来。这三步是多轮调整的,在实际应用中,根据结果的反馈,以及业务需求,可能进行二次建模等调整。
整个过程的影响参数是相对多元的,不同的行为类型,对于标签信息的权重影响也不同。以应用最广的商品营销为例,比如网售红酒,如果“购买”权重计为5,仅“浏览”计为1,加上浏览间隔、驻留时长、生活习惯等,通过复杂的算法最终呈现出一个标签的权重,再形成画像。
基于用户画像技术,大数据挖掘进行分类和关联规则计算等分析:例如喜欢红酒的用户有多少,喜欢红酒的人群中,男、女比例是多少,喜欢红酒的人通常喜欢什么运动品牌等等。
跨媒体智能识别:为计算机装上慧眼
“以前文本信息占主流,现在图像、视频等多媒体数据铺天盖地而来。”彭宇新说,后者目前占据大数据的80%以上。
数据类型发生的巨大变化,使得智能识别的任务更加艰巨。“管不住”和“用不好”的问题日益凸显。“机器只能读懂自己的语言。”彭宇新说,人类世界的所有语言都要转化为机器理解的语言才能被识别,以前只处理文本相对简单,而现在要加上复杂的图像、视频等数据。
“例如,世界上有数千种鸟类,很多种的差异非常细微,即使是有专业知识的人类也很难准确辨认,计算机自动识别的难度就更大了。”彭宇新说,图像、视频内容理解的难点在于如何进行语义自动识别,这也是他们团队多年攻关的课题之一,为此团队发明了基于注意力模型和深度增量学习的识别方法。
注意力模型,顾名思义是让计算机自动定位图像的显著性区域,以此提高检测精度;深度增量学习,是指计算机能够利用已经学到的知识加速对新知识的学习,同时通过动态扩容以支持新概念的检测。
新模型新算法的发力,帮助机器快速识别图像、视频的语义信息。彭宇新团队近年来六次参加国际权威评测TRECVID的视频样例搜索比赛均获第一名,并在与卡内基梅隆大学、牛津大学、IBM Watson研究中心等参赛队伍的较量中胜出。其中一个题目就是在464个小时的视频中快速准确地找出所有的伦敦地铁标志,彭宇新团队仅用了不到1秒就成功胜出,获得第一名。
单媒体信息的分析与识别之上,如何进一步让机器像人类一样能看、能理解呢?
为达到跨媒体信息融合与一体化分析识别的目的,项目团队首先把数据按照不同媒体类型自动分发到对应的分析与识别模块。例如,对视频镜头进行分割、对关键帧进行提取,然后分发到镜头检索、片断检索、视频字幕识别等模块中,对单媒体分析结果进行跨媒体语义关联分析,实现跨媒体信息的语义协同。“一种常用的方法是构建第三方空间进行跨媒体关联。”彭宇新说,“计算机根据我们教它的模型分别为图像、视频、文本、音频抽取表征,再共同投射到一个第三方空间中,这样不同媒体的信息就可以对话了。”
技术的“抽丝剥茧”,让图像、视频中的信息可以如文本一般精确透明。“我们是瞄着应用去的,准确率、处理速度都经过多年的优化,已经可以进行实际应用了。”彭宇新介绍,这项技术不仅帮助新闻媒体等行业进行数据管理和检索,还在助力互联网管理部门对大数据进行分析与监测。
延伸阅读
匿名处理:可预期的隐私保护对策
打破信息控制权几乎不可能,但隐私保护却有个很便捷的方法。北京邮电大学教授杨义先的《安全简史》中有个形象的比喻,如果数据在网上“裸奔”,为了不被溯源,最便捷的安全手段是“把脸捂住”。这就是所谓的“匿名化处理机制”。
“用户隐私保护的相关规定要求,数据公司在售卖数据时,需要对数据进行匿名化处理。”北京大学计算机科学技术研究所研究员赵东岩说。但为了精准定位、推送服务,匿名化处理可能被忽视。“精准意味着目标客户群的ID指向,而不是向群体发送,因此,个性化推送和匿名化处理在目前的技术中是相互冲突的。”
针对上面的冲突,业界的先行者提出一种区块链的解决思路。“我称它为OF ID。”北京领主科技公司研究人员刘伟泰说,“大数据的本质是群体研究,但是群体粒度可以细一些,此外,区块链技术可以授予用户授权的方法。”
不难想象,随着新技术的不断创新,会有更多用于信息安全的技术突破,不是一门心思用于大数据挖掘,而是也能用于制衡“信息控制权”。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
“2026年考什么证书有用”这个问题,不能用一个榜单回答。同一张证书,对想进门槛岗位的人、想补岗位技能的人、想评职称的人,价 ...
2026-10-21经济学专业考什么证书,没有唯一答案。这个专业的出口本来就分散:有人去银行券商,有人做财会审计,有人转向数据分析,也有人走 ...
2026-10-21大学生考证最常见的误区,是把“证书清单”当成答案。真正有用的做法是先确定专业方向和目标岗位,再按“通用基础→岗位技能→行 ...
2026-10-21“中国证书含金量排行”没有跨行业、跨证书类型的统一权威榜单。准入类证书的价值在于“没有它不能干”,职称类证书的价值在于聘 ...
2026-10-21“现在什么证书含金量高”这个问题,很难用一个榜单回答。同一张证书,对想进教师岗的在校生、想评职称的在职工程师、想补数据分 ...
2026-10-21“大学里什么证书比较有含金量”这个问题,很难用一张榜单回答。同一张证书,对想进银行风控岗的学生可能是加分项,对准备考教师 ...
2026-10-21大学生问“拿什么证书”,真正要解决的不是收集一张榜单,而是判断三件事:这个证书在校期间能不能报,它对应什么岗位的什么工作 ...
2026-10-21“考哪些证书有用”很难用一张榜单回答。同一本证书,对想进会计事务所的人是门槛,对想做运营的人可能只是加分,对工作十年的人 ...
2026-10-21大学生现在能考的证书,主要是三类:不限专业、无工作年限要求的通用基础证书,对应具体岗位技能的证书,以及部分行业入门级认证 ...
2026-10-21先说结论:产品经理升职快,通常不是靠多考几个证,而是把四类能力补到“能拿出可衡量成果”的程度——业务理解与指标定义、数据 ...
2026-10-21产品岗的晋升加薪,通常不是“熬年限”熬出来的,而是三条线同时成立:业务结果能说清、能力结构对得上目标职级、成果拿得出手。 ...
2026-10-21产品策划的“必备技能”没有全行业统一大纲。互联网产品岗要写需求文档、画原型、跟进上线;活动或营销策划岗更侧重活动机制、传 ...
2026-10-21产品策划想快速成长,关键不是把工具学一遍,而是围绕真实工作流补齐判断力。需求调研、方案设计、项目推进、上线复盘这四段,决 ...
2026-10-21产品策划岗的知识体系可以拆成四层:业务与用户理解、需求与方案设计、项目推进协作、数据验证与复盘。这四层不是四门课,而是从 ...
2026-10-21财务人员提升业务技能,核心不是多考几个证,而是按“财务专业实操→业务理解与业财融合→数据分析与工具”三层补齐,再按自己当 ...
2026-10-21财务经理问“怎么快速提升”,最容易走的一条弯路是先报一堆课、考一堆证,回头发现月度工作还是编报表、对差异、催报销。真正拉 ...
2026-10-21数据敏感度常被误解成“对数字反应快”或“会写公式”。对财务经理而言,它更接近一套可重复的动作:看到关键指标变化,能判断是 ...
2026-10-21财务经理这个岗位,最容易出现的认知偏差是把“会计做得好”等同于“能当财务经理”。核算岗位的核心是把账做准、按时出表;财务 ...
2026-10-21财务顾问选课,先别急着看“热门榜单”。同样一门数据分析课,对有财务基础、正卡在方案测算的人有用,对刚转岗、连产品分类和客 ...
2026-10-21财务顾问这个岗位名称,在不同机构里指向的工作并不相同。在银行、券商、保险和第三方财富机构中,理财顾问方向的核心任务是理解 ...
2026-10-21