
原来在线广告公司都是这样使用Spark处理流数据的
在Hadoop集群上部署Spark处理引擎,每天处理14TB的交易数据,这就是在线广告平台Altitude Digital最近的实践,它主要追踪用户的社交媒体数据。
AltitudeDigital首席技术官Manny Puentes透露,Spark部署会在今年四月中旬上线,公司为了成功在Hadoop系统中应用Spark Streaming模型,特地将计算节点从30扩展到50。
目前,Altitude Digital使用的是Hive数据仓库软件,这是Apache另一个开源技术,用于查询存储在集群中的数据,基于MapR Hadoop发行版。Puentes表示:“Hive是长时间运行的报表,一旦崩溃,要返回TB级别数据就得花费几个小时的时间。”在测试中,Spark Streaming查询速度是Hive的4到20倍,处理的数据集的规模和复杂度会对查询速度产生影响。
查询速度的提高对公司来讲意义重大,因为公司的分析应用程序,比如通过视频广告浏览数据优化广告位置,经常需要运行查询、等待结果、根据结果优化查询,然后再次运行。如果实践中能获得测试的性能,分析团队可能在一天之内得到复杂查询的答案,不需要再花上四五天的时间了。Puentes介绍到:“这对我们的业务来讲是很有意义的。”
流数据的多种应用方式
AltitudeDigital正在尝试集成来自多种不同的数据源的数据流,通过一定的算法,基于浏览cookie了解用户的行为。公司的另一个目标是给线上广告商更快的仪表盘访问。Puentes表示:“我们也希望能够实时反馈数据洞察力给广告商。”
Spark还只是Altitude Digital应用的技术之一,公司每天通过Spark Streaming处理交易数据的同时,也在使用Concurrent提供的开源Cascading软件来运行MapReduce批处理任务。Spark也支持批处理,而且生成处理速度是MapReduce的一百倍。但Puentes表示,他还是希望使用MapReduce容错技术确保任务完成。
Sharethrough是另一个采用了Spark Streaming的在线广告公司,它用来支持运行在AWS上的基于Cloudera的Hadoop集群。Sharethrough在2013年中期开始使用Databricks公司的Spark云部署,目前通过流处理模块每天运行500GB的互联网点击和广告可视数据。
Spark系统搭载机器学习应用程序,分析原生广告的效果。Sharethrough系统集成副总裁Rob Slifka表示,Hadoop集群部署两年以后,很明显,批导向的系统不能满足企业实时分析的需求。广告商和发行商不得不使用几小时以前的数据决定在哪里做广告,这就给广告优化带来了挑战。Slifka表示,因为Sharethrough平台支持的广告的本质决定的,这样做会很复杂。头条和触屏文本可以形成不同的组合。
数据流和点击率
这种头条-文本的方式更有效。在一次Sharethrough;进行的测试中,内部广告点击率从不足1%增长到7%,这在广告界是很大的进步。之所以采用Spark Streaming就是考虑到它能够快速识别那版广告最有效。Slifka表示:“如果你有十种组合,其中五种都不好,你一定想要快速地了解到哪五种不好。”
多亏了数据流技术,公司才能够用不同的网站用户测试不同的广告,然后快速分析结果,识别哪个广告最有效。Slifka表示:“我们从来不会选择一个单独的赢家,通过Spark Streaming,我们会采用一对组合,使其成为最好的广告。”
Russell Cardullo领导了Spark技术部署,他表示,流处理让性能检测更重要,也更有挑战性。“你需要认识到,这是要7*24小时不间断运行的。数据无时无刻不在产生,你需要及时掌握数据情况,而不是等发生问题了再去解决。”
他补充道,公司运行Spark Streaming,到目前只遇到一个处理问题,而且该问题不是由软件本身引发的,而是公司使用的为Spark提供数据的亚马逊Kinesis和RabbitMQ技术引发的。
Gartner分析师Nick Heudecker和McKnight咨询公司总裁William McKnight也指出了企业在融合大数据和流处理技术时面临的其他挑战。包括构建高可用的技术架构以应对数据处理工作负载,同时能够满足公司分析和业务处理的需求,使其能够利用流数据。Heudecker表示:“如果只加速业务流程的5%,其他95%都没有变,那就没有什么意义了。”
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
PyTorch 核心机制:损失函数与反向传播如何驱动模型进化 在深度学习的世界里,模型从 “一无所知” 到 “精准预测” 的蜕变,离 ...
2025-07-252025 年 CDA 数据分析师考纲焕新,引领行业人才新标准 在数字化浪潮奔涌向前的当下,数据已成为驱动各行业发展的核心要素。作为 ...
2025-07-25从数据到决策:CDA 数据分析师如何重塑职场竞争力与行业价值 在数字经济席卷全球的今天,数据已从 “辅助工具” 升级为 “核心资 ...
2025-07-25用 Power BI 制作地图热力图:基于经纬度数据的实践指南 在数据可视化领域,地图热力图凭借直观呈现地理数据分布密度的优势,成 ...
2025-07-24解析 insert into select 是否会锁表:原理、场景与应对策略 在数据库操作中,insert into select 是一种常用的批量数据插入语句 ...
2025-07-24CDA 数据分析师的工作范围解析 在数字化时代的浪潮下,数据已成为企业发展的核心资产之一。CDA(Certified Data Analyst)数据分 ...
2025-07-24从 CDA LEVEL II 考试题型看 Python 数据分析要点 在数据科学领域蓬勃发展的当下,CDA(Certified Data Analyst)认证成为众多从 ...
2025-07-23用 Python 开启数据分析之旅:从基础到实践的完整指南 在数据驱动决策的时代,数据分析已成为各行业不可或缺的核心能力。而 Pyt ...
2025-07-23鸢尾花判别分析:机器学习中的经典实践案例 在机器学习的世界里,有一个经典的数据集如同引路明灯,为无数初学者打开了模式识别 ...
2025-07-23解析 response.text 与 response.content 的核心区别 在网络数据请求与处理的场景中,开发者经常需要从服务器返回的响应中提取数 ...
2025-07-22解析神经网络中 Softmax 函数的核心作用 在神经网络的发展历程中,激活函数扮演着至关重要的角色,它们为网络赋予了非线性能力, ...
2025-07-22CDA数据分析师证书考取全攻略 一、了解 CDA 数据分析师认证 CDA 数据分析师认证是一套科学化、专业化、国际化的人才考核标准, ...
2025-07-22左偏态分布转正态分布:方法、原理与实践 左偏态分布转正态分布:方法、原理与实践 在统计分析、数据建模和科学研究中,正态分 ...
2025-07-22你是不是也经常刷到别人涨粉百万、带货千万,心里痒痒的,想着“我也试试”,结果三个月过去,粉丝不到1000,播放量惨不忍睹? ...
2025-07-21我是陈辉,一个创业十多年的企业主,前半段人生和“文字”紧紧绑在一起。从广告公司文案到品牌策划,再到自己开策划机构,我靠 ...
2025-07-21CDA 数据分析师的职业生涯规划:从入门到卓越的成长之路 在数字经济蓬勃发展的当下,数据已成为企业核心竞争力的重要来源,而 CD ...
2025-07-21MySQL执行计划中rows的计算逻辑:从原理到实践 MySQL 执行计划中 rows 的计算逻辑:从原理到实践 在 MySQL 数据库的查询优化中 ...
2025-07-21在AI渗透率超85%的2025年,企业生存之战就是数据之战,CDA认证已成为决定企业存续的生死线!据麦肯锡全球研究院数据显示,AI驱 ...
2025-07-2035岁焦虑像一把高悬的利刃,裁员潮、晋升无望、技能过时……当职场中年危机与数字化浪潮正面交锋,你是否发现: 简历投了10 ...
2025-07-20CDA 数据分析师报考条件详解与准备指南 在数据驱动决策的时代浪潮下,CDA 数据分析师认证愈发受到瞩目,成为众多有志投身数 ...
2025-07-18