京公网安备 11010802034615号
经营许可证编号:京B2-20210330
中小企业采用混合云方法处理大数据的三个最佳实践
如今,大数据和分析正在进入更加成熟的部署阶段。这对于那些正在部署这些技术的中小型企业来说是一个好消息,他们一直在努力为他们的公司定义一个大数据架构。
关于如何定义大数据和分析的总体架构的不确定性是中小企业在大数据和分析部署方面落后的原因之一。在很多情况下,对于混合计算、数据集市、主数据库等趋势发展情况,以及对安全和治理的控制将如何发挥,他们正在等待和观望。
最后,将会提供一个大家都可以遵循的新兴的最佳实践数据架构。在这个架构中:云计算服务正被用于存储和处理大数据,而内部部署数据中心用于在企业开发本地数据集市。
以下来仔细看看这个大数据和分析架构背后的原因:
云计算的作用
如果企业规模较小,那么购买在数据中心并行处理大数据的服务器集群是很昂贵的,更不用说雇佣或培训那些知道如何优化、升级和维护并行处理环境的非常昂贵的专业人员了。选择现场处理和存储数据的企业也对硬件、软件和存储设备进行了大量投资。而采购大数据硬件和软件,以及将计算处理和存储外包给云端,所有这些都将花费大量的费用。
内部部署计算
数据治理(例如,安全和合规性问题)是企业不愿将所有任务关键型数据交付给云计算的原因之一,因为这些云计算数据的管理更加困难。因此,一旦数据在云端处理完毕,许多企业选择将数据迁移到自己的内部数据中心。
许多企业选择使用他们的数据中心还有另一个原因:关注开发这些数据的专有应用程序和算法,因为许多云计算提供商的政策是客户在云端开发的任何应用程序可能会与其他客户共享。
通过将应用程序保留在内部部署的数据中心,并开发一个可以将较小的数据集市从中分离出来的本地主数据集,企业可以直接控制其数据和应用程序。
分析管理者需要什么?
(1)企业应该了解并同意其云计算提供商处理和保护自己的数据
例如,如果企业需要对数据进行匿名化处理,则应该将其实施的过程记录下来,并与其云计算提供商达成一致,因为云计算提供商将进行匿名化处理。如果企业想清理自己的数据,其清理的过程也应该向其云计算提供商提供详细的书面说明。例如,企业是否只希望将美国所有州的缩写进行统一(例如,“Tenn”和“Tennessee”=“TN”)还是要对数据进行其他编辑,以便统一且易于处理?最后,无论企业的业务是运行在云计算服务提供商的专用租户还是多租户环境中,云计算提供商都应该能够保证企业的数据永远不会与其他客户共享。
(2)企业的本地大数据和分析架构应该记录符合大数据需求的新政策和程序
企业的许多IT部门完全错过了这个任务。他们只是开始实施大数据项目,却忘记现有的应用程序开发政策和程序来自交易的应用领域。企业不要犯这个错误。与其相反,企业需要在与大数据交互的可能性较高的领域(如存储、数据库管理、应用程序)中修改政策和程序。
(3)灾难恢复计划应在内部部署和云端部署时更新和测试大数据
在进行基于云端的灾难恢复(DR)测试的情况下,企业应该在合同中包含用于记录和执行灾难恢复(DR)的规定。灾难恢复(DR)计划(侧重于事务数据和系统)也应该及时更新,并包括大数据和分析的恢复和测试脚本的恢复。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数据驱动决策的体系中,数据分析按照分析目的可分为描述性分析、诊断性分析、预测性分析与指导性分析四大类型。其中,诊断性分 ...
2026-09-01网络请求是Python爬虫开发、接口测试、数据拉取的核心基础功能,Python生态中主要依靠 urllib 和 requests 两大库实现HTTP请求操 ...
2026-09-01 很多数据分析师面对业务问题时,常常感到“知道要分析,却不知道用什么方法”。其实,数据分析并非无章可循——从三大基础范 ...
2026-09-01在数据库设计与业务数据维护中,自增ID是数据表最常用的主键字段,用于唯一标识每一条业务数据,正常状态下ID应保持连续递增。但 ...
2026-08-31在数理统计、数据分析、经济测算与日常量化评估中,平均值是刻画数据集中趋势、反映整体水平的基础核心指标。在实际应用中,最常 ...
2026-08-31在数据驱动的时代,数据分析早已不是“凭经验、靠感觉”的零散操作,而是一套具备固定逻辑、标准化流程的系统方法——这就是数据 ...
2026-08-31在大数据时代背景下,海量行业数据亟需通过专业化工具挖掘潜在价值,辅助企业业务决策、优化运营模式、规避经营风险。Python凭借 ...
2026-08-28SQL是数据分析领域最基础、最核心的工具,承担着取数、清洗、统计、分层、归因的全流程工作。不同于单纯的语法练习,实战化SQL数 ...
2026-08-28 很多企业团队并非缺乏指标,而是陷入“指标失控”:仪表盘上堆满实时跳动的数据,却无法回答“当前瓶颈在哪、下一步该做什么 ...
2026-08-28随着新零售模式的快速普及,零售行业从传统的“货品驱动”全面转向“用户驱动”。门店交易数据、线上消费记录、浏览轨迹、复购频 ...
2026-08-27在数据分析、爬虫采集、接口开发、数据归档等场景中,JSON与CSV是两种使用率最高的数据存储格式。JSON为键值对结构化格式,适配 ...
2026-08-27 很多数据分析师每天都在计算指标、制作报表,但当被问到“什么叫指标数据元”“指标数据标准包含哪些核心维度”“指标数据质 ...
2026-08-27在数据分析工作中,时间序列是最常见的数据类型之一,订单时间、日志时间、交易时段、统计周期等数据均离不开时间处理。原始数据 ...
2026-08-26在数据分析与数据预处理工作中,原始数据普遍存在录入错误、系统故障、偶然极值等问题,极易产生异常数据。异常数据会严重干扰数 ...
2026-08-26 很多数据分析师能熟练写SQL、做透视表,但当被问到“数据是从哪里来的?经过哪些加工才进入数据仓库?ETL具体做了什么?”时 ...
2026-08-26在数理统计与数据分析领域,多因素方差分析与线性回归模型是研究变量关系、因素影响、数据差异规律的两大核心工具。二者均属于经 ...
2026-08-25数据分析的核心价值不在于数据计算与图表制作,而在于清晰、精准、有逻辑地输出结论、支撑业务决策。日常数据分析报告普遍存在结 ...
2026-08-25 很多数据分析师能熟练地写SQL、做透视表、算描述性统计,但当被问到“如何预测用户流失概率”“如何归因销量下滑的关键因素 ...
2026-08-25平均数是数据分析、数理统计与日常运算中最基础、最常用的统计量,核心作用是浓缩一组数据的整体水平、刻画数据集中趋势。在众多 ...
2026-08-24在MySQL数据库中,InnoDB存储引擎作为主流事务型引擎,默认事务隔离级别为可重复读(Repeatable Read,RR),这与SQL Server、Or ...
2026-08-24