京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据时代,你的网络能够“胜任”吗
大数据可以带来很大的优势,但是你的网络能够“胜任”吗?下面让我们来看看网络面临的一些挑战和注意事项。
想象这样一个情况,在第一集播出之前,广播网络就能够准确地预测电视连续剧的播出情况。我们可以通过工具来分析家电中的传感器的数据,来帮助居民降低功耗,或者利用工具通过实时追踪数据包来优化传播路线和流量消耗。
听起来太超前?其实,我们已经差不多实现了。
移动应用程序、全IP无线网络、在线商务、销售点系统、社交媒体以及传感器的崛起产生了大量数据,如果我们能够正确地分析这些数据,我们将能够挖掘出关键情报来促使业务决策。大部分这些数据是在“空中”收集的,如果迅速采取行动,这可以为企业提供独特的竞争优势,以及解决问题。
但这些数据量非常巨大,并且速度正在不断提升,这也对网络提出了更高的要求。网络需要负责处理数据,在大数据勉强,网络管理员和首席信息官面临着全新的挑战。
大数据正在不断变化,数据量已经超越了TB级到PB级,数据关系已经从简单和已知的发展为复杂和未知的;数据模型已经从固定模式类型转变为不固定模式;数据来源已经从简单的数据录入转变为各种来源,包括手持式设备和机器传感器。大数据包含各种各样的形式,例如,通话录音与信用卡交易信息有所不同。与传统应用程序中的结构化数据不同的是,大数据包含半结构化或非结构化数据,例如文本、音频、视频、点击流、日志文件,以及测量和传输地理及环境信息的传感器的输出数据。
大数据环境改变了数据在网络中流动的方式,大数据产生了更多的东-西或者服务器到服务器流量,而不是南-北或服务器到客户端流量,对于每个客户端互动,可能会有数百或者数千服务器和数据节点交互。应用程序架构已经从集中式模式转变为分布式模式。这与过去20年构建的传统的客户端/服务器网络架构相反。
从各种来源收集数据,大数据系统在服务器集群中运行,这些服务器集群分布在多个网络节点。这些集群以平行向外的模式运行任务。流量模式的运行范围从1到1(电话)、1到多(电视节目)、多到1(音乐会观众)、以及多到多(对讲机),这结合了并行运行的多个节点之间的单播和组播流量。网络管理员需要应对这种综合的流量模式,其中一些流量创建了单独的流,其中一些则创建了多个流。
此外,当数据提供到计算节点时,会产生大量网络流量。分布式节点之间的数据整理操作需要快速和可预测的数据传输。分析系统使用直接附加存储来处理,中间存储来清理数据。
数据需要在网络中四处移动,并在分析过程中有效地操作。随着新数据集的增加,以及来源的增加,工作负载也在增加,这意味着迅速增加容量的需求也在提升。因此,关键是优化网络架构中的本地性、高性能、横向扩展和直接服务节点到服务节点的连接。
其中一个设计模型涉及构建低端商品硬件,以及让分析软件对网络问题作出反应,例如重新启动因为拥塞而超时的任务。这种模式被用于非实时处理,其中完成时间并不是关键,同时,数据主要来自一个来源。
另一种模式则涉及建立基于硬件的系统,该系统能够提供确定性的性能来确保持续的处理。这种模型被用于对来自多个来源的数据的近实时分析。
网络节点在任意到任意的模型中相互连接,它们之间具有单跳,为处理多个大量数据流提供专用处理系统,具有低损耗和确定性性能,这能够有利于实时大数据系统,
交换机架构提供了整个系统带宽和性能的优势,尤其是减少延迟性。位置独立性允许集群和数据从架构中的任何位置实现最佳性能。这种架构还能实现新数据来源到集群的无缝融合,而不需要重新布线,并显著地简化了系统的扩展。这种架构提供的融合,让服务器集群以及存储区域网络跨网络通信。所有资源作为一个实体来管理,政策也可以很容易地部署到整个交换基础设施。
大数据给企业捕捉和分析数据带来了巨大的机会。随着IT企业开始测试和构建自己的解决方案,网络管理员必须考虑这些技术对其服务器、存储、网络和运营基础设施的影响。企业如何能够最好地开发新的基础设施来利用和分析不断增加的大数据流量呢?在开发网络拓扑时,请务必考虑以下问题:
回答这些问题可以帮助你构建更适合大数据的网络,它们将会指示你的基础设施将如何影响数据中心架构以及互连要求。
大数据需要企业制定新的战略,来提供实时业务分析和新的业务洞察力。随着数据的快速变化,企业有必要考虑这些关键技术来满足明天的业务需求,满足最高水平的投资保护、业务敏捷性,并缩短进入市场的时间。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
一、回归分析到底在解决什么问题 很多人学回归分析,是从公式开始的:最小二乘法、残差平方和、R²、t 检验。公式记住了,但一到 ...
2026-11-10一、等级聚类法是什么 等级聚类法(Hierarchical Clustering),中文也叫系统聚类法、层次聚类法,是聚类分析里最经典的一类方法 ...
2026-11-10考试范围 PART 1 大数据基础理论 占比(8% ) a. 大数据分析基础(1%) b. Python 基础(5%) c. Linux & Ubuntu 操作系统基 ...
2026-11-10一、业务背景 在后台列表、管理系统、报表页面的分页需求里,前端通常需要两份数据:当前页的分页记录、符合筛选条件的数据总条 ...
2026-11-09一、需求看起来简单,实际坑不少 "把文本里所有中括号 [] 中间的内容提取出来"——这是文本清洗里最常见的需求之一。日志里的 [I ...
2026-11-09大数据分析师证书考什么 考试范围 PART 1 大数据基础理论 占比(8% ) a. 大数据分析基础(1%) b. Python 基础(5%) c. Li ...
2026-11-09CDA数据分析师 出品 作者:李诗怡 一、数据处理概述 定义: 在正式开展数据分析之前,对原始采集的数据进行整理、修正、加工和精 ...
2026-11-06一、为什么数据要先标准化 拿到一份数据,各列的量纲往往完全不同:年龄单位是"岁"(约 20~60),收入单位是"元"(几千到几万) ...
2026-11-06一、为什么 Python 成了统计分析的主流工具 十年前做统计分析,主流选择是 SPSS、SAS、Stata。现在越来越多的研究者、分析师转向 ...
2026-11-06核心资源推荐 CDA教材(2025):https://edu.cda.cn/goods/show/3151CDA模拟题(2025):https://edu.cda.cn/goods/show/2845CD ...
2026-11-06核心资源推荐 CDA教材(2025):https://edu.cda.cn/goods/show/3151CDA模拟题(2025):https://edu.cda.cn/goods/show/2845CD ...
2026-11-06“大学生必备证书有哪些”最容易被答成一张越长越好的清单。但校招筛选的真实逻辑是:证书要对应你投的岗位任务,并且在校期间确 ...
2026-11-05大学期间能报的证书,先别急着看“含金量榜单”。更实用的第一步是问:我现在这个身份、这个学历,符合报考条件吗? 很多证书宣 ...
2026-11-05大学期间能考的证书很多,但真正需要先回答的是两个问题:当前有没有报考资格,以及这张证书对应什么岗位任务。 前者决定你能不 ...
2026-11-05先把结论说清楚:真正“只有在校大学生能考、毕业就彻底没资格”的证书数量不多,主要集中在语言类考试的部分专项、面向高校学生 ...
2026-11-05上班族问“考什么证书有用”,真正要解决的不是找一张“最值钱”的证,而是判断哪张证能嵌进你现有的岗位任务。同样一张证书,做 ...
2026-11-05职称证书不是统一的考试项目。同样“考职称”,经济、会计、统计、审计、软考走全国统一考试,工程、教师、卫生等系列多数走评审 ...
2026-11-0533岁选证书,最怕两件事:一是被“适合女生”的清单带着走,考完发现岗位用不上;二是投入大半年,报名时才发现学历、专业或工作 ...
2026-11-05“女生容易考的证书”这个问题,真正难的不是找一份名单,而是判断“容易”到底指什么。报名条件宽松、考试通过率高、拿证后能找 ...
2026-11-05“女生适合考什么证书”这类搜索,背后往往是同一个困惑:网上榜单太多,口径却说不清楚。有人把培训证书和职业资格混在一起排, ...
2026-11-05