
大数据带来大困惑
最近,关于大数据的讨论此起彼伏,企业也越来越关注大数据的管理问题。但事实上,很多企业并没有真正理解什么是大数据,也没有部署相关工具去有效地管理它们。
“很多人都不理解究竟什么是大数据,因为并没有明确的定义,大家都感到很困惑。”LogLogic公司首席营销官Mandeep Khera这样说。最近,LogLogic与IT安全研究公司Echelon One共同完成了一项大数据管理调查。调查发现,有49%的企业有些或者非常关心大数据管理问题,而有38%的企业并不明白什么是大数据,另外有27%的企业表示他们对大数据一知半解。此外,调查还发现59%的企业没有部署相关工具来管理IT系统中的数据,而是转向独立系统和其他系统,甚至是使用电子表格。此次调查的对象是207位来自各行各业的主管或以上级别的个人。
“大数据是大量的非结构数据。如果管理得当,我们能从大数据中挖掘出有效信息,帮助企业解决安全、运营和法规遵从等问题。所有企业都正在从企业内部各种来源以及云基础设施中收集越来越多的数据,而很多企业还没有使用正确的工具和流程来管理这些数据。如果这种模式继续下去,我们将会看到,这样做的企业会远远落于人后,因为他们无法获取对系统洞察力,从而帮助企业做出明智的决定。”Khera解释说。
在此次调查中,62%受访者表示他们已经在管理1TB以上的数据,以后还会有更多数据。全球数据量正在以疯狂的速度增长。据称,目前存在的90%数据来自于过去的两年间,这些数据来自传感器、交易记录、图像和视频、社交媒体、日志等。
这就是大数据。如果正确使用大数据,它将为你提供梦寐以求的情报和洞察力。在安全方面,它可以让你看到网络中正在发生的事情,以保护企业免受高级持续性威胁和恶意软件。同时,还能通过优化服务器和供应链管理来提高运营效率。它甚至还可以帮助你处理法规遵从的问题。
Khera表示,控制大数据的关键之一是日志管理,日志管理能够整合来自企业范围内的所有日志,建立索引存储库,并以常见的用户界面显示。要利用这些数据,需要具备数据规范化和关联化,以及报告和发送告警的能力。
2012年2月,LogLogic委托IANS对其日志数据管理和法规遵从产品进行信息安全投资分析(简称为ISIA)。在走访了几位存在大数据处理问题的LogLogic客户后,IANS表示:“大数据的日志管理与一般数据的日志管理之间主要区别是,如何管理规模庞大的日志信息。如果没有简单易用的用户界面或者提供快速访问的索引存储库,几乎不可能从数据漩涡中找出有效情报。大数据管理解决方案必须跟上新信息产生的速度。这对于告警方面尤为重要,如果索引时间太长,关键的告警消息将被延迟,从而会造成严重问题。”
现实的情况是,目前只有54%的受访者使用日志管理解决方案来管理日志数据。很多企业使用系统日志(syslog)或者电子表格进行日志管理,而LogLogic的调查显示,33%的受访者没有对日志进行管理。大数据管理任重而道远。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在手游行业,“次日留存率” 是衡量一款游戏生死的 “第一道关卡”—— 它不仅反映了玩家对游戏的初始接受度,更直接决定了后续 ...
2025-10-13分库分表,为何而生? 在信息技术发展的早期阶段,数据量相对较小,业务逻辑也较为简单,单库单表的数据库架构就能够满足大多数 ...
2025-10-13在企业数字化转型过程中,“数据孤岛” 是普遍面临的痛点:用户数据散落在 APP 日志、注册系统、客服记录中,订单数据分散在交易 ...
2025-10-13在数字化时代,用户的每一次行为 —— 从电商平台的 “浏览→加购→购买”,到视频 APP 的 “打开→搜索→观看→收藏”,再到银 ...
2025-10-11在机器学习建模流程中,“特征重要性分析” 是连接 “数据” 与 “业务” 的关键桥梁 —— 它不仅能帮我们筛选冗余特征、提升模 ...
2025-10-11在企业的数据体系中,未经分类的数据如同 “杂乱无章的仓库”—— 用户行为日志、订单记录、商品信息混杂存储,CDA(Certified D ...
2025-10-11在 SQL Server 数据库操作中,“数据类型转换” 是高频需求 —— 无论是将字符串格式的日期转为datetime用于筛选,还是将数值转 ...
2025-10-10在科研攻关、工业优化、产品开发中,正交试验(Orthogonal Experiment)因 “用少量试验覆盖多因素多水平组合” 的高效性,成为 ...
2025-10-10在企业数据量从 “GB 级” 迈向 “PB 级” 的过程中,“数据混乱” 的痛点逐渐从 “隐性问题” 变为 “显性瓶颈”:各部门数据口 ...
2025-10-10在深度学习中,“模型如何从错误中学习” 是最关键的问题 —— 而损失函数与反向传播正是回答这一问题的核心技术:损失函数负责 ...
2025-10-09本文将从 “检验本质” 切入,拆解两种方法的核心适用条件、场景边界与实战选择逻辑,结合医学、工业、教育领域的案例,让你明确 ...
2025-10-09在 CDA 数据分析师的日常工作中,常会遇到这样的困惑:某电商平台 11 月 GMV 同比增长 20%,但究竟是 “长期趋势自然增长”,还 ...
2025-10-09Pandas 选取特定值所在行:6 类核心方法与实战指南 在使用 pandas 处理结构化数据时,“选取特定值所在的行” 是最高频的操作之 ...
2025-09-30球面卷积神经网络(SCNN) 为解决这一痛点,球面卷积神经网络(Spherical Convolutional Neural Network, SCNN) 应运而生。它通 ...
2025-09-30在企业日常运营中,“未来会怎样” 是决策者最关心的问题 —— 电商平台想知道 “下月销量能否达标”,金融机构想预判 “下周股 ...
2025-09-30Excel 能做聚类分析吗?基础方法、进阶技巧与场景边界 在数据分析领域,聚类分析是 “无监督学习” 的核心技术 —— 无需预设分 ...
2025-09-29XGBoost 决策树:原理、优化与工业级实战指南 在机器学习领域,决策树因 “可解释性强、处理非线性关系能力突出” 成为基础模型 ...
2025-09-29在标签体系的落地链路中,“设计标签逻辑” 只是第一步,真正让标签从 “纸上定义” 变为 “业务可用资产” 的关键,在于标签加 ...
2025-09-29在使用 Excel 数据透视表进行多维度数据汇总时,折叠功能是梳理数据层级的核心工具 —— 通过点击 “+/-” 符号可展开明细数据或 ...
2025-09-28在使用 Pandas 处理 CSV、TSV 等文本文件时,“引号” 是最容易引发格式混乱的 “隐形杀手”—— 比如字段中包含逗号(如 “北京 ...
2025-09-28