
当冷存储遇到大数据:在私有云中运行低成本分析
冷存储是不经常访问但却是必需数据的术语。人们需要了解冷存储如何工作,以及如何帮助大数据。已经有一些企业侧重于分层存储算法,其基于数据需要被访问的频率,将数据路由到最合适的存储介质,特别注意第一层,数据需要快速和频繁的最快速的访问存储恢复器。
但是在“数据副本”中,高达85%的企业数据驻留在很少被访问的存储介质中,同时也存在一个迫在眉睫的危机,即如何以最低成本优化管理和维护这些数据,以及适当的数据存储,检索,安全和访问策略。
这种不常访问但仍然必要的数据的名称是“冷存储”。确定数据是“热”(经常访问),“暖”(适度访问)还是“冷”(不常访问)通常是存储管理员的工作,评估各种类别的数据访问。在某些情况下,数据中心甚至开始使用自动化存储分层软件来做出这些数据存储决策。
大数据因素进入讨论,因为有这么多的。为了治理的目的(即使不定期使用数据也需要保留数据),业务连续性(大数据和“常规”数据需要多个数据存储库,并用于灾难恢复故障转移)因为需要知道一切是什么,网站必须寻找低成本,缓慢的冷存储解决方案,所以他们可以承受这些必须保存但很少被访问的数据管理的成本。
适用于私有云环境的冷却数据服务提供商Storiant公司创始人兼首席执行官杰夫•福罗尔斯表示:“当我们研究存储市场时,我们认识到需要大容量冷存储,并且看到组织所有大数据流正在积累,这是一个日益严重的问题。”
福罗尔斯表示,他们可以在防火墙后安全保留数据,每月每GB每月只需0.01美元。亚马逊公司等大型公共云服务提供商也提供冷存储服务,但区别在于Storiant公司将其提供给用于企业的私有企业云;这吸引了许多企业使用公共云服务来提供他们的数据。
冷存储如何工作,以及如何帮助大数据
“大数据来自大的数据块,大数据分析经常需要处理大数据量的大数据对象。”福罗尔斯说。“使用冷存储,可以将一个存储大量数据的数据湖通过Hadoop计算节点扫描。”
像Storiant公司提供这样的解决方案可以容纳大型数据对象,这些数据对象包含表征最大数据的非结构化数据,以及日益包含大数据的物联网(IoT)数据(如网站日志文件)。当企业IT使用冷存储解决方案,并决定哪些存储容器要将大数据的特定块(或对象)分类到哪个存储容器时,企业可以对所有这些数据进行分类。在同一时间,可以分配给建立在容器中访问数据的每个容器的权限。
福罗尔斯表示,互联网服务提供商正在迅速实施这种风格的基于云计算的冷存储来存储大数据,因为它是弹性的,其能力可以满足扩展或收缩的需要。基于云计算的冷存储还具有财务灵活性,因为它消除了长期摊销数据中心资本支出(CAPEX)的需要,有利于更灵活地转换为资本性支出(OPEX)的冷存储方法,企业可以在短期内控制。
他说,“我们相信物联网将继续得到指数性增长,企业将需要管理自世界各地数以百万计的设备和数据源供应大量的大数据量,金融机构,医药公司,以及政府需要大规模,低成本的大型数据冷存储,最终,企业必须找到一种方法来安全地运行,并进行低成本分析,而私有云设置中的冷存储服务提供了这些优点。”
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在 “神经网络与卡尔曼滤波融合” 的理论基础上,Python 凭借其丰富的科学计算库(NumPy、FilterPy)、深度学习框架(PyTorch、T ...
2025-10-23在工业控制、自动驾驶、机器人导航、气象预测等领域,“状态估计” 是核心任务 —— 即从含噪声的观测数据中,精准推断系统的真 ...
2025-10-23在数据分析全流程中,“数据清洗” 恰似烹饪前的食材处理:若食材(数据)腐烂变质、混杂异物(脏数据),即便拥有精湛的烹饪技 ...
2025-10-23在人工智能领域,“大模型” 已成为近年来的热点标签:从参数超 1750 亿的 GPT-3,到万亿级参数的 PaLM,再到多模态大模型 GPT-4 ...
2025-10-22在 MySQL 数据库的日常运维与开发中,“更新数据是否会影响读数据” 是一个高频疑问。这个问题的答案并非简单的 “是” 或 “否 ...
2025-10-22在企业数据分析中,“数据孤岛” 是制约分析深度的核心瓶颈 —— 用户数据散落在注册系统、APP 日志、客服记录中,订单数据分散 ...
2025-10-22在神经网络设计中,“隐藏层个数” 是决定模型能力的关键参数 —— 太少会导致 “欠拟合”(模型无法捕捉复杂数据规律,如用单隐 ...
2025-10-21在特征工程流程中,“单变量筛选” 是承上启下的关键步骤 —— 它通过分析单个特征与目标变量的关联强度,剔除无意义、冗余的特 ...
2025-10-21在数据分析全流程中,“数据读取” 常被误解为 “简单的文件打开”—— 双击 Excel、执行基础 SQL 查询即可完成。但对 CDA(Cert ...
2025-10-21在实际业务数据分析中,我们遇到的大多数数据并非理想的正态分布 —— 电商平台的用户消费金额(少数用户单次消费上万元,多数集 ...
2025-10-20在数字化交互中,用户的每一次操作 —— 从电商平台的 “浏览商品→加入购物车→查看评价→放弃下单”,到内容 APP 的 “点击短 ...
2025-10-20在数据分析的全流程中,“数据采集” 是最基础也最关键的环节 —— 如同烹饪前需备好新鲜食材,若采集的数据不完整、不准确或不 ...
2025-10-20在数据成为新时代“石油”的今天,几乎每个职场人都在焦虑: “为什么别人能用数据驱动决策、升职加薪,而我面对Excel表格却无从 ...
2025-10-18数据清洗是 “数据价值挖掘的前置关卡”—— 其核心目标是 “去除噪声、修正错误、规范格式”,但前提是不破坏数据的真实业务含 ...
2025-10-17在数据汇总分析中,透视表凭借灵活的字段重组能力成为核心工具,但原始透视表仅能呈现数值结果,缺乏对数据背景、异常原因或业务 ...
2025-10-17在企业管理中,“凭经验定策略” 的传统模式正逐渐失效 —— 金融机构靠 “研究员主观判断” 选股可能错失收益,电商靠 “运营拍 ...
2025-10-17在数据库日常操作中,INSERT INTO SELECT是实现 “批量数据迁移” 的核心 SQL 语句 —— 它能直接将一个表(或查询结果集)的数 ...
2025-10-16在机器学习建模中,“参数” 是决定模型效果的关键变量 —— 无论是线性回归的系数、随机森林的树深度,还是神经网络的权重,这 ...
2025-10-16在数字化浪潮中,“数据” 已从 “辅助决策的工具” 升级为 “驱动业务的核心资产”—— 电商平台靠用户行为数据优化推荐算法, ...
2025-10-16在大模型从实验室走向生产环境的过程中,“稳定性” 是决定其能否实用的关键 —— 一个在单轮测试中表现优异的模型,若在高并发 ...
2025-10-15