未来大数据与云计算的紧密结合_数据分析师

云端的大数据就像科幻小说里对未来的描绘一样：它在这，只是不是很均匀地分布罢了。

    高调的厂商，比如AWS、谷歌、微软、IBM和Rackspace等，都提供云基础的Hadoop和NoSQL数据库平台来支持大数据应用程序。很多初创公司都引入了云平台上的管理服务，按需部署自己的系统。大数据和云计算的融合往往是互联网公司的首先项，尤其是初创的软件和数据服务供应商。

    但很多主流公司并不像互联网公司那样看重云端数据管理。一些公司担心云端的数据安全和隐私保护。一些公司还在大型机和其他本地系统里运行大部分操作。存储在本地的数据量之大，让数据迁移充满挑战。另外，现存数据中心可用的处理能力让AWS和谷歌等公有云的成本优势不值一提，即使公司对于云系统所谓的降低成本、增加弹性有兴趣，最终也未必会选择它。

    花旗集团就是一个例子。随着网络成为普及的应用界面，金融服务公司面对的是洪水般的非结构化数据。它还需要处理线上金融应用程序中不同的数据结构。这些挑战让花旗集团最后选择了MongoDB NoSQL数据库。MongoDB获得了AWS和其他云平台的支持。花旗数据公司负责平台工程的全球领导者Michael Simone表示，花旗选择了在云端应用该软件。不过它应用的是私有云，应用限定在纽约公司的防火墙内，由它的IT部门全权管理。

    在纽约的MongoDB大会上，Simone告诉与会者：“目前，我们还没有扩展私有云或集成公有云的打算。花旗集团的数据中心很大，技术积累也很深厚，我们可以构建自己的内部部署的云计算。”

    大数据云才刚刚开始

    总体来看，在云端运行大数据系统仍然是小众行为。在数据仓库研究院开发的大数据成熟度模型中，十个月内有222名IT和业务专家完成了线上测评，只有19%的人表示它们的组织在用公有云、私有云和混合云支持大数据应用程序。另有40%的人表示正在考虑云部署，同时有超过三分之一的人表示它们没有使用云计算的计划。在企业管理协会和9sight咨询公司开展的线上调查中，云计算使用比例略高：259名受访者中，39%的人表示他们的大数据安装包括云系统。

    WeatherChannel公司是采用了公有云的案例，Basho技术公司在AWS可用性区域的多个分区运行了Basho技术公司的NoSQL数据库Riak的复制实例，处理和存储来自卫星、雷达系统、天气站等来源的混合数据。该数据库每五分钟就为预测引擎更新3万6千多地理天气网格的视图，它还用于归档历史数据。

    美国TWC公司执行副总裁兼CIO Bryson Koehler认为，Riak的容错技术和同时支持内存和硬盘存储的功能特别好。经过比较，因为处理效果低，主流关系型数据库并不能适应高容量的云环境，至少不能以较低的成本适应高容量的云环境。

    但是，在云端部署NoSQL软件也是旨在扩大TWC灵活性的更广泛的IT战略的题中之义。公司在谷歌云和AWS上运行应用程序，以免被任何供应商或技术锁定。

    云计算：更多选择 更多可能

    公有云供应商已经为了满足大数据需求，已经扩展了数据管理能力，不止包含关系型数据库。例如，亚马逊近几年拓宽了AWS云选项，包含了很多新兴技术，比如NoSQL数据库DynamoDB、Hadoop部署ElasticMapReduce和ElastiCache内存缓存服务、Redshift数据仓库和Kinesis流数据系统。

    美国咨询公司Cloud Technology Partners高级副总裁DavidLinthicum表示：“AWS和其他云供应商也创建了相当成熟的服务。一些可用的数据管理云平台已经发展到第五代第六代了。”

    对于拥有强大的内部处理能力的大公司来说，给大数据管理池增加云基础的系统并不是必须的。美国云服务咨询公司Nimbo的首席基础架构师Aaron Ebertowski表示：“为什么要企业定购它们已经有了的东西呢？企业已经在存储架构投了成百上千美元，不会轻易舍弃的。”

    业绩要求也是公有云不受大数据用户青睐的原因之一。加拿大海洋网络（ONC）是一家非营利性机构，该机构管理着英属哥伦比亚的一对海洋气象台，计划建立一个公司内部私有云，为使用海洋传感器提供数据的应用模拟地震和海啸创造条件。

    目标在于更加准确地预测可能发生的自然灾害带来的后果，为政府当局采取预防措施缓解自然灾害给人们带来的影响，Benoit Pirenne这样说道，他是ONC的数字基础设施主管。

    需求——充足的大数据力量

    该机构位于维多利亚大学，去年春天得到了一项三年项目的批准和资金支持。计划进行的分析工作包括收集传感器的多次测定结果，运行预测模型以得出可能发生的所有情况集。但是完成这项工作需要大量数据和强大的计算能力，Pirenne说道。

    “要计算现实状况中的“模拟”几乎是不可能完成的任务，就算在非常高级的平行云系统中也不行。”他说。因此，ONC正在与IBM合作构建一个内部云加过来处理流程和分析工作。

    新兴的管理服务供应商——例如Altiscale, BitYota, Qubole, Treasure Data和Rackspace’sObjectRocket附属公司等——称他们通过以低于云平台供应商的价格接管部署和管理任务，能够为用户企业将大数据云装置做的更方便、更划算。

    美国的Sellpoints公司是一个线上营销和分析服务供应商，使用Hadoop和Spark的流程工具迅速构建查询表格，查询数据量达到TB用户网页活跃度数据，BennyBlum如此说，他是Sellpoint公司业绩营销和分析的副总裁。

    Hadoop实用工具

    Blum的公司首先将其自身的Hadoop系统应用到了亚马逊弹性计算云（或EC2）平台上。但是现在该公司已经换成了Altiscal的Hadoop作为服务供应。这一服务也在亚马逊云上运行，但是Blum表示将Hadoop的构造和管理下线为Sellpoints带来了红利。“Altiscale为我们管理了基础设施，这样我们就不必为维护集群而付运营费了。”

    但是至少迄今为止，该类服务的用户基本都是这些新兴企业自身。大多是服务供应商的顾客基础还维持在一位数或两位数。

    RickSherman是AthenaIT解决方案这一美国咨询公司的创始人，他认为有理由相信基于云端的Hadoop服务尤其能够在更广阔的基础上运行。“人们在使用自给自足的Hadoop时遇到了一堵墙，”他说。“这在时间和技巧上都需要付出很多。我认为最终Hadoop作为服务会比公司内部Hadoop更具吸引力。”

    然而有些企业还完全没有准备好接受公有云中的Hadoop，而且近期内也不会准备好接受。这就是Ayad Shammout所面临的问题，他是美国Beth Israel Deaconess医学中心（BIDMC）的数据平台和商务智能主管。去年他还是位独立咨询师的时候，就与另一位咨询师合作，为BIDMC做了一个大数据和云计算定义证明项目。为了降低SQL服务器数据库上的存储量和流程需求，他们使用了Azure HDInsight，Microsoft的基于云端的Hadoop发行，用以卸载应用审计日志的存档文件，这些日志用于微软的Azure云管理报告。

    Shammout表示示范项目展示出了在云端云顶Hadoop应用的潜力。他还认为像BIDMC这种卫生保健型供应商最终能够将其实现。但是在未来几年之内，美国的联邦健康保险可移植性法案和问责制法案还阻碍着生产的展开。

    “如果三四年前我跟你谈论云端，我会说‘这不会发生的。’”Shammout说道。“现在我认为云端会在某些部门实现应用。我的期望是再过三四年，云数据隐私就不成问题了。”