谈谈AWS上超实用的大数据分析服务_数据分析师

AWS在云端为大数据分析提供了几个公共云交付选项。下面来看下AWS是否符合你所在企业的路线。

大数据的关键就是大。大量结构化和非结构化信息——通常是PB以上——会让大多数传统数据管理方法陷入困境。和政府机构一样，本地成本会打破大多数福布斯全球2000强的公司的预算。

这也就是云的切入点。诸如AmazonWeb Services的云提供商目前可以提供强大的，节省成本的方法来支持和分析大数据。通常会根据使用情况定价，这些云服务将彻底改变我们对自身企业的理解方式。

这不仅仅是数据格式化和结构化来驱动有用的报告。它还是可操作的数据，可以提供对业务的实时查看。我们还可以将此分析功能和动态业务流程链接起来从而让企业可以自我修复和自我优化。这也是其真正价值的所在。

AWS的大数据分析产品有时让人迷惑不解，本文将揭开它的神秘面纱。

多种多样的服务

当你在公共云里做大数据分析的时候首先需要考虑的问题就是数据集成，无论你用的是AWS还是其他提供商。你的数据需要从你所在企业的操作性数据存储流入大数据系统，而这些很可能是在云中进行的。

AWS支持数据传输服务，例如AWS Direct Connect可以将大数据移入云中，也可以从云中移出。但是它并不能进行快速迁移。因为它是不收费的，所以当你对实时性要求不强时还是可以接受的。

另外一个中间件类型的服务是Amazon Kinesis。这是针对大数据流实时处理的一项云服务。它所支持的数据吞吐量从兆字节每秒到吉字节每秒，而且它还能够处理来自成千上万不同数据源的数据流。要考虑从你所在企业的多个数据源到AWS上的数据库选择来运行数据流。

从中间件迁移至实际数据库，AWS服务目录拥有SQL和NoSQL混合的数据库技术。Amazon DynamoDB是一项可管理的NoSQL数据库服务，很多企业已经发现了其价值。DynamoDB拥有有保证的吞吐量和极小的延时，这对于那些必须和大数据进行快速交互的大数据项目来说是非常适合的，例如移动计算支持。

数据库和Hadoop技术

Amazon Relational Database Service(RDS)是一个精心设计的关系型数据库，它能够对AWS云进行扩展。RDS适合于那些需要保持关系型模型且规模不会太大(大部分不会)的大数据系统。对此，你需要Amazon Redshift，它是一个专门设计用来支持大数据分析和传统数据仓库的拍字节规模的数据库。

Redshift使用了柱状存储技术和分布式查询，那些管理本地数据仓库的人应该对此非常熟悉。但是Redshift的成本却不到每年1000美元。

最后，Amazon Elastic MapReduce是一个基于Amazon ElasticCompute Cloud的Hadoop文件系统框架，它提供map和reduce查询并且利用核心Hadoop工具。

总结

AWS为云端的大数据分析提供了几个公共云交付功能。AWS技术是可以满足大多数的需求，但是AWS并不是唯一提供大数据技术的云。Google和Microsoft同样有与之竞争的系统，而且还有一些规模较小的企业也在跃跃欲试。但是AWS为那些要建立大数据系统的架构师和开发人员提供了一站式的购物服务——并且其数据库服务和中间件目录是十分引人瞩目的。