登录
首页精彩阅读大数据有什么技术,大数据技术内容介绍
大数据有什么技术,大数据技术内容介绍
2018-04-02
收藏

大数据有什么技术,大数据技术内容介绍

目前大数据发展一片火热,很多人都听说过大数据,但是对于大数据技术了解并不多,作为一个大数据工程师,经常会被行外人问到,大数据有什么技术。今天就专门写了一篇文章跟大家分享下大数据技术。

从广义上来说,目前大数据主要有以下几点技术:

1.预测分析:随着现在硬件和软件解决方案的成熟,许多公司利用大数据技术来收集海量数据、训练模型、优化模型,并发布预测模型来提高业务水平或者避免风险;

2.NoSQL数据库:非关系型数据库包括Key-value型(Redis)数据库、文档型(MonogoDB)数据库、图型(Neo4j)数据库;

3.搜索和知识发现:支持信息的自动抽取,可以从多数据源洞察结构化数据和非结构化数据;

4.流式分析:软件可以对多个高吞吐量的数据源进行实时的清洗、聚合和分析;

5.内存数据结构:通过动态随机内存访问(DRAM)、Flash和SSD等分布式存储系统提供海量数据的低延时访问和处理;

6.分布式存储系统:分布式存储是指存储节点大于一个、数据保存多副本以及高性能的计算网络;

7.数据可视化数据可视化技术是指对各类型数据源(包括Hadoop上的海量数据以及实时和接近实时的分布式数据)进行显示;

8.数据整合:通过亚马逊弹性MR(EMR)、Hive、Pig、Spark、MapReduce、Couchbase、Hadoop和MongoDB等软件进行业务数据整合;

9.数据预处理:数据整合是指对数据源进行清洗、裁剪,并共享多样化数据来加快数据分析;

10.数据校验:对分布式存储系统和数据库上的海量、高频率数据集进行数据校验,去除非法数据,补全缺失

数据分析咨询请扫描二维码

客服在线
立即咨询