本文讲述了数据分析师应当了解的五个统计基本概念：统计特征、概率分布、降维、过采样/欠采样、贝叶斯统计方法。 利用统计学，我们可以更深入、更细致地观察数据是如何进行精确组织的，并且基于这种组织结构， ...
2020-05-18在过去的几十年中，机器学习领域发生了巨大的变化。诚然，有些方法已经存在很长时间了，但仍然是该领域的主要内容。例如，Legendre和Gauss已经在19世纪初提出了最小二乘的概念。在最近的几十年中，诸如神经网络等 ...
2020-05-14
xpath，英文全称XML Path Language，即XML路径语言，它是一种用来确定XML文档中某部分位置的语言，可以在 XML文档中查找相关的信息，相对而言功能还是比较强大的。 xpath最初是一个通用的、介于XPointer与XSL间的语 ...
2020-05-14
是一种可以从html和xml中快速提取内容的python库，共有四种类型，对于爬虫解析来说，主要用其中的遍历文档树和搜索文档树 BeautifulSoup The Dormouse\'s story Once upon a time there were thr ...
2020-05-14
在JavaScript教程有同步加载与异步加载，大家知道它们指什么吗？ 什么是同步加载？ 在加载数据时仍然执行其他程序，通常加载时是不执行程序的，我们不得不等进度条，因为很多程序在没有加载数据时， ...
2020-05-14
随着机器学习的兴起，Python 逐步成为了「最受欢迎」的语言。它简单易用、逻辑明确并拥有海量的扩展包，因此其不仅成为机器学习与数据科学的首选语言，同时在网页、数据爬取scrapy可科学研究等方面成为不二选择。 ...
2020-05-14
大数据时代下，凭借数据管理框架中的重要管理职能，元数据管理也越来越频繁的出现在大家的视野中。 元数据及应用也是数据仓库的重要组成部分，它是描述数据的数据（data about data)，描述数据的属性信息，可以帮助 ...
2020-05-14
R语言中的dplyr包非常神奇，里面包含很多的函数，今天我们就来介绍下窗口函数的应用。 窗口函数应用 mtcars %>% group_by(cyl) %>% mutate(rank = min_rank(desc(mpg))) mtcars %>% group_by(cyl) ...
2020-05-14
postgreSQL是一款先进的开源数据库，拥有非常齐全的自由软件的对象-关系型数据库管理系统（ORDBMS），可面向企业复杂SQL的OLTP业务场景，支持多项企业级功能，能解决使用数据库的各种难题。 PostgreSQL的优势有很多 ...
2020-05-14
Spark为结构化数据处理引入了一个称为Spark SQL的编程模块。简而言之，sparkSQL是Spark的前身，是在Hadoop发展过程中，为了给熟悉RDBMS但又不理解MapReduce的技术人员提供快速上手的工具。 sparkSQL提供了一 ...
2020-05-14
维度表和事实表，在构建企业级数据仓库时经常能见到。维度表被看成是用户用来分析一个事实的窗口，它里面的数据应该是对事实的各个方面描述，简而言之就是基础表，如：时间维度表，它里面的数据就是一些日，周，月， ...
2020-05-14
大数据作为继云计算、物联网之后IT行业又一颠覆性的技术，备受关注，要想知道大数据创业方向，一定要知道。Kettle作为ETL工具，在数据管理环节出现，那么我们一起来看看，大数据产业链包括哪几个环节 IT基 ...
2020-05-14
hive默认将元数据存储到本地内嵌的Derby数据库中，但是Derby不支持多会话链接，因此我们使用mysql数据库来存储hive的元数据。配置完成hiveSQL的元数据库之后再开始安装、配置hive。 1、在线安装mysql ...
2020-05-14
最近项目需要一个数据收集分析的功能，做了一些调研。我们一起来看看flume是主流吗？ 目前做网络统计的方式有两大类： 1. Page Tagging， 即页面埋点；web端用js，移动端使用共用api。 2. ...
2020-05-13
rdd，英文全称为：Resilient Distributed Dataset，中文简称“弹性分布式数据集”，spark中最基础的抽象数据结构。 RDD具备分区、不可变、并行操作这三个基本特性，表现形式为不可变的分区元素的集合，并且可以在集 ...
2020-05-13
Mapreduce是种编程模型，结合了概念\"Map（映射）\"和\"Reduce（归约）\"，用于大规模数据集（大于1TB）的并行运算。它极大地方便了编程人员在不会分布式并行编程的情况下，将自己的程序运行在分布式系统 ...
2020-05-13
docker源自PaaS提供商dotCloud，是一个基于LXC的开源的高级应用容器引擎，源代码托管在 Github 上, 基于go语言并遵从Apache2.0协议开源。 容器是完全使用沙箱机制，使用者可以将其应用打包后放入docker ...
2020-05-13
Spark Streaming、Flink、Kafka三者都是真正的实时处理，它们分别是什么呢？我们今天来了解下。 什么是Spark Streaming？ spark streaming是真正的实时处理，是微批处理。 什么是Flink？ flin ...
2020-05-13
一般来说，python中DataFrame是可以执行的，可能是初学者在使用过程中，引入了两个DataFrame，导致pandas的DataFrame被覆盖，从而无法运行。 引用zdpandas的DataFrame 我们不会直接引入DataFrame，而是 ...
2020-05-13
Flink其实就是ApacheFlink，是一款业内非常火的大数据产品，由Apache软件基金会开发，核心是用Java和Scala编写的分布式流数据流引擎。Apache Flink是个旨在提供‘一站式’ 的分布式开源数据处理框架。 Flink ...
2020-05-13在数据驱动决策的体系中，数据分析按照分析目的可分为描述性分析、诊断性分析、预测性分析与指导性分析四大类型。其中，诊断性分 ...
2026-09-01网络请求是Python爬虫开发、接口测试、数据拉取的核心基础功能，Python生态中主要依靠 urllib 和 requests 两大库实现HTTP请求操 ...
2026-09-01 很多数据分析师面对业务问题时，常常感到“知道要分析，却不知道用什么方法”。其实，数据分析并非无章可循——从三大基础范 ...
2026-09-01在数据库设计与业务数据维护中，自增ID是数据表最常用的主键字段，用于唯一标识每一条业务数据，正常状态下ID应保持连续递增。但 ...
2026-08-31在数理统计、数据分析、经济测算与日常量化评估中，平均值是刻画数据集中趋势、反映整体水平的基础核心指标。在实际应用中，最常 ...
2026-08-31在数据驱动的时代，数据分析早已不是“凭经验、靠感觉”的零散操作，而是一套具备固定逻辑、标准化流程的系统方法——这就是数据 ...
2026-08-31在大数据时代背景下，海量行业数据亟需通过专业化工具挖掘潜在价值，辅助企业业务决策、优化运营模式、规避经营风险。Python凭借 ...
2026-08-28SQL是数据分析领域最基础、最核心的工具，承担着取数、清洗、统计、分层、归因的全流程工作。不同于单纯的语法练习，实战化SQL数 ...
2026-08-28 很多企业团队并非缺乏指标，而是陷入“指标失控”：仪表盘上堆满实时跳动的数据，却无法回答“当前瓶颈在哪、下一步该做什么 ...
2026-08-28随着新零售模式的快速普及，零售行业从传统的“货品驱动”全面转向“用户驱动”。门店交易数据、线上消费记录、浏览轨迹、复购频 ...
2026-08-27在数据分析、爬虫采集、接口开发、数据归档等场景中，JSON与CSV是两种使用率最高的数据存储格式。JSON为键值对结构化格式，适配 ...
2026-08-27 很多数据分析师每天都在计算指标、制作报表，但当被问到“什么叫指标数据元”“指标数据标准包含哪些核心维度”“指标数据质 ...
2026-08-27在数据分析工作中，时间序列是最常见的数据类型之一，订单时间、日志时间、交易时段、统计周期等数据均离不开时间处理。原始数据 ...
2026-08-26在数据分析与数据预处理工作中，原始数据普遍存在录入错误、系统故障、偶然极值等问题，极易产生异常数据。异常数据会严重干扰数 ...
2026-08-26 很多数据分析师能熟练写SQL、做透视表，但当被问到“数据是从哪里来的？经过哪些加工才进入数据仓库？ETL具体做了什么？”时 ...
2026-08-26在数理统计与数据分析领域，多因素方差分析与线性回归模型是研究变量关系、因素影响、数据差异规律的两大核心工具。二者均属于经 ...
2026-08-25数据分析的核心价值不在于数据计算与图表制作，而在于清晰、精准、有逻辑地输出结论、支撑业务决策。日常数据分析报告普遍存在结 ...
2026-08-25 很多数据分析师能熟练地写SQL、做透视表、算描述性统计，但当被问到“如何预测用户流失概率”“如何归因销量下滑的关键因素 ...
2026-08-25平均数是数据分析、数理统计与日常运算中最基础、最常用的统计量，核心作用是浓缩一组数据的整体水平、刻画数据集中趋势。在众多 ...
2026-08-24在MySQL数据库中，InnoDB存储引擎作为主流事务型引擎，默认事务隔离级别为可重复读（Repeatable Read，RR），这与SQL Server、Or ...
2026-08-24
