本文讲述了数据分析师应当了解的五个统计基本概念:统计特征、概率分布、降维、过采样/欠采样、贝叶斯统计方法。 利用统计学,我们可以更深入、更细致地观察数据是如何进行精确组织的,并且基于这种组织结构, ...
2020-05-18在过去的几十年中,机器学习领域发生了巨大的变化。诚然,有些方法已经存在很长时间了,但仍然是该领域的主要内容。例如,Legendre和Gauss已经在19世纪初提出了最小二乘的概念。在最近的几十年中,诸如神经网络等 ...
2020-05-14
xpath,英文全称XML Path Language,即XML路径语言,它是一种用来确定XML文档中某部分位置的语言,可以在 XML文档中查找相关的信息,相对而言功能还是比较强大的。 xpath最初是一个通用的、介于XPointer与XSL间的语 ...
2020-05-14
是一种可以从html和xml中快速提取内容的python库,共有四种类型,对于爬虫解析来说,主要用其中的遍历文档树和搜索文档树 BeautifulSoup The Dormouse\'s story Once upon a time there were thr ...
2020-05-14
在JavaScript教程有同步加载与异步加载,大家知道它们指什么吗? 什么是同步加载? 在加载数据时仍然执行其他程序,通常加载时是不执行程序的,我们不得不等进度条,因为很多程序在没有加载数据时, ...
2020-05-14
随着机器学习的兴起,Python 逐步成为了「最受欢迎」的语言。它简单易用、逻辑明确并拥有海量的扩展包,因此其不仅成为机器学习与数据科学的首选语言,同时在网页、数据爬取scrapy可科学研究等方面成为不二选择。 ...
2020-05-14
大数据时代下,凭借数据管理框架中的重要管理职能,元数据管理也越来越频繁的出现在大家的视野中。 元数据及应用也是数据仓库的重要组成部分,它是描述数据的数据(data about data),描述数据的属性信息,可以帮助 ...
2020-05-14
R语言中的dplyr包非常神奇,里面包含很多的函数,今天我们就来介绍下窗口函数的应用。 窗口函数应用 mtcars %>% group_by(cyl) %>% mutate(rank = min_rank(desc(mpg))) mtcars %>% group_by(cyl) ...
2020-05-14
postgreSQL是一款先进的开源数据库,拥有非常齐全的自由软件的对象-关系型数据库管理系统(ORDBMS),可面向企业复杂SQL的OLTP业务场景,支持多项企业级功能,能解决使用数据库的各种难题。 PostgreSQL的优势有很多 ...
2020-05-14
Spark为结构化数据处理引入了一个称为Spark SQL的编程模块。简而言之,sparkSQL是Spark的前身,是在Hadoop发展过程中,为了给熟悉RDBMS但又不理解MapReduce的技术人员提供快速上手的工具。 sparkSQL提供了一 ...
2020-05-14
维度表和事实表,在构建企业级数据仓库时经常能见到。维度表被看成是用户用来分析一个事实的窗口,它里面的数据应该是对事实的各个方面描述,简而言之就是基础表,如:时间维度表,它里面的数据就是一些日,周,月, ...
2020-05-14
大数据作为继云计算、物联网之后IT行业又一颠覆性的技术,备受关注,要想知道大数据创业方向,一定要知道。Kettle作为ETL工具,在数据管理环节出现,那么我们一起来看看,大数据产业链包括哪几个环节 IT基 ...
2020-05-14
hive默认将元数据存储到本地内嵌的Derby数据库中,但是Derby不支持多会话链接,因此我们使用mysql数据库来存储hive的元数据。配置完成hiveSQL的元数据库之后再开始安装、配置hive。 1、在线安装mysql ...
2020-05-14
最近项目需要一个数据收集分析的功能,做了一些调研。我们一起来看看flume是主流吗? 目前做网络统计的方式有两大类: 1. Page Tagging, 即页面埋点;web端用js,移动端使用共用api。 2. ...
2020-05-13
rdd,英文全称为:Resilient Distributed Dataset,中文简称“弹性分布式数据集”,spark中最基础的抽象数据结构。 RDD具备分区、不可变、并行操作这三个基本特性,表现形式为不可变的分区元素的集合,并且可以在集 ...
2020-05-13
Mapreduce是种编程模型,结合了概念\"Map(映射)\"和\"Reduce(归约)\",用于大规模数据集(大于1TB)的并行运算。它极大地方便了编程人员在不会分布式并行编程的情况下,将自己的程序运行在分布式系统 ...
2020-05-13
docker源自PaaS提供商dotCloud,是一个基于LXC的开源的高级应用容器引擎,源代码托管在 Github 上, 基于go语言并遵从Apache2.0协议开源。 容器是完全使用沙箱机制,使用者可以将其应用打包后放入docker ...
2020-05-13
Spark Streaming、Flink、Kafka三者都是真正的实时处理,它们分别是什么呢?我们今天来了解下。 什么是Spark Streaming? spark streaming是真正的实时处理,是微批处理。 什么是Flink? flin ...
2020-05-13
一般来说,python中DataFrame是可以执行的,可能是初学者在使用过程中,引入了两个DataFrame,导致pandas的DataFrame被覆盖,从而无法运行。 引用zdpandas的DataFrame 我们不会直接引入DataFrame,而是 ...
2020-05-13
Flink其实就是ApacheFlink,是一款业内非常火的大数据产品,由Apache软件基金会开发,核心是用Java和Scala编写的分布式流数据流引擎。Apache Flink是个旨在提供‘一站式’ 的分布式开源数据处理框架。 Flink ...
2020-05-13在数字化时代,数据已成为企业决策的核心驱动力,数据分析与数据挖掘作为解锁数据价值的关键手段,广泛应用于互联网、金融、医疗 ...
2026-04-17在数据处理、后端开发、报表生成与自动化脚本中,将 SQL 查询结果转换为字符串是一项高频且实用的操作。无论是拼接多行数据为逗 ...
2026-04-17面对一份上万行的销售明细表,要快速回答“哪个地区卖得最好”“哪款产品增长最快”“不同客户类型的购买力如何”——这些看似复 ...
2026-04-17数据分析师一天的工作,80% 的时间围绕表格结构数据展开。从一张销售明细表到一份完整的分析报告,表格结构数据贯穿始终。但你真 ...
2026-04-16在机器学习无监督学习领域,Kmeans聚类因其原理简洁、计算高效、可扩展性强的优势,成为数据聚类任务中的主流算法,广泛应用于用 ...
2026-04-16在机器学习建模实践中,特征工程是决定模型性能的核心环节之一。面对高维数据集,冗余特征、无关特征不仅会增加模型训练成本、延 ...
2026-04-16在数字化时代,用户是产品的核心资产,用户运营的本质的是通过科学的指标监测、分析与优化,实现“拉新、促活、留存、转化、复购 ...
2026-04-15在企业数字化转型、系统架构设计、数据治理与AI落地过程中,数据模型、本体模型、业务模型是三大核心基础模型,三者相互支撑、各 ...
2026-04-15数据分析师的一天,80%的时间花在表格数据上,但80%的坑也踩在表格数据上。 如果你分不清数值型和文本型的区别,不知道数据从哪 ...
2026-04-15在人工智能与机器学习落地过程中,模型质量直接决定了应用效果的优劣——无论是分类、回归、生成式模型,还是推荐、预测类模型, ...
2026-04-14在Python网络编程、接口测试、爬虫开发等场景中,HTTP请求的发送与响应处理是核心需求。Requests库作为Python生态中最流行的HTTP ...
2026-04-14 很多新人学完Python、SQL,拿到一张Excel表还是不知从何下手。 其实,90%的商业分析问题,都藏在表格的结构里。 ” 引言:为 ...
2026-04-14在回归分析中,因子(即自变量)的筛选是构建高效、可靠回归模型的核心步骤——实际分析场景中,往往存在多个候选因子,其中部分 ...
2026-04-13在机器学习模型开发过程中,过拟合是制约模型泛化能力的核心痛点——模型过度学习训练数据中的噪声与偶然细节,导致在训练集上表 ...
2026-04-13在数据驱动商业升级的今天,商业数据分析已成为企业精细化运营、科学决策的核心手段,而一套规范、高效的商业数据分析总体流程, ...
2026-04-13主讲人简介 张冲,海归统计学硕士,CDA 认证数据分析师,前云南白药集团资深数据分析师,自媒体 Python 讲师,全网课程播放量破 ...
2026-04-13在数据可视化与业务分析中,同比分析是衡量业务发展趋势、识别周期波动的核心手段,其核心逻辑是将当前周期数据与上年同期数据进 ...
2026-04-13在机器学习模型的落地应用中,预测精度并非衡量模型可靠性的唯一标准,不确定性分析同样不可或缺。尤其是在医疗诊断、自动驾驶、 ...
2026-04-10数据本身是沉默的,唯有通过有效的呈现方式,才能让其背后的规律、趋势与价值被看见、被理解、被运用。统计制图(数据可视化)作 ...
2026-04-10在全球化深度发展的今天,跨文化传播已成为连接不同文明、促进多元共生的核心纽带,其研究核心围绕“信息传递、文化解读、意义建 ...
2026-04-09