shuffle是一个能产生奇迹的地方，不管是在 Spark 还是Hadoop中，它们的作用都是至关重要的。 在Spark中，一般在执行reduceByKey、groupByKey、sortByKey、countByKey、join、cogroup等操作时，会发生shuff ...
2020-05-13
HDFS集群有两类节点，并以管理者-工作者模式运行，即一个NameNode（管理者）和多个DataNode（工作者）。 NameNode是Master节点，有点类似Linux里的根目录，是管理文件系统的命名空间。管理数据块映射 ...
2020-05-12
桑基是何许图也 据小z不严谨的抽样提问统计，90%想学习桑基图的旁友，都是被她妖艳炫酷的外表所吸引。 而桑基图真正代表了什么？和类似图表相比的独特性是什么？ ...
2020-05-12
Series数据结构 Series是一种类似于一位数组的对象，由一组数据及一组与之相关的数据标签（即索引）组成。 上面这样的数据结构就是Series，第一列数字是数据标签，第二列是具体的数据 ...
2020-05-12
Python在数据分析领域受到社会大众的欢迎，一般而言，在windows上也是能运行Python程序的，不过前提是需要安装python解释器。但是绝大多数的python程序都是跑在Linux机器上的，所以我们需要配置一台linu ...
2020-05-12
Kudu是一个列式存储的用于快速分析的NoSQL数据库，提供了类似SQL的查询语句，与RDBMS十分类似，有**PRIMARY KEY **，基于主键查询而不是HBase的RowKey。 kudu拥有毫秒级延迟 与其他大数据数据库不同，Kud ...
2020-05-12
什么是卡方分布呢？ 卡方分布（chi-square distribution），又名西格玛分布，统计学领域的应用学科，是统计学中的一个非常有用的著名分布。 当n个相互独立的随机变量ξ₁，ξ₂，...,ξn ，均服从标 ...
2020-05-12
俗话说的好，工欲善其事，必先利其器。很多从事数据统计分析工作的朋友应该会深有感触，苦于自己80%的时间在做数据清洗，而仅仅只有20%的时间在优化模型、分析统计结果等，今天我们就来介绍下SQL数据清洗。 因此， ...
2020-05-12
（1）Excel实现 缺失值填充前后的对比如下图所示： 在数据中年龄用数字填充合适，但是性别用数字填充就不太合适，那么可不可以分开填充呢？答案是可以的，选中想要被填充的那一列，按照填充全部数据的方式进行填充 ...
2020-05-11
从菜市场买来的菜，总有一些是坏掉的不太好的，所以把菜买回来之后要做一遍预处理，也就是把那些坏掉的不太好的部分扔掉。现实中大部分的数据都类似于菜市场的菜品，拿到手以后会有一些不好的数据，所以都要先做 ...
2020-05-11
《python统计分析》以基础的统计学知识和假设检验为重点，简明扼要地讲述了Python在数据分析、可视化和统计建模中的应用。 主要包括Python的简单介绍、研究设计、数据管理、概率分布、不同数据类型的假设检 ...
2020-05-11
最近，看到一道有关T分布的试题《T分布是一条以0为中心左右对称的曲线吗？》确实，T分布是以0为中心，左右对称的一簇单峰曲线。不过，当其自由度越小，曲线的峰度越低，尾部越高，当自由度趋于无穷大时，t分布就是标 ...
2020-05-11
混淆矩阵(Confusion Matrix)，也成为误差矩阵，是用n行n列矩阵形式来表示的表，这张表通过对比已知分类结果的测试数据的预测值和真实值表来描述衡量分类器的性能。 在二分类的情况下，混淆矩阵是展示预测 ...
2020-05-11
统计分析中的长尾分布理论认为，由于成本和效率的因素，过去人们只会关注重要的人或事，如果用需求曲线来描述，受精力与成本等客观因素的限制，人们通常只会关注曲线的“头部”，而选择忽略曲线的“尾部 ...
2020-05-11
现在大数据成为一个热门话题， 然而无论是网页、产品信息、车辆的功能、文本、病例，还是气象等数据， 对数据的理解的第一步就是要理解数据之间的关联。认同这一点的话， 就能够理解为什么图论在将来能够为人们的 ...
2020-05-11
最近在接触kaggle的竞赛示例，练习了一下，感觉受益匪浅。同时，心中也有个问题。拿到数据之后第一件事是什么？分析数据的情况？怎么分析？分析之后如何去处理数据呢？等等一些数据分析的工作。其中，大家都可能非 ...
2020-05-11
python数据挖掘，指用python对数据进行处理，从大型数据库的分析中，发现预测信息的过程。 什么是数据挖掘？ 数据挖掘（英文全称Data Mining，简称DM），指从大量的数据中挖掘出未知且有价值的信息和只 ...
2020-05-11
一提到深度学习，大部分人会觉得一定非常难，其实不然，深度学习背后的主要原因是人工智能应该从人脑中汲取灵感，而python深度学习，指的是使用编程语言Python来进行深度学习。 众所周知，Python是一门 ...
2020-05-11
说道SQL难不难学的问题，应该是见仁见智吧！对于有目标的人而言，学习SQL就会变得简单，大家一定相信这点。当然，千里之行始于足下，学习并没有什么捷径，只能靠努力。 SQLServer是一个可扩展的、高性能的、为分布 ...
2020-05-09
随着科技的日新月异，人们对数据的依赖稳步上升中，尤其在商业等领域，对于企业而言正确且连贯的数据流，是他们做出快速、精准的决策的重要依据之一。因此，建立正确的数据流和数据结构才能保证最好的结果，这个过程 ...
2020-05-09在大模型从实验室走向生产环境的过程中，“稳定性” 是决定其能否实用的关键 —— 一个在单轮测试中表现优异的模型，若在高并发 ...
2025-10-15在机器学习入门领域，“鸢尾花数据集（Iris Dataset）” 是理解 “特征值” 与 “目标值” 的最佳案例 —— 它结构清晰、维度适 ...
2025-10-15在数据驱动的业务场景中，零散的指标（如 “GMV”“复购率”）就像 “散落的零件”，无法支撑系统性决策；而科学的指标体系，则 ...
2025-10-15在神经网络模型设计中，“隐藏层层数” 是决定模型能力与效率的核心参数之一 —— 层数过少，模型可能 “欠拟合”（无法捕捉数据 ...
2025-10-14在数字化浪潮中，数据分析师已成为企业 “从数据中挖掘价值” 的核心角色 —— 他们既要能从海量数据中提取有效信息，又要能将分 ...
2025-10-14在企业数据驱动的实践中，“指标混乱” 是最常见的痛点：运营部门说 “复购率 15%”，产品部门说 “复购率 8%”，实则是两者对 ...
2025-10-14在手游行业，“次日留存率” 是衡量一款游戏生死的 “第一道关卡”—— 它不仅反映了玩家对游戏的初始接受度，更直接决定了后续 ...
2025-10-13分库分表，为何而生？ 在信息技术发展的早期阶段，数据量相对较小，业务逻辑也较为简单，单库单表的数据库架构就能够满足大多数 ...
2025-10-13在企业数字化转型过程中，“数据孤岛” 是普遍面临的痛点：用户数据散落在 APP 日志、注册系统、客服记录中，订单数据分散在交易 ...
2025-10-13在数字化时代，用户的每一次行为 —— 从电商平台的 “浏览→加购→购买”，到视频 APP 的 “打开→搜索→观看→收藏”，再到银 ...
2025-10-11在机器学习建模流程中，“特征重要性分析” 是连接 “数据” 与 “业务” 的关键桥梁 —— 它不仅能帮我们筛选冗余特征、提升模 ...
2025-10-11在企业的数据体系中，未经分类的数据如同 “杂乱无章的仓库”—— 用户行为日志、订单记录、商品信息混杂存储，CDA（Certified D ...
2025-10-11在 SQL Server 数据库操作中，“数据类型转换” 是高频需求 —— 无论是将字符串格式的日期转为datetime用于筛选，还是将数值转 ...
2025-10-10在科研攻关、工业优化、产品开发中，正交试验（Orthogonal Experiment）因 “用少量试验覆盖多因素多水平组合” 的高效性，成为 ...
2025-10-10在企业数据量从 “GB 级” 迈向 “PB 级” 的过程中，“数据混乱” 的痛点逐渐从 “隐性问题” 变为 “显性瓶颈”：各部门数据口 ...
2025-10-10在深度学习中，“模型如何从错误中学习” 是最关键的问题 —— 而损失函数与反向传播正是回答这一问题的核心技术：损失函数负责 ...
2025-10-09本文将从 “检验本质” 切入，拆解两种方法的核心适用条件、场景边界与实战选择逻辑，结合医学、工业、教育领域的案例，让你明确 ...
2025-10-09在 CDA 数据分析师的日常工作中，常会遇到这样的困惑：某电商平台 11 月 GMV 同比增长 20%，但究竟是 “长期趋势自然增长”，还 ...
2025-10-09Pandas 选取特定值所在行：6 类核心方法与实战指南 在使用 pandas 处理结构化数据时，“选取特定值所在的行” 是最高频的操作之 ...
2025-09-30球面卷积神经网络（SCNN） 为解决这一痛点，球面卷积神经网络（Spherical Convolutional Neural Network, SCNN） 应运而生。它通 ...
2025-09-30
