SPSS神经网络心得(一)
SPSS神经网络,是一个非线性的数据建模工具集合,包括输入层和输出层、一个或者多个隐藏层。神经元之间的连接赋予相关的权重,训练算法在迭代过程中不断调整这些权重,从而使得预测误差最小化并给出预测精度。包括多层感知器(MLP)和径向基函数(RBF)两种方法。本人只研究了多层感知器的方法。
使用SPSS神经网络,可以将数据拆分成训练集、测试集、验证集。训练集用来估计网络参数;测试集用来防止过度训练。验证样本用来单独评估最终网络。
多层感知器(MLP)
MLP通过多层感知器来拟合神经网络。多层感知器是一个前馈式有监督的结构。它可以包含多个隐藏层、一个或者多个因变量。
变量
因变量:在函数关系式中,某特定的数会随一个(或几个)变动的数的变动而变动。
协变量:在实验的设计中,协变量是一个独立变量(解释变量),不为实验者所操纵,但仍影响实验结果。协变量可以进行重标度:标准化(A)、标准化、调整标准化。
• 标准化(A)。 减去均值并除以标准差,(x−均值)/s。
• 标准化。 减去均值并除以范围,(x−min)/(max−min)。标准化值介于 0 和 1 之间。
• 调整标准化。 减去最小值并除以范围所得到的调整版本,[2*(x−min)/(max−min)]−1。调整的标准化值介于 −1 和 1 之间。
分区
分区数据集。 此组指定将活动数据集划分为训练集、测试集或验证集的方法。训练集包含用于训练神经网络的数据记录;数据集中的某些个案百分比必须分配给训练样本以获得一个模型。测试集是一个用于跟踪训练过程中的错误以防止超额训练的独立数据记录集。强烈建议您创建一个训练集,并且如果测试集小于训练集,网络训练通常最高效。验证集是另一个用于评估最终神经网络的独立数据记录集。
• 根据个案的相对数量随机分配个案。 指定随机分配到每个样本(训练、测试和验证)的个案的相对数量(比率)。% 列根据您已经指定的相对数量,报告将被分配到每个样本的个案的百分比。
例如,指定 7、3、0 作为训练、检验和坚持样本的相对数量对应于 70%、30% 和 0%。指定 2、1、1 作为相对数量对应 50%、25% 和 25%;1、1、1 对应将数据集在训练、检验和坚持中分为相等的三部分。
• 使用分区变量分配个案。 指定一个将活动数据集中的每个个案分配到训练、检验和坚持样本中的数值变量。变量为正值的个案被分配到训练集中,值为 0 的个案被分配到测试集中,而负值个案被分配到验证集中。具有系统缺失值的个案会从分析中排除。分区变量的任何用户缺失值始终视为有效。
体系结构
“体系结构”选项卡用于指定网络结构。该过程可以自动选择“最佳”体系结构,或者也可以指定自定义体系结构。
隐藏层
隐藏层包含无法观察的网络节点(单位)。每个隐藏单位是一个输入权重总和的函数。该函数是激活函数,而且权重值由估计算法确定。如果网络包含第二个隐藏层,第二个层中的每个隐藏单位是第一个隐藏层中权重之和的函数。两个层使用相同激活函数。
隐藏层数. 一个多层感知器可以有一个或两个隐藏层。
激活函数. 激活函数将某个层中的单位的加权和“关联”到下一层的单位值。
• 双曲正切。 此函数格式:γ(c) = 此函数格式:γ(c) =>
• Sigmoid。 此函数格式:γ(c) = 1/(1+e^(−c))。其取实数值参数并将其变换到(0、1)范围。
单位数. 可以明确指定或由估计算法自动确定每个隐藏层中的单元数。
输出层
输出层包含目标(因)变量。
激活函数.激活函数将某个层中的单位的加权和“关联”到下一层的单位值。
• 恒等。 此函数格式:γ(c) = c。其取实数值参数并且其返回值保持不变。使用自动体系结构选择时,如果存在刻度因变量,则此为输出层中所有单位的激活函数。
• Softmax。 其取实数值参数的矢量,并将其变换到元素介于(0、1)范围的矢量,和为 1。只有所有因变量是分类变量时,才可以使用 Softmax。使用自动体系结构选择时,如果所有因变量是分类变量,此为输出层中所有单位的激活函数。
• 双曲正切
• Sigmoid
尺度因变量重标度。 至少选择一个刻度因变量时才可以使用这些控制。
如果输出层使用 sigmoid 激活函数,则此为刻度因变量所需的重标度方法。修正值选项指定一个较小数字 ε,并将其作为修正值应用于重标度公式中;此修正值确保所有重标度因变量值介于激活函数范围。具体来说,当 x 取最小值和最大值时,未修正的公式中的值 0 和 1 将定义 sigmoid 函数的范围限制,但是不介于该范围之内。修正公式为 [x−(min−ε)]/[(max+ε)−(min−ε)]。请指定大于等于 0 的数。
如果输出层使用双曲正切激活函数,则此为刻度因变量所需的重标度方法。修正值选项指定一个较小数字 ε,并将其作为修正值应用于重标度公式中;此修正值确保所有重标度因变量值介于激活函数范围。具体来说,当 x 取最小值和最大值时,未修正的公式中的值− 1 和 1 将定义双曲正切函数的范围限制,但是不介于该范围之内。修正公式为 {2*[(x−(min−ε))/((max+ε)−(min−ε))]}−1。指定一个大于或等于 0 的数字。
培训
“培训”选项卡用于指定如何培训网络。培训的类型和优化算法确定哪个培训选项可用。
培训类型。 培训类型确定网络如何处理记录。从下列培训类型中选择:
• 批处理。 只有传递所有培训数据记录之后才能更新键结值;也就是说,批处理培训使用培训数据集中所有记录信息。批处理培训通常为首选方法,因为它直接使总误差最小;然而,批处理培训可能需要多次更新权重,直至满足其中一条中止规则,因此可能需要传递数据多次。其对于“较小”数据集最有用。
•
在线。 在每一个培训数据记录之后更新键结值;也就是说,在线培训一次使用一个记录信息。在线培训连续获取记录并更新权重,直至满足其中一条中止规则。如果一次使用所有记录,而且不满足任何中止规则,那么该过程通过循环数据记录继续。对于与预测变量相关的“较大”数据集,在线培训要优于批处理;也就是说,如果有许多记录和输入,并且其值之间不相互独立,那么在线培训可以比批处理培训更快获取一个合理答案。
•
袖珍型批处理。 将培训数据记录划分到大小近似相等的组中,然后在传递一组之后更新键结值;也就是说,袖珍型批处理培训使用一组记录信息。然后,如果需要,该过程循环数据组。袖珍型批处理培训提供介于批处理培训和在线培训之间的折中方法,它可能最适于“中型”数据集。该过程可以自动确定每个袖珍型批处理培训记录的数目,或者您可以指定一个大于
1 并小于或等于将存储到内存的个案的最大数目的整数。您可以在选项选项卡上设置将存储到内存的个案最大数目。
优化算法。 这是一种用于估计键结值的方法。
• 调整的共轭梯度。 使用共轭梯度方法对齐的假设仅应用于批处理培训类型,所以此方法不适用于在线培训或袖珍型批处理培训。
• 梯度下降。 此方法需与在线培训或袖珍型批处理培训共同使用;也可以与批处理培训共同使用。
培训选项。 该培训选项允许您细微调整优化算法。您一般无需更改这些设置,除非网络出现估计问题。
数据分析咨询请扫描二维码
CDA数据分析师在中国航信高科技产业园进行了面向测试度量的数据分析培训课程,培训人数近2 ...
2024-05-01CDA数据分析师走进深圳迈瑞生物医疗电子股份有限公司,在迈瑞总部展开了为期两天的培训,本次课程参训人员线上及线下近百人, ...
2024-05-01CDA数据分析师在合肥市对合肥阳光新能源科技有限公司开展了为期8天的企业内训。 合肥阳光新能源科技 ...
2024-05-01CDA数据分析师走进海尔大学,进行了《数据治理与数据中台建设的道与术》专题培训,培训现场爆满,近百人参加了此次培训。 ...
2024-05-01在中国银行苏州分行培训中心开始数据分析师培训,此次培训课程共10天内容,包括Excel、MySQL、概率论与数理统计、SPSS等内容, ...
2024-05-01从实际的业务需求出发,结合行业的典型应用特点,围绕实际的商业问题,探讨数据挖掘、机器学习模型在金融领域的应用,包括获客、信用评分、细分画像、交叉销售、反欺诈、违规识别、时序预测、运筹优化、流程挖掘九个方面,形成 ...
2024-05-01本次培训课程为线上+线下的模式,由于学员编程能力不一、部分学员没有编程基础,故提供统计学、python基 ...
2024-05-01华夏银行信用卡中心-机器学习培训 1、课程亮点 取材于业界一流企业和顶级咨询公司的行业实践;已经被证明是人人 ...
2024-05-01主 题:数据中台建设及数据分析应用主题分享 1. 数据中台市场洞察 2. 主流数据中台产品比较 3. 某企业数据中 ...
2024-05-01围绕“数据驱动”战略,全力打造我行 300 人数字化人才梯队,着力培养数字化管理人才、大数据专业团队 ...
2024-05-01在当今数据驱动的商业环境中,数据分析成为了企业决策的重要依据。通过对大量数据的收集、处理和分析,企业能够更好地理解市场 ...
2024-04-29在人工智能(AI)的世界里,提示词(Prompt)是一种强大的工具,它能够引导AI按照用户的需求产生特定的输出。本文将深入探讨AI ...
2024-04-29CDA立足未来职场,拓展前沿视野——对外经贸大学保险学院举办“三全育人大讲堂”分享行业最新动态。 ...
2024-04-294月2日,CDA数据分析师创始发起人兼协会理事长赵坚毅博士受邀在浙江万里学院举办了一场以“数字化能力在职场中的作用” ...
2024-04-29随机森林(Random Forests)现在机器学习中比较火的一个算法,是一种基于Bagging的集成学习方法,能够很好地处理分类和回归的问 ...
2022-12-23方差分析是数据分析中常用的一种统计分析方法,接下来让我们简单了解一下方差分析的基本思想和原理吧。 方差分析(Analysis ...
2022-12-23来源:关于数据分析与可视化 关于streamlit-aggrid 数据排序 表格样式的调整 数据 ...
2022-08-03作者:麦叔 定义 「把上面晦涩的概念汇成一句话就是:」 ❝ 回调函数就是一个被作为参 ...
2022-08-03现今,高学历人群日益增多,物以稀为贵的高学历光环淡去。无论本科生还是研究生,甚至博士生,求职竞争力都大不如前,就业压力越来越大。
2022-06-01某家企业10个人面试,有9个本科生……如何脱颖而出,除得体的举止和良好的沟通力外,证书成重要筹码,这也是很多人考证的关键所在。
2022-04-14