机器学习既是艺术又是科学。但当您查看机器学习算法时,没有一种解决方案或一种适合所有情况的算法。有几个因素会影响您选择哪种机器学习。
有些问题非常具体,需要采取独特的方法。例如,如果您使用推荐系统,这是一种非常常见的机器学习算法,解决的是非常具体的问题。而其他问题非常开放,则需要试错的方法去解决。监督学习、分类和回归都是非常开放的。它们可以用于异常检测,或者用来打造更通用的预测模型。。
我们在选择机器学习算法时所做的一些决定,更多地取决于商业决策,而不是优化或者算法的技术面。在下文中,我们将讨论有助于缩小机器学习算法选择范围的一些因素。
在开始审视不同的机器学习算法之前,你必须对你的数据、面临的问题和局限有一个清晰的认识。
在决定使用哪种算法时,必须考虑数据的类型和种类。一些算法只需要少量样本,另一些则需要大量样本。某些算法只能处理特定类型的数据。例如,朴素贝叶斯算法与分类数据相得益彰,但对缺失数据完全不敏感。
因此,您需要:
了解数据
清理数据
3.数据是否需要汇总
增强数据
2.不同的模型可能对特征工程有不同的要求。一些要求已经内置到特征工程中。
下一步是对问题进行归类。这分两步。
2.按输出数据分类。
你已经对自己的处境有了一个清晰的认识,接下来是识别适用的、利用手中工具可以实际执行的算法。影响模型选择的因素包括:
影响算法选择的一个重要标准是模型的复杂性。一般来说,更复杂的模型:
此外,同一种机器学习算法会因为参数的数量或者对某些超参数的选择而变得更加复杂。例如:
使同一算法更复杂,这会增加过拟合的几率。
这可能是最简单的机器学习算法。当你想计算某个连续值的时候,可以使用回归算法,而分类算法的输出数据是类。所以,每当你要预测一个正在进行当中的过程的某个未来值时,你可以使用回归算法。但线性回归在特征冗余(也就是存在多重共线性)的情况下会不稳定。
线性回归的几个用例:
逻辑回归进行二元分类,所以输出数据是二元的。这种算法把非线性函数(sigmoid)应用于特征的线性组合,所以它是一个非常小的神经网络实例。
逻辑回归提供了模型正则化的很多方法,不必担心特征是否相关,就像使用朴素贝叶斯算法的时候一样。与决策树和支持向量机相比,逻辑回归提供了出色的概率解释,能轻易地用新数据来更新模型。如果想建立一个概率框架,或者希望以后将更多的训练数据迅速整合到模型中,可以使用逻辑回归。这种算法还能帮助你了解预测背后的贡献因素,不是一种黑箱方法。
逻辑回归的几个用例:
人们很少使用单一的决策树,但与其他很多决策树结合起来,就能变成非常有效的算法,比如随机森林和梯度提升树。
**决策树可以轻松地处理特征的交互关系,并且是非参数化的,所以不必担心离群值或者数据是否线性可分。**缺点是不支持在线学习,所以在新样本到来时,必须重建决策树。另一个缺点是容易过拟合,但随机森林和提升树等集成方法可以克服这一缺点。决策树还会占用很多内存(特征越多,决策树就可能越深、越大)。
决策树是帮助你在几个行动方案之间作出选择的出色工具。
K-means
有时,你不知道任何标签,你的目标是根据对象的特征赋予标签。这被称为聚类任务。聚类算法的一个用例是根据某些共同属性,将一大群用户分组。
如果在你的问题陈述中,存在“这是如何组织的”等疑问,或者要求将某物分组或聚焦于特定的组,那么你应该采用聚类算法。
K-Means的最大缺点,在于必须事先知道你的数据中将有多少个簇。因此,这可能需要进行很多的尝试,来“猜测”簇的最佳K值。
主成分分析(PCA)
PCA能降维。有时,数据的特征很广泛,可能彼此高度相关,在数据量大的情况下,模型容易过拟合。这时可以使用PCA。
PCA大受欢迎的一个关键,在于除了样本的低维表示以外,它还提供了变量的同步低维表示。同步的样本和变量表示提供了以可视方式寻找一组样本的特征变量。
SVM是一种监督学习方法,被广泛用于模式识别和分类问题(前提是数据只有两类)。
SVM的优点是精度高,对避免过拟合有很好的理论保障,而且只要有了适当的核函数,哪怕数据在基本特征空间中不是线性可分的,SVM也能运行良好。在解决高维空间是常态的文本分类问题时,SVM特别受欢迎。SVM的缺点是消耗大量内存、难以解释和不易调参。
SVM在现实中的几个应用:
这是一种基于贝叶斯定理的分类方法,很容易构建,对大数据集特别有用。除了具有简单的优点以外,朴素贝叶斯甚至好于某些高度复杂的分类方法。在CPU和内存资源是限制因素的情况下,朴素贝叶斯也是很好的选择。
朴素贝叶斯超级简单,只需要做些算术即可。如果朴素贝叶斯关于条件独立的假设确实成立,那么朴素贝叶斯分类器将比逻辑回归等判别模型更快地收敛,因此你需要的训练数据更少。即使假设不成立,朴素贝叶斯分类器在实践中仍然常常表现不俗。如果你需要的是快速简单且表现出色,朴素贝叶斯将是不错的选择。其主要缺点是学习不了特征间的交互关系。
朴素贝叶斯在现实中的几个应用:
随机森林包含多颗决策树。它能解决拥有大数据集的回归和分类问题,还有助于从众多的输入变量中识别最重要的变量。随机森林可扩展到任意维数,其表现通常是可接受的。遗传算法可扩展到任何维度以及对数据本身知之甚少的任何数据,微生物遗传算法实现起来代价最低、最简单。但随机森林的学习速度可能很慢(取决于参数化),而且不可能迭代地改进生成模型。
随机森林在现实中的几个应用:
神经网络包含神经元之间的连接权重。权重是平衡的,在学习数据点后继续学习数据点。所有权重被训练后,神经网络可以用来预测类或者量,如果发生了一个新的输入数据点的回归。用神经网络可以训练极其复杂的模型,它们能作为黑箱,不必在训练模型之前进行不可预测的、复杂的特征工程。再加上“深度方法”,即便是更加不可预测的模型也能被用来实现新的可能性。例如,利用深度神经网络,对象识别近期取得巨大进步。应用于非监督学习任务,比如特征提取,深度学习还能从原始图像或语音中提取特征,不需要太多的人类干预。
另一方面,神经网络非常难以解释说明,参数化极其令人头疼,而且非常耗费资源和内存。
Scikit速查表
scikit-learn提供了一张非常深入、清晰易懂的流程图,帮助你选择适当的算法,用起来非常方便。
总结
通常来说,你可以参考以上内容,缩小算法选择的范围,但一开始很难知道哪个算法最适合你。最好是迭代筛选。把你的数据输入你认为可能是佳选择的机器学习算法,并行或依次运行这些算法,最后评估算法的表现,选出最好的那个。
最后,为现实问题设计恰当的解决方案不仅仅是一个应用数学问题,还需要考虑商业需求、规章制度、利益相关者的关切和相当多的专业知识。在解决一个机器问题时,结合和平衡这几个方面至关重要。能做到这一点的人才能创造最大的价值。
原文链接:https://hackernoon.com/choosing-the-right-machine-learning-algorithm-68126944ce1f
数据分析咨询请扫描二维码
CDA数据分析师在中国航信高科技产业园进行了面向测试度量的数据分析培训课程,培训人数近2 ...
2024-05-01CDA数据分析师走进深圳迈瑞生物医疗电子股份有限公司,在迈瑞总部展开了为期两天的培训,本次课程参训人员线上及线下近百人, ...
2024-05-01CDA数据分析师在合肥市对合肥阳光新能源科技有限公司开展了为期8天的企业内训。 合肥阳光新能源科技 ...
2024-05-01CDA数据分析师走进海尔大学,进行了《数据治理与数据中台建设的道与术》专题培训,培训现场爆满,近百人参加了此次培训。 ...
2024-05-01在中国银行苏州分行培训中心开始数据分析师培训,此次培训课程共10天内容,包括Excel、MySQL、概率论与数理统计、SPSS等内容, ...
2024-05-01从实际的业务需求出发,结合行业的典型应用特点,围绕实际的商业问题,探讨数据挖掘、机器学习模型在金融领域的应用,包括获客、信用评分、细分画像、交叉销售、反欺诈、违规识别、时序预测、运筹优化、流程挖掘九个方面,形成 ...
2024-05-01本次培训课程为线上+线下的模式,由于学员编程能力不一、部分学员没有编程基础,故提供统计学、python基 ...
2024-05-01华夏银行信用卡中心-机器学习培训 1、课程亮点 取材于业界一流企业和顶级咨询公司的行业实践;已经被证明是人人 ...
2024-05-01主 题:数据中台建设及数据分析应用主题分享 1. 数据中台市场洞察 2. 主流数据中台产品比较 3. 某企业数据中 ...
2024-05-01围绕“数据驱动”战略,全力打造我行 300 人数字化人才梯队,着力培养数字化管理人才、大数据专业团队 ...
2024-05-01在当今数据驱动的商业环境中,数据分析成为了企业决策的重要依据。通过对大量数据的收集、处理和分析,企业能够更好地理解市场 ...
2024-04-29在人工智能(AI)的世界里,提示词(Prompt)是一种强大的工具,它能够引导AI按照用户的需求产生特定的输出。本文将深入探讨AI ...
2024-04-29CDA立足未来职场,拓展前沿视野——对外经贸大学保险学院举办“三全育人大讲堂”分享行业最新动态。 ...
2024-04-294月2日,CDA数据分析师创始发起人兼协会理事长赵坚毅博士受邀在浙江万里学院举办了一场以“数字化能力在职场中的作用” ...
2024-04-29随机森林(Random Forests)现在机器学习中比较火的一个算法,是一种基于Bagging的集成学习方法,能够很好地处理分类和回归的问 ...
2022-12-23方差分析是数据分析中常用的一种统计分析方法,接下来让我们简单了解一下方差分析的基本思想和原理吧。 方差分析(Analysis ...
2022-12-23来源:关于数据分析与可视化 关于streamlit-aggrid 数据排序 表格样式的调整 数据 ...
2022-08-03作者:麦叔 定义 「把上面晦涩的概念汇成一句话就是:」 ❝ 回调函数就是一个被作为参 ...
2022-08-03现今,高学历人群日益增多,物以稀为贵的高学历光环淡去。无论本科生还是研究生,甚至博士生,求职竞争力都大不如前,就业压力越来越大。
2022-06-01某家企业10个人面试,有9个本科生……如何脱颖而出,除得体的举止和良好的沟通力外,证书成重要筹码,这也是很多人考证的关键所在。
2022-04-14