
作者 | Susan Malaika编译 | CDA数据分析师
了解AutoAI如何实现数据准备,模型开发,功能工程和超参数优化的自动化。
近年来,数据驱动的决策已成为企业成功的关键。使用技术进行数据驱动的实践有很多好处,包括优化生产和制造,减少客户流失,减少数据冗余,增加利润和创造竞争优势。因此,随着组织采用以数据为依据的决策方法,数据科学已变得流行起来。数据科学家需要广泛的技能,包括数学和统计,机器学习和人工智能(AI),数据库和云计算以及数据可视化。但是,很难招募到足够的数据科学家,尤其是具有足够领域知识的专家,例如银行,医疗保健,人力资源,制造业和电信公司,对于要执行的任务和要做出的决定的岗位往往是人手不够的。与此同时,数据科学正日益成为一种素养,许多工作角色(包括员工没有很强的编码技能的角色)都需要了解数据科学技术。
因此,在与开发新工具以提高数据科学家工作效率的同时,也出现了一些技术开发,这些开发的重点是创建软件,使数据科学工作流程中的任务实现自动化,例如Google的AutoML,H2O,DataRobot,以及Auto-sklearn和TPOT等开源库。其中许多系统都基于scikit-learn Python机器学习库。它们是人工智能的例子,因为人工智能技术正被用于构建人工智能解决方案。$IBM^®$为人工智能技术生产了最先进的人工智能,并以AutoAI的形式将其整合到其产品组合中。
AutoAI是IBM Cloud Pak for Data的标准配置,可在混合多云环境中使用和扩展。AutoAI自动执行数据准备,模型开发,特征工程和超参数优化。AutoAI AI生命周期管理在入门和探索要问的问题时提供了很大的帮助。然后,它支持后续实验,模型修改和调整步骤。通过IBM Watson™Studio,也可以在不使用Cloud Pak for Data的情况下使用AutoAI。
AutoAI是人工智能一个令人兴奋的例子。AutoAI工具会自动分析您的数据并生成针对预测建模问题定制的候选模型方案。随着AutoAI算法了解有关您的数据集的更多信息,会发现最适合您的问题的数据转换,评估器算法和参数设置,这些模型方案会随着时间的推移而创建。结果会显示在一个排行榜上,显示自动生成的模型方案,并根据问题优化目标进行排序,从而鼓励您进行进一步的实验。
数据科学通常涉及提出更好的问题,例如,确定适当的属性,通过探索这些属性是预测结果。这意味着需要构建许多不同的模型,并且需要选择不同的特征并应用不同的超参数去优化模型。AutoAI中的选项可以通过加快人工智能流程或提供人员参与点来探索更好的问题。
整个AutoAI流程可在数分钟内自动完成(取决于数据量和其他考虑因素),而无需人工干预,创建出基础解决方案并使之适合初学者。然而,这个领域的专家可以轻松地与AutoAI进行交互,来将他们的知识整合到自动化方案中,以改进生成的模型并根据其特定需求进行定制。
专家可以在AutoAI流程中手动指定他们自己的偏好以使其符合该领域的知识要求,下面是几个可供选择的人机交互的点的示例:
有人声称,由人工智能构建的人工智能比人类更出色。Dakuo Wang博士及其团队最近进行的一项定性研究有许多数据科学家参与。一些参与者被要求使用IBM AutoAI构建模型。其他参与者在Jupyter Notebook环境中使用Python库操作完成相同的任务。该研究表明,与AutoAI一起工作的数据科学家可以显著更好地构建模型(ROC- AUC得分为0.92对0.90),更快(4.4分钟对15分钟),人为错误更少(100%对46.7%的参与者在指定的时间内成功完成了建模任务)。这项研究还揭示了数据科学家与AutoAI系统的互动的态度, 受访者认为,数据科学家与自动化AI系统之间存在协作关系,而不是竞争关系。
AutoAI的设计目的是在加快实验过程的同时,融入人类的反馈并增强数据科学实践。这使得没有较强编码技能的个人可以探索不同的选项,确定更好的问题,选择最合适的模型,然后将模型转移到项目部署中。
AutoAI的仪表板促进了人机交互,而不是取代人机交互,从而使数据科学家和领域专家能够做出明智的选择并为模型创建做出贡献。在IBM AutoAI系统的以下图形界面中,您可以看到如何构建八个模型(顶部可视化)以及根据所选度量(ROC-AUC)对模型进行排名的排行榜(底部列表)。在数十种算法中,AutoAI选择了逻辑回归和随机森林这两种算法,并为每种算法生成了四个模型。在全部使用逻辑回归算法的四个模型中,模型P2包括一个超参数优化步骤,该步骤将其与P1相区别。模型P3包括特征工程步骤,而P4包括第二个HPO步骤。
IBM研究人员将这种与AI系统一起工作的模式称为“Human-AI Collaboration”,即人与人工智能系统在特定任务上作为合作伙伴一起工作,在这种协作中,双方共同贡献出互补的不可或缺的能力。
AutoAI是IBM Cloud Pak for Data的标准配置,可在混合多云环境中使用和扩展。AutoAI有很多好处,特别是在支持人们更好地理解和预测其特定业务或专业方面。这些好处包括:
该技术正在迅速变化,因此需要继续关注迁移学习,业务限制等方面的进一步发展。
Watson Studio Cloud中的AutoAI现已上市。作为IBM Cloud Pak for Data一部分的AutoAI将于今年晚些时候上市。
Dakuo Wang是位于马萨诸塞州剑桥的IBM Research AI的一名研究科学家。他的研究在人机交互(HCI)和人工智能(AI)之间的交集。现在,他领导着一组研究人员,工程师和设计师来为IBM AutoAI进行研究和设计用户体验,这是一种使端到端(一端输入原始数据,一端输出结果,只关心输入和输出,中间步骤全不管的方法)机器学习模型自动化的解决方案。通过研究用户如何与各种AI系统(例如AutoAI,聊天机器人和临床决策支持系统(CDSS))一起协作,他提出了“人与AI协作”作为研究和设计与人类协作作的AI系统的新框架。加入IBM Research之前,Dakuo Wang获得了博士学位。加州大学欧文分校的信息和计算机科学硕士和硕士学位(MS )获得巴黎中央电子信息系统信息系统学位,并获得北京工业大学计算机科学学士学位。他曾在法国,中国和美国担任工程师,设计师和研究员。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
“纲举目张,执本末从。”若想在数据分析领域有所收获,一套合适的学习教材至关重要。一套优质且契合需求的学习教材无疑是那关键 ...
2025-06-092025 年,数据如同数字时代的 DNA,编码着人类社会的未来图景,驱动着商业时代的运转。从全球互联网用户每天产生的2.5亿TB数据, ...
2025-05-27CDA数据分析师证书考试体系(更新于2025年05月22日)
2025-05-26解码数据基因:从数字敏感度到逻辑思维 每当看到超市货架上商品的排列变化,你是否会联想到背后的销售数据波动?三年前在零售行 ...
2025-05-23在本文中,我们将探讨 AI 为何能够加速数据分析、如何在每个步骤中实现数据分析自动化以及使用哪些工具。 数据分析中的AI是什么 ...
2025-05-20当数据遇见人生:我的第一个分析项目 记得三年前接手第一个数据分析项目时,我面对Excel里密密麻麻的销售数据手足无措。那些跳动 ...
2025-05-20在数字化运营的时代,企业每天都在产生海量数据:用户点击行为、商品销售记录、广告投放反馈…… 这些数据就像散落的拼图,而相 ...
2025-05-19在当今数字化营销时代,小红书作为国内领先的社交电商平台,其销售数据蕴含着巨大的商业价值。通过对小红书销售数据的深入分析, ...
2025-05-16Excel作为最常用的数据分析工具,有没有什么工具可以帮助我们快速地使用excel表格,只要轻松几步甚至输入几项指令就能搞定呢? ...
2025-05-15数据,如同无形的燃料,驱动着现代社会的运转。从全球互联网用户每天产生的2.5亿TB数据,到制造业的传感器、金融交易 ...
2025-05-15大数据是什么_数据分析师培训 其实,现在的大数据指的并不仅仅是海量数据,更准确而言是对大数据分析的方法。传统的数 ...
2025-05-14CDA持证人简介: 万木,CDA L1持证人,某电商中厂BI工程师 ,5年数据经验1年BI内训师,高级数据分析师,拥有丰富的行业经验。 ...
2025-05-13CDA持证人简介: 王明月 ,CDA 数据分析师二级持证人,2年数据产品工作经验,管理学博士在读。 学习入口:https://edu.cda.cn/g ...
2025-05-12CDA持证人简介: 杨贞玺 ,CDA一级持证人,郑州大学情报学硕士研究生,某上市公司数据分析师。 学习入口:https://edu.cda.cn/g ...
2025-05-09CDA持证人简介 程靖 CDA会员大咖,畅销书《小白学产品》作者,13年顶级互联网公司产品经理相关经验,曾在百度、美团、阿里等 ...
2025-05-07相信很多做数据分析的小伙伴,都接到过一些高阶的数据分析需求,实现的过程需要用到一些数据获取,数据清洗转换,建模方法等,这 ...
2025-05-06以下的文章内容来源于刘静老师的专栏,如果您想阅读专栏《10大业务分析模型突破业务瓶颈》,点击下方链接 https://edu.cda.cn/g ...
2025-04-30CDA持证人简介: 邱立峰 CDA 数据分析师二级持证人,数字化转型专家,数据治理专家,高级数据分析师,拥有丰富的行业经验。 ...
2025-04-29CDA持证人简介: 程靖 CDA会员大咖,畅销书《小白学产品》作者,13年顶级互联网公司产品经理相关经验,曾在百度,美团,阿里等 ...
2025-04-28CDA持证人简介: 居瑜 ,CDA一级持证人国企财务经理,13年财务管理运营经验,在数据分析就业和实践经验方面有着丰富的积累和经 ...
2025-04-27