京公网安备 11010802034615号
经营许可证编号:京B2-20210330
作者 | Susan Malaika编译 | CDA数据分析师
了解AutoAI如何实现数据准备,模型开发,功能工程和超参数优化的自动化。
近年来,数据驱动的决策已成为企业成功的关键。使用技术进行数据驱动的实践有很多好处,包括优化生产和制造,减少客户流失,减少数据冗余,增加利润和创造竞争优势。因此,随着组织采用以数据为依据的决策方法,数据科学已变得流行起来。数据科学家需要广泛的技能,包括数学和统计,机器学习和人工智能(AI),数据库和云计算以及数据可视化。但是,很难招募到足够的数据科学家,尤其是具有足够领域知识的专家,例如银行,医疗保健,人力资源,制造业和电信公司,对于要执行的任务和要做出的决定的岗位往往是人手不够的。与此同时,数据科学正日益成为一种素养,许多工作角色(包括员工没有很强的编码技能的角色)都需要了解数据科学技术。
因此,在与开发新工具以提高数据科学家工作效率的同时,也出现了一些技术开发,这些开发的重点是创建软件,使数据科学工作流程中的任务实现自动化,例如Google的AutoML,H2O,DataRobot,以及Auto-sklearn和TPOT等开源库。其中许多系统都基于scikit-learn Python机器学习库。它们是人工智能的例子,因为人工智能技术正被用于构建人工智能解决方案。$IBM^®$为人工智能技术生产了最先进的人工智能,并以AutoAI的形式将其整合到其产品组合中。
AutoAI是IBM Cloud Pak for Data的标准配置,可在混合多云环境中使用和扩展。AutoAI自动执行数据准备,模型开发,特征工程和超参数优化。AutoAI AI生命周期管理在入门和探索要问的问题时提供了很大的帮助。然后,它支持后续实验,模型修改和调整步骤。通过IBM Watson™Studio,也可以在不使用Cloud Pak for Data的情况下使用AutoAI。
AutoAI是人工智能一个令人兴奋的例子。AutoAI工具会自动分析您的数据并生成针对预测建模问题定制的候选模型方案。随着AutoAI算法了解有关您的数据集的更多信息,会发现最适合您的问题的数据转换,评估器算法和参数设置,这些模型方案会随着时间的推移而创建。结果会显示在一个排行榜上,显示自动生成的模型方案,并根据问题优化目标进行排序,从而鼓励您进行进一步的实验。
数据科学通常涉及提出更好的问题,例如,确定适当的属性,通过探索这些属性是预测结果。这意味着需要构建许多不同的模型,并且需要选择不同的特征并应用不同的超参数去优化模型。AutoAI中的选项可以通过加快人工智能流程或提供人员参与点来探索更好的问题。
整个AutoAI流程可在数分钟内自动完成(取决于数据量和其他考虑因素),而无需人工干预,创建出基础解决方案并使之适合初学者。然而,这个领域的专家可以轻松地与AutoAI进行交互,来将他们的知识整合到自动化方案中,以改进生成的模型并根据其特定需求进行定制。
专家可以在AutoAI流程中手动指定他们自己的偏好以使其符合该领域的知识要求,下面是几个可供选择的人机交互的点的示例:
有人声称,由人工智能构建的人工智能比人类更出色。Dakuo Wang博士及其团队最近进行的一项定性研究有许多数据科学家参与。一些参与者被要求使用IBM AutoAI构建模型。其他参与者在Jupyter Notebook环境中使用Python库操作完成相同的任务。该研究表明,与AutoAI一起工作的数据科学家可以显著更好地构建模型(ROC- AUC得分为0.92对0.90),更快(4.4分钟对15分钟),人为错误更少(100%对46.7%的参与者在指定的时间内成功完成了建模任务)。这项研究还揭示了数据科学家与AutoAI系统的互动的态度, 受访者认为,数据科学家与自动化AI系统之间存在协作关系,而不是竞争关系。
AutoAI的设计目的是在加快实验过程的同时,融入人类的反馈并增强数据科学实践。这使得没有较强编码技能的个人可以探索不同的选项,确定更好的问题,选择最合适的模型,然后将模型转移到项目部署中。
AutoAI的仪表板促进了人机交互,而不是取代人机交互,从而使数据科学家和领域专家能够做出明智的选择并为模型创建做出贡献。在IBM AutoAI系统的以下图形界面中,您可以看到如何构建八个模型(顶部可视化)以及根据所选度量(ROC-AUC)对模型进行排名的排行榜(底部列表)。在数十种算法中,AutoAI选择了逻辑回归和随机森林这两种算法,并为每种算法生成了四个模型。在全部使用逻辑回归算法的四个模型中,模型P2包括一个超参数优化步骤,该步骤将其与P1相区别。模型P3包括特征工程步骤,而P4包括第二个HPO步骤。
IBM研究人员将这种与AI系统一起工作的模式称为“Human-AI Collaboration”,即人与人工智能系统在特定任务上作为合作伙伴一起工作,在这种协作中,双方共同贡献出互补的不可或缺的能力。
AutoAI是IBM Cloud Pak for Data的标准配置,可在混合多云环境中使用和扩展。AutoAI有很多好处,特别是在支持人们更好地理解和预测其特定业务或专业方面。这些好处包括:
该技术正在迅速变化,因此需要继续关注迁移学习,业务限制等方面的进一步发展。
Watson Studio Cloud中的AutoAI现已上市。作为IBM Cloud Pak for Data一部分的AutoAI将于今年晚些时候上市。
Dakuo Wang是位于马萨诸塞州剑桥的IBM Research AI的一名研究科学家。他的研究在人机交互(HCI)和人工智能(AI)之间的交集。现在,他领导着一组研究人员,工程师和设计师来为IBM AutoAI进行研究和设计用户体验,这是一种使端到端(一端输入原始数据,一端输出结果,只关心输入和输出,中间步骤全不管的方法)机器学习模型自动化的解决方案。通过研究用户如何与各种AI系统(例如AutoAI,聊天机器人和临床决策支持系统(CDSS))一起协作,他提出了“人与AI协作”作为研究和设计与人类协作作的AI系统的新框架。加入IBM Research之前,Dakuo Wang获得了博士学位。加州大学欧文分校的信息和计算机科学硕士和硕士学位(MS )获得巴黎中央电子信息系统信息系统学位,并获得北京工业大学计算机科学学士学位。他曾在法国,中国和美国担任工程师,设计师和研究员。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在机器学习建模体系中,随机森林作为集成学习的经典算法,凭借高精度、抗过拟合、适配多场景、可解释性强的核心优势,成为分类、 ...
2026-03-12在机器学习建模过程中,“哪些特征对预测结果影响最大?”“如何筛选核心特征、剔除冗余信息?”是从业者最常面临的核心问题。随 ...
2026-03-12在数字化转型深度渗透的今天,企业管理已从“经验驱动”全面转向“数据驱动”,数据思维成为企业高质量发展的核心竞争力,而CDA ...
2026-03-12在数字经济飞速发展的今天,数据分析已从“辅助工具”升级为“核心竞争力”,渗透到商业、科技、民生、金融等各个领域。无论是全 ...
2026-03-11上市公司财务报表是反映企业经营状况、盈利能力、偿债能力的核心数据载体,是投资者决策、研究者分析、从业者复盘的重要依据。16 ...
2026-03-11数字化浪潮下,数据已成为企业生存发展的核心资产,而数据思维,正是CDA(Certified Data Analyst)数据分析师解锁数据价值、赋 ...
2026-03-11线性回归是数据分析中最常用的预测与关联分析方法,广泛应用于销售额预测、风险评估、趋势分析等场景(如前文销售额预测中的多元 ...
2026-03-10在SQL Server安装与配置的实操中,“服务名无效”是最令初学者头疼的高频问题之一。无论是在命令行执行net start启动服务、通过S ...
2026-03-10在数据驱动业务的当下,CDA(Certified Data Analyst)数据分析师的核心价值,不仅在于解读数据,更在于搭建一套科学、可落地的 ...
2026-03-10在企业经营决策中,销售额预测是核心环节之一——无论是库存备货、营销预算制定、产能规划,还是战略布局,都需要基于精准的销售 ...
2026-03-09金融数据分析的核心价值,是通过挖掘数据规律、识别风险、捕捉机会,为投资决策、风险控制、业务优化提供精准支撑——而这一切的 ...
2026-03-09在数据驱动决策的时代,CDA(Certified Data Analyst)数据分析师的核心工作,是通过数据解读业务、支撑决策,而指标与指标体系 ...
2026-03-09在数据处理的全流程中,数据呈现与数据分析是两个紧密关联却截然不同的核心环节。无论是科研数据整理、企业业务复盘,还是日常数 ...
2026-03-06在数据分析、数据预处理场景中,dat文件是一种常见的二进制或文本格式数据文件,广泛应用于科研数据、工程数据、传感器数据等领 ...
2026-03-06在数据驱动决策的时代,CDA(Certified Data Analyst)数据分析师的核心价值,早已超越单纯的数据清洗与统计分析,而是通过数据 ...
2026-03-06在教学管理、培训数据统计、课程体系搭建等场景中,经常需要对课时数据进行排序并实现累加计算——比如,按课程章节排序,累加各 ...
2026-03-05在数据分析场景中,环比是衡量数据短期波动的核心指标——它通过对比“当前周期与上一个相邻周期”的数据,直观反映指标的月度、 ...
2026-03-05数据治理是数字化时代企业实现数据价值最大化的核心前提,而CDA(Certified Data Analyst)数据分析师作为数据全生命周期的核心 ...
2026-03-05在实验检测、质量控制、科研验证等场景中,“方法验证”是确保检测/分析结果可靠、可复用的核心环节——无论是新开发的检测方法 ...
2026-03-04在数据分析、科研实验、办公统计等场景中,我们常常需要对比两组数据的整体差异——比如两种营销策略的销售额差异、两种实验方案 ...
2026-03-04