高精准低成本九章云极突破难题
2021 年世界人工智能大会(WAIC)于 7 月 8 日 在上海世博中心拉开帷幕。 九章云极DataCanvas董事长方磊受邀参加由世界人工智能大会组委会主办、机器之心承办的“2021 WAIC·AI开发者论坛”,并发表“Hypernets:自动化机器学习的基础框架”主题演讲。
本次论坛以「后深度学习的 AI 时代」为主题,作为本届 WAIC 开发者单元的主力军,WAIC· AI开发者论坛与 WAIC·开发者日一脉相承,连续三年始终专注 AI 技术人员与开发者。本次论坛邀请了15位学术界和产业界重磅嘉宾,覆盖多模态机器学习及大规模自动生成技术、AutoML框架、智能社区的多模态数据融合、智能制造中的算法平台以及下一代 AI 基础软件能力等话题,共同探讨AI前沿技术。九章云极DataCanvas董事长方磊围绕 AutoML框架的重要性和基本抽象、Hypernets的概念模型和重要特性、Hypernets的具体示例三部分 向广大开发者奉献了一场干货满满的技术福利。
AutoML框架的本质是空间搜索
AutoML技术的研发与应用是一个持之以恒的课题,随着对其研发的深入,很多AutoML工具的各部分高度耦合,只能针对特定问题,难以扩展。方磊表示,AutoML框架的本质就是空间搜索,在这里面很重要的思想就是抽象性和层级的必要。
AutoML框架是对AutoML领域面对的问题解构和抽象后形成的基础性支撑,无论是超参数优化、Full-Pipeline搜索还是神经网络架构搜索(NAS)问题,主要围绕3个基本部分: 搜索空间(Search Space)、搜索策略(Search Strategy)和评估策略(EstimationStrategy)。AutoML框架应对各部分高度解耦以实现各部分自由扩展,开发者可以在此之上不断丰富搜索算法,设计多样搜索空间,避免共性问题重复开发,针对非共性问题实现灵活扩展,加速迭代效率,大幅低于降低自动机器学习的准入门槛,能够让开发者快速实现自动机器学习的搜索。
Hypernets——开发者的朋友
一款优秀的AutoML框架应当在上述三个部分具有: 富有表现力的搜索空间描述语言、支持高维空间的高效搜索算法和高性能的评估策略。Hypernets作为一个自动机器学习的底层通用框架,满足单节点及分布式高性能的模型训练需求,可以在不同的空间进行搜索与训练,结合各种机器学习和深度学习框架开发专用自动机器学习工具,帮助用户快速开发专用领域的AutoML工具。同时,Hypernets支持最新的神经网络架构搜索(NAS)算法,可以实现深度学习的网络架构设计自动化。
方磊表示,Hypernets与目前众多的机器学习、深度学习框架相结合更快更好的生成自动机器学习工具。用5-10行代码完全可以搜索模型,因此Hyperents一个定位就非常清晰,不管开发一个训练框架还是开发应用模型,都是开发者的朋友。开发训练框架可以让框架使用Hypernets很容易结合出框架本身的自动机器学习能力;如果是开发应用模型,可以组合不同学习训练框架的同时,在上面使用Hypernets,端到端整个pipeline上进行自动机器学习的参数搜索,就会得到非常较好的模型。经过大量在行业上的应用,在特征丰富情况下,Hypernets在搜索能力包括分布式计算能力体现出来很多优势,搜索时间短,算力仅需普通训练的20-30倍,就能够得到一个性能大大提升的模型。
简单快速精准的自动机器学习开发过程
开发者通过Hypernets设计�
- 原文作者:知识铺
- 原文链接:https://geek.zshipu.com/post/%E4%BA%92%E8%81%94%E7%BD%91/%E9%AB%98%E7%B2%BE%E5%87%86%E4%BD%8E%E6%88%90%E6%9C%AC%E4%B9%9D%E7%AB%A0%E4%BA%91%E6%9E%81%E7%AA%81%E7%A0%B4%E9%9A%BE%E9%A2%98/
- 版权声明:本作品采用知识共享署名-非商业性使用-禁止演绎 4.0 国际许可协议进行许可,非商业转载请注明出处(作者,原文链接),商业转载请联系作者获得授权。
- 免责声明:本页面内容均来源于站内编辑发布,部分信息来源互联网,并不意味着本站赞同其观点或者证实其内容的真实性,如涉及版权等问题,请立即联系客服进行更改或删除,保证您的合法权益。转载请注明来源,欢迎对文章中的引用来源进行考证,欢迎指出任何有错误或不够清晰的表达。也可以邮件至 sblig@126.com