技术圈首页
程序员
解决方案
聚合短信
APP下载
登录
注册
首页
文章详情
炼丹神器!模型调参这门“玄学”,终于被破解了
3D视觉工坊
|
514
2021-08-20 19:20
0
0
0
吃一个苹果要几步?这对普通人来说,是一件很简单的事。
那么AI模型调参需要几步呢?调参是机器学习中至关重要的一环,因其复杂性而被称之为一门“玄学”。这对开发小白和AI专业算法工程师来说,答案肯定不同。
在AI开发的过程中,数据准备、建模与模型评估占到了很大一部分工作,所以我们一般会先采用一个简单的模型跑通流程,目的就是能快速地让模型跑起来,初步了解这个任务的难度、可行性等。但要知道,高精度的模型其超参数都是经过反复调试而来的,
模型调参就是一项十分考验算法工程师耐力又关乎模型精度效果和稳定性的任务。
先来看一下那些年「炼丹师」、「调参侠」都是怎么过来的吧~
炼丹师打造一个模型首先需要根据不同的深度学习框架配置合适的训练环境,包括硬件适配、依赖包的安装等;然后手动搭建网络结构和模块,调整相关超参数,最后把处理好的数据喂入模型开始训练......
其中,模型的参数调整是非常重要的一件事,如果能配置合适的超参数,那么模型的效果就会得到大幅度提升。可现实是,前期环境搭建、模型组网和数据准备阶段往往耗费了我们大量了时间和精力,面对众多对结果产生重要影响的模型超参数,我们还会迷茫于做出哪些改进,
调整哪些超参数能提升模型的效果,如何根据badcase分析下一步的优化策略
,
周期十分漫长,真的是“让人头秃”。
那么,有没有办法可以减少环境准备、模型搭建、效果调优的时间,靠机器自动调参就能获得一个优质的模型呢?能不能让炼丹师、调参侠们真正的“躺平”呢?
答案来了,我们知道手动调参会耗费大量的人力和时间,算上这背后高昂的机会成本,不如释放双手,来一个
自动调参
。在调参过程中只需进行模型的输入和输出,不需要假设模型超参数和最终指标是否符合优化条件,也不需要代码的细节等,点点鼠标,选择合适的预训练模型和预置网络,就可以进行自动调参,获取符合场景需要的高精度模型。
备受AI开发者喜欢的就是百度BML的自动超参搜索功能,用过的都说很easy。
目前百度 BML自动超参搜索支持
贝叶斯搜索、随机搜索和进化算法
三种超参搜索算法,炼丹师可以根据自己的需要来选择。自动超参搜索功能基于自研自动超参搜索服务,具有简单易用、模型丰富、高效分布式智能搜索等特性,同时,依托于百度智能云,还支持
多搜索任务并发,大幅缩短超参搜索耗时
,炼丹师真的可以释放双手,再也不用调参调到头秃了。
另外,炼丹师们关心的精度部分也能满足,百度BML独家内置了
百度超大规模预训练模型
,预置了百度大规模数据训练的预训练模型,在视觉任务中,图像分类训练任务内置百度基于海量互联网数据,包括10万+分类、6500万图片训练的超大规模预训练模型,平均精度可提升3.24%-7.73%;物体检测训练任务内置百度基于800+标签、170万图片,1000万+检测框训练的超大规模物体检测预训练模型,平均精度可提升1.78%-4.53%; 在自然语言处理方向,BML预置了由百度自研、业界效果最好的预训练模型ERNIE,开创性地将大数据预训练与多源丰富知识相结合,持续学习海量数据中的知识,将机器语义理解水平提升到一个新的高度。
百度BML基于开源开放的产业级深度学习平台飞桨,为企业和个人开发者提供机器学习和深度学习一站式AI开发服务,并提供高性价比的算力资源,助力企业快速构建高精度AI应用。BML提供从数据采集、数据清洗、数据标注、智能标注与多人标注、模型训练生产到模型管理、云端及离线推理服务管理等AI开发过程的全生命周期管理。
比如,在工业行业,当工业制造批量化、高效率生产成为趋势,如何把关产品质量,降低次品率成为行业难题。传统的人工检查易受视力等多重因素影响,微小瑕疵不能被高效识别,且人力成本居高不下。用BML物体检测训练工业零部件瑕疵识别模型,可以精准识别毛边、裂痕等细微瑕疵,为流程优化和工艺再造提供关键数据支持,真正让工业AI质检炼就“火眼金睛”。
8月25-26日,邀请您跟着百度BML课程讲师一起进行深度学习打怪升级,从数据准备到模型训练,从模型部署到应用,了解工业AI质检全流程开发与实战。
1.参与AI快车道线上直播互动,即可抽取
小度真无线智能耳机、小度智能音箱、飞桨定制鼠标垫等好礼。
2.课程结束体验产品并完成“产品体验调研报告”,就可领取
100元京东卡
奖励。
点击
【阅读原文】
,参与课程直播抽奖。
0
赞
0
收藏
×
添加附言
附加内容, 使用此功能的话, 会给所有参加过讨论的人发送提醒.
回复数量:
0
暂无评论~~
请注意单词拼写,以及中英文排版,
参考此页
支持 Markdown 格式,
**粗体**
、~~删除线~~、
`单行代码`
, 更多语法请见这里
Markdown 语法
支持表情,见
Emoji cheat sheet
@name 会链接到用户页面,并会通知他
上传图片, 支持拖拽和剪切板黏贴上传, 格式限制 - jp(e)g, png, gif
Ctrl+Enter
下载APP
3D视觉工坊
2738
文章
7
获赞
关注TA
NEW
相关文章推荐
人工智能标准化白皮书(2021)
又一个炼丹神器!自动调参!解放双手
再见炼丹师
华为又对这一领域下手了,网友:太难了……
【学术相关】TopPaper:AI 初学者经典论文列表
【机器学习】重磅发布!吴恩达 AI 完整课程资源超级大汇总!
字节跳动P0级事故:实习生删除GB以下所有模型,差点没上头条......
估值380亿美元!这家微软、谷歌、亚马逊都投资的AI初创公司什么来头?