您的位置 > 首页 > 商业智能 > 何恺明终结ImageNet预训练时代:从0训练模型效果比肩COCO冠军深度学习

何恺明终结ImageNet预训练时代:从0训练模型效果比肩COCO冠军深度学习

来源:炼数成金 | 2018-11-23 | 发布:经管之家

何恺明,RBG,Piotr Dollár。


三位从Mask R-CNN就开始合作的大神搭档,刚刚再次联手,一文“终结”了ImageNet预训练时代。


他们所针对的是当前计算机视觉研究中的一种常规操作:管它什么任务,拿来ImageNet预训练模型,迁移学习一下。


但是,预训练真的是必须的吗?


这篇重新思考ImageNet预训练(Rethinking ImageNet Pre-training)就给出了他们的答案。


FAIR(Facebook AI Research)的三位研究员从随机初始状态开始训练神经网络,然后用COCO数据集目标检测和实例分割任务进行了测试。结果,丝毫不逊于经过ImageNet预训练的对手。


甚至能在没有预训练、不借助外部数据的情况下,和COCO 2017冠军平起平坐。


结果

训练效果有图有真相。


他们用2017版的COCO训练集训练了一个Mask R-CNN模型,基干网络是用了群组归一化(GroupNorm)的ResNet-50 FPN。




随后,用相应的验证集评估随机权重初始化(紫色线)和用ImageNet预训练后再微调(灰色线)两种方法的边界框平均检测率(AP)。


可以看出,随机权重初始化法开始不及预训练方法效果好,但随着迭代次数的增加,逐渐达到了和预训练法相当的结果。


为了探索多种训练方案,何恺明等人尝试了在不同的迭代周期降低学习率。


结果显示,随机初始化方法训练出来的模型需要更多迭代才能收敛,但最终收敛效果不比预训练再微调的模型差。


主干网络换成ResNet-101 FPN,这种从零开始训练的方法依然呈现出一样的趋势:从零开始先是AP不及预训练法,多次迭代后两者终趋于不分上下。




效果究竟能有多好?答案前面也说过了,和COCO 2017冠军选手平起平坐。


从零开始模型的效果,由COCO目标检测任务来证明。在2017版验证集上,模型的bbox(边界框)和mask(实例分割)AP分别为50.9和43.2;


他们还在2018年竞赛中提交了这个模型,bbox和mask AP分别为51.3和43.6。

这个成绩,在没有经过ImageNet预训练的单模型中是较好的。


这是一个非常庞大的模型,使用了ResNeXt-152 8×32d基干,GN归一化方法。从这个成绩我们也能看出,这个大模型没有明显过拟合,非常健壮(robust)。


实验中,何恺明等人还用ImageNet预训练了同样的模型,再进行微调,成绩没有任何提升。


这种健壮性还有其他体现。


比如说,用更少的数据进行训练,效果还是能和预训练再微调方法持平。何恺明在论文中用“Even more surprising”来形容这个结果。


当他们把训练图像数量缩减到整个COCO数据集的1/3(35000张图)、甚至1/10(10000张图)时,经过多次迭代,随机初始化看起来还略优于预训练法的效果。




不过,10000张图已经是极限,继续降低数据量就不行了。当他们把训练数据缩减到1000张图片,出现了明显的过拟合。


怎样训练?

想抛弃ImageNet预训练,用不着大动干戈提出个新架构。不过,两点小改动在所难免。


第一点是模型的归一化方法,第二点是训练长度。


我们先说模型归一化(Normalization)。


因为目标检测任务的输入数据通常分辨率比较高,导致批次大小不能设置得太大,所以,批归一化(Batch Normalization,BN)不太适合从零开始训练目标检测模型。


于是,何恺明等人从最近的研究中找了两种可行的方法:群组归一化(Group Normalization,GN)和同步批归一化(Synchronized Batch Normalization,SyncBN)。



GN是吴育昕和何恺明合作提出的,发表在ECCV 2018上,还获得了较佳论文荣誉提名。这种归一化方法把通道分成组,然后计算每一组之内的均值和方差。它的计算独立于批次维度,准确率也不受批次大小影响。


SyncBN则来自旷视的MegDet,和香港中文大学Shu Liu等人的CVPR 2018论文Path Aggregation Network for Instance Segmentation。这是一种跨GPU计算批次统计数据来实现BN的方法,在使用多个GPU时增大了有效批次大校


归一化方法选定了,还要注意收敛问题,简单说是要多训练几个周期。


道理很简单:你总不能指望一个模型从随机初始化状态开始训练,还收敛得跟预训练模型一样快吧。


所以,要有耐心,多训练一会儿。




上图就是这两种方法的对比。假设微调的模型已经预训练了100个周期,那么,从零开始训练的模型要迭代的周期数是微调模型的3倍,见到的像素数量才能差不多,实例级、图片级的样本数量依然差距很大。


也就是说,要想从随机初始化状态开始训练,要有大量样本。


到底要不要用ImageNet预训练?


这篇论文还贴心地放出了从实验中总结的几条结论:

不改变架构,针对特定任务从零开始训练是可行的。

从零开始训练需要更多迭代周期,才能充分收敛。

在很多情况下,甚至包括只用10000张COCO图片,从零开始训练的效果不逊于用ImageNet预训练模型微调。

用ImageNet预训练能加速在目标任务上的收敛。

ImageNet预训练未必能减轻过拟合,除非数据量极校

如果目标任务对定位比识别更敏感,ImageNet预训练的作用较校

所以,关于ImageNet预训练的几个关键问题也就有了答案:


它是必需的吗?并不是,只要目标数据集和计算力足够,直接训练就行。这也说明,要提升模型在目标任务上的表现,收集目标数据和标注更有用,不要增加预训练数据了。


它有帮助吗?当然有,它能在目标任务上数据不足的时候带来大幅提升,还能规避一些目标数据的优化问题,还缩短了研究周期。


我们还需要大数据吗?需要,但一般性大规模分类级的预训练数据集就不用了,在目标领域收集数据更有效。


我们还要追求通用表示吗?依然需要,这还是个值得赞赏的目标。


想更深入地理解这个问题,请读论文:


论文:

Rethinking ImageNet Pre-training


Kaiming He,Ross Girshick,PiotrDollár


https://arxiv.org/abs/1811.08883


声明:文章收集于网络,如有侵权,请联系小编及时处理,谢谢!


欢迎加入本站公开兴趣群

商业智能与数据分析群

兴趣范围包括各种让数据产生价值的办法,实际应用案例分享与讨论,分析工具,ETL工具,数据仓库,数据挖掘工具,报表系统等全方位知识

QQ群:81035754

本文已经过优化显示,查看原文请点击以下链接:
查看原文:http://bi.dataguru.cn/article-14324-1.html

院校点评more

京ICP备11001960号  京ICP证090565号 365bet外围体育投注+体育在线投注网址+网上在线足球开户注册+经管之家【信誉网投】 论坛法律顾问:王进律师知识产权保护声明免责及隐私声明   主办单位:人大经济论坛 版权所有
联系QQ:2881989700  邮箱:service@pinggu.org
合作咨询电话:(010)62719935 广告合作电话:13661292478(刘老师)

投诉电话:(010)68466864 不良信息处理电话:(010)68466864