欢迎来到尸居余气网

尸居余气网

谷歌大脑最新研究:AutoML方式自动学习Dropout模式

时间:2026-11-14 出处:热点阅读(143)

本文经AI新媒体量子位(公众号ID:QbitA谷歌I)授权转载,转载请联系出处。

深度神经网络往往存在过拟大脑合的问题,需要Dropout、权重衰减这样的正则化方法最新的加持。

而最近的研究表明,如果对Dropout“剪掉”研究的神经元的结构进行利用,就能实现比随机替换更好的:A效果。

问题是,实际应用中,针对不同的问题,利用结构的方ut法需要人工设计,对Dropout的模式进行调整,泛化能力oM不足。

那么,是否能设计一种针对CNN、TransformL方er这样的深度神经网络,自动学习Dropout式自模式的方法?

现在,谷歌大神Quoc V. Le的团队,动学就提出了一种名为AutoDropout的方法。

 习D;

 

 

 

 

hrottps://arxiv.org/abs/2101.po01761

 

分享到:

温馨提示:以上内容和图片整理于网络,仅供参考,希望对您有帮助!如有侵权行为请联系删除!

友情链接: