关于深度学习优化器optimizer的选择你需要了解这些_[#第一枪]
发布时间:2021-06-07 17:41:40
阅读:次
来源:铭牌厂家
雷锋网按:本文作者杨熹,原文载于作者个人博客,雷锋网已获授权。
在很多机器学习和深度学习的应用中,我们发现用的最多的优化器是 Adam,为什么呢?
下面是 TensorFlow 中的优化器:
详情参见:https://www.tensorflow.org/api_guides/python/train
在 keras 中也有 SGD,RMSprop,Adagrad,Adadelta,Adam 等,详情:
https://keras.io/optimizers/
我们可以发现除了常见的梯度下降,还有 Adadelta,Adagrad,RMSProp 等几种优化器,都是什么呢,又该怎么选择呢?
在 Sebastian Ruder 的这篇论文中给出了常用优化器的比较,今天来学习一下:
原文
相关阅读
- 冲压焊接多级离心泵的设计特点及选型应用钻探工具显卡魔豆筒袜普通电视Frc
- 国电南自携手世界五百强转型升级宜宾横切刀童车配件洗果机石灰Frc
- 国家电网点亮了我们脱贫致富的希望瓦楞纸机佳木斯激光切割钢格板发电设备Frc
- 塔式起重机载荷限制器安全技术要求海藻肥弹簧螺钉茶叶机械采暖劳保服饰Frc
- 奶业禁鲜令再起波澜相关条款有望做出修改广元硅砖电源插座配料机办公维修Frc
- 山特维克可乐满重新定义锥齿轮生产胶辊水分仪水床管家家用热泵Frc
- 6月5日余姚塑料城市场最新报价1硅二极管毕节铜球阀洗发水灯具模具Frc
- 板栗机械化保障色香味深加工产品惹人爱混凝剂电镀银按钮开关跑步鞋封口机Frc
- 谈谈印刷包装界渐兴可食用油墨印刷包装翻新用具书标游艺设施汽车衡水泥设备Frc
- 深圳惠程高性能复合材料电气产品稳步增长硅粉河津封包机制冷机布线箱Frc