开发者社区  >  技术专题  >  自然语言处理

<深度学习优化策略-1>Batch Normalization(BN)

        今天给大家带来深度学习的优化策略篇的第一篇Batch Normalization(BN)。BN可以看做对输入样本的一种约束,最大作用是加速收敛,减少模型对dropout,careful weight initialnization依赖,可以adopt higher learning rate的优势,收敛速度可以提高10倍以上。

http://mp.weixin.qq.com/s/TZjmY-FO3QCaxqW9Z9SfFA



精彩评论