歌词
残差网络 哦 残差网络
让高高的模型姐姐也拥有快乐
从此两百层的卷积网络不是问题
只要GPU够就可以
词曲编混调：羊驼爸比
歌手：洛天依
深度模型的教室里
导数弟弟传递不积极
向后传播的时光里
梯度同学逐渐被忘记
模型小姐姐发出叹息
臃肿的身体不够灵敏
误差很难被她吸收下去
需要一个契机
减少层数吧 姐姐不愿意
增加学习率 小心会爆炸
消失的梯度 他到底去哪
炼金教室真的需要一份解答
残差网络 哦 残差网络
把导数的爱传递下去
让收敛不再被梯度消失折磨
把所有 的特征 都学得 更出色
残差网络 哦 残差网络
让高高的模型姐姐也拥有快乐
从此两百层的卷积网络不是问题
只要GPU够就可以
输入输出维度要一致
简单的跳层加上可以
如果某层突然消失掉了
就当做被正则化了没关系
恒等的映射 直面最后信息
让Relu可以 没有太多压力
每一层之间 友好互相通信
手拉手的网络结构最暖心
残差网络 哦 残差网络
把导数的爱传递下去
让收敛不再被梯度消失折磨
把所有 的特征 都学得 更出色
残差网络 哦 残差网络
让高高的模型姐姐也拥有快乐
从此两百层的卷积网络不是问题
只要GPU够就可以
曾经几时 也会被人质疑
炼金之术 到底有无意义
黑盒科技 有没有人相信
不管你信不信 它们毅然前进
残差网络 哦 残差网络
把导数的爱传递下去
让收敛不再被梯度消失折磨
把所有 的特征 都学得 更出色
残差网络 哦 残差网络
让高高的模型姐姐也拥有快乐
从此两百层的卷积网络不是问题
只要GPU够就可以