以下是关于 残差块(Residual Block) 的详细解析:
1. 残差块的核心思想
残差块(Residual Block) 是ResNet(Residual Neural Network)的核心组件,由何恺明团队于2015年提出,旨在解决深度神经网络中的梯度消失和网络退化问题(即网络加深后性能反而下降)。其核心思想是:
通过引入跳跃连接(Shortcut Connection),让网络直接学习输入与输出之间的残差(差值),而非直接学习目标映射。
数学表达:
[ \text{输出} = F(x) + x ]
其中,( F(x) ) 为残差函数,( x ) 为输入。