级联相关 Cascade-Correlation
定义
级联相关是一种监督学习架构,其可被用于构建最小的多层网络拓扑,它的优点在于用户无需担心网络的拓扑结构,而且其学习速度相较于传统学习算法更快。
相关算法
级联相关算法通过以下方式实现:
- 从最小网络开始,仅包含输入和输出层,并且两层完全连接;
- 使用传统学习算法训练,在输出单元结束链接,直到错误不再增加;
- 生成所谓的候选单位,其中每个候选单元都与输入单元和隐藏单元连接;
- 尝试通过训练解决剩余误差之间的相关性;
- 选择具有最大相关性的候选单位,冻结其输入权重并添加至网络中。
重复上述步骤,直到网络总误差低于预估值。
