理工酷

一般的神经网络模型通常假定网络结构是事先固定的，训练的目的是利用训练样本来确定合适的连接权、阈值等参数。与此不同，结构自适应网络则将网络结构也作为学习的目标之一，并希望能够在训练过程中找到最符合数据特点的网络结构，级联神经网络就是自适应网络的代表。 级联神经网络主要有两个成分：“级联”和“相关”。级联是指建立层次连接的层级结构。在开始训练时，网络只有输入层和输出层，处于最小的拓扑结构；随着训练的进行，新的隐层神经元逐渐加入，从而创建起层级结构。当新的隐层神经元加入时，其输入端连接权值是冻结固定的。 相关是指通过最大化神经元的输出与网络误差之间的相关性来训练相关的参数。与一般的前馈神经网络不同，级联相关网络无需设置网络层数、隐层神经元数目，且训练速度较快，但其在数据较小时容易陷入过拟合。 训练过程：新的隐结点加入时，红色连接权通过最大化新节点的输出与网络误差之间的相关性来进行训练.