理工酷

竞争型学习是神经网络中一种常用的无监督学习策略，在使用该策略时，网络的输出神经元相互竞争，每一时刻仅有一个竞争获胜的神经元被激活，其他神经元的状态被抑制。 ART网络是竞争型学习的重要代表。该网络由比较层、识别层、识别阈值和重要重置模块构成。其中比较层负责接收输入样本，并将其传递给识别层神经元。识别层每个神经元对应一个模式类，神经元数目可在训练过程中动态增长以增加新的模式类。 在接收到比较层输入信号之后，识别层神经元之间相互竞争以产生获胜神经元。 竞争最简单的方法是，计算输入向量与每个识别层神经元所对应的模式类的代表向量之间的距离，距离最小者获胜。获胜神经元将其他识别层神经元发送信号，抑制其激活。若输入向量与获胜神经元所对应的代表向量之间的相似度大于识别阈值，则当前输入样本将被归为该代表向量所属类别。同时，网络连接权将会更新，使得以后在接收到相似样本时该模式类会计算出更大的相似度，从而使该获胜神经元由更大的可能获胜；若相似度不大于识别阈值，则重置模块将在识别层增设一个新的神经元，其将代表向量就设置为当前输入向量。 识别阈值对ART网络的性能有重要影响。当识别阈值比较高时，输入样本将会被分成比较多、比较精细的模式类，而如果识别阈值较低，则会产生比较少、比较粗略的模式类。 ART较好的缓解了竞争型学习中的“可塑性-稳定性窘境“，可塑性是指神经网络要有学习新知识的能力，而稳定性则是指神经网络在学习新知识时要保持对于旧知识的记忆。这使得ART可以进行增量学习或者在线学习 早期的ART网络只能输入布尔型数据，此后ART发展成了一个算法族，包括能处理实值输入的ART2、结合模糊处理的FuzzyART网络，以及可进行监督学习的ARTMAP网络等。