HyperAI超神经

稳定性-可塑性困境 Stability-plasticity Dilemma

稳定性-可塑性困境是神经系统的一个约束,其存在于人工和生物神经系统中,可理解为稳定性和可塑性之间需要权衡以达到一种平衡的状态。

并行和分布式系统中学习需要可塑性来整合新知识,稳定性则被用于防止忘记之前的知识;可塑性过强会导致先前编码的数据不断遗忘,稳定过强则会阻碍突触水平上对该数据的有效编码。

目前大多数情况下,神经计算已经解决了过度可塑性、过度稳定性的问题。