Google Research 发布嵌套学习范式及 Hope 架构以解决灾难性遗忘

Google Research 在 NeurIPS 2025 发表“Nested Learning”论文，提出一种新的机器学习范式，旨在通过统一模型架构与优化算法来解决大语言模型的灾难性遗忘问题。该范式将模型视为一组相互关联的多层级优化问题，利用连续记忆系统（CMS）实现不同频率的权重更新。基于此原理设计的自修改架构 Hope 在语言建模和长上下文推理任务中表现出优于现有 SOTA 模型的性能。