SLEEP 研究以离线巩固探索持续学习中的遗忘问题
SLEEP 研究以离线巩固探索持续学习中的遗忘问题 Google Research 新介绍的 SLEEP 方法交替处理新输入与离线巩固,将短期信息蒸馏到模型参数,并以合成练习缓解遗忘,可为长期运行模型的研发提供实验思路。
SLEEP 研究以离线巩固探索持续学习中的遗忘问题 Google Research 新介绍的 SLEEP 方法交替处理新输入与离线巩固,将短期信息蒸馏到模型参数,并以合成练习缓解遗忘,可为长期运行模型的研发提供实验思路。
相关论文此前已公开,方法在预先定义的架构及训练规则内更新权重;目前未发现通用代码或服务发布,不能视为可直接安装的开源框架。