HyperAIHyperAI

Command Palette

Search for a command to run...

torchdistill:一个模块化、配置驱动的知识蒸馏框架

Yoshitomo Matsubara

摘要

尽管知识蒸馏(知识迁移)近年来受到研究界的广泛关注,但该领域的快速发展也凸显出对可复现研究和高度通用化框架的迫切需求,以降低高质量、可复现深度学习研究的门槛。部分研究人员出于共享目的,自愿公开了其在知识蒸馏研究中所使用的框架,以帮助其他研究者复现其原始工作。然而,这些公开框架通常缺乏足够的通用性,且缺乏持续维护,导致研究者仍需编写大量代码,对框架进行重构或扩展,以引入新的方法、模型、数据集或设计实验。本文提出我们基于 PyTorch 开发的开源框架,专为知识蒸馏研究而设计。该框架支持用户通过声明式的 PyYAML 配置文件定义实验,显著简化实验配置流程,并有助于研究者完成近期提出的“机器学习代码完备性检查清单”(ML Code Completeness Checklist)。借助该框架,我们展示了多种高效的训练策略,并实现了多种知识蒸馏方法。此外,我们在 ImageNet 和 COCO 数据集上复现了多项发表于 ICLR、NeurIPS、CVPR 和 ECCV 等顶级机器学习会议中的原始实验结果,涵盖部分最新的最先进方法。所有源代码、配置文件、日志文件及训练好的模型权重均已公开,可访问 GitHub 仓库:https://github.com/yoshitomo-matsubara/torchdistill


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供