2023年秋天，澳大利亚悉尼的一对兄弟Daniel Han和Michael Han因无法在廉价GPU上高效微调开源大模型而萌生改变AI训练生态的念头。Daniel曾任职NVIDIA，专攻算法优化，曾将TSNE算法提速2000倍，并维护被NASA和微软使用的开源项目Hyperlearn。他意识到，当前AI软件栈的性能瓶颈主要源于通用框架（如PyTorch）为兼容性牺牲效率，而非硬件限制。于是，兄弟二人决定从底层重构训练流程，推出名为Unsloth的开源项目——意为“让AI训练摆脱缓慢如树懒的束缚”。 项目起源于2023年10月的LLM效率挑战赛：在单块GPU上24小时内训练模型，目标是最大化准确率。但兄弟俩另辟蹊径——不追求精度极限，而是聚焦训练速度与内存效率。他们通过手动推导反向传播、重写关键计算内核（如RoPE、RMSNorm、交叉熵损失），并采用Triton语言优化底层计算，最终实现训练速度提升2倍、内存占用减少50%且无精度损失。这一成果于2023年12月开源发布，迅速在Reddit等社区引发关注。 Unsloth真正声名鹊起是在2024年3月对Google Gemma模型的“手术式修复”。团队发现Gemma存在多个深层bug：分词器错误、位置编码计算偏差、数值精度问题等，导致训练无法收敛。Daniel耗时三天，系统性地分析问题根源，发布包含数学推导、性能对比与测试日志的完整报告。该成果被Andrej Karpathy转发称赞，Google团队随后确认并采纳修复方案，公开致谢。 此后，Unsloth持续成为开源模型的“质检员”：陆续发现并修复Meta Llama 3、微软Phi-4、阿里Qwen 2.5等模型中的关键缺陷，甚至定位并修复影响所有训练框架的梯度累积实现错误，该补丁被合并至Hugging Face Transformers主分支，惠及全球数百万开发者。 其核心技术在于对自动求导引擎的重写：放弃PyTorch默认的自动微分，针对注意力机制与LoRA结合场景进行代数优化，将原本需三次矩阵乘法的计算简化为一次，显著降低显存占用与计算量。配合动态量化技术，仅压缩非敏感层，兼顾性能与精度。在Tesla T4 GPU上，训练Alpaca数据集耗时从23小时15分钟缩短至2小时34分钟（提速8.8倍），内存峰值由16.7GB降至6.9GB（减少59%）。 Unsloth的出现打破了AI训练的垄断格局。原本需数据中心级硬件的任务，如今可在消费级显卡（如RTX 4090）上完成。截至2024年，项目GitHub星标超4.7万，月下载量逾200万次，全球开发者基于其框架微调出超过110个专用模型。尤其在语言本地化方面成果显著——来自非英语国家的开发者利用Unsloth将英语模型高效转化为韩语、印尼语、印度地方语言等，让数十亿非英语用户首次拥有本土化AI工具。 项目采用开源+付费进阶版本模式（Pro/Max），核心功能始终免费，强调信任与透明。社区活跃，用户反馈直接驱动开发，形成良性闭环。目前支持Llama、Mistral、Gemma、Phi、Qwen、DeepSeek等主流模型，目标始终是“让所有模型都能享受高效优化”。 行业评价认为，Unsloth不仅是一套工具，更代表一种新范式：以软件创新对抗算力垄断，用开源力量推动AI普惠。正如Daniel所言：“当大公司用上万块H100训练模型时，我们要证明——聪明的方法，比更多的硬件更重要。”