Command Palette
Search for a command to run...
类专家 Soup(Soup Of Category Experts)
Soup Of Category Experts(SoCE)是由 Meta 联合伦敦大学学院的研究团队于 2025 年 11 月提出的,相关研究成果发表于论文「Souper-Model: How Simple Arithmetic Unlocks State-of-the-Art LLM Performance」。
SoCE 是一种基于基准评测的模型优化方法,它通过对基准任务进行组合,识别出最优模型候选,并采用非均匀加权平均以最大化综合性能。不同于以往采用均匀权重平均的传统方法,该方法基于一个关键观察:不同基准类别在模型表现上往往具有较低的相关性。因此,SoCE 首先为每个弱相关性类别簇识别出「专家」模型,再通过优化加权而非均匀权重对它们进行集成。