HyperAIHyperAI

Command Palette

Search for a command to run...

Console

FlashMoBA

日期

4 天前

机构

MIT
NVIDIA(英伟达)

论文链接

2511.11571

FlashMoBA 是由 MIT 、 Nvidia 的研究团队于 2025 年 11 月联合提出的,相关研究成果发表于论文 SOptimizing Mixture of Block Attention

FlashMoBA 是一个感知硬件的 CUDA 内核,即使在我们理论推荐的较小块尺寸下也能实现高效的 MoBA 执行。通过借鉴 FlashAttention 的技术并添加针对块稀疏性的新颖优化,该范式实现了比 FlashAttention-2 快 14.7 倍的加速,这使部署先前不切实际的理论上最优配置成为可能。

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
FlashMoBA | 百科 | HyperAI超神经