英伟达发布Minerva实现AI工厂端到端可观测
NVIDIA今日发布AI运维平台NVIDIA Minerva,旨在为大规模AI工厂提供端到端可观测性,帮助团队更早发现问题并提升生产算力利用率。该平台整合GPU、高速网络、存储、调度器及AI工作负载的遥测数据,并通过专用AI模型将复杂信号转化为可执行洞察,从而减少停机、提高集群效率。 随着AI训练和推理集群规模扩大,单个GPU过热、NVMe性能下降或网络异常等问题可能拖慢整体作业。传统监控常按网络、计算、可靠性或机器学习团队分散呈现数据,难以快速定位根因。Minerva通过动态知识图谱映射基础设施与任务之间的拓扑关系,使运维人员可在数十万GPU规模中追踪慢作业背后的故障组件。平台每小时分析数十亿数据点,学习正常运行状态,识别未知异常,预测潜在故障,并将大量告警聚合为具有可能根因的单一事件。 Minerva还提供原生AI助手和自然语言交互界面,运维人员可基于实时遥测查询集群状态并获取修复建议,同时保留人工确认流程或通过API接入自动化系统。围绕GPU小时、有效吞吐、集群正常运行时间和token产出等关键指标,平台帮助团队从被动排障转向主动维护,提高AI工厂整体产出。 目前,IREN已使用Minerva优化其AI工厂运营。该公司首席技术官Denis Skrinnikoff表示,该平台让团队在网络、GPU和作业层面形成统一视图,从而更专注于预防性维护。除IREN外,Aolani、Bitdeer AI、IBM、Jio、Lambda、Quake AI和Tesla也计划部署Minerva。Dell Technologies、Lenovo和Supermicro将把该平台纳入其AI工厂运营产品组合。
