该教程为一键部署 Mistral-Nemo-Instruct-2407,相关环境和依赖已经安装完毕,只需克隆即可推理体验。 Mistral-Nemo-Instruct-2407 是 Mistral AI 和 NVIDIA 联合开源的 Mistral-Nemo-Base-2407 指令微调版本,其性能明显优于现有较小或类似尺寸的模型。 Mistral NeMo 参数量为 120 亿(12B),上下文窗口为 128k,其推理、世界知识和编码准确性在同类规模中处于领先地位。由于 Mistral NeMo 依赖于标准架构,因此易于使用,可在任何使用 Mistral 7B 的系统中成为替代品。