LLMOps 是大型语言模型运维 (Large Language Model Operations) 的缩写，是确保 LLM 高效可靠运行的幕后流程。它代表了 MLOps 的进步，是专门为解决 LLM 提出的独特挑战而设计的。
MLOps 专注于管理通用机器学习模型的生命周期，而 LLMOps 专门处理 LLM 的特定要求。
当通过 Web 界面或 API 使用 OpenAI 或 Anthropic 等实体的模型时，LLMOps 在幕后工作使这些模型可作为服务访问。大型语言模型源运维 (LLMOps) 是用于生产环境中大型语言模型的操作管理的实践、技术和工具。 LLMOps 专门用于使用工具和方法来管理和自动化 LLM 的生命周期，从微调到维护。通过特定于模型的操作，数据科学家、工程师和 IT 团队可以高效地部署、监控和维护大型语言模型。
LLMOps 的优点
LLMOps 的主要优点是效率、可扩展性和降低风险。
- 效率：LLMOps 使数据团队能够实现更快的模型和管道开发、交付更高质量的模型并更快地部署到生产中。
- 可扩展性：LLMOps 还支持巨大的可扩展性和管理，可以监督、控制、管理和监控数千个模型，以实现持续集成、持续交付和持续部署。具体来说，LLMOps 提供了 LLM 管道的可重复性，从而实现数据团队之间更紧密耦合的协作，减少与 DevOps 和 IT 的冲突，并加快发布速度。
- 降低风险：法学硕士通常需要监管审查，而 LLMOps 可以提高透明度并更快地响应此类请求，并确保更好地遵守组织或行业的政策。
LLMOps 的最佳实践
- 探索性数据分析 (EDA)：通过创建可重现、可编辑和可共享的数据集、表格和可视化，迭代地探索、共享和准备机器学习生命周期的数据。
- 数据准备和提示工程：迭代地转换、聚合和删除重复数据，并使数据在数据团队之间可见和共享。迭代开发对法学硕士进行结构化、可靠查询的提示。
- 模型微调：使用 Hugging Face Transformers 、 DeepSpeed 、 PyTorch 、 TensorFlow 和 JAX 等流行的开源库来微调和提高模型性能。
- 模型审查和治理：跟踪模型和管道沿袭和版本，并在整个生命周期中管理这些工件和转换。借助 MLflow 等开源 MLOps 平台，发现、共享和协作跨 ML 模型。
- 模型推理和服务：管理模型刷新的频率、推理请求时间以及测试和 QA 中的类似生产细节。使用 CI/CD 工具（例如存储库和协调器——借用 DevOps 原则）来自动化预生产管道。通过 GPU 加速启用 REST API 模型端点。
- 通过人工反馈进行模型监控：创建模型和数据监控管道，并针对模型漂移和恶意用户行为发出警报。
参考来源
【1】https://www.redhat.com/en/topics/ai/llmops