NVIDIA GTC巴黎：解锁多语言AI潜力，深化领域专业知识

NVIDIA 深度学习研究院在 GTC 巴黎大会上推出了一个全新的实践工作坊——“为大语言模型添加新知识”。这个工作坊旨在帮助开发者将开源大语言模型（LLMs）转化为能够适应特定领域和真正多语言的人工智能资产，从而应对全球运营中面临的多样性和挑战。 多语言模型评估的重要性 尽管当前的多语言模型已经具备了一定的能力，但在处理专业商业知识、小众技术领域以及全球多元化语言和文化背景时，仍存在显著局限。例如，大多数所谓的多语言模型主要是在英语数据上训练的，这意味着它们在非英语环境中的表现不尽如人意。以 Llama 2 为例，其训练数据中只有不到 5% 是非英语数据。因此，多语言模型的评估尤为重要，它可以帮助开发者选择、开发和定制模型，平衡成本、延迟和质量，并确保模型在不同语言和文化背景下的适用性和准确性。 多语言模型训练与评估面临的挑战 碎片化的基准测试：缺乏涵盖欧盟 24 种官方语言及更多地方变种的共享、同质化数据集，现有数据集的任务设计和指标也各不相同，导致测试结果难以比较。 翻译缺陷：许多基准测试的数据是从英语机器翻译而来，引入了不自然的表达，影响测试结果。 任务不平衡：判别性任务（如多选题、分类）占主导，而生成性任务（如总结、开放式问答）却相对滞后。然而，后者才是实际应用中最常见的场景。 指标陷阱：表面级指标（如 BLEU 和 ROUGE）无法容忍合理的词序变化，合并多种异质性指标也会放大偏见。 全面的语言能力：真正的流利度至少包括 10 个方面：语法、词汇、文化能力、领域能力、话语能力、偏见、时效性、方言差异、字符处理和长文本一致性。当前的测试通常只触及其中的一部分。 NVIDIA DLI 工作坊：为大语言模型添加新知识 该工作坊为期一天，由导师带领，将涵盖以下四个关键环节： 系统性评估和数据集创建：学习如何使用 NVIDIA NeMo Evaluator 构建自定义评估基准，精确识别 LLM 在理解专业领域概念和跨语言表现方面的限制，并有效地跟踪工程进展，定义符合特定需求的指标。 高级数据管理：利用 NeMo Curator 实施最先进的数据清理和准备管道，组装高质量的数据集，满足特定领域的要求，并涵盖多样化多语言内容，包括获取和整合小众数据，以及处理多语言、字符和文化背景的复杂性。 定向知识注入：掌握各种强大的适应技术，显著增强模型的专业能力和全球覆盖范围，使模型能够更好地应对特定领域的任务和多语言市场的需求。 模型优化：应用先进的蒸馏、量化和剪枝技术，通过 NVIDIA NeMo Model Optimizer 和 NVIDIA TensorRT-LLM 减少推理成本，提高操作效率，确保持久保持高性能并维持所有目标语言，包括资源较少的语言的稳健能力。 完成课程后，参与者将具备开发、部署和运营特定领域、真正多语言 AI 系统所需的技术，以提供更准确、相关和文化共鸣的全球化体验。 实际影响与合作 NVIDIA 与全球多家组织合作，开发了具有强大多语言能力的改进数据集和模型。例如，与巴塞罗那超级计算中心的合作，显著提高了特定语言任务的准确性；与 EuroLLM 计划的合作，开发出了支持所有 24 种欧盟官方语言、在回答问题、总结和翻译等任务中表现出色的 EuroLLM 9B Instruct 模型。这些合作是推动多语言 AI 发展的关键部分。 业内评价 业内人士认为，NVIDIA 的这一举措不仅提升了多语言 AI 的技术水平，还促进了全球化 AI 应用的发展，为不同文化和语言背景的企业带来了巨大的价值。NVIDIA 以其深厚的技术积累和开放的合作态度，成为推动这一领域创新的重要力量。 公司背景 NVIDIA 是一家全球领先的图形处理器和技术公司，致力于通过创新技术解决复杂的计算问题。其深度学习研究院（DLI）提供了一系列培训课程，帮助企业和个人掌握最新的 AI 技术和工具。GTC 大会则是 NVIDIA 举办的年度技术盛会，汇集了来自全球的技术专家和开发者，展示最新的研究成果和应用案例。希望参与的开发者可以尽快注册，加入这一前沿技术的实践之旅。