日前，LinkedIn的Rahul Raja和微软的Advitya Gemawat在VentureBeat上发表文章，探讨了大型语言模型（LLM）扩展到数百万令牌规模时所面临的各种挑战和不足。虽然LLM的发展历程中，模型规模的不断扩大带来了一些显着的技术进步，如能力更强、理解更复杂等，但企业实际应用中却遇到了包括延迟增加、成本高昂和用户体验下降在内的诸多问题。这些问题导致了企业的回报率逐渐减少，对大规模LLM的商业价值产生了怀疑。 ### 企业的回报率逐渐减少 首先，随着模型规模的增加，处理速度变慢是一个不可忽视的问题。数百万令牌的模型在生成文本时，延迟显著增加。这对实时应用场景（如客户服务或即时翻译）来说，用户体验受到了严重影响。没有人愿意等待几分钟来获取一个机器翻译的结果。企业的应用速度要求决定了大型模型未必是最好选择。 其次，高昂的成本问题。大型语言模型的训练和维护需要大量的计算资源，这不仅包括硬件投入，还有电力和冷却系统的开销。相比之下，中小企业可能更难以承担这样的费用。对于处理简单的任务，如文本分类或情感分析，小规模的模型完全能够胜任，且更加经济实惠。 再次，用户友好性和维护难易度的问题。如果模型过于复杂，不但使用起来门槛高，而且在出现问题时，调试和修复也变得更加困难。企业往往需要一支专业的技术团队来维护这些模型，这对于许多公司来说，是一项沉重的负担。尤其是在资源有限的情况下，公司更倾向于选择那些容易上手和维护的解决方案。 ### LLM的发展前景 尽管存在上述问题，作者并没有完全否定大规模LLM的价值，特别是在科研和特定高级应用方面。大型模型在理解复杂语境和执行多步推理方面的确具有优势，能够在某些场景下提供更高质量的服务。例如，在学术研究或复杂数据分析领域，大规模LLM仍然不可或缺。 然而，企业在选择模型时，需要综合考虑自身的业务需求、财务状况和技术能力。小型或中型模型在很多实际应用场景中，不仅能够满足需求，还能在性能和成本之间取得更好的平衡。因此，作者建议企业在追求大规模模型的同时，也要关注这些模型在实际应用中的表现，而不是盲目跟风。 ### 业内人士评价与公司背景 Rahul Raja和Advitya Gemawat分别来自LinkedIn和微软，两家公司在人工智能领域都有深厚的技术积累和丰富的实践经验。Raja在LinkedIn负责AI相关的战略和研究工作，Gemawat则在微软的人工智能团队中担任技术主管。他们在这篇文章中结合了多家企业的实际案例，指出了当前LLM市场的一些痛点和未来的发展方向。业内人士普遍认为，尽管大规模LLM在技术上仍有很大的发展空间，但企业在实际应用中需要更加谨慎地评估其价值，选择最合适的技术方案。