Writer 推出 Palmyra X5：支持100万标记上下文窗口的企业级高效AI模型

Writer公司于近日发布了其最新一代自适应推理模型——Palmyra X5。这款模型具备1百万标记（token）的情境窗口，以行业领先的速度和成本效率为企业提供了更高级别的动态推理能力和可靠性。Palmyra X5现已通过亚马逊Bedrock面向开发者提供访问服务，这项完全托管的服务让用户能够通过单一API访问来自业内领先AI公司的高性能模型。 据Writer公司CTO及联合创始人Waseem AlShikh表示，随着企业越来越依赖于能够调用多个外部工具并处理大规模情景数据的代理（agents），拥有小于1百万标记情境窗口的模型很快将不再适用于关键业务场景。而Palmyra X5凭借创新的转换器设计和混合关注机制，在维持高效率的同时实现了长时间准确率上的突破，这标志着Writer在支持客户在其平台上构建代理化工作流程方面迈出了重要一步。 在多步骤代理的应用中，Palmyra X5展示出卓越性能。它可以在约22秒内解析完1百万标记的完整指令，且每轮功能调用仅需0.3秒左右。这一效率使得此前因成本或时间限制而难以实现的功能成为可能，如从多个数据库中实时提取市场数据编制综合报告、处理大型财务报表、法律文件分析、医疗记录整合以及客户反馈分析等。与市面上其他流行的大型语言模型相比，Palmyra X5在OpenAI的长期背景基准测试中也取得了令人印象深刻的19.1%的得分，不仅具有顶级检索表现，还大大降低了运行成本。 在发布Palmyra X5之前，Writer推出了AI HQ——一个专为团队设计的新中心枢纽，简化了AI代理的构建、激活和监管过程。现在，结合Palmyra X5强大的特性，包括对代理开发、API函数调用、多模态处理及量身定制的企业级AI应用的支持，企业可以通过Writer的平台建立和部署更加复杂的AI系统。 目前，除Palmyra X5外，基于128千标记情境窗口的前代模型Palmyra X4也已在Amazon Bedrock上线。作为首个推出Writer全系列管理模型的云服务提供商，AWS正在不断充实其Bedrock中的模型种类，满足全球不同企业的需求。此合作加强了双方帮助企业构建和扩展企业级生成AI代理的能力，而无需担心基础设施管理。 来自Vanguard的信息显示，他们正通过Writer的全流程平台支持其员工使用最先进的人工智能技术，提高内容创建和知识管理能力。此外，包括Accenture、Marriott、Prudential、Qualcomm、Uber、Salesforce在内的数百家大型企业都在利用Writer的Palmyra大语言模型，推动各自业务领域的重大进展。这证明了这些模型在安全、性能、效率等方面的高标准，同时也体现了企业在AI技术选型时对其透明度和可靠性的重视。 行业内部人士认为Palmyra模型代表了将生成AI集成到企业工作流中的一项关键进步，尤其是在开发代理、API函数调用、多模态处理及特定领域的企业级AI应用方向上。AWS的Atul Deo指出Palmyra X5在长时间输入情况下表现出色，并强调了其对于企业AI数据推理转型的价值。成立仅3年的Writer，已成为引领AI技术革新的企业之一，拥有超过5年的模型技术创新历程，为众多客户提供超出期待的投资回报，其中包括Intuit、Citi Ventures等知名投资者。 综上所述，Palmyra X5的发布和在Amazon Bedrock上的可用性，标志着企业在构建和扩展高级AI代理方面迎来了新的机会。这不仅是技术性能上的一次飞跃，更是对企业数字化转型策略的重大助力。随着更多类似合作的出现，未来企业应用生成AI的门槛可能会进一步降低，促进该领域更快的发展。