Apfel 上线:Mac 免费 AI 助手
随着macOS 26(代号Tahoe)的发布,苹果在Apple Silicon芯片的Mac电脑上内置了本地大语言模型,并将其纳入Apple Intelligence体系。该模型通过FoundationModels框架提供,调用Swift API即可访问SystemLanguageModel,所有运算均在神经引擎和GPU上完成,无需联网、云端服务或API密钥。目前,该本地模型主要服务于Siri、写作工具和系统功能,普通用户无法直接通过命令行或HTTP接口调用它,必须编写Swift应用才能使用。 为了解决这一限制,开发者推出了名为Apfel的开源工具。Apfel是一个基于Swift 6.3的二进制程序,它封装了LanguageModelSession,将苹果原生的本地模型以三种方式对外开放:作为支持标准输入输出的UNIX命令行工具、作为兼容OpenAI协议的HTTP服务器,以及具备上下文管理功能的交互式聊天界面。 Apfel弥补了苹果原生API在通用性上的不足,提供了规范的退出码、JSON格式输出、文件附件支持以及实时Token计数。针对本地模型仅有4096个Token的上下文窗口,Apfel特别实现了五种上下文修剪策略,确保对话连贯性。此外,它还能将OpenAI的工具模式自动转换为苹果原生的Transcript.ToolDefinition格式,极大地降低了本地AI应用的开发门槛。这一工具的出现,使得开发者能够轻松在Mac上构建无需联网的隐私保护型AI应用,释放了苹果本地算力在更广泛场景下的潜力。
