HyperAIHyperAI

Command Palette

Search for a command to run...

Osaurus 将本地与云端 AI 模型引入 Mac

新创公司 Osaurus 推出了一款专为 Mac 设计的开源大语言模型服务器,旨在解决用户在使用云端 AI 时需持续支付费用并担忧数据隐私的问题。该项目起源于联合创始人 Terence Pae 对桌面 AI 助手的构想,他希望打造一个完全本地化的“个人 AI",让用户能在不依赖外部服务器的情况下,利用自身硬件处理文件、浏览器及系统配置。 Osaurus 的核心优势在于其灵活的调度能力。它充当了一个统一的控制层,允许用户在本地部署的模型与云端服务(如 OpenAI、Anthropic 等)之间自由切换。用户可以根据任务需求选择最适合的模型,同时确保文件、记忆及工具始终保留在本地硬件中。系统内置了超过 20 个原生插件,支持邮件、日历、编程、文件管理及语音交互等功能,并兼容多种流行模型,包括 Llama、Gemma、DeepSeek 及苹果本地模型等。 在安全方面,Osaurus 采用了硬件隔离的虚拟沙箱技术,将 AI 的运行限制在特定范围内,有效防止了传统开发者工具可能带来的安全漏洞。尽管本地运行 AI 对硬件要求较高(建议至少 64GB 内存),但 Pae 指出,随着芯片能效比的提升,本地 AI 的能力正飞速增强,未来将大幅降低对数据中心和云服务的依赖。目前,Osaurus 下载量已超 11.2 万次,创始团队正参与创业加速器项目,并计划未来向法律、医疗等对隐私敏感的行业推广,通过部署本地设备来替代高能耗的云端基础设施。

相关链接