Uptime Industries 推出 Lemony AI：小巧便携的本地化人工智能解决方案

Uptime Industries 推出了一款名为 Lemony AI 的便携式设备，旨在推动本地化人工智能（AI）的应用。这款设备大小如一个三明治，却能在单一节点上运行大型语言模型（LLM）、AI代理和AI工作流。每个 Lemony AI 设备的功耗仅为65瓦，相当于一台笔记本电脑的充电功率，可以堆叠连接形成更大的AI集群。 Uptime 的联合创始人兼CEO Sascha Buehrle 表示，每个节点能够支持最高达750亿参数的LLM，并且可以运行开源或改造后的闭源模型。在群集模式下，每台设备都可以独立运行不同的模型。Uptime 与 IBM 和 JetBrains 建立了合作关系，为客户提供更便捷的访问AI模型的服务，包括IBM的闭源模型。 Lemony AI 的想法最初来源于 Buehrle 和他的联合创始人 Ivan Kuleshov 的一个业余项目。他们尝试在 Raspberry Pi 微型计算机上分发语言模型，虽然最初并非针对生成式AI，但当发现这些微型计算机能够运行复杂的模型时，他们开始探索其更多可能性。意识到在本地设备上运行模型可能成为组织广泛采用AI的关键，Uptime 决定开发自己的设备。通过强调小巧体积和数据隐私保护，Uptime 期望企业更快地接受AI技术。 Buehrle 指出，企业无需做出全公司性质的决策即可轻松将本地化生成式AI解决方案引入业务团队。“所有数据都保存在盒子内，”他说，“文档、文件、邮件——模型在盒内托管，代理在当地运行，所有信息都不会离开这个小盒子。”这种设计特别适合受严格监管的行业，如金融、医疗保健和法律，这些领域的企业对数据安全和隐私有更高的要求。 截至目前，Uptime 已经完成了由 True Ventures 领投的种子轮融资，总筹集资金200万美元，其他投资方包括 Alumni Ventures、JetBrains 以及一些天使投资者。公司将利用这笔资金进一步开发其设备，并计划将其自有的微AI计算机软件 Lemony OS 移植到其他公司的硬件平台，比如 Nvidia DGX Spark。此外，Uptime 还希望从目前的单用户模式扩展至团队使用模式。 Lemony AI 目前的定价为每月499美元，最多支持五名用户。这一价格和功能组合为那些希望在本地环境中使用强大AI工具的企业提供了新的选择。 业内人士认为，Uptime 的 Lemony AI 填补了市场上的一个空白，特别是在需要高度数据隐私保护的行业中，它为企业提供了一种更加可控和安全的AI解决方案。Uptime Industries 成立于2021年，是一家专注于本地化AI应用的新兴公司。