麻省理工学院（MIT）团队开发了一种模型自检系统，可以在几秒内检测并纠正错误，这一系统可以应用于各种不同的AI模型。这个项目始于几年前，当时团队的负责人Rus教授在实验室中开始探索如何让机器自主意识到自身的局限性。2018年，该团队获得了亚马逊公司的资助，用于研究自动驾驶解决方案的可靠性。研究表明，这种专门设计的不确定性评估算法与最先进自动驾驶车辆相结合，可以使事故发生率减少16倍，计算时间缩短12倍，从近似碰撞情况下恢复的成功率提高89%，并减少93%的自动驾驶请求数量。 Rus 和她的同事 Amini 还开发了一种算法，可以检测人脸识别系统的偏见，并通过自动重新赋权训练数据来消除这些偏见。该方法利用底层训练数据中的代表性不足部分生成新的类似样本，从而实现数据再平衡。这项技术不仅提高了模型的预测准确性，还大幅降低了药物发现的成本。具体来说，药物研发成本下降了75%，研发速度提高了10倍，训练数据减少了60%。这些成果使团队坚信，他们的技术具有巨大的隐含潜力，不仅限于自动驾驶领域。 同年晚些时候，Rus 教授与团队成员共同创立了 Themis AI。目前，该公司正在与多个行业合作伙伴开展合作，尤其是在构建自己的大型语言模型方面。他们使用名为 Capsa 的平台帮助分析模型输出，并报告其置信度，以便在采取行动前标记可能出现的不可靠结果。Capsa 还能优化模型的资源利用效率，这对于计算能力有限的设备尤为重要。边缘设备通常使用的模型规模较小，精度远低于服务器版本，而有了 Themis 的技术支持，这些设备能够在保持低延迟、高效率计算的同时不牺牲质量。当遇到挑战时，设备可以请求中间服务器处理，既节省资源又保证了性能。 除了制药公司之外，Capsa 还被应用到半体制造商的芯片上，测试在云端无法运行的AI解决方案。“小型模型在手机或嵌入式系统上的表现往往不如大型服务器端模型，但我们的技术可以在两全其美的情况下发挥优势：保持低延迟、高效边缘计算的同时不损失质量。”Themis AI 技术主管 Stewart Jamieson 表示，“我们预期未来边缘设备将在承担主要工作的同时，将有疑问的任务交由中间服务器处理。” Themis AI 的创立及核心技术的研发标志着在AI领域的一个重要进步，尤其是针对模型可靠性的改进和计算资源的有效利用。这家公司在业界获得了高度评价，其成果被认为具有广泛的商业化和应用场景。Themis AI 专注于将这一技术推广到更多领域，包括自动驾驶、药物研发和半体制造，显示出强大的市场潜力和发展前景。