HyperAIHyperAI

Command Palette

Search for a command to run...

LLMON原生标记语言发布Granite 4.1 3B/8B预览模型

IBM Granite团队近日发布大模型对象标记法LLMON,并同步推出基于Granite 4.1 3B和8B基础模型训练的预览版模型,同时开源包含转换工具、工作流示例和聊天模板的GitHub仓库。团队认为,大模型长上下文常以JSON或隐式格式混合系统提示、检索文档、工具响应和用户数据,结构边界易被模型忽略,导致小模型尤其脆弱,也为间接提示注入提供可乘之机。LLMON通过保留特殊标记和明确标签,将指令、数据、约束和执行关系拆解为可寻址的语义块,使模型能直接识别组件含义、嵌套层次和调用依赖,而不是从普通字符模式中猜测结构。 该团队表示,LLMON并不替代聊天模板,而是在角色划分基础上补充组件语义与关联;团队也从Granite 4.1基础检查点重新进行后训练,让模型通过执行块判断哪些指令有效、哪些数据仅供读取。开发者无需先搭建JSON转换管线,只需在消息中命名组件,模板即可自动渲染为LLMON格式。评测显示,在OPI等间接注入基准中,预览模型较测试最佳前沿模型多阻止47%攻击,较最佳开源模型多阻止95%攻击,通用基准表现接近Granite 4.1 Instruct模型。团队提醒,该版本目前为实验性预览,适用于研究和评估,尚未面向生产环境。

相关链接