一、教程简介

Osmosis-Structure-0.6B 是由 osmosis-ai 在 2025 年推出的一款专用型小型语言模型（SLM），旨在完成结构化输出生成任务。尽管其参数规模仅为 0.6B，但与支持的框架结合使用时，该模型在提取结构化信息方面展现出卓越的性能。

osmosis-ai 的方法在训练过程中利用结构化输出，迫使模型仅专注于推理引擎所声明的每个关键值，这显著提高了模型在各个领域生成格式规范、结构化响应的准确性，尤其在数学推理和问题解决任务中表现突出。

该教程算力资源采用单卡 RTX 4090 。支持的语言：英语。由于模型参数较小，对提示词的依赖性较高。

二、项目示例

三、运行步骤

1. 启动容器

2. 进入网页后，即可与模型展开对话

若不显示「模型」，这表示模型正在初始化，由于模型较大，请等待约 2-3 分钟后刷新页面。

四、交流探讨

🖌️ 如果大家看到优质项目，欢迎后台留言推荐！另外，我们还建立了教程交流群，欢迎小伙伴们扫码备注【SD 教程】入群探讨各类技术问题、分享应用效果 ↓