1. 튜토리얼 소개

Osmosis-Structure-0.6B는 osmosis-ai가 2025년에 출시한 전용 소형 언어 모델(SLM)로, 구조화된 출력 생성 작업을 완료하도록 설계되었습니다. 매개변수 크기가 0.6B에 불과함에도 불구하고, 이 모델은 지원되는 프레임워크와 함께 사용할 경우 구조화된 정보 추출에서 탁월한 성능을 보여줍니다.

osmosis-ai의 접근 방식은 학습 과정에서 구조화된 출력을 사용하여 모델이 추론 엔진에서 선언된 각 키 값에만 집중하도록 합니다. 이를 통해 다양한 분야, 특히 수학적 추론 및 문제 해결 과제에서 잘 정형화되고 구조화된 응답을 생성하는 모델의 정확도가 크게 향상됩니다.

이 튜토리얼은 단일 RTX 4090 GPU를 컴퓨팅 리소스로 사용합니다. 지원 언어: 영어. 모델 매개변수 수가 적기 때문에 프롬프트 단어에 따라 결과가 크게 달라집니다.

2. 프로젝트 예시

3. 작업 단계

1. 컨테이너를 시작하세요

2. 웹페이지에 접속 후 모델과 대화를 시작할 수 있습니다.

"모델"이 표시되지 않으면 모델이 초기화되고 있음을 의미합니다. 모델이 크기 때문에 약 2~3분 정도 기다리신 후 페이지를 새로고침해 주시기 바랍니다.