HyperAIHyperAI

Command Palette

Search for a command to run...

LLMON 마크업, 그라나이트 4.1 3B·8B 모델에 탑재

아이비엠은 대형 언어 모델이 긴 대화와 작업 이력에서 지시문, 문서, 도구 응답, 출력 조건, 추론 내용을 명확히 구분하지 못해 오류와 프롬프트 인젝션에 취약한 문제를 개선하기 위해 대형 언어 모델용 객체 표기법인 엘엘엠온을 공개했다. 엘엘엠온은 문맥의 구성 요소를 의미 있는 태그와 예약된 특수 토큰으로 묶어 모델에 전달하는 전용 마크업 언어다. 데이터 구조와 지시문을 고유 식별자로 연결할 수 있어 어떤 지시를 어떤 데이터에 적용해야 하는지 명확히 지정할 수 있다. 아이비엠은 이 표기법을 학습한 실험 프리뷰 모델 두 종도 공개했다. 그란이트 4.1의 30억과 80억 파라미터급 기반인 해당 모델은 엘엘엠온으로 표시된 텍스트를 이해하고 생성하도록 미세 조정됐으며, 관련 도구가 담긴 저장소도 함께 공개됐다. 엘엘엠온은 대화 템플릿을 대체하기보다 지시, 데이터, 요구 사항 같은 구성 요소의 역할과 관계를 추가하는 방식으로 동작한다. 기존 파이프라인을 위해 자바스크립트 객체 표기법과 엘엘엠온 간 무손실 변환 도구도 제공한다. 엘엘엠온이 특히 강조되는 영역은 프롬프트 인젝션 방어다. 모델은 실행 블록으로 지정된 지시만 명령으로 여기고 문서나 도구 응답 같은 데이터는 지시로 실행하지 않도록 학습된다. 공개된 평가에서 이 모델들은 일부 최신 상용 모델보다 47% 많은 정적 프롬프트 인젝션을 차단했으며, 일부 공개 모델 대비 95% 많은 공격을 피한 것으로 나타났다. 다른 벤치마크에서도 유사한 개선이 확인됐다는 설명이다. 아이비엠은 일반 성능도 그란이트 4.1 지도학습 모델 수준을 유지하며, 안전성 향상이 일반적인 활용성 저하로 이어지지 않았다고 밝혔다. 학습 과정에서는 일반 지도학습 데이터를 엘엘엠온 형태로 다시 표현하고, 실행 블록에 연결되지 않은 지시와 데이터를 무시하는 예를 넣어 지시와 데이터 분리 규칙을 학습시켰다. 이후 다단계 강화학습과 선호 학습을 추가로 진행했다. 이 구조는 강제 규칙이 아니라 학습된 동작이므로 보안 보장은 아니다. 또한 엘엘엠온은 고정된 태그 체계에 묶이지 않으며, 과학 실험 시뮬레이터 같은 도메인에서 새로운 어휘를 정의하고 어댑터를 미세 조정해 적용할 수 있다. 아이비엠은 이번 공개가 실험 프리뷰 단계로 탐색과 평가용이라고 밝혔다. 사용자는 기존 그란이트 4.1 30억, 80억급 모델 대신 엘엘엠온 프리뷰를 적용해 볼 수 있으며, 개발자는 공개 저장소를 통해 도구와 예제를 확인하고 개선점을 피드백할 수 있다.

관련 링크