HyperAI
Command Palette
Search for a command to run...
모델 압축비
날짜
태그
모델 압축비(Model Compression Ratio)는 모델 압축 효과를 측정하는 핵심 지표로, 일반적으로 원본 모델 크기(예: 가중치 파일 용량 또는 파라미터 수)를 압축 후 모델 크기로 나눈 값(즉, 압축 배수)으로 정의됩니다. 예를 들어 원본 모델이 100MB에서 10MB로 압축되면 압축비는 10(또는 10x)입니다. '원본/압축 후' 기준에서는 값이 높을수록 압축이 더 철저하다는 뜻이며, 일반적으로 저장 및 추론 오버헤드를 줄이는 데 도움이 됩니다(실제 추론 속도와 계산 오버헤드는 하드웨어 및 연산자 지원의 영향을 받습니다). 정확도 변화, 추론 지연, VRAM 점유 등의 지표와 함께 보고되어 가지치기, 양자화, 지식 증류 등의 방법의 효과를 평가하는 데 사용됩니다. '압축 후/원본' 비율 형식과 구분해야 하며, 후자는 값이 작을수록 오히려 압축이 더 강하다는 점에 유의해야 합니다.