지난 몇 년 동안 OCR은 "이미지에서 텍스트를 인식하는 것"에서 점차 발전하여 문서 전체를 이해하는 단계로 진화했습니다. 기업과 개발자는 텍스트 추출뿐만 아니라 복잡한 페이지 레이아웃을 인식하고, 표와 수식을 분석하고, 다단 레이아웃을 이해하며, 궁극적으로 하위 RAG(Resource Assessment Group), 지식 기반 또는 사무 자동화에 적합한 구조화된 결과를 출력할 수 있는 모델을 원합니다. 그러나 스캔한 보고서, 논문, PPT, 계약서, 여러 페이지로 구성된 PDF와 같은 긴 문서를 처리할 때는…기존 OCR 워크플로는 페이지별 추론 후 후처리 및 접합 과정을 거치는 경우가 많아 비효율적일 뿐만 아니라 문맥 정보의 단편화를 초래할 가능성이 높습니다.

딥시크 OCR로 대표되는 차세대 엔드투엔드 OCR 모델은 대규모 언어 모델을 디코더로 통합하고 언어 사전 정보를 최대한 활용함으로써 인식 정확도와 복잡한 레이아웃 구문 분석 기능을 크게 향상시켰습니다. 그러나 새로운 과제가 발생합니다. 출력 콘텐츠가 증가함에 따라 모델의 키-값 캐시가 누적되어 메모리 사용량이 점점 증가하고 생성 속도가 느려지는 것입니다. 다시 말해,모델이 문서의 끝부분에 가까울수록 추론 비용이 높아집니다.

바이두가 최근 오픈소스로 공개한 Unlimited OCR은 이러한 업계의 고질적인 문제점을 해결합니다. DeepSeek OCR을 기반으로 하는 이 모델은 디코더에서 기존의 어텐션 메커니즘을 대체하는 새로운 참조 슬라이딩 윈도우 어텐션(R-SWA) 메커니즘을 도입했습니다. 이를 통해 디코딩 과정 전반에 걸쳐 일정한 KV 캐시 크기를 유지하면서 어텐션의 계산 비용을 절감할 수 있습니다. DeepSeek OCR 인코더의 뛰어난 정보 압축 기능과 결합하여,무제한 OCR 기능은 기본 컨텍스트 길이인 32KB 내에서 단 한 번의 순방향 추론으로 수십 페이지에 달하는 문서의 OCR 및 레이아웃 구문 분석을 완료할 수 있습니다.이는 긴 문서 처리에 대한 새롭고 더욱 공학적으로 가치 있는 접근 방식을 제공합니다. 더욱 중요한 것은 R-SWA가 OCR에 적용 가능할 뿐만 아니라 자동 음성 인식(ASR) 및 기계 번역과 같은 긴 시퀀스 구문 분석 작업으로 확장될 가능성이 있다는 점입니다.

현재 HyperAI(hyper.ai)는 "무제한 OCR: 긴 문서 OCR 및 레이아웃 분석의 원클릭 배포" 튜토리얼을 출시하여 배포 진입 장벽을 낮추고 모델을 빠르게 검증할 수 있도록 지원하고 있습니다. ⬇️

온라인으로 실행:https://go.hyper.ai/YfaB5

관련 논문 보기:https://go.hyper.ai/PZsJo

더 많은 온라인 튜토리얼:

https://hyper.ai/notebooks

데모 실행

1. hyper.ai 홈페이지에 접속한 후 "튜토리얼" 페이지를 선택하거나 "더 많은 튜토리얼 보기"를 클릭하고 "무제한 OCR: 긴 문서 OCR 및 레이아웃 구문 분석의 원클릭 배포"를 선택한 다음 "이 튜토리얼 실행"을 클릭합니다.

2. 페이지가 리디렉션된 후 오른쪽 상단의 "복제"를 클릭하여 튜토리얼을 자신의 컨테이너로 복제합니다.

참고: 페이지 오른쪽 상단에서 언어를 변경할 수 있습니다. 현재 중국어와 영어로만 제공됩니다. 이 튜토리얼에서는 영어로 된 단계를 안내합니다.

3. "NVIDIA RTX 5090" 및 "PyTorch" 이미지를 선택하고 "작업 실행 계속"을 클릭합니다.

4. 리소스 할당이 완료될 때까지 기다립니다. 상태가 "실행 중"으로 변경되면 "워크스페이스 열기"를 클릭하여 Jupyter 워크스페이스에 들어갑니다.

효과 표시

1. 페이지가 리디렉션된 후 왼쪽에 있는 README 파일을 클릭하고 상단의 실행을 클릭합니다.

2. 프로세스가 완료되면 오른쪽에 있는 API 주소를 클릭하여 데모 인터페이스를 엽니다.