Command Palette

Search for a command to run...

19일 전

TabTune: 표본 기반 모델의 추론 및 미세 조정을 위한 통합 라이브러리

Aditya Tanna Pratinav Seth Mohamed Bouadi Utsav Avaiya Vinay Kumar Sankarapu

TabTune: 표본 기반 모델의 추론 및 미세 조정을 위한 통합 라이브러리

초록

표현 기반 기반 모델(표본 기반 모델)은 구조화된 데이터 학습 분야에서 점차 확산되는 새로운 패러다임으로, 대규모 사전 훈련의 이점을 표본 데이터 영역에까지 확장한다. 그러나 다양한 전처리 파이프라인, 분산된 API, 일관되지 않은 미세조정 절차, 그리고 캘리브레이션과 공정성과 같은 배포 중심 지표에 대한 표준화된 평가의 부재로 인해 이 모델의 보급은 여전히 제한적이다. 본 연구에서는 단일 인터페이스를 통해 표본 기반 모델의 전 과정 워크플로를 표준화하는 통합 라이브러리 'TabTune'을 제안한다. TabTune은 제로샷 추론, 메타학습, 지도 기반 미세조정(Supervised Fine-Tuning, SFT), 파라미터 효율적 미세조정(Parameter-Efficient Fine-Tuning, PEFT)을 포함한 다양한 적응 전략을 지원하는 7개의 최신 기술 수준의 모델에 일관된 접근을 제공한다. 이 프레임워크는 모델 인지 기반의 전처리를 자동화하고, 내부적으로 아키텍처의 이질성을 관리하며, 성능, 캘리브레이션, 공정성에 대한 평가 모듈을 통합한다. 확장성과 재현 가능성을 고려해 설계된 TabTune은 표본 기반 모델의 다양한 적응 전략에 대한 일관된 벤치마킹을 가능하게 한다. 해당 라이브러리는 오픈소스로 공개되며, https://github.com/Lexsi-Labs/TabTune 에서 사용할 수 있다.

AI로 AI 구축

아이디어에서 출시까지 — 무료 AI 공동 코딩, 즉시 사용 가능한 환경, 최적 가격 GPU로 AI 개발을 가속화하세요.

AI 공동 코딩
즉시 사용 가능한 GPU
최적 가격
시작하기

Hyper Newsletters

최신 정보 구독하기
한국 시간 매주 월요일 오전 9시 에 이번 주의 최신 업데이트를 메일로 발송합니다
이메일 서비스 제공: MailChimp
TabTune: 표본 기반 모델의 추론 및 미세 조정을 위한 통합 라이브러리 | 연구 논문 | HyperAI초신경