SHAKTI: 엣지 AI 및 저자원 환경을 위한 최적화된 25억 파라미터 소형 언어 모델

Shakti는 스마트폰, 웨어러블 장치 및 IoT 시스템을 포함한 리소스 제약 환경인 엣지 디바이스에 특별히 최적화된 25억 파라미터 규모의 언어 모델입니다. Shakti는 높은 성능의 자연어 처리(NLP) 기능과 함께 최적화된 효율성과 정밀도를 결합하여, 계산 자원과 메모리가 제한된 환경에서 실시간 AI 응용 프로그램에 적합합니다. 현지어 및 도메인 특화 작업을 지원함으로써, 헬스케어, 금융, 고객 서비스 등 다양한 산업 분야에서 뛰어난 성능을 발휘합니다. 벤치마크 평가 결과, Shakti는 더 큰 모델들과 경쟁 가능한 성능을 보이며 낮은 지연 시간과 디바이스 내 효율성을 유지함으로써 엣지 AI 분야의 선도적인 솔루션으로 자리매김하고 있습니다.