11일 전

대규모 다중 작업 동적 ML 시스템을 위한 지속적인 개발 방법론

Andrea Gesmundo
대규모 다중 작업 동적 ML 시스템을 위한 지속적인 개발 방법론
초록

전통적인 기계학습(Machine Learning, ML) 방법론은 개발 및 실험 과정을 분리된 반복 단계로 나누며, 각 단계의 피드백을 설계 또는 하이퍼파라미터 조정 결정에 활용한다. 이 방법론은 여러 효율성 및 확장성 측면에서 불리한 점을 지니고 있으며, 최종 해결책에 기여하지 않는 수많은 시도 모델을 생성하는 데 막대한 자원을 낭비하게 된다. 본 연구에서는 ML 모델을 모듈화되고 확장 가능한 자산으로 정의함으로써, 단일 무한한 지능 시스템의 지속적 강화 과정에 여러 설계 및 평가 반복을 통합할 수 있는 새로운 ML 개발 방법론을 제안한다. 본 연구에서는 동적 다중 작업 ML 모델을 연속적인 확장 및 일반화의 시퀀스로 생성하는 새로운 방법을 정의한다. 먼저, 표준 기계학습 실험 평가 방법론을 활용하여 제안된 방법의 능력을 분석한다. 마지막으로, 기존의 다중 작업 대규모 ML 시스템을 동적으로 확장하면서 제안된 방법의 확장 특성을 분석할 수 있는 새로운 지속적 개발 방법론을 제안한다. 그 결과, 124개의 이미지 분류 작업을 동시에 해결할 수 있는 기계학습 모델이 생성되었으며, 기존 최고 수준의 성능을 달성하면서 모델 크기와 계산 비용 측면에서 개선된 효율성을 보였다.

대규모 다중 작업 동적 ML 시스템을 위한 지속적인 개발 방법론 | 최신 연구 논문 | HyperAI초신경