우리는 저랭크 학습을 통한 진화 지도 일반 최적화(Evolution Guided General Optimization via Low-rank Learning, EGGROLL)를 소개한다. EGGROLL은 수십억 개의 파라미터를 가진 현대적인 대규모 신경망 아키텍처에서 역전파 없이 최적화를 대규모 인구 집단 크기로 확장하기 위해 설계된 진화 전략(Evolution Strategies, ES) 알고리즘이다. ES는 비미분 가능하거나 노이즈가 있는 목적 함수를 효과적으로 다룰 수 있는 강력한 블랙박스 최적화 방법군으로, 병렬 처리를 통해 뛰어난 확장성을 지닌다. 그러나 전통적인 ES는 매트릭스 변형을 생성하는 데 따른 계산 및 메모리 비용과, 각 개체에 대한 전방 전파를 계산하기 위해 필요한 배치 행렬 곱셈으로 인해 대규모 적용 시 비용이 지나치게 증가하여 실용성이 떨어진다. EGGROLL은 낮은 랭크를 갖는 무작위 행렬을 생성하여 전체 랭크 변형 대신 사용하는 저랭크 매트릭스 변형을 도입함으로써 이러한 성능 저하를 극복한다. 전체 업데이트는 여러 워커의 인구 집단에 걸쳐 평균화되는 구조이므로, 여전히 고랭크 업데이트를 유지하지만 메모리 및 계산 비용을 크게 절감할 수 있다. 이로 인해 각 레이어당 보조 저장 공간은 기존의 전체 랭크 ES 대비에서 감소하고, 전방 전파의 비용 또한 기존 방법 대비로 감소한다. 이론적 분석을 통해 저랭크 업데이트가 전체 랭크 업데이트로 수렴하는 속도가 빠르다는 점이 입증되었다. 실험 결과에 따르면, (1) EGGROLL은 더 빠른 속도를 제공하면서도, 처음부터 시작하는 강화학습(탭룰라-라사 RL) 환경에서 ES의 성능을 저하시키지 않으며, (2) 대규모 언어 모델(LLM)의 추론 성능 향상 기법으로 GRPO와 경쟁력 있는 성능을 보이고, (3) 정수형 데이터 타입만을 사용하는 비선형 순환 언어 모델의 안정적인 사전 훈련을 가능하게 한다.