본 논문에서는 문장 압축을 위한 삭제 기반(Long Short-Term Memory, LSTM) 신경망 모델의 도메인 적응 능력을 향상시키는 방법을 탐구한다. 우리는 문법 정보가 이러한 모델의 도메인 간 안정성을 높이는 데 기여할 수 있다고 가정한다. 이를 위해 모델에 두 가지 주요 개선점을 제안한다. 첫째, 명시적인 문법 특징을 활용하고, 둘째, 정수선형계획(Linear Programming, ILP)을 통해 문법적 제약 조건을 도입하는 것이다. 평가 결과, 제안한 모델이 원래의 모델뿐 아니라 전통적인 비신경망 기반 모델보다도 교차 도메인 환경에서 더 우수한 성능을 보였다.