오픈 세트 인식(Open set recognition)은 학습 데이터셋에 포함된 클래스 외의 샘플을 탐지할 수 있도록 분류기가 요구된다. 기존의 방법들은 임베딩 공간에서 학습 샘플에 대한 확률 분포를 적합하고, 이 분포에 기반해 이상치(outlier)를 탐지한다. 일반적으로 임베딩 공간은 판별적 분류기(discriminative classifier)를 통해 얻어진다. 그러나 이러한 판별적 표현은 알려진 클래스에만 집중되며, 미지 클래스를 구분하는 데 필수적인 특징을 포착하지 못할 수 있다. 본 연구에서는 표현 공간이 내부 클래스 분류기(inlier classifier)와 밀도 추정기(density estimator, 이상치 탐지기로 기능) 간에 공동으로 학습되어야 한다고 주장한다. 이를 위해 우리는 인코더를 통해 입력 데이터를 공동 임베딩 공간으로 인코딩하고, 분류기가 내부 클래스에 속하는 샘플을 식별하며, 흐름 기반 밀도 추정기(flow-based density estimator)가 샘플이 미지 클래스에 속하는지 여부를 탐지하는 오픈하이브리드(OpenHybrid) 프레임워크를 제안한다. 기존의 흐름 기반 모델의 일반적인 문제점은 이상치에 대해 더 높은 가능도(likelihood)를 부여할 수 있다는 점이다. 그러나 본 연구에서는 판별적 및 생성적 구성 요소를 위한 공동 표현을 학습하는 과정에서 이러한 문제는 실제로 발생하지 않는다는 경험적 관찰을 제시한다. 표준 오픈 세트 벤치마크에서의 실험 결과는, 엔드투엔드(end-to-end)로 학습된 오픈하이브리드 모델이 최신 기술 및 흐름 기반 기준 모델보다 훨씬 뛰어난 성능을 보임을 보여준다.