16일 전

BAD: 대규모 언어 모델의 후보 선발 맥락에서 BiAs 탐지

Nam Ho Koh, Joseph Plata, Joyce Chai
BAD: 대규모 언어 모델의 후보 선발 맥락에서 BiAs 탐지
초록

채용 추적 시스템(Application Tracking Systems, ATS)은 인재 관리 담당자, 채용 담당자 및 대학 입학 심사위원회가 대량의 지원자 지원서를 효율적으로 처리할 수 있게 해주었다. 전통적으로 이러한 선별 과정은 수작업으로 이루어졌으며, 지원서의 양이 많아지면서 심각한 혼잡을 초래했을 뿐만 아니라 인간의 편향이 다수 발생하는 문제도 있었다. 최근 채팅GPT(ChatGPT)와 같은 대규모 언어 모델(Large Language Models, LLMs)의 등장과 기존 자동화된 지원서 선별 방식에 대한 도입 가능성은 추가적인 편향과 공정성 문제를 야기하고 있다. 본 연구에서는 채용 과정에서 지원자 선별의 맥락에서 ChatGPT 및 기타 OpenAI의 LLMs 내부에 존재하는 사회적 편향의 사례를 식별하고 정량화함으로써, 이러한 모델의 사용이 채용 과정에서 기존의 편향과 불평등을 지속시키는 방식을 입증하고자 한다.

BAD: 대규모 언어 모델의 후보 선발 맥락에서 BiAs 탐지 | 최신 연구 논문 | HyperAI초신경