BAD: BiAs-Detektion für Large Language Models im Kontext der Kandidatenscreening

Bewerbungsverfolgungssysteme (Application Tracking Systems, ATS) haben Talent-Manager, Recruiter und Hochschulzulassungskommissionen ermöglicht, große Mengen potenzieller Bewerbungen effizient zu verarbeiten. Traditionell erfolgte diese Auswahlprozesse manuell, was aufgrund der hohen Zahl an Bewerbungen zu erheblichen Engpässen führte und zahlreiche Fälle von menschlicher Bias mit sich brachte. Mit dem Aufkommen großer Sprachmodelle (Large Language Models, LLMs), wie beispielsweise ChatGPT, und der Möglichkeit, derzeitige automatisierte Bewerbungsverfahren zu ergänzen, entstehen zusätzliche Herausforderungen hinsichtlich Bias und Fairness, die adressiert werden müssen. In diesem Projekt möchten wir die Manifestationen sozialen Bias in ChatGPT und anderen OpenAI-LLMs im Kontext der Kandidatenauswahl identifizieren und quantifizieren, um aufzuzeigen, wie die Nutzung dieser Modelle bestehende Vorurteile und Ungleichheiten im Einstellungsprozess möglicherweise verstärken könnte.