Co-Produktion von KI: Hin zum verstärkten, partizipativen Lebenszyklus

Trotz Bemühungen, die inhärenten Risiken und Verzerrungen künstlicher Intelligenz (KI)-Algorithmen zu mindern, können diese Algorithmen kulturell benachteiligte Gruppen unverhältnismäßig stark betreffen. Es wurden verschiedene Ansätze vorgeschlagen, um diese Risiken zu adressieren oder zu reduzieren, darunter die Entwicklung ethischer Leitlinien und Prinzipien für verantwortungsvolle KI sowie technische Lösungen, die algorithmische Fairness fördern. Ausgehend von Konzepten der Design-Justiz, der erweiterten Lerntheorie und neuer empirischer Forschung zu partizipativer KI argumentieren wir, dass die Reduktion dieser Schäden eine grundlegende Neugestaltung der KI-Entwicklungsprozesse erfordert. Diese Neukonzeption sollte die Ko-Produktion, Vielfalt, Gerechtigkeit, Inklusion (DEI) und interdisziplinäre Zusammenarbeit in den Mittelpunkt stellen. Wir stellen einen erweiterten KI-Lebenszyklus vor, der aus fünf miteinander verbundenen Phasen besteht: Ko-Framing, Ko-Design, Ko-Implementierung, Ko-Deployment und Ko-Wartung. Der Lebenszyklus basiert auf vier interdisziplinären Workshops und ist geprägt von den Themen verteilter Autorität und iterativer Wissensvermittlung. Abschließend verknüpfen wir den vorgeschlagenen Lebenszyklus mit mehreren führenden ethischen Rahmenwerken und skizzieren zentrale Forschungsfragen, die für die Skalierung partizipativer Governance offen bleiben.