Co-production de l’IA : vers un cycle de vie augmenté et participatif

Malgré les efforts visant à atténuer les risques inhérents et les biais des algorithmes d’intelligence artificielle (IA), ceux-ci peuvent avoir un impact disproportionné sur les groupes culturellement marginalisés. Plusieurs approches ont été proposées pour atténuer ou réduire ces risques, notamment la mise en place de lignes directrices éthiques et de principes de bonne pratique pour une IA responsable, ainsi que des solutions techniques visant à promouvoir l’équité algorithmique. S’appuyant sur la justice du design, la théorie de l’apprentissage élargi et des travaux empiriques récents sur l’IA participative, nous soutenons que la réduction de ces préjudices exige une restructuration fondamentale du cycle de production de l’IA. Ce réaménagement devrait placer au cœur du processus la co-production, la diversité, l’équité, l’inclusion (DEI) et la collaboration interdisciplinaire. Nous proposons un cycle de vie de l’IA enrichi, composé de cinq phases interconnectées : co-construction du cadre, co-conception, co-implémentation, co-déploiement et co-maintenance. Ce cycle s’inspire de quatre ateliers pluridisciplinaires et s’appuie sur les thématiques de la répartition de l’autorité et de l’échange itératif des connaissances. Enfin, nous rattachons ce cycle proposé à plusieurs cadres éthiques de référence et formulons les principales questions de recherche qui demeurent pour l’échelonnement de la gouvernance participative.