MIT Explore les Défis Éthiques et Sociaux de la Technologie Informatique lors d’un Symposium Innovant

Synthèse des dernières avancées en technologie et éthique de l'informatique L’initiative Social and Ethical Responsibilities of Computing (SERC) du MIT Schwarzman College of Computing a organisé une journée de symposium le 1er mai dernier, où 15 enseignants-chercheurs ont présenté leurs travaux de recherche innovants lors de présentations inspirées des TED Talks. Ces recherches, soutenues par des bourses seed attribuées par le SERC, visent à intégrer des considérations sociales, éthiques et techniques dans le domaine de l’informatique. Sur presque 70 propositions soumises l'été dernier, un comité représentatif des différents écoles du MIT et du collège a sélectionné les projets les plus prometteurs, les dotant d'un budget pouvant atteindre 100 000 dollars. Résumé des présentations 1. Rendre le système de transplantation rénale plus équitable Dimitris Bertsimas, vice-provost pour l'apprentissage ouvert et professeur associé en business analytics, a présenté une nouvelle algorithmique pour une allocation plus juste et efficace des greffons rénaux aux États-Unis. Cette algorithmique, conçue pour prendre en compte des critères comme l'emplacement géographique, la mortalité et l'âge, peut traiter ces données en 14 secondes, contre plusieurs heures actuellement. En collaboration avec la United Network for Organ Sharing (UNOS), organisation non-profit gestionnaire du système national de don et de transplantation, Bertsimas a montré comment cette innovation pourrait accélérer les processus de prise de décision, sauver des vies et améliorer l'équité du système de transplantation. L'impact potiel de cette démarche a été souligné par James Alcorn, stratège en politiques senior chez UNOS : "Cette optimisation change radicalement les délais pour évaluer différentes simulations de scénarios. Autrefois, il fallait des mois pour examiner quelques scénarios ; aujourd'hui, nous pouvons en analyser des milliers en quelques minutes. Cela signifie que nous sommes capables d'améliorer le système pour les candidats à la transplantation beaucoup plus rapidement." 2. L’éthique des contenus AI sur les médias sociaux Adam Berinsky, Professeur de sciences politiques, et Gabrielle Péloquin-Skulski, doctorante en sciences politiques, ont exploré les implications éthiques des contenus générés par l’intelligence artificielle (IA) sur les médias sociaux. À travers des sondages et des expérimentations, ils ont étudié l'effet de diversLabels sur la perception des internautes concernant la véracité et l'engagement envers ces contenus. Les résultats ont révélé que l'utilisation de labels orientés vers le processus, tels que "généré par IA," réduit la crédibilité des publications, que celles-ci soient vraies ou fausses. Cette découverte souligne le besoin d’étiquettes combinant le processus et la véracité pour mieux combattre la désinformation. "Un label unique ne convient pas à tous," conclut Péloquin-Skulski. "Notre recherche suggère que des labels combinant à la fois le processus et la véracité pourraient être plus efficaces pour contrer la désinformation générée par l'IA." 3. Utilisation de l’IA pour améliorer le discours civil en ligne Lily Tsai, Professeure de sciences politiques et directrice du MIT Governance Lab, ainsi qu’Alex Pentland, Professeur de médias, des Arts et des Sciences, ont exposé leurs travaux sur l'IA générative pour renforcer la démocratie digitale. Leur plateforme DELiberation.io vise à améliorer les débats en ligne, permettant à plus de gens de participer activement tout en atténuant les risques d’information excessive et de discours non civil. Tsai a souligné : "Notre recherche cherche à montrer que toute technologie mise au point devrait être évaluée non seulement en fonction de son nombre d'utilisateurs mais aussi de ses effets positifs à long terme." Ils ont lancé quatre modules initiaux dans le cadre de leurs études de laboratoire et prévoient des études de terrain futures, notamment avec le gouvernement du District de Columbia. 4. Pensée publique libératrice sur l'IA Catherine D’Ignazio, Professeure adjointe en science urbaine et planification, et Nikko Stevens, postdoctorant au Laboratoire Data + Féminisme du MIT, ont initié Liberatory AI, qualifié de "penseur public en mouvement sur tous les aspects de l'IA." Au lieu de simplement élaborer un cadre, ils ont rassemblé 25 chercheurs de divers horizons institutionnels et disciplinaires. Ces experts ont écrit plus de 20 mémoires examinant la littérature académique la plus récente sur les systèmes d'IA. Liberatory AI est organisé autour de trois thèmes principaux : le paysage de l'IA corporatiste, les impasses, et les chemins à explorer. D’Ignazio a affirmé : "Au lieu d'attendre que les entreprises comme OpenAI ou Google nous invitent à participer au développement de leurs produits, nous avons décidé de remettre en question le statu quo, de penser globalement et de réorganiser les ressources dans ce système en vue d’une transformation sociétale plus importante." Évaluations et retours professionnels Selon Nikos Trichakis, Professeur de management et co-doyen associé de SERC, le symposium sert à stimuler la réflexion audacieuse et créative sur les défis complexes et les opportunités liées à l’éthique et aux responsabilités sociales de l’informatique. Caspar Hare, Professeur de philosophie et co-doyen associé de SERC, a ajouté que les présentations montrent une prise de conscience collective de la communauté du MIT sur les travaux de recherche les plus excitants dans ce domaine. Le MIT Governance Lab, dirigé par Lily Tsai, se distingue par son approche interdisciplinaire et rigoureuse pour évaluer l’impact des technologies sur la démocratie et la participation citoyenne. L'initiative Liberatory AI de Catherine D’Ignazio et Nikko Stevens vise à démocratiser la conversation sur l’IA et à promouvoir des pratiques plus équitables et inclusives. En conclusion, le symposium a mis en lumière la nécessité d’un dialogue continu entre les communautés scientifiques, éthiques et sociales pour naviguer dans les complexités et les possibilités offertes par l’informatique éthique. Les présentations offrent des pistes prometteuses pour améliorer la qualité de vie et les interactions sociales grâce à des technologies responsables et bien pensées.