L'FDA Dévoile Elsa, son Outil d'IA Générative, en Avance sur le Planning

L'administrateur américain des aliments et des médicaments (FDA) lance son outil d'intelligence artificielle générative, surnommée Elsa, avec anticipation. On mardi, la FDA a annoncé le lancement anticipé de son propre outil d'intelligence artificielle générative, nommé Elsa, visant à améliorer l'efficacité de ses opérations. Cet outil est destiné à faciliter le travail des employés, qu'il s'agisse de revues scientifiques ou d'opérations administratives. Initialement prévu pour le 30 juin, Elsa est déjà opérationnelle et a été développée dans les temps et sous budget, selon une déclaration officielle de la FDA. L'agence n'a pas utilisé de données soumises par l'industrie régulée lors de sa formation, afin de protéger les informations sensibles. Actuellement, les informations de Elsa sont stockées dans GovCloud, une infrastructure d'Amazon Web Services spécifiquement conçue pour les données classifiées. En tant que modèle linguistique, Elsa peut aider les employés de la FDA dans diverses tâches, telles que la lecture, l'écriture et la synthèse. Elle est capable de résumer les incidents indésirables, générer du code pour des applications non cliniques et bien plus encore. La FDA a indiqué que Elsa est déjà utilisée pour accélérer les revues de protocoles cliniques, réduire le temps nécessaire aux évaluations scientifiques et identifier les cibles d' inspections prioritaires. En mai, lors de l'annonce de la première revue scientifique assistée par l'IA de la FDA, le Dr Makary a déclaré être "sidéré" par les capacités de Elsa, soulignant qu'elle "offre un potentiel considérable pour raccourcir le temps de revue des nouveaux traitements". Il a ajouté : "Il est essentiel de valoriser le temps des scientifiques et de diminuer la quantité de tâches routineuses non productives qui ont historically occupé beaucoup du processus de revue." Selon Jinzhong Liu, un scientifique travaillant pour la FDA, Elsa accomplissait en quelques minutes des tâches qui, autrement, prendraient plusieurs jours. Dans son annonce du mardi, Jeremy Walsh, le chef de l'IA de la FDA, a déclaré : "Nous entrons aujourd'hui dans l'ère de l'IA à la FDA avec le lancement d'Elsa. L'IA n'est plus une promesse lointaine, mais une force dynamique qui renforce et optimise les performances de chaque employé." Néanmoins, l'IA générative présente également des défis potentiels. Récentes controverses autour de l'IA mettent en lumière des "hallucinations", c'est-à-dire des informations fausses ou trompeuses. Bien que ce phénomène soit principalement associé aux chatbots comme ChatGPT, il peut également survenir dans les modèles d'IA fédéraux, où les conséquences peuvent être plus graves. Selon IT Veterans, les hallucinations d'IA proviennent généralement de biais dans les données d'entraînement ou d'un manque de mécanismes de vérification des faits intégrés au modèle. Même si ces mesures sont en place, IT Veterans souligne que la supervision humaine reste "essentielle pour atténuer les risques et assurer la fiabilité des flux de données intégrés à l'IA". La FDA a probablement soigneusement évalué et pris des mesures pour prévenir toute mauvaise utilisation d'Elsa. Cependant, une expansion technologique nécessitant une surveillance humaine est toujours préoccupante, particulièrement dans un contexte de réductions d'effectifs. Début avril, la FDA a licencié environ 3 500 employés, dont des scientifiques et du personnel inspecteur (certains licenciements ayant depuis été annulés). Le temps nous dira comment Elsa se comportera finalement. La FDA prévoit néanmoins d'étendre son utilisation au niveau de l'ensemble de l'agence à mesure qu'elle évolue. Ces extensions incluront le traitement des données et les fonctions d'IA générative, visant à "soutenir davantage la mission de la FDA". En conclusion, l'introduction d'Elsa promet d'améliorer significativement le travail quotidien de la FDA en rationalisant des tâches chronophages et en favorisant l'efficacité des équipes. Cependant, l'importance d'une supervision humaine pour garantir sa fiabilité et minimiser les risques demeure cruciale, notamment lors de périodes d'incertitude en ressources humaines.