HyperAI
Back to Headlines

FDA startet vorzeitigen AI-Tool-Einsatz, Elsa, zur Verbesserung der Effizienz.

vor 2 Monaten

Die FDA startet ihr generatives KI-Tool Elsa vorzeitig Künstliche Intelligenz (KI) hat eine weitere Heimat im Bundesregierungsbereich gefunden. Am Dienstag gab die U.S. Food and Drug Administration (FDA) bekannt, dass es das eigene generative KI-Tool namens Elsa vorzeitig eingeführt hat. Das Ziel ist es, die Effizienz der FDA zu verbessern. Elsa soll den Mitarbeitern bei einer Vielzahl von Aufgaben helfen, von wissenschaftlichen Reviews bis hin zu grundlegenden Betriebsprozessen. Nach eigenen Angaben der FDA war der ursprüngliche Starttermin für Elsa der 30. Juni, doch nun wurde das Tool bereits im Mai vorgestellt und ist sowohl zeitlich als auch finanziell unter Budget geblieben. Es ist nicht klar, auf welchen genauen Daten Elsa trainiert wurde, jedoch betonte die FDA, dass keine „von der regulierten Industrie eingereichten Daten“ verwendet wurden, um vertrauliche Forschungsergebnisse und Informationen zu schützen. Derzeit speichert Elsa ihre Informationen in GovCloud, einem Produkt von Amazon Web Services, das speziell für vertrauliche Informationen entwickelt wurde. Als Sprachmodell kann Elsa den Mitarbeitern bei Lesen, Schreiben und Zusammenfassen behilflich sein. Darüber hinaus kann das KI-Tool Nebenwirkungen zusammenfassen, Code für präklinische Anwendungen generieren und vieles mehr. Nach Angaben der FDA wird Elsa bereits eingesetzt, um klinische Protokollprüfungen zu beschleunigen, die Zeit für wissenschaftliche Bewertungen zu verkürzen und hochprioritäre Inspektionsziele zu identifizieren. Im Mai verkündete die FDA in einer Pressemitteilung, dass das erste AI-unterstützte wissenschaftliche Review abgeschlossen worden sei. Dr. Marty Makary, ein führender Wissenschaftler, beschrieb er, dass er von Ersas Fähigkeiten „beeindruckt“ sei, die „großes Potenzial haben, die Prüfzeiten für neue Therapien zu verkürzen“. Er fügte hinzu: „Wir müssen die Zeit unserer Wissenschaftler schätzen und den Umfang an nicht-produktiver Routinearbeit reduzieren, die bisher viel des Prüfprozesses ausgemacht hat.“ Ein weiterer Wissenschaftler, Jinzhong Liu, berichtete, dass die generative KI der FDA in Minuten Aufgaben bewältigte, die ansonsten mehrere Tage in Anspruch genommen hätten. FDA-Chef-KI-Offizier Jeremy Walsh sagte am Dienstag: „Heute beginnt das Zeitalter der KI bei der FDA mit dem Release von Elsa. KI ist nicht länger eine ferne Vision, sondern eine dynamische Kraft, die die Leistungsfähigkeit und das Potenzial jedes Mitarbeiters verbessert und optimiert.“ Generative KI kann zweifellos ein nützliches Werkzeug sein, aber jedes Werkzeug hat auch seine Nachteile. Bei KI gibt es insbesondere Berichte über Halluzinationen, also Falschaussagen oder irreführende Statements. Obwohl diese Phänomene häufig mit Chatbots wie ChatGPT assoziiert werden, können sie auch in KI-Modellen von Bundesbehörden auftreten, wo sie noch mehr Chaos auslösen können. Laut IT-Veteranen stammen KI-Halluzinationen oft von Faktoren wie Verzerrungen in den Trainingsdaten oder fehlenden Faktenkontrollmechanismen im Modell selbst. Selbst wenn diese Mechanismen vorhanden sind, betont IT-Veteranen, dass menschliche Überwachung „erforderlich“ sei, um die Risiken zu mindern und die Zuverlässigkeit von KI-integrierten Bundesdatenströmen sicherzustellen. Ideal wäre es, wenn die FDA gründlich über mögliche Probleme bei der Nutzung Ersas nachgedacht und Maßnahmen ergriffen hat, um Missgeschicke zu verhindern. Die Ausweitung von Technologien, die eine menschliche Überwachung erfordern, ist jedoch besorgniserregend, insbesondere wenn Bundesbehörden Massenentlassungen durchführen. Anfang April legte die FDA 3.500 Mitarbeiter ab, darunter Wissenschaftler und Inspektionskräfte (obwohl einige Entlassungen später zurückgenommen wurden). Die Zukunft wird zeigen, wie sich Elsa letztendlich bewährt. Langfristig plant die FDA, die Nutzung Ersas im ganzen Organisationsgefüge auszudehnen, einschließlich der Verarbeitung von Daten und generativen-KI-Funktionen, um „die Mission der FDA weiterhin zu unterstützen.“ In der Branche wird Ersas vorzeitige Einführung als ein wichtiger Meilenstein im Bereich der künstlichen Intelligenz in Regierungsbehörden gewertet. Es zeigt, dass die FDA bereit ist, moderne Technologien einzusetzen, um ihre Prozesse zu optimieren. Allerdings warnen Experten vor den potenziellen Risiken, die mit der Verwendung von KI-Tools verbunden sind, insbesondere in einem Umfeld, in dem menschliche Ressourcen knapp werden. Die FDA wird hoffentlich die notwendigen Vorkehrungen getroffen haben, um die Zuverlässigkeit und Sicherheit von Elsa zu gewährleisten.

Related Links