HyperAIHyperAI

Command Palette

Search for a command to run...

Das Argonne National Laboratory in Den Vereinigten Staaten Hat ChemGraph Vorgeschlagen, Das 13 Benchmark-Tests Verwendet, Um Den Wert Von Agentien Auf Dem Gebiet Der Computerchemie Zu bewerten.

Featured Image

In den letzten Jahren hat die rasante Entwicklung der künstlichen Intelligenz, insbesondere der Fortschritt großer Sprachmodelle (LLM), neue Möglichkeiten für die automatisierte wissenschaftliche Forschung eröffnet.Es wurden bereits mehrere LLM-basierte Agenten entwickelt, um Anwender bei der Erledigung verschiedener Aufgaben im Bereich Chemie zu unterstützen.Bran et al. entwickelten beispielsweise ChemCrow, einen chemischen Agenten, der auf einem großen Sprachmodell basiert und chemische Syntheseaufgaben für eine Vielzahl von Molekülen durchführen kann; McNaughton et al. entwickelten CACTUS, einen Agenten auf Basis eines großen Sprachmodells, der Chemoinformatik-Werkzeuge integriert und Forschern bei Aufgaben wie der Vorhersage molekularer Eigenschaften, der Ähnlichkeitssuche und der Bewertung der Ähnlichkeit von Arzneimitteln helfen kann; White und Kollegen schlugen MDCrow vor, einen LLM-Agentenassistenten, der Molekulardynamik-(MD)-Workflows durchführen kann.
In diesem ZusammenhangEin Forschungsteam des Argonne National Laboratory in den Vereinigten Staaten hat ChemGraph vorgeschlagen, ein intelligentes Agentensystem, das auf einem großen Sprachmodell basiert.Es ist für die Durchführung von Molekülsimulationsabläufen im Bereich der Computerchemie konzipiert.
Forscher evaluierten ChemGraph anhand von 13 Benchmark-Aufgaben. Die Ergebnisse zeigten, dass kleinere, große Sprachmodelle (wie GPT-4o-mini und Claude-3.5-haiku) bei einfachen Aufgaben, die nur wenige Werkzeuge erforderten, eine hohe Genauigkeit und Stabilität erreichten. Mit zunehmender Aufgabenkomplexität sank die Leistung dieser Modelle jedoch deutlich, während das große Modell (GPT-4o) weiterhin eine starke Leistung zeigte. Durch die strategische Aufteilung komplexer Aufgaben in kleinere, besser handhabbare Teilaufgaben konnte die Leistung von ChemGraph selbst mit kleineren Modellen verbessert werden, sodass sie mit der von GPT-4o mithalten und diese in einigen Fällen sogar übertreffen konnte.
Die zugehörigen Forschungsergebnisse mit dem Titel „ChemGraph als agentenbasiertes Framework für computerchemische Arbeitsabläufe“ wurden in der Nature-Unterzeitschrift Communications Chemistry veröffentlicht.

Forschungshighlights:

ChemGraph nutzt auf Graph-Neuronalen Netzen basierende Modelle, um eine genaue und effiziente Berechnung zu erreichen, und kombiniert diese mit den Fähigkeiten von LLM in den Bereichen natürliches Sprachverständnis, Aufgabenplanung und wissenschaftliches Denken, wodurch eine intuitive und interaktive Benutzeroberfläche entsteht.

ChemGraph kann eine Reihe von Aufgaben ausführen, von der Generierung von SMILES-Strings und Molekülstrukturen bis hin zur Geometrieoptimierung, Schwingungsanalyse und thermochemischen Berechnungen.

ChemGraph unterstützt Anwender bei der Verwendung einer Vielzahl von Molekülsimulationsmethoden, darunter semiempirische Methoden, maschinelle Lernpotentialfunktionen und die Dichtefunktionaltheorie (DFT).

Papieradresse:

https://www.nature.com/articles/s42004-025-01776-9

Dreizehn Benchmark-Experimente etablieren ein Bewertungssystem für intelligente Agenten der Computerchemie.

Obwohl bereits einige Benchmark-Frameworks für Agenten existieren, gibt es im Bereich der Computerchemie noch keinen einheitlichen Benchmark für die Agentenbewertung. Daher haben die Forscher 13 Benchmark-Experimente entwickelt, um die Leistungsfähigkeit von ChemGraph zu evaluieren.Ziel dieser Experimente ist es, die Fähigkeit von ChemGraph zu testen, Aufgaben mithilfe von sechs integrierten Werkzeugen zu erfüllen, einschließlich einzelner Werkzeugaufrufe und Werkzeugkettenaufrufe.
Anhand der verschiedenen Arten von Nutzereingaben wurden diese Aufgaben in drei Kategorien unterteilt: (1) Molekülname; (2) SMILES-Zeichenkette; (3) chemische Reaktion. Die folgende Tabelle fasst 360 unabhängige Auswertungen aus 13 Experimenten zusammen.

*Zusammenfassende Tabelle der Benchmark-Experimente zur Evaluierung von ChemGraph*

In den ersten elf Experimenten drehten sich die Aufgaben hauptsächlich um Molekülnamen oder SMILES-Strings, wobei jede Aufgabe maximal vier Toolaufrufe oder vier Teilaufgaben erforderte. Im Gegensatz dazu konzentrierten sich die letzten beiden Experimente auf die Berechnung der thermochemischen Eigenschaften chemischer Reaktionen, was die Komplexität deutlich erhöhte und je nach Anzahl der Reaktanten und Produkte neun bis zwölf Toolaufrufe erforderte. Diese Aufgaben erforderten die Durchführung thermochemischer Berechnungen für jede Substanz separat und die anschließende Konstruktion von Reaktionseigenschaften auf Basis der zuvor erhaltenen Ergebnisse.

ChemGraph, ein intelligentes Agenten-Framework, das von einem großen Sprachmodell gesteuert wird

ChemGraph ist ein intelligentes Agenten-Framework, das auf einem umfangreichen Sprachmodell basiert und zur Automatisierung von Molekülsimulationsabläufen durch strukturierte Werkzeugaufrufe und Schlussfolgerungsfunktionen entwickelt wurde. Es basiert auf LangGraph und folgt dem ReAct-Framework.

LangGraph stellt ein graphenbasiertes Ausführungsmodell vor, das für eine robustere Zusammenarbeit mehrerer Agenten entwickelt wurde. Ein typischer LangGraph-Workflow besteht aus drei Teilen:

  • ZustandDer Zustand ist eine gemeinsam genutzte Datenstruktur, die den aktuellen Zustand eines Systems repräsentiert.
  • KnotenEin Knoten ist eine Python-Funktion, die die Logik eines Agenten definiert. Sie nimmt den aktuellen Zustand als Eingabe und gibt den aktualisierten Zustand zurück. Ein Knoten kann ein umfangreiches Sprachmodell oder eine Funktion sein, die eine bestimmte Operation ausführt.
  • KantenEine Kante ist eine Funktion, die den Nachrichtenfluss steuert und bestimmt, welcher Knoten als Nächstes ausgeführt wird. Kanten lassen sich in gerichtete und bedingte Kanten unterteilen: Gerichtete Kanten stellen eine feste, unidirektionale Übertragung von Nachrichten von einem Knoten zum anderen dar; bedingte Kanten hingegen bieten mehr Flexibilität, da sie es ermöglichen, dass Nachrichten je nach bestimmten Bedingungen zu verschiedenen Knoten fließen.

Das folgende Diagramm veranschaulicht die allgemeine Struktur von ChemGraph: Zunächst erhält der Agent des großen Sprachmodells eine Reihe vordefinierter Werkzeuge. Anhand der Benutzereingaben entscheidet der Agent, welches Werkzeug aufgerufen wird. Nach jedem Werkzeugaufruf empfängt das große Sprachmodell das Ergebnis und prüft, ob ein weiterer Werkzeugaufruf erforderlich ist. Sobald alle Werkzeugaufrufe abgeschlossen sind, kann die Nachricht über einen von zwei Wegen weiter zugestellt werden.

*ChemGraph-Übersicht*

Im ersten Fall gibt ChemGraph, ähnlich einem herkömmlichen großen Sprachmodell, eine menschenähnliche Antwort mit den Ergebnissen der Werkzeugaufrufe zurück. Im zweiten Fall wird die Nachricht an einen zweiten Agenten eines großen Sprachmodells weitergeleitet, der direkt auf die Benutzeranfrage eine strukturierte Ausgabe (in einem vordefinierten JSON-Format) generiert. Dieses Dual-Mode-Design unterstützt sowohl die Interaktion in natürlicher Sprache als auch die systematische Auswertung und ermöglicht es ChemGraph, sowohl typische Anwendungsfälle als auch Auswertungsabläufe zu erfüllen.

Das folgende Diagramm veranschaulicht, wie ChemGraph Werkzeuge aufruft und deren Ausgabe koordiniert, um Aufgaben der Computerchemie zu erfüllen:

*Ein Beispiel für die Interaktion zwischen Mensch und ChemGraph (Einzelagent) bei der Durchführung einer react2enthalpy-Aufgabe mit GPT-4o-mini* 

In diesem Beispiel fordert der Benutzer ChemGraph auf, die Enthalpie der Methanverbrennungsreaktion bei 400 K mithilfe der GFN2-xTB-Methode zu berechnen. ChemGraph (ausgestattet mit GPT-4o-mini) wandelt zunächst den chemischen Namen jedes Moleküls in der Reaktion in eine SMILES-Zeichenkette um (Tool-Aufrufe 1 bis 4). Anschließend generiert es basierend auf diesen SMILES-Zeichenketten Atomkoordinaten in einer AtomsData-Datenstruktur (Tool-Aufrufe 5 bis 8). Schließlich führt ChemGraph thermodynamische Berechnungen mit den generierten Atomkoordinaten und den vom Benutzer angegebenen Parametern (wie Rechnertyp, Temperatur usw.) durch.

Eine Multiagentenarchitektur kann die Modellleistung deutlich verbessern.

Das Forschungsteam evaluierte systematisch die Leistung von ChemGraph bei computerchemischen Aufgaben unterschiedlicher Komplexität anhand von 13 Benchmark-Tests:

Einzelagentenbewertung

Zunächst evaluierten die Forscher die Leistung des Einzelagenten ChemGraph anhand von 13 experimentellen Aufgaben mit drei großen Sprachmodellen: GPT-4o-mini, Claude-3.5-haiku und Qwen-2.5-14B. Für GPT-4o wurde lediglich die Leistung bei den letzten beiden Problemen (react2enthalpy und react2gibbs) evaluiert. Die folgende Abbildung zeigt die Genauigkeit der verschiedenen Modelle bei den unterschiedlichen Aufgaben:

*Genauigkeits-Heatmap von ChemGraph für Einzelwirkstoffe* 

existieren name2smi AufgabeMitte—Claude-3.5-haiku rief das Tool „molecule_name_to_smiles“ nicht konsistent auf. Stattdessen versuchte es mitunter, die SMILES-Zeichenkette manuell mithilfe seines internen chemischen Wissens zu erstellen, oder verweigerte die Nutzung des Tools gänzlich. Daher wies Claude-3.5-haiku die geringste durchschnittliche Anzahl an Tool-Aufrufen pro Molekül unter den drei Modellen in dieser Aufgabe auf. GPT-4o-mini konnte das Experiment fehlerfrei durchführen und das korrekte Ergebnis generieren. Qwen-2.5-14B generierte im Allgemeinen korrekte Tool-Aufrufe inklusive der richtigen Tool-Namen und -Parameter; die Fehler traten jedoch hauptsächlich bei der Extraktion der Ergebnisse aus der Tool-Ausgabe auf.

existieren Die Aufgaben name2xyz, name2opt und name2vibMitteDie Anforderung besteht darin, dass große Sprachmodelle nicht nur Werkzeuge präzise aufrufen, sondern auch korrekte und strukturierte Ausgaberesultate generieren. GPT-4o-mini und Claude-3.5-haiku schnitten in dieser Hinsicht gut ab und erreichten eine Genauigkeit, die 83% übertraf.

existieren smi2xyz zu smi2file AufgabeMitte—Claude-3.5-haiku und GPT-4o-mini zeigten eine starke und stabile Leistung und erreichten beide eine Genauigkeit von über 83%; Qwen-2.5-14B zeigte ebenfalls eine verbesserte Leistung in diesem Aufgabenbereich mit einer minimalen Genauigkeit von 77%.

existieren Reaktionsenthalpie und Reaktionsgibbs AufgabeMitte—Qwen-2.5-14B schnitt am schlechtesten ab, mit einer Genauigkeit unter 20%; GPT-4o-mini erzielte moderate Ergebnisse mit Genauigkeiten von 40% bzw. 49%; Claude-3.5-haiku übertraf andere kleine große Sprachmodelle und erreichte Genauigkeiten von 67% bzw. 69%; GPT-4o erzielte die höchste Leistung mit einer durchschnittlichen Genauigkeit von über 83% in beiden Aufgaben.

Multiagenten-Bewertung

Die Forscher evaluierten ferner die Leistung des Multiagenten-ChemGraph unter Verwendung von GPT-4o-mini, Claude-3.5-haiku, Qwen-2.5-14B und GPT-4o (siehe Abbildung unten) und verglichen die Ergebnisse mit der Leistung des Einzelagenten.

*Durchschnittliche Genauigkeit von ChemGraph bei den Aufgaben react2enthalpy und react2gibbs unter Verwendung verschiedener großer Sprachmodelle*

Die Ergebnisse zeigen, dassMultiagentensysteme verbessern die Genauigkeit verschiedener Modelle signifikant.In der Aufgabe react2enthalpy verbesserte GPT-4o-mini seine Genauigkeit von 401 TP3T auf 871 TP3T, und Claude-3.5-haiku verbesserte sich von 671 TP3T auf 871 TP3T. Beide Ergebnisse stellen den Mittelwert aus drei unabhängigen Durchläufen dar. Bemerkenswerterweise übertrafen beide Modelle die Basisleistung des Einzelagenten GPT-4o von 831 TP3T. Ein ähnlicher Trend zeigte sich in der letzten Aufgabe react2gibbs: Die Genauigkeit von GPT-4o-mini verbesserte sich von 491 TP3T auf 871 TP3T, und Claude-3.5-haiku verbesserte sich von 691 TP3T auf 931 TP3T. Im Gegensatz dazu erzielte Qwen-2.5-14B nur eine begrenzte Verbesserung, hauptsächlich aufgrund häufiger Fehler bei der Werkzeugaufrufung, welche die Fähigkeit des Gesamtagenten zur Generierung genauer Antworten einschränkten.

Letztendlich erreichte GPT-4o im Multi-Agenten-Modus eine perfekte Genauigkeit und schloss zwei Aufgaben (react2enthalpy und react2gibbs) mit einer Erfolgsquote von 100% ab.

Letzte Worte

ChemGraph, ein intelligentes Agentensystem mit großem Sprachmodell für die Computerchemie und Materialwissenschaft, demonstriert das Potenzial von KI zur Automatisierung wissenschaftlicher Arbeitsabläufe. Das Forschungsteam gab an, die Anwendungsmöglichkeiten von ChemGraph für groß angelegte Simulationsaufgaben durch die Integration weiterer Tools, die Optimierung der Agentenarchitektur und die Verbesserung der Unterstützung für Hochleistungsrechner auszubauen. Gleichzeitig nutzt das System Docker-Container, um die Betriebssicherheit zu gewährleisten und die Zuverlässigkeit des Agenten kontinuierlich zu verbessern.

Es ist wichtig zu betonen, dass ChemGraph herkömmliche Software für die Computerchemie nicht ersetzt, sondern als intelligente Kollaborationsschicht dient, die Forschende und Simulationswerkzeuge über natürliche Sprachinteraktion verbindet. Mit der Entwicklung großer Open-Source-Modelle wird erwartet, dass ChemGraph auch die Kosten von KI-Forschungsanwendungen senkt und intelligenten wissenschaftlichen Agenten eine größere Rolle in Bereichen wie der Materialforschung und dem Moleküldesign ermöglicht.

Quellen:

https://phys.org/news/2026-07-ai-framework-battery-combustion-materials.html

https://www.nature.com/articles/s42004-025-01776-9