ChemBERTa-2: Feinabstimmung für die Vorhersage der Hemmung der HIV-Replikation durch Moleküle

In dieser Arbeit wurden zwei Varianten des Großsprachmodells ChemBERTa-2, die mit zwei unterschiedlichen Methoden vortrainiert wurden, für die Vorhersage der Hemmung der HIV-Replikation fine-tuned. Das bestgeeignete Modell erreichte eine AUROC von 0,793. Die Veränderungen in den Verteilungen der molekularen Embeddings vor und nach dem Fine-tuning zeigen die verbesserte Fähigkeit der Modelle, aktive und inaktive HIV-Moleküle besser zu unterscheiden.