HyperAIHyperAI

Command Palette

Search for a command to run...

Projection Cosinus Adaptative Simple Et Puissante MaCP

Date

il y a 2 mois

La projection cosinus adaptative minimale mais puissante (MaCP) est une nouvelle méthode d'adaptation efficace proposée par l'Université d'Amsterdam le 29 mai 2025, qui vise à obtenir d'excellentes performances dans le réglage fin de modèles de grande base avec des paramètres et une surcharge de mémoire minimes.MaCP : adaptation minimale mais puissante via la projection cosinus hiérarchique", qui a remporté le prix ACL 25 Best Theme Paper Award.

MaCP exploite les propriétés de compression d'énergie et de décorrélation de la transformée en cosinus discrète (DCT) pour projeter les variations de poids de l'adaptation de rang faible dans l'espace cosinus discret et sélectionner les composantes fréquentielles les plus critiques à plusieurs niveaux de fréquence, améliorant ainsi l'efficacité et la précision du modèle. Comparé aux méthodes efficaces existantes d'ajustement fin des paramètres (telles que LoRA, VeRA et LaMDA) sur plusieurs tâches, MaCP réduit considérablement l'utilisation de la mémoire et la complexité de calcul tout en améliorant la précision.

Construire l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec du co-codage IA gratuit, un environnement prêt à l'emploi et les meilleurs prix GPU.

Co-codage IA
GPU prêts à utiliser
Meilleurs prix
Commencer

Hyper Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp
Projection Cosinus Adaptative Simple Et Puissante MaCP | Wiki | HyperAI