HyperAIHyperAI

Command Palette

Search for a command to run...

Modèles profonds d'interactions entre ensembles

Jason Hartford; Devon R Graham; Kevin Leyton-Brown; Siamak Ravanbakhsh

Résumé

Nous utilisons l'apprentissage profond pour modéliser les interactions entre deux ensembles d'objets ou plus, tels que les évaluations utilisateur-film, les liaisons protéine-médicament, ou les interactions ternaires utilisateur-élément-étiquette. La représentation canonique de ces interactions est une matrice (ou un tenseur de dimension supérieure) possédant une propriété d'échangeabilité : le sens du codage n'est pas modifié par la permutation des lignes ou des colonnes. Nous soutenons que les modèles devraient donc être Équivariants aux Permutations (EP) : contraints à faire les mêmes prédictions à travers ces permutations. Nous présentons un schéma de partage de paramètres et démontrons qu'il ne pourrait pas être rendu plus expressif sans violer l'EP. Ce schéma offre trois avantages. Premièrement, nous montrons des performances de pointe sur plusieurs benchmarks de complétion de matrices. Deuxièmement, nos modèles nécessitent un nombre de paramètres indépendant du nombre d'objets, ce qui leur permet de bien s'adapter à de grands ensembles de données. Troisièmement, les modèles peuvent être interrogés sur de nouveaux objets qui n'étaient pas disponibles au moment de l'entraînement, mais dont les interactions ont depuis été observées. Dans nos expériences, nos modèles ont obtenu des performances généralisatrices surprenantes dans cette tâche d'extrapolation matricielle, tant au sein des domaines (par exemple, nouveaux utilisateurs et nouveaux films tirés de la même distribution utilisée pour l'entraînement) qu'à travers différents domaines (par exemple, prédire des évaluations musicales après avoir été entraînés sur des films).


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp