HyperAIHyperAI
vor 11 Tagen

Dual-level Hypergraph Contrastive Learning mit adaptiver Temperaturverbesserung

{Yanfang Ye, Chuxu Zhang, Tianyi Ma, Yiyue Qian}
Abstract

Angeregt durch den Erfolg der graphenbasierten kontrastiven Lernmethoden haben Forscher begonnen, die Vorteile kontrastiven Lernens auf Hypergraphen zu erforschen. Allerdings weisen diese Ansätze folgende Einschränkungen bei der Modellierung hochordniger Beziehungen in unbeschrifteten Daten auf: (i) Sie konzentrieren sich hauptsächlich darauf, die Übereinstimmung einzelner Knoten-Embeddings zu maximieren, während sie die Erfassung gruppenweiser kollektiver Verhaltensweisen innerhalb von Hypergraphen vernachlässigen; (ii) Die Mehrheit dieser Ansätze ignoriert die Bedeutung des Temperaturparameters zur Unterscheidung von kontrastiven Paaren während der Optimierung. Um diese Limitationen zu überwinden, schlagen wir einen neuartigen zweistufigen Hypergraphen-Kontrastive-Lernansatz mit adaptiver Temperatur (HyGCL-AdT) vor, um das kontrastive Lernen auf Hypergraphen zu verbessern. Insbesondere unterscheidet sich unser Ansatz von den meisten bisherigen Arbeiten, die lediglich die Übereinstimmung von Knoten-Embeddings innerhalb von Hypergraphen maximieren, durch die Einführung eines zweistufigen Kontrastmechanismus, der nicht nur individuelle Knotenverhaltensweisen im lokalen Kontext erfasst, sondern auch die gruppenweise kollektive Dynamik der Knoten innerhalb von Hyperkanten aus einer Gemeinschaftsperspektive modelliert. Zudem entwickeln wir eine adaptive Temperatur-verbesserte kontrastive Optimierung, um die Unterscheidbarkeit zwischen kontrastiven Paaren zu erhöhen. Empirische Experimente an sieben Standard-Hypergraphen-Datensätzen zeigen, dass HyGCL-AdT im Vergleich zu aktuellen State-of-the-Art-Modellen hervorragende Leistung erzielt. Der Quellcode ist unter https://github.com/graphprojects/HyGCL-AdT verfügbar.

Dual-level Hypergraph Contrastive Learning mit adaptiver Temperaturverbesserung | Neueste Forschungsarbeiten | HyperAI