Optimierung heterophiler Graph Neural Networks mit kausalem Message-Passing

In dieser Arbeit entdecken wir, dass die kausale Inferenz einen vielversprechenden Ansatz darstellt, um heterophile Nachrichtenweitergabe in Graph Neural Networks (GNNs) zu erfassen. Durch die Nutzung einer Ursache-Wirkung-Analyse können wir heterophile Kanten anhand asymmetrischer Knotenabhängigkeiten identifizieren. Die gelernte kausale Struktur ermöglicht präzisere Beziehungen zwischen Knoten. Um die rechnerische Komplexität zu verringern, führen wir eine interventionsbasierte kausale Inferenz im Kontext graphenbasierter Lernverfahren ein. Zunächst vereinfachen wir die kausale Analyse auf Graphen, indem wir sie als strukturelles Lernmodell formulieren und das Optimierungsproblem im Rahmen eines bayesschen Rahmens definieren. Anschließend analysieren wir die Zerlegung des Optimierungsziels in eine Konsistenzstrafe und eine Strukturmodifikation basierend auf Ursache-Wirkungs-Beziehungen. Anschließend schätzen wir dieses Ziel mittels bedingter Entropie und geben Einblicke in die Rolle der bedingten Entropie bei der Quantifizierung der Heterophilie. Daraus leiten wir CausalMP ab – ein kausales Nachrichtenweitergabe-Entdeckungsnetzwerk für die heterophile Graphenlernung –, das iterativ die explizite kausale Struktur von Eingabegraphen erlernt. Wir führen umfassende Experimente sowohl in heterophilen als auch in homophilen Graphenszenarien durch. Die Ergebnisse zeigen, dass unser Modell eine überlegene Leistung bei der Link-Vorhersage erzielt. Zudem verbessert das Training auf der kausalen Struktur die Knotenrepräsentationen bei Klassifizierungsaufgaben über verschiedene Basismodelle hinweg.