Wir betrachten die Repräsentationslernung auf periodischen Graphen, die kristalline Materialien kodieren. Im Gegensatz zu regulären Graphen bestehen periodische Graphen aus einer minimalen Einheitszelle, die sich regelmäßig auf einem Gitter im dreidimensionalen Raum wiederholt. Die effektive Kodierung solcher periodischer Strukturen stellt einzigartige Herausforderungen dar, die in der herkömmlichen Graphen-Repräsentationslernung nicht auftreten. Neben der E(3)-Invarianz müssen Repräsentationen periodischer Graphen auch periodisch invariant sein, d.h., die gelernten Repräsentationen sollten unabhängig von Verschiebungen der Zellgrenzen sein, da diese künstlich festgelegt werden. Zudem müssen die periodischen Wiederholungsmuster explizit erfasst werden, da Gitter unterschiedlicher Größe und Orientierung verschiedenen Materialien entsprechen können. In dieser Arbeit stellen wir eine Transformer-Architektur namens Matformer für die Repräsentationslernung periodischer Graphen vor. Unser Matformer ist speziell darauf ausgelegt, periodisch invariant zu sein und Wiederholungsmuster explizit zu erfassen. Insbesondere kodiert Matformer periodische Muster durch eine effiziente Nutzung geometrischer Abstände zwischen denselben Atomen in benachbarten Zellen. Experimentelle Ergebnisse auf mehreren gängigen Benchmark-Datensätzen zeigen, dass unser Matformer die Baseline-Methoden konsistent übertrifft. Darüber hinaus belegen unsere Ergebnisse die Bedeutung der periodischen Invarianz und der expliziten Kodierung von Wiederholungsmustern für die Repräsentationslernung kristalliner Materialien.