我们研究了如何高效地将高阶特征融入基于神经网络的图结构依存句法分析中。与传统方法中显式从中间解析树中提取高阶特征不同，我们提出了一种更为强大的依存树节点表示方法，能够简洁而高效地捕捉高阶信息。我们采用图神经网络（GNN）来学习这些表示，并探讨了几种新型的GNN更新与聚合函数配置。在PTB数据集上的实验表明，我们的解析器在不使用任何外部资源的情况下，取得了最佳的无标记依存准确率（UAS）和有标记依存准确率（LAS），分别为96.0%和94.3%。