Combining Label Propagation and Simple Models Out-performs Graph Neural Networks
ICLR 2021,采用后处理的方法而非GNN在OGB上取得SOTA。
NIPS 2021,拉普拉斯近似(Laplacian Approximation)。
ICML 2021,来自DeepMind,目前大多数模型只能处理单模态,本文提出基于Transformer的Perceiver模型,适用于各种各样的输入,不需要过多的特定假设。模型利用非对称的注意力机制,将输入迭代地提取到一个很小的隐藏bottleneck,从而可以处理非常大的输入。
EMNLP 2021,损失函数大杂烩。