ICML 2024丨多軌圖卷積網絡：解決過平滑與過碾壓的新思路

AIGC動態歡迎閱讀

原標題：ICML 2024丨多軌圖卷積網絡：解決過平滑與過碾壓的新思路
關鍵字：節點,消息,軌道,語義,問題
文章來源：AI科技評論
內容字數：0字

內容摘要：

圖神經網絡（Graph Neural Networks）是強大的圖（關系與交互系統）分析工具，已成功應用在推薦系統、金融風控、知識工程、分子動力學模擬、芯片設計等諸多領域。絕大多數GNNs利用消息傳遞（Message Passing）框架實現拓撲感知及信息融合，該框架的核心是消息聚合與轉換模塊。然而，相較于計算機視覺與自然語言處理領域的大模型，當前GNNs模型層數較淺，未能充分發掘出模型的表達潛力。
過平滑（Oversmoothing）和過碾壓（Oversquashing）問題使得難以通過堆疊多層的方式構建深層的GNNs。過平滑是指隨著消息聚合次數的增加，節點表示變得無法相互區分；過碾壓是指在來自遠端節點的信息被過度壓縮在有限長度的表示向量中，這阻礙了對圖中長程依賴關系的捕獲。
現有解決過平滑與過碾壓的工作大多基于以下3類策略。（1）圖重寫（Graph rewiring）策略通過刪邊[1][2]或增邊[3][4]的方式優化圖的拓撲結構。Graph transformer模型也可以看做是一種基于attention的增邊方式。（2）正則項策略通過約束節點表示[5]或者信息流[6]的方式，避

原文鏈接：ICML 2024丨多軌圖卷積網絡：解決過平滑與過碾壓的新思路

聯系作者

文章來源：AI科技評論
作者微信：
作者簡介：