MoE再下一城！港大提出AnyGraph：首次開啟「圖大模型」Scaling Law之路

AIGC動態歡迎閱讀

原標題：MoE再下一城！港大提出AnyGraph：首次開啟「圖大模型」Scaling Law之路
關鍵字：模型,數據,專家,特征,方法
文章來源：新智元
內容字數：0字

內容摘要：

新智元報道編輯：LRST
【新智元導讀】AnyGraph聚焦于解決圖數據的核心難題，跨越多種場景、特征和數據集進行預訓練。其采用混合專家模型和特征統一方法處理結構和特征異質性，通過輕量化路由機制和高效設計提升快速適應能力，且在泛化能力上符合Scaling Law。圖數據，作為一種不可或缺的數據表現形式，廣泛滲透于社交網絡、學術科研網絡、交通管理系統及生物信息網絡等諸多領域。作為最廣泛應用的圖學習范式，圖表征學習致力于學習圖中節點的表示向量，融合結構特性與節點特征，以實現精準的預測與分析。
近年來涌現出了大量的圖學習方法，包括圖神經網絡、圖自監督學習、圖預訓練和微調方法、以及圖大語言模型。這些方法不斷精進圖學習模型的建模能力和預測精度，近年的一些方法探索了增強圖模型泛化能力的途徑。然而，當前方法普遍依賴于復雜的調優流程，難以靈活應對實際圖數據復雜多變的結構與特征特性。當圖數據涉及多個領域，且模型在訓練階段未曾見過時，當前模型難以處理，體現了現有方法在跨領域的零樣本預測任務上泛化性能的不足。
為了解決這一問題，香港大學的研究人員提出AnyGraph這一圖基礎模型。論文鏈接：https:/

原文鏈接：MoE再下一城！港大提出AnyGraph：首次開啟「圖大模型」Scaling Law之路

聯系作者

文章來源：新智元
作者微信：
作者簡介：