港大新型圖基礎(chǔ)模型AnyGraph：挑戰(zhàn)Scaling Law，精準建模多樣化結(jié)構(gòu)模式和特征空間

AIGC動態(tài)歡迎閱讀

原標題：港大新型圖基礎(chǔ)模型AnyGraph：挑戰(zhàn)Scaling Law，精準建模多樣化結(jié)構(gòu)模式和特征空間
關(guān)鍵字：模型,數(shù)據(jù),特征,專家,樣本
文章來源：量子位
內(nèi)容字數(shù)：0字

內(nèi)容摘要：

AnyGraph團隊投稿量子位 | 公眾號 QbitAI新型圖基礎(chǔ)模型來了——
AnyGraph，基于圖混合專家（MoE）架構(gòu)，專門為實現(xiàn)圖模型跨場景泛化而生。
通過MoE架構(gòu)、路由算法、SVD方法和MLP網(wǎng)絡(luò)等，AnyGraph解決了跨域和域內(nèi)圖異構(gòu)性問題，并進行了高效跨域模型訓(xùn)練。
能夠精準建模多樣化的結(jié)構(gòu)模式和特征空間。
在38個不同領(lǐng)域數(shù)據(jù)集上進行實驗，AnyGraph在零樣本預(yù)測、擴展定律、消融實驗和效率實驗等方面均表現(xiàn)出色。
AnyGraph由來自香港大學(xué)的研究人員完成。
關(guān)于AnyGraph的更多細節(jié)我們接著往下看。
AnyGraph長啥樣？隨著圖結(jié)構(gòu)數(shù)據(jù)在各個領(lǐng)域的日益普及，對具有出色泛化能力的圖學(xué)習(xí)模型的需求愈發(fā)迫切。
現(xiàn)實應(yīng)用中，圖學(xué)習(xí)模型需有效應(yīng)對分布偏移并適應(yīng)新的圖領(lǐng)域，但當前的先進模型在真正的泛化性能方面往往表現(xiàn)不足，嚴重依賴繁重的微調(diào)過程，難以適應(yīng)實際應(yīng)用中多樣的圖結(jié)構(gòu)和分布。
受成功的基礎(chǔ)模型在理解視覺和語言數(shù)據(jù)方面的啟發(fā)，通用的圖基礎(chǔ)模型具有巨大潛力，可從多樣的圖結(jié)構(gòu)數(shù)據(jù)中學(xué)習(xí)可遷移的表示，從而高效適應(yīng)各種圖領(lǐng)域和任務(wù)。
然而，構(gòu)建有效的自適應(yīng)圖基礎(chǔ)模

原文鏈接：港大新型圖基礎(chǔ)模型AnyGraph：挑戰(zhàn)Scaling Law，精準建模多樣化結(jié)構(gòu)模式和特征空間