港大開源圖基礎大模型OpenGraph: 強泛化能力，前向傳播預測全新數據

AIGC動態歡迎閱讀

原標題：港大開源圖基礎大模型OpenGraph: 強泛化能力，前向傳播預測全新數據
關鍵字：數據,模型,節點,性能,團隊
文章來源：量子位
內容字數：7339字

內容摘要：

OpenGraph 投稿向 凹非寺量子位 | 公眾號 QbitAI圖學習領域的數據問題，又有能緩解的新花活了！
OpenGraph，一個基于圖的基礎模型，專門用于在多種圖數據集上進行零樣本預測。
背后是港大數據智能實驗室的主任Chao Huang團隊，他們還針對圖模型提出了提示調整技術，以提高模型對新任務的適應性。
目前，這項工作已經掛上了GitHub。
據介紹，這項工作主要深入探討增強圖模型泛化能力的策略（特別是在訓練和測試數據存在顯著差異時）。
而OpenGraph旨在通過學習通用的圖結構模式，并僅通過前向傳播進行預測，實現對全新數據的零樣本預測。
為了實現目標，團隊解決了以下3點挑戰：
數據集間的token差異：不同圖數據集常有不同的圖token集，我們需要模型能夠跨數據集進行預測。
節點關系建模：在構建通用圖模型時，有效地建模節點關系至關重要，這關系到模型的擴展性和效率。
數據稀缺：面對數據獲取的難題，我們通過大型語言模型進行數據增強，以模擬復雜的圖結構關系，提升模型訓練質量。
通過一系列創新方法，如拓撲感知的圖Tokenizer和基于錨點的圖Transformer，Ope

原文鏈接：港大開源圖基礎大模型OpenGraph: 強泛化能力，前向傳播預測全新數據

聯系作者

文章來源：量子位
作者微信：QbitAI
作者簡介：追蹤人工智能新趨勢，關注科技行業新突破