AIGC動態歡迎閱讀
原標題:首次攻克「圖基礎模型」三大難題!港大開源OpenGraph:零樣本學習適配多種下游任
關鍵字:節點,數據,模型,表征,拓撲
文章來源:新智元
內容字數:20485字
內容摘要:
新智元報道編輯:LRS
【新智元導讀】港大發布通用圖基座模型OpenGraph,巧妙從LLM中蒸餾零樣本圖泛化能力。圖學習(Graph Learning)技術能夠對復雜的關系數據進行挖掘和學習,在推薦系統、社交網絡分析、引用網絡和交通網絡等多個領域都顯示出了巨大的應用價值。
圖神經網絡(Graph Neural Networks, GNNs)基于迭代的消息傳遞機制,能夠捕捉圖結構數據中的復雜高階關系,在各類圖學習應用場景中取得了巨大的成功。
通常,這種端到端的圖神經網絡需要大量、高質量的標注數據才能獲得較好的訓練效果。
近年來,一些工作提出圖模型的預訓練-微調(Pre-training and Fine-tuning)模式,使用各種自監督學習任務在無標注的圖數據上首先進行預訓練,再在少量標注數據上進行微調,以對抗監督信號不足的問題。這里的自監督學習任務包括對比學習、掩碼重建、局部全局互信息最大化等方法。
盡管這種預訓練方法取得了一定的成功,但他們的泛化能力較為有限,特別是當預訓練和下游任務出現分布偏移(Distribution Shift)時。
例如在推薦系統中,預訓練模型使用較早時
原文鏈接:首次攻克「圖基礎模型」三大難題!港大開源OpenGraph:零樣本學習適配多種下游任
聯系作者
文章來源:新智元
作者微信:AI_era
作者簡介:智能+中國主平臺,致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展,關注人機融合、人工智能和機器人對人類社會與文明進化的影響,領航中國新智能時代。
? 版權聲明
文章版權歸作者所有,未經允許請勿轉載。
相關文章
暫無評論...