大模型的研究趨勢已發生改變

原標題：分享NeurIPS 2024投稿經驗！浙大團隊用DePLM模型助力蛋白質優化，論文一作在線展示demo
文章來源：HyperAI超神經
內容字數：12156字

借助擴散去噪過程助力大模型對蛋白質的優化

在Meet AI4S第五期中，浙江大學知識引擎實驗室的博士研究生王澤元分享了他們在NeurIPS 2024上發表的論文，主題為“借助擴散去噪過程助力大模型對蛋白質的優化”。王博士指出，AI for Science正在改變科研范式，提高科研效率，尤其在蛋白質研究領域尤為顯著。

1. 研究背景與目標

蛋白質是生命的基本組成部分，其功能與氨基酸序列密切相關。傳統的蛋白質優化方法如定向進化和深度突變掃描消耗資源較大，因此需要新的計算方法來模擬蛋白質與其屬性的適應度關系。王博士的團隊提出了DePLM模型，旨在通過去噪過程最大化利用進化信息，優化蛋白質的性能。

2. DePLM模型的設計與實現

DePLM模型的核心在于將蛋白質語言模型捕獲的進化信息視為目標屬性優化中的無關噪聲。通過正向擴散過程逐步添加噪聲，反向去噪則學習消除噪聲，從而恢復真實情況。該模型基于排序空間進行去噪，旨在增強模型的泛化能力。

3. 實驗結果與性能評估

在多個蛋白質工程任務上，DePLM的表現優于基線模型，顯示出高質量的進化信息顯著改善了優化結果。此外，DePLM在不同屬性間的訓練與測試中展現出良好的泛化能力，證明了過濾無關信息的重要性。

4. 未來展望與團隊成果

王博士的團隊不僅致力于優化蛋白質，還探索了蛋白質語言與人類語言之間的對齊，提出了InstructProtein模型，力求彌補兩者之間的差距。此外，團隊還開發了多用途蛋白質序列設計方法PROPEND，取得了顯著的功能恢復率。未來，他們將繼續在AI for Science領域深耕，推動研究進展。

通過王澤元博士的分享，觀眾對DePLM模型及其在蛋白質優化中的應用有了更深入的理解，也獲得了投稿頂會的經驗與建議。

聯系作者

文章來源：HyperAI超神經
作者微信：
作者簡介：解構技術先進性與普適性，報道更前沿的 AIforScience 案例