AIGC動態歡迎閱讀
原標題:AAAI 2024 | 測試時領域適應的魯棒性得以保證,TRIBE在多真實場景下達到SOTA
關鍵字:類別,不平衡,模型,領域,數據流
文章來源:機器之心
內容字數:8895字
內容摘要:
機器之心專欄
機器之心編輯部測試時領域適應(Test-Time Adaptation)的目的是使源域模型適應推理階段的測試數據,在適應未知的圖像損壞領域取得了出色的效果。然而,當前許多方法都缺乏對真實世界場景中測試數據流的考慮,例如:
測試數據流應當是時變分布(而非傳統領域適應中的固定分布)
測試數據流可能存在局部類別相關性(而非完全同分布采樣)
測試數據流在較長時間里仍表現全局類別不平衡
近日,華南理工、A*STAR 和港中大(深圳)團隊通過大量實驗證明,這些真實場景下的測試數據流會對現有方法帶來巨大挑戰。該團隊認為,最先進方法的失敗首先是由于不加區分地根據不平衡測試數據調整歸一化層造成的。
為此,研究團隊提出了一種創新的平衡批歸一化層 (Balanced BatchNorm Layer),以取代推理階段的常規批歸一化層。同時,他們發現僅靠自我訓練(ST)在未知的測試數據流中進行學習,容易造成過度適應(偽標簽類別不平衡、目標域并非固定領域)而導致在領域不斷變化的情況下性能不佳。
因此,該團隊建議通過錨定損失 (Anchored Loss) 對模型更新進行正則化處理,從而改進持續領
原文鏈接:AAAI 2024 | 測試時領域適應的魯棒性得以保證,TRIBE在多真實場景下達到SOTA
聯系作者
文章來源:機器之心
作者微信:almosthuman2014
作者簡介:專業的人工智能媒體和產業服務平臺
? 版權聲明
文章版權歸作者所有,未經允許請勿轉載。
相關文章
暫無評論...