AAAI 2024 | 測試時領(lǐng)域適應(yīng)的魯棒性得以保證，TRIBE在多真實場景下達到SOTA

AIGC動態(tài)歡迎閱讀

原標題：AAAI 2024 | 測試時領(lǐng)域適應(yīng)的魯棒性得以保證，TRIBE在多真實場景下達到SOTA
關(guān)鍵字：類別,不平衡,模型,領(lǐng)域,數(shù)據(jù)流
文章來源：機器之心
內(nèi)容字數(shù)：8895字

內(nèi)容摘要：

機器之心專欄
機器之心編輯部測試時領(lǐng)域適應(yīng)（Test-Time Adaptation）的目的是使源域模型適應(yīng)推理階段的測試數(shù)據(jù)，在適應(yīng)未知的圖像損壞領(lǐng)域取得了出色的效果。然而，當前許多方法都缺乏對真實世界場景中測試數(shù)據(jù)流的考慮，例如：
測試數(shù)據(jù)流應(yīng)當是時變分布（而非傳統(tǒng)領(lǐng)域適應(yīng)中的固定分布）
測試數(shù)據(jù)流可能存在局部類別相關(guān)性（而非完全同分布采樣）
測試數(shù)據(jù)流在較長時間里仍表現(xiàn)全局類別不平衡
近日，華南理工、A*STAR 和港中大（深圳）團隊通過大量實驗證明，這些真實場景下的測試數(shù)據(jù)流會對現(xiàn)有方法帶來巨大挑戰(zhàn)。該團隊認為，最先進方法的失敗首先是由于不加區(qū)分地根據(jù)不平衡測試數(shù)據(jù)調(diào)整歸一化層造成的。
為此，研究團隊提出了一種創(chuàng)新的平衡批歸一化層 (Balanced BatchNorm Layer)，以取代推理階段的常規(guī)批歸一化層。同時，他們發(fā)現(xiàn)僅靠自我訓(xùn)練（ST）在未知的測試數(shù)據(jù)流中進行學(xué)習(xí)，容易造成過度適應(yīng)（偽標簽類別不平衡、目標域并非固定領(lǐng)域）而導(dǎo)致在領(lǐng)域不斷變化的情況下性能不佳。
因此，該團隊建議通過錨定損失 (Anchored Loss) 對模型更新進行正則化處理，從而改進持續(xù)領(lǐng)

原文鏈接：AAAI 2024 | 測試時領(lǐng)域適應(yīng)的魯棒性得以保證，TRIBE在多真實場景下達到SOTA

聯(lián)系作者

文章來源：機器之心
作者微信：almosthuman2014
作者簡介：專業(yè)的人工智能媒體和產(chǎn)業(yè)服務(wù)平臺