AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：AAAI 2024 | 測(cè)試時(shí)領(lǐng)域適應(yīng)的魯棒性得以保證，TRIBE在多真實(shí)場(chǎng)景下達(dá)到SOTA
關(guān)鍵字：類別,不平衡,模型,領(lǐng)域,數(shù)據(jù)流
文章來(lái)源：機(jī)器之心
內(nèi)容字?jǐn)?shù)：8895字

內(nèi)容摘要：

機(jī)器之心專欄
機(jī)器之心編輯部測(cè)試時(shí)領(lǐng)域適應(yīng)（Test-Time Adaptation）的目的是使源域模型適應(yīng)推理階段的測(cè)試數(shù)據(jù)，在適應(yīng)未知的圖像損壞領(lǐng)域取得了出色的效果。然而，當(dāng)前許多方法都缺乏對(duì)真實(shí)世界場(chǎng)景中測(cè)試數(shù)據(jù)流的考慮，例如：
測(cè)試數(shù)據(jù)流應(yīng)當(dāng)是時(shí)變分布（而非傳統(tǒng)領(lǐng)域適應(yīng)中的固定分布）
測(cè)試數(shù)據(jù)流可能存在局部類別相關(guān)性（而非完全同分布采樣）
測(cè)試數(shù)據(jù)流在較長(zhǎng)時(shí)間里仍表現(xiàn)全局類別不平衡
近日，華南理工、A*STAR 和港中大（深圳）團(tuán)隊(duì)通過(guò)大量實(shí)驗(yàn)證明，這些真實(shí)場(chǎng)景下的測(cè)試數(shù)據(jù)流會(huì)對(duì)現(xiàn)有方法帶來(lái)巨大挑戰(zhàn)。該團(tuán)隊(duì)認(rèn)為，最先進(jìn)方法的失敗首先是由于不加區(qū)分地根據(jù)不平衡測(cè)試數(shù)據(jù)調(diào)整歸一化層造成的。
為此，研究團(tuán)隊(duì)提出了一種創(chuàng)新的平衡批歸一化層 (Balanced BatchNorm Layer)，以取代推理階段的常規(guī)批歸一化層。同時(shí)，他們發(fā)現(xiàn)僅靠自我訓(xùn)練（ST）在未知的測(cè)試數(shù)據(jù)流中進(jìn)行學(xué)習(xí)，容易造成過(guò)度適應(yīng)（偽標(biāo)簽類別不平衡、目標(biāo)域并非固定領(lǐng)域）而導(dǎo)致在領(lǐng)域不斷變化的情況下性能不佳。
因此，該團(tuán)隊(duì)建議通過(guò)錨定損失 (Anchored Loss) 對(duì)模型更新進(jìn)行正則化處理，從而改進(jìn)持續(xù)領(lǐng)

原文鏈接：AAAI 2024 | 測(cè)試時(shí)領(lǐng)域適應(yīng)的魯棒性得以保證，TRIBE在多真實(shí)場(chǎng)景下達(dá)到SOTA

聯(lián)系作者

文章來(lái)源：機(jī)器之心
作者微信：almosthuman2014
作者簡(jiǎn)介：專業(yè)的人工智能媒體和產(chǎn)業(yè)服務(wù)平臺(tái)