AI生圖太詭異？馬里蘭&NYU合力解剖神經(jīng)網(wǎng)絡(luò)，CLIP模型神經(jīng)元形似骷髏頭

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：AI生圖太詭異？馬里蘭&NYU合力解剖神經(jīng)網(wǎng)絡(luò)，CLIP模型神經(jīng)元形似骷髏頭

關(guān)鍵字：模型,圖像,方法,架構(gòu),研究人員

文章來源：新智元

內(nèi)容字?jǐn)?shù)：4920字

內(nèi)容摘要：新智元報(bào)道編輯：桃子【新智元導(dǎo)讀】神經(jīng)網(wǎng)絡(luò)黑盒怎么解釋？馬里蘭大學(xué)和NYU研究人員開啟了新的嘗試。AI黑盒如何才能解？神經(jīng)網(wǎng)絡(luò)模型在訓(xùn)練的時(shí)，會(huì)有些ReLU節(jié)點(diǎn)「死亡」，也就是永遠(yuǎn)輸出0，不再有用。它們往往會(huì)被被刪除或者忽略。恰好趕上了模糊了生與死的界限的節(jié)日——萬圣節(jié)，所以這是探索那些「死節(jié)點(diǎn)」的好時(shí)機(jī)。對于大多數(shù)圖像生成模型來說，會(huì)輸出正面的圖像。但是優(yōu)化算法，可以讓模型生成更多詭異、恐怖的圖…

原文鏈接：點(diǎn)此閱讀原文：AI生圖太詭異？馬里蘭&NYU合力解剖神經(jīng)網(wǎng)絡(luò)，CLIP模型神經(jīng)元形似骷髏頭

聯(lián)系作者

文章來源：新智元

作者微信：AI_era

作者簡介：智能+中國主平臺(tái)，致力于推動(dòng)中國從互聯(lián)網(wǎng)+邁向智能+新紀(jì)元。重點(diǎn)關(guān)注人工智能、機(jī)器人等前沿領(lǐng)域發(fā)展，關(guān)注人機(jī)融合、人工智能和機(jī)器人對人類社會(huì)與文明進(jìn)化的影響，領(lǐng)航中國新智能時(shí)代。