舍棄99%的參數(shù)，還能達(dá)到相同的性能！阿里團(tuán)隊(duì)發(fā)現(xiàn)大模型「合二為一」的黑魔法！而且不用GPU，不需重新訓(xùn)練

AIGC動態(tài)歡迎閱讀

原標(biāo)題：舍棄99%的參數(shù)，還能達(dá)到相同的性能！阿里團(tuán)隊(duì)發(fā)現(xiàn)大模型「合二為一」的黑魔法！而且不用GPU，不需重新訓(xùn)練

關(guān)鍵字：模型,參數(shù),能力,方法,冗余

文章來源：夕小瑤科技說

內(nèi)容字?jǐn)?shù)：6293字

內(nèi)容摘要：夕小瑤科技說 原創(chuàng)作者 | 小戲、Python動漫《龍珠》里，構(gòu)想了一種“美達(dá)摩星人融合術(shù)”，通過融合術(shù)舞步就可以讓譬如悟空與貝吉塔合體，成為“究極超強(qiáng)合體戰(zhàn)士”悟吉塔。在《X戰(zhàn)警：天啟》中，反派大 Boss 也擁有吸收他人能力化為己用的強(qiáng)大能力。哪怕在《超級馬里奧》中，馬里奧也擁有吃下蘑菇和花朵獲得投擲火球的能力的設(shè)定。那么一種“奇思妙想”就是，在不同領(lǐng)域數(shù)據(jù)集上進(jìn)行微調(diào)而獲得如“數(shù)學(xué)”、“代碼…

原文鏈接：點(diǎn)此閱讀原文：舍棄99%的參數(shù)，還能達(dá)到相同的性能！阿里團(tuán)隊(duì)發(fā)現(xiàn)大模型「合二為一」的黑魔法！而且不用GPU，不需重新訓(xùn)練

聯(lián)系作者

文章來源：夕小瑤科技說

作者微信：xixiaoyaoQAQ

作者簡介：更快的AI前沿，更深的行業(yè)洞見。聚集25萬AI應(yīng)用開發(fā)者、算法工程師和研究人員。一線作者均來自清北、國外頂級AI實(shí)驗(yàn)室和互聯(lián)網(wǎng)大廠，兼?zhèn)涿襟wsense與技術(shù)深度。