AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：我薅到了63小時(shí)的3090卡
關(guān)鍵字：顯卡,課題組,老爺,容器,師兄弟
文章來(lái)源：夕小瑤科技說(shuō)
內(nèi)容字?jǐn)?shù)：0字

內(nèi)容摘要：

作為一名學(xué)生黨，我深深地感受到了什么叫“一卡難求”，我們課題組主要從事深度學(xué)習(xí)領(lǐng)域的研究，尤其是CV、NLP方向，不少的任務(wù)對(duì)硬件的要求極高，特別是高端顯卡。
目前課題組只有幾張“老爺卡”，而項(xiàng)目需求卻日益增長(zhǎng)。每次進(jìn)行模型訓(xùn)練時(shí)，師兄弟們都得排隊(duì)等候，甚至不得不放棄一些復(fù)雜的實(shí)驗(yàn)設(shè)計(jì)，因?yàn)楝F(xiàn)有的“老爺卡”根本無(wú)法支撐起高計(jì)算量的任務(wù)。而且，這些顯卡的使用頻率極高，幾乎24小時(shí)不間斷地運(yùn)行，經(jīng)常處于高負(fù)荷狀態(tài)，導(dǎo)致它們的穩(wěn)定性也大打折扣。
面對(duì)顯卡不足的情況，師兄弟們不得不開(kāi)始四處尋找解決方案。首先，我們嘗試聯(lián)系其他課題組看是否有閑置的顯卡可以借用。但遺憾的是，大多數(shù)課題組都和我們一樣，顯卡資源同樣緊張。接著，我們又將目光轉(zhuǎn)向了跳蚤市場(chǎng)，如閑魚、京東等平臺(tái)，希望能淘到一些性價(jià)比高的二手顯卡。然而，由于市場(chǎng)上顯卡價(jià)格波動(dòng)大且供不應(yīng)求，我們很難以合理的價(jià)格購(gòu)得所需的顯卡。
在尋找過(guò)程中，我們還發(fā)現(xiàn)了一些提供GPU顯卡租賃的云服務(wù)平臺(tái)，如并行科技的容器云等。我們發(fā)現(xiàn)，并行容器云是以云服務(wù)的形式提供GPU顯卡的租賃，用戶可以在云端進(jìn)行模型訓(xùn)練。雖然需要支付一定的費(fèi)用，但相比購(gòu)買硬件，成本還是低

原文鏈接：我薅到了63小時(shí)的3090卡

聯(lián)系作者

文章來(lái)源：夕小瑤科技說(shuō)
作者微信：
作者簡(jiǎn)介：