我薅到了63小時的3090卡

AIGC動態(tài)歡迎閱讀

原標題：我薅到了63小時的3090卡
關(guān)鍵字：顯卡,課題組,老爺,容器,師兄弟
文章來源：夕小瑤科技說
內(nèi)容字數(shù)：0字

內(nèi)容摘要：

作為一名學(xué)生黨，我深深地感受到了什么叫“一卡難求”，我們課題組主要從事深度學(xué)習(xí)領(lǐng)域的研究，尤其是CV、NLP方向，不少的任務(wù)對硬件的要求極高，特別是高端顯卡。
目前課題組只有幾張“老爺卡”，而項目需求卻日益增長。每次進行模型訓(xùn)練時，師兄弟們都得排隊等候，甚至不得不放棄一些復(fù)雜的實驗設(shè)計，因為現(xiàn)有的“老爺卡”根本無法支撐起高計算量的任務(wù)。而且，這些顯卡的使用頻率極高，幾乎24小時不間斷地運行，經(jīng)常處于高負荷狀態(tài)，導(dǎo)致它們的穩(wěn)定性也大打折扣。
面對顯卡不足的情況，師兄弟們不得不開始四處尋找解決方案。首先，我們嘗試聯(lián)系其他課題組看是否有閑置的顯卡可以借用。但遺憾的是，大多數(shù)課題組都和我們一樣，顯卡資源同樣緊張。接著，我們又將目光轉(zhuǎn)向了跳蚤市場，如閑魚、京東等平臺，希望能淘到一些性價比高的二手顯卡。然而，由于市場上顯卡價格波動大且供不應(yīng)求，我們很難以合理的價格購得所需的顯卡。
在尋找過程中，我們還發(fā)現(xiàn)了一些提供GPU顯卡租賃的云服務(wù)平臺，如并行科技的容器云等。我們發(fā)現(xiàn)，并行容器云是以云服務(wù)的形式提供GPU顯卡的租賃，用戶可以在云端進行模型訓(xùn)練。雖然需要支付一定的費用，但相比購買硬件，成本還是低

原文鏈接：我薅到了63小時的3090卡