AI創(chuàng)業(yè)圈，找到了GPU算力的高端解法

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：AI創(chuàng)業(yè)圈，找到了GPU算力的高端解法
關(guān)鍵字：工作站,模型,機(jī)器,顯卡,機(jī)房
文章來(lái)源：夕小瑤科技說(shuō)
內(nèi)容字?jǐn)?shù)：0字

內(nèi)容摘要：

夕小瑤科技說(shuō) 原創(chuàng)作者 | 夕小瑤編輯部今年毫無(wú)疑問是AI應(yīng)用層的創(chuàng)業(yè)元年。在AI應(yīng)用層，市場(chǎng)上兩類玩家：
第一類，是號(hào)稱大模型底座和應(yīng)用同時(shí)做的明星早期玩家，往往融資金額在億這個(gè)級(jí)別，市面上只有寥寥幾家
第二類，是明確聚焦應(yīng)用層PMF的玩家，一般不做“底層自研”，但為了更好的產(chǎn)品體驗(yàn)，常常免不了做做模型微調(diào)，是市場(chǎng)上的大多數(shù)
顯然，第一類玩家對(duì)于GPU算力的解法就非常簡(jiǎn)單粗暴，那就是拿錢硬砸；
而占多數(shù)的第二類玩家，去年可以說(shuō)是苦GPU算力久矣。
這里的主要挑戰(zhàn)倒不是芯片禁售。而是對(duì)于這類AI創(chuàng)業(yè)公司來(lái)說(shuō)，資金有限，每一筆“萬(wàn)”這個(gè)級(jí)別的資金都很慎重。于是從去年開始，大家為了解決算力問題，只能各顯神通。
有的創(chuàng)業(yè)團(tuán)隊(duì)比較極客，本想買一臺(tái)整機(jī)甚至自己組裝一臺(tái)整機(jī)，想著做做微調(diào)，4卡40GB A100也夠用了。嗯，結(jié)果一問，發(fā)現(xiàn)靠譜點(diǎn)的廠商，市場(chǎng)價(jià)也要奔著3、40個(gè)w去了。
暫且不說(shuō)，對(duì)于大部分融資有限的創(chuàng)業(yè)團(tuán)隊(duì)來(lái)說(shuō)，還沒pmf就豪擲幾十個(gè)w買服務(wù)器的行為屬實(shí)風(fēng)險(xiǎn)不小。
更要命的是，這并不是一個(gè)“一勞永逸”的選擇。
這種服務(wù)器噪聲是很大的，發(fā)熱也是很猛的，無(wú)法放到辦公間或家里，必須要在有

原文鏈接：AI創(chuàng)業(yè)圈，找到了GPU算力的高端解法

聯(lián)系作者

文章來(lái)源：夕小瑤科技說(shuō)
作者微信：
作者簡(jiǎn)介：