AI創(chuàng)業(yè)圈,找到了GPU算力的高端解法
AIGC動態(tài)歡迎閱讀
原標題:AI創(chuàng)業(yè)圈,找到了GPU算力的高端解法
關(guān)鍵字:工作站,模型,機器,顯卡,機房
文章來源:夕小瑤科技說
內(nèi)容字數(shù):0字
內(nèi)容摘要:
夕小瑤科技說 原創(chuàng)作者 | 夕小瑤編輯部今年毫無疑問是AI應(yīng)用層的創(chuàng)業(yè)元年。在AI應(yīng)用層,市場上兩類玩家:
第一類,是號稱大模型底座和應(yīng)用同時做的明星早期玩家,往往融資金額在億這個級別,市面上只有寥寥幾家
第二類,是明確聚焦應(yīng)用層PMF的玩家,一般不做“底層自研”,但為了更好的產(chǎn)品體驗,常常免不了做做模型微調(diào),是市場上的大多數(shù)
顯然,第一類玩家對于GPU算力的解法就非常簡單粗暴,那就是拿錢硬砸;
而占多數(shù)的第二類玩家,去年可以說是苦GPU算力久矣。
這里的主要挑戰(zhàn)倒不是芯片禁售。而是對于這類AI創(chuàng)業(yè)公司來說,資金有限,每一筆“萬”這個級別的資金都很慎重。于是從去年開始,大家為了解決算力問題,只能各顯神通。
有的創(chuàng)業(yè)團隊比較極客,本想買一臺整機甚至自己組裝一臺整機,想著做做微調(diào),4卡40GB A100也夠用了。嗯,結(jié)果一問,發(fā)現(xiàn)靠譜點的廠商,市場價也要奔著3、40個w去了。
暫且不說,對于大部分融資有限的創(chuàng)業(yè)團隊來說,還沒pmf就豪擲幾十個w買服務(wù)器的行為屬實風險不小。
更要命的是,這并不是一個“一勞永逸”的選擇。
這種服務(wù)器噪聲是很大的,發(fā)熱也是很猛的,無法放到辦公間或家里,必須要在有
原文鏈接:AI創(chuàng)業(yè)圈,找到了GPU算力的高端解法
聯(lián)系作者
文章來源:夕小瑤科技說
作者微信:
作者簡介: