標簽:服務器

大模型算力的「熱」與 10 億萬卡成本的「冷」思考

大模型原生應用仍未爆發,誰能cover動輒10億/年的萬卡成本?作者丨郭 思 編輯丨陳彩嫻 人工智能的快速發展催生了智算中心這個概念。自 2023 年下半年起,中國...
閱讀原文

英偉達狂賣50萬臺GPU!AI爆火背后,是顯卡的爭奪

新智元報道編輯:alan【新智元導讀】據統計,英偉達在第三季度大約賣出了50萬臺H100和 A100 GPU,大語言模型爆火的背后,是眾組織機構對GPU的爭奪,是英偉達...
閱讀原文

OpenAI上線新功能太強了,服務器瞬間被擠爆

機器之心報道編輯:陳萍、小舟讓 ChatGPT 服務器宕機,你參與了嗎?OpenAI 開發者日上新功能太火爆,服務器都擠爆了。太平洋時間 11 月 8 日上午 6 點左右開...
閱讀原文

瘋狂馬斯克的“極限”計劃居然成功了?!“下云”后成本降低 60%,部分功能代碼精簡 90%,30 天急速遷移服務器

整理 | 凌敏、核子可樂2022 年 10 月 27 日,經歷了長達半年的拉鋸戰之后,馬斯克終于將 Twitter(現已更名 X)收歸囊中,這筆 440 億美元的收購案也終于迎來...
閱讀原文

AI服務器缺貨調查:兩天漲價30萬,連“味精大王”都入場了

大模型浪潮下的算力生意:AI服務器兩天漲價30萬,一線銷售直呼離譜。作者|李水青編輯|心緣幾乎是一夜之間,AI服務器價格在國內市場中飆升。智東西從一位服務...
閱讀原文

大模型浪潮下的算力生意:AI服務器兩天漲價30萬,一線銷售直呼離譜

百模大戰關口,AI服務器廠商的“樞紐”能力的驗證時刻。作者|李水青編輯|心緣幾乎是一夜之間,AI服務器價格在國內市場中飆升。智東西從一位服務器渠道銷售人員...
閱讀原文

端側AI推理,高效部署PyTorch模型:官方新工具開源,Meta已經用上了

機器之心報道編輯:陳萍ExecuTorch 是一個端到端的解決方案,可以在移動和邊緣設備(包括可穿戴設備、手機等)上實現推理功能。在 2023 年 PyTorch 大會上,...
閱讀原文
12