AIGC動態歡迎閱讀

原標題：老黃不止賣鏟子了：英偉達配合Llama3.1推出定制模型、推理服務
關鍵字：模型,數據,企業,護欄,高效
文章來源：量子位
內容字數：0字

內容摘要：

夢晨 發自 凹非寺量子位 | 公眾號 QbitAI芯片巨頭英偉達，在AI時代一直被類比為在淘金熱中“賣鏟子”的背后贏家。
現在他不裝了，也要親自下場“挖金礦”：
配合最強開源大模型Llama3.1，推出NVIDIA AI Foundry和NVIDIA NIM推理微服務兩大新業務。
Foundry在芯片行業指“鑄造廠”，比如臺積電制造其他公司設計的芯片。
NVIDIA AI Foundry，代表英偉達可以定制化制造大模型了：
NVIDIA AI Foundry 提供從數據策管、合成數據生成、微調、檢索、防護到評估的全方位生成式AI模型服務。
NVIDIA NIM在年初的GTC大會上首次亮相，使用幾行代碼就可以在云、數據中心、工作站和PC上部署AI模型。
現在則又新加一個標簽：將Llama 3.1模型部署到生產中的最快途徑，吞吐量最多可比不使用NIM運行推理時高出2.5倍。
為什么在這個時間點出手？
黃仁勛表示：“Meta的Llama 3.1開源模型標志著全球企業采用生成式 AI 的關鍵時刻已經到來”。
企業可以將Llama 3.1 NIM 微服務與與全新NVIDIA NeMo Retri

原文鏈接：老黃不止賣鏟子了：英偉達配合Llama3.1推出定制模型、推理服務

聯系作者

文章來源：量子位
作者微信：
作者簡介：