如何加速生產(chǎn)級(jí) AI 應(yīng)用開(kāi)發(fā)?
AIGC動(dòng)態(tài)歡迎閱讀
原標(biāo)題:如何加速生產(chǎn)級(jí) AI 應(yīng)用開(kāi)發(fā)?
關(guān)鍵字:容器,模型,軟件,企業(yè),目錄
文章來(lái)源:AI前線
內(nèi)容字?jǐn)?shù):4994字
內(nèi)容摘要:
作者|Nirmal Kumar Juluru、Phoebe Lee
在推出 ChatGPT 后,全球各地的企業(yè)開(kāi)始意識(shí)到 AI 的優(yōu)勢(shì)和功能,并競(jìng)相將其應(yīng)用到工作流程中。
隨著這種采用的加速,企業(yè)不僅必須跟上 AI 的快速發(fā)展,而且還必須解決優(yōu)化、可擴(kuò)展性和安全性等相關(guān)挑戰(zhàn)。
企業(yè) AI 開(kāi)發(fā)之旅通常從數(shù)據(jù) ETL (提取、轉(zhuǎn)換、加載) 階段開(kāi)始,在此期間準(zhǔn)備用于訓(xùn)練的數(shù)據(jù)。接下來(lái)是訓(xùn)練 AI 模型。模型完成訓(xùn)練后,接下來(lái)的步驟包括部署和運(yùn)行推理。企業(yè)需要在每個(gè)階段使用經(jīng)過(guò)優(yōu)化的安全軟件來(lái)構(gòu)建生產(chǎn)就緒型 AI 應(yīng)用。使用 NGC 目錄加速 AI 開(kāi)發(fā)NVIDIA NGC 目錄 通過(guò)以容器形式提供一系列 GPU 優(yōu)化的軟件和 SDK,幫助企業(yè)加速其 AI 開(kāi)發(fā)。
目錄中的一些熱門容器包括用于數(shù)據(jù) ETL 階段的 RAPIDS,以及用于模型開(kāi)發(fā)階段的 TensorFlow 和 PyTorch。此外,還有用于模型部署階段的 NVIDIA TensorRT 和 NVIDIA Triton 推理服務(wù)器。
圖 1 展示了可用于 NLP、物體檢測(cè)、推薦等多種用例的不同容器。探索 NGC 目錄以找到適
原文鏈接:如何加速生產(chǎn)級(jí) AI 應(yīng)用開(kāi)發(fā)?
聯(lián)系作者
文章來(lái)源:AI前線
作者微信:ai-front
作者簡(jiǎn)介:面向AI愛(ài)好者、開(kāi)發(fā)者和科學(xué)家,提供大模型最新資訊、AI技術(shù)分享干貨、一線業(yè)界實(shí)踐案例,助你全面擁抱AIGC。