一代更比一代強(qiáng),AI 時(shí)代的至強(qiáng)如何為云服務(wù)保駕護(hù)航?
AIGC動(dòng)態(tài)歡迎閱讀
原標(biāo)題:一代更比一代強(qiáng),AI 時(shí)代的至強(qiáng)如何為云服務(wù)保駕護(hù)航?
關(guān)鍵字:英特爾,處理器,性能,模型,實(shí)例
文章來源:AI科技評(píng)論
內(nèi)容字?jǐn)?shù):8035字
內(nèi)容摘要:
作者 | 鄭思宇
2023 年,生成式 AI 研究和應(yīng)用的爆發(fā)給云計(jì)算產(chǎn)業(yè)帶來了全新的機(jī)遇和挑戰(zhàn):大模型需要龐大的算力支持,用戶普遍需要向云計(jì)算廠商購買算力服務(wù);且由于大量用戶涌入云服務(wù)市場,云廠商需要盡快升級(jí)數(shù)據(jù)中心算力以應(yīng)對(duì) AI 需求,同時(shí)持續(xù)降低 TCO,為用戶提供價(jià)格合理的算力資源;此外,AI 應(yīng)用開發(fā)還涉及大量隱私敏感數(shù)據(jù)的云端存儲(chǔ)和使用,云廠商也要全力保障這些數(shù)據(jù)的安全可靠,打消用戶后顧之憂。
基于上述需求,云廠商迫切需要對(duì)已有硬件基礎(chǔ)設(shè)施進(jìn)行更新?lián)Q代,要求新一代 CPU 能在保障基礎(chǔ)設(shè)施平穩(wěn)升級(jí)迭代的同時(shí),具備更強(qiáng)的性能、更低的 TCO,同時(shí)能夠滿足云端多樣化工作負(fù)載需求的較強(qiáng) AI 能力:
1.對(duì)于大型云服務(wù)基礎(chǔ)設(shè)施而言,穩(wěn)定性、可靠性依然是王道,因此云服務(wù)廠商升級(jí)硬件時(shí)決策更加謹(jǐn)慎,偏向于在有著長期延續(xù)性的主流平臺(tái)上逐漸迭代,保護(hù)上層軟件應(yīng)用投資,減小對(duì)基礎(chǔ)設(shè)施開發(fā)運(yùn)維部門的沖擊。
2.大模型在云端訓(xùn)練、推理的過程需要用戶將大量數(shù)據(jù)傳輸至云端,云廠商需要采取更強(qiáng)的安全措施,如硬件級(jí)的安全引擎來更好地保障敏感數(shù)據(jù)的安全,確保云實(shí)例間的數(shù)據(jù)隔離,預(yù)防惡意入侵和泄漏。
3
原文鏈接:一代更比一代強(qiáng),AI 時(shí)代的至強(qiáng)如何為云服務(wù)保駕護(hù)航?
聯(lián)系作者
文章來源:AI科技評(píng)論
作者微信:aitechtalk
作者簡介:雷峰網(wǎng)旗下AI新媒體。聚焦AI前沿研究,關(guān)注AI工程落地。