AI 時(shí)代,更能打了?
AIGC動(dòng)態(tài)歡迎閱讀
原標(biāo)題:AI 時(shí)代,更能打了?
關(guān)鍵字:,模型,能力,流量,內(nèi)容
文章來(lái)源:AI前線(xiàn)
內(nèi)容字?jǐn)?shù):0字
內(nèi)容摘要:
作者 | 澄潭、望宸
在網(wǎng)絡(luò)通信中扮演著諸多角色,包括數(shù)據(jù)轉(zhuǎn)發(fā)、協(xié)議轉(zhuǎn)化、負(fù)載均衡、訪(fǎng)問(wèn)控制和身份驗(yàn)證、安全防護(hù)、內(nèi)容審核,以及服務(wù)和 API 顆粒度的管控等,因此常見(jiàn)的種類(lèi)有流量、安全、微服務(wù)、API 等。在不同語(yǔ)義下,的命名也會(huì)有所不同,例如 K8s 體系下,有 ingress ,在 Sping 體系下,有 Spring Cloud Gateway。但不論如何命名,的管控內(nèi)容幾乎都離不開(kāi)流量、服務(wù)、安全和 API 這 4 個(gè)維度,只是功能側(cè)重不同、所遵循的協(xié)議有差異。
另外,隨著互聯(lián)網(wǎng)從 Web 2.0 邁進(jìn)到 AI 時(shí)代,用戶(hù)和互聯(lián)網(wǎng)的交互方式,AI 時(shí)代下互聯(lián)網(wǎng)的內(nèi)容生產(chǎn)流程都發(fā)生了顯著的轉(zhuǎn)變,這對(duì)基礎(chǔ)設(shè)施(Infra)提出了新的訴求,也帶來(lái)了新的機(jī)遇。Infra 包含的內(nèi)容非常豐富,本文僅從層面分享筆者的所見(jiàn)所感所悟。
我們先來(lái)看一些 AI 時(shí)代出現(xiàn)的新場(chǎng)景和新需求:
相比傳統(tǒng) Web 應(yīng)用,LLM 應(yīng)用的內(nèi)容生成時(shí)間更長(zhǎng),對(duì)話(huà)連續(xù)性對(duì)用戶(hù)體驗(yàn)至關(guān)重要,如果避免后端插件更新導(dǎo)致的服務(wù)中斷?
相比傳統(tǒng) Web 應(yīng)用,LLM 應(yīng)用在服務(wù)端處
原文鏈接:AI 時(shí)代,更能打了?
聯(lián)系作者
文章來(lái)源:AI前線(xiàn)
作者微信:ai-front
作者簡(jiǎn)介:面向AI愛(ài)好者、開(kāi)發(fā)者和科學(xué)家,提供大模型最新資訊、AI技術(shù)分享干貨、一線(xiàn)業(yè)界實(shí)踐案例,助你全面擁抱AIGC。