周二聊：騰訊如何用大模型改造自己的業務？

AIGC動態歡迎閱讀

原標題：周二聊：騰訊如何用大模型改造自己的業務？
關鍵字：騰訊,模型,困局,創業者,企業
文章來源：Founder Park
內容字數：1106字

內容摘要：

本期 Workshop，我們聚焦在模型推理優化及組織的 AI 智能化轉型。
推理成本是當下大模型落地面臨的難題之一，整個 AI 行業都在探索如何高效利用計算資源，并行處理更多的推理請求。國內的云廠商也都在針對現有的推理構架做優化，甚至推出新的異構算力的解決方案。比如騰訊此前推出了大模型推理加速引擎 Taco-LLM，表現全面優于 vLLM 框架，吞吐性能提高 78%。
騰訊云異構 AI 研發副總監葉帆將分享他對大模型推理加速工具的理解與實踐。
很多企業都在關注 AI 的智能化數字轉型，我們請到了騰訊樂享產品資深架構師沈林玲來做分享。
樂享源于騰訊內部，過去 15 年是騰訊 HR、行政、企業文化、業務部門的組織學習協作平臺。2017 年開始樂享對外開放，至今服務超過 30 萬企業，涉及 100 多個細分行業。2023 年，騰訊樂享發布 AI 助手，專注于向企業提供 AI 智能化體驗。如果你關注大模型領域，歡迎掃碼加入我們的大模型交流群，來一起探討大模型時代的和認知，跟上大模型時代的這股浪潮。更多閱讀
Sora 的算力困局：如果正式推出，可能需要 72 萬張 H100
10位拿到錢的A

原文鏈接：周二聊：騰訊如何用大模型改造自己的業務？

聯系作者

文章來源：Founder Park
作者微信：Founder-Park
作者簡介：來自極客公園，專注與科技創業者聊「真問題」。