2024中國生成式AI大會上海站：AI Infra峰會精彩演講全景回顧

大模型迎拐點時刻，AI Infra賽道開卷，AI落地加速！

原標(biāo)題：2024中國生成式AI大會上海站圓滿收官，第二日AI Infra峰會演講精華一文看盡
文章來源：智東西
內(nèi)容字?jǐn)?shù)：12470字

2024中國生成式AI大會回顧

2024中國生成式AI大會（上海站）于12月6日圓滿落幕。為期兩天的大會吸引了超過4000人報名，1200位觀眾到場，線上觀看人次更是超過104萬。此次大會以“智能躍進(jìn) 創(chuàng)造無限”為主題，匯聚了51位來自產(chǎn)學(xué)研投的嘉賓，交流生成式AI的技術(shù)創(chuàng)新與商業(yè)應(yīng)用。

1. AI Infra的崛起

大會的AI Infra峰會上，嘉賓們探討了AI基礎(chǔ)設(shè)施在當(dāng)前生成式AI發(fā)展中的重要性。上海交通大學(xué)的戴國浩教授強(qiáng)調(diào)了提升單位算力的token吞吐效率，并提出軟硬件協(xié)同優(yōu)化的必要性。此外，北電數(shù)智的郭文分享了如何通過AI工廠填補國產(chǎn)算力供給與需求的斷層，推進(jìn)智算中心的發(fā)展。

2. 技術(shù)分享與行業(yè)挑戰(zhàn)

多位嘉賓分享了各自的技術(shù)創(chuàng)新及應(yīng)對行業(yè)挑戰(zhàn)的方案。阿里云的叢培巖介紹了靈駿智算集群的設(shè)計，強(qiáng)調(diào)了高穩(wěn)定性的GPU集群在AI企業(yè)全球布局中的重要性。與此同時，光羽芯辰的周強(qiáng)提到個人大模型的快速發(fā)展，將解決現(xiàn)有大模型的局限。

3. RAG與向量數(shù)據(jù)庫的機(jī)遇

在下午的討論中，嘉賓們探討了RAG（Retrieval-Augmented Generation）與向量數(shù)據(jù)庫的結(jié)合。騰訊云的謝宇介紹了其向量數(shù)據(jù)庫的優(yōu)化措施，提升了召回率，助力企業(yè)挖掘數(shù)據(jù)價值。英飛流的張穎峰則認(rèn)為，長文本大模型和RAG將長期共存，需解決推理成本和內(nèi)存消耗的挑戰(zhàn)。

4. 未來展望與合作共贏

大會最后，嘉賓們一致認(rèn)為，生成式AI產(chǎn)業(yè)化落地需要上中下游全產(chǎn)業(yè)鏈的合作與共贏。隨著AI技術(shù)的不斷演進(jìn)，行業(yè)參與者需緊密合作，共同推動技術(shù)進(jìn)步與商業(yè)化落地。期待2025年更多線下大會的召開，持續(xù)關(guān)注生成式AI的發(fā)展動態(tài)。