大模型迎拐點時刻，AI Infra賽道開卷，AI落地加速！

原標題：2024中國生成式AI大會上海站圓滿收官，第二日AI Infra峰會演講精華一文看盡
文章來源：智東西
內容字數：12470字

2024中國生成式AI大會回顧

2024中國生成式AI大會（上海站）于12月6日圓滿落幕。為期兩天的大會吸引了超過4000人報名，1200位觀眾到場，線上觀看人次更是超過104萬。此次大會以“智能躍進 創造無限”為主題，匯聚了51位來自產學研投的嘉賓，交流生成式AI的技術創新與商業應用。

1. AI Infra的崛起

大會的AI Infra峰會上，嘉賓們探討了AI基礎設施在當前生成式AI發展中的重要性。上海交通大學的戴國浩教授強調了提升單位算力的token吞吐效率，并提出軟硬件協同優化的必要性。此外，北電數智的郭文分享了如何通過AI工廠填補國產算力供給與需求的斷層，推進智算中心的發展。

2. 技術分享與行業挑戰

多位嘉賓分享了各自的技術創新及應對行業挑戰的方案。阿里云的叢培巖介紹了靈駿智算集群的設計，強調了高穩定性的GPU集群在AI企業全球布局中的重要性。與此同時，光羽芯辰的周強提到個人大模型的快速發展，將解決現有大模型的局限。

3. RAG與向量數據庫的機遇

在下午的討論中，嘉賓們探討了RAG（Retrieval-Augmented Generation）與向量數據庫的結合。騰訊云的謝宇介紹了其向量數據庫的優化措施，提升了召回率，助力企業挖掘數據價值。英飛流的張穎峰則認為，長文本大模型和RAG將長期共存，需解決推理成本和內存消耗的挑戰。

4. 未來展望與合作共贏

大會最后，嘉賓們一致認為，生成式AI產業化落地需要上中下游全產業鏈的合作與共贏。隨著AI技術的不斷演進，行業參與者需緊密合作，共同推動技術進步與商業化落地。期待2025年更多線下大會的召開，持續關注生成式AI的發展動態。

聯系作者

文章來源：智東西
作者微信：
作者簡介：智能產業新媒體！智東西專注報道人工智能主導的前沿技術發展，和技術應用帶來的千行百業產業升級。聚焦智能變革，服務產業升級。