開源到第三天的兩個感覺

原標題：DeepSeek開源周總結與感悟：不可能在國外AI公司完成的工作
文章來源：智猩猩GenAI
內容字數：3424字

DeepSeek開源項目：在限制中綻放的AI創新

本文總結了DeepSeek開源項目的三大貢獻，展現了在受限硬件條件下，中國AI團隊如何通過極致的軟硬件優化實現突破。

1. 對中國AI團隊的獨特挑戰與機遇

   文章指出，DeepSeek開源的三款項目——FlashMLA、DeepEP和DeepGEMM——幾乎不可能在國外的AI公司中完成。這是因為這些項目針對的是中國的英偉達H80 GPU，其存在是因為美國的芯片限制法案。而國外的AI巨頭擁有充足的A100和H100等高端GPU，他們更傾向于增加預訓練投入而非極致的硬件優化。DeepSeek團隊則不得不面對硬件受限的挑戰，從而在軟硬件協同優化上取得了突破性的進展，這反過來也為他們帶來了獨特的機遇。

2. 三大開源項目的核心貢獻與創新

   1. FlashMLA：高效的MLA解碼內核

   FlashMLA針對NVIDIA Hopper架構進行了深度優化，通過精細化的內存管理和KV緩存壓縮技術，在顯存有限的情況下支持萬token級長文檔的高效推理。它解決了顯存碎片和連續內存分配難題，使得在“版”H800上實現超長上下文的實時推理成為可能。Github地址：https://github.com/deepseek-ai/FlashMLA

   2. DeepEP：高效的MoE通信庫

   DeepEP專為MoE（專家混合模型）場景設計，針對H800上的多GPU協同計算進行優化。它支持NVLink與RDMA技術，打通了節點內外高速通信的瓶頸，有效降低了延遲并提升了吞吐量。在復雜模型訓練中，實現了節點間高效數據傳輸，為大規模并行計算提供了堅實支撐。Github地址：https://github.com/deepseek-ai/DeepEP

   3. DeepGEMM：高效的FP8通用矩陣乘法庫

   DeepGEMM僅用300行代碼實現了針對H800的FP8運算優化的通用矩陣乘法庫。它支持普通GEMM以及MoE分組計算，通過引入CUDA核心兩級累加技術和輕量級即時編譯（JIT）模塊，解決了FP8張量核心累加不精確的問題。在極簡代碼實現下展現出超高性能。Github地址：https://github.com/deepseek-ai/END

3. 對未來人才需求的展望

   文章強調，DeepSeek項目的成功離不開其團隊成員既懂AI大模型又懂硬件的復合型人才。DeepEP和DeepGEMM的一作程剛（Chenggang Zhao），清華大學畢業，曾在英偉達工作，正是這種軟硬件兼通的背景，使得他們能夠深度挖掘硬件性能。文章預測，未來對于軟硬件皆通的人才需求將會更大，這種復合型人才將成為AI領域爆發的關鍵。

   DeepSeek的成功案例也為我們展示了一種新的可能性：即使在硬件受限的情況下，通過極致的軟硬件優化，也能在AI領域取得突破性的進展。這不僅是對中國AI團隊的鼓舞，也為全球AI發展提供了新的思路。

聯系作者

文章來源：智猩猩GenAI
作者微信：
作者簡介：智猩猩旗下賬號，專注于生成式人工智能，主要分享技術文章、論文成果與產品信息。