既是全網最高，也是全網首家！

原標題：為了讓DeepSeek-R1用起來更順暢，火山引擎將TPM上調到了500萬！全網首家
文章來源：機器之心
內容字數：6457字

火山引擎DeepSeek-R1：500萬TPM，開啟AI應用新紀元

近日，DeepSeek模型的火熱引發眾多AI云服務商爭相部署，但服務穩定性參差不齊。相比之下，火山引擎憑借其強大的技術實力和資源優勢，在DeepSeek-R1的部署上脫穎而出，為用戶提供穩定高效的服務體驗。

1. 超高TPM和超低價格，引領行業新標桿

火山引擎為DeepSeek-R1提供了全網最高的500萬TPM（每分鐘Token數），遠超阿里云、騰訊云、百度智能云以及OpenAI等平臺。同時，其價格也極具競爭力，DeepSeek-R1滿血版半價優惠，百萬Token輸入僅需2元，輸出僅需8元。此外，火山引擎還提供50億初始離線TPD配額，可謂誠意滿滿。

2. 極致的成本效用和彈性伸縮能力

火山引擎擁有海量GPU資源和成熟的彈性伸縮能力，可在分鐘級內完成數千臺GPU資源的伸縮調度，輕松應對突發流量和業務高峰。其極致的成本效用，讓用戶在享受高性能的同時，也能獲得更低的運營成本。

3. 全棧自研推理引擎，深度優化性能

火山引擎針對DeepSeek模型進行了全棧自研推理引擎優化，包括算子層和系統層兩方面。在算子層，復用此前針對豆包大模型的優化經驗，并針對DeepSeek尺寸重新調優；在系統層，通過異構PD分離、多機并行推理以及定制化網卡和網絡協議等手段，極大提升了計算效率和降低了延遲。

4. 超低延遲和秒級響應，保障流暢體驗

即使在數千萬TPM的大流量下，火山引擎依然能保持超低延遲，TPOT（輸出每個Token的時間）接近30ms，并計劃進一步降低至15ms～30ms區間。同時，模型加載速度也極快，可在7秒內完成DeepSeek-R1滿血版模型加載，確保系統秒級響應，用戶無感使用。

5. 多種部署模式和完善的安全防護

火山引擎提供多種DeepSeek部署模式，包括網頁端直接使用、API調用、veMLP高效部署、VKE靈活部署以及GPU ECS自定義部署，滿足不同用戶的需求。同時，火山引擎高度重視安全和隱私，采用鏈路全加密、數據高保密、環境強隔離、操作可審計等措施，保障用戶數據安全。

6. 未來展望：聯網搜索和更多應用場景

火山引擎計劃上線DeepSeek-R1的聯網搜索能力，并結合字節跳動優質的內容生態，助力更多豐富多樣的AI應用爆發。未來，火山引擎將繼續優化性能，提升用戶體驗，在AI云服務領域持續引領行業潮流。

聯系作者

文章來源：機器之心
作者微信：
作者簡介：專業的人工智能媒體和產業服務平臺