AIGC動態歡迎閱讀

原標題：顯卡之爭！英偉達和AMD下場互掐！GPU霸主地位是否能保？
關鍵字：性能,報告,測試,顯卡,基準
文章來源：夕小瑤科技說
內容字數：5772字

內容摘要：

夕小瑤科技說 原創作者 | 王二狗大家好，我是二狗。
英偉達和AMD這兩家芯片巨頭掐起來啦！
事情的起因是，兩周前AMD董事會主席兼CEO蘇姿豐在一場活動中發布了用于生成式AI和數據中心的新一代Intinct MI300X GPU芯片加速卡。
單單發布顯卡沒啥問題，但是AMD聲稱MI300X芯片在推斷 Meta 的 Llama 2700 億參數模型時，能夠實現比 H100 低 40% 的延遲。
這意味著AMD的MI300X芯片性能更優唄！
英偉達下場指責AMD那英偉達作為GPU顯卡的行業老大哥，聽到之后哪能愿意啊。
所以，就在上周，英偉達特意發布一篇官方博客來證明 H100 具有頂級的推理性能。
英偉達博客表示：
一流的AI性能需要高效的并行計算架構、高效的工具堆棧和深度優化的算法。英偉達發布了開源 NVIDIA TensorRT-LLM，其中包括針對 NVIDIA H100 Tensor Core GPU 核心的 NVIDIA Hopper 架構的最新內核優化。這些優化使 Llama 2 70B 等模型能夠在 H100 GPU 上使用加速 FP8 運算執行，同時保持推理精度。
而AM

原文鏈接：顯卡之爭！英偉達和AMD下場互掐！GPU霸主地位是否能保？

聯系作者

文章來源：夕小瑤科技說
作者微信：xixiaoyaoQAQ
作者簡介：更快的AI前沿，更深的行業洞見。聚集25萬AI應用開發者、算法工程師和研究人員。一線作者均來自清北、國外頂級AI實驗室和互聯網大廠，兼備媒體sense與技術深度。