AIGC動態歡迎閱讀
原標題:顯卡之爭!英偉達和AMD下場互掐!GPU霸主地位是否能保?
關鍵字:性能,報告,測試,顯卡,基準
文章來源:夕小瑤科技說
內容字數:5772字
內容摘要:
夕小瑤科技說 原創作者 | 王二狗大家好,我是二狗。
英偉達和AMD這兩家芯片巨頭掐起來啦!
事情的起因是,兩周前AMD董事會主席兼CEO蘇姿豐在一場活動中發布了用于生成式AI和數據中心的新一代Intinct MI300X GPU芯片加速卡。
單單發布顯卡沒啥問題,但是AMD聲稱MI300X芯片在推斷 Meta 的 Llama 2700 億參數模型時,能夠實現比 H100 低 40% 的延遲。
這意味著AMD的MI300X芯片性能更優唄!
英偉達下場指責AMD那英偉達作為GPU顯卡的行業老大哥,聽到之后哪能愿意啊。
所以,就在上周,英偉達特意發布一篇官方博客來證明 H100 具有頂級的推理性能。
英偉達博客表示:
一流的AI性能需要高效的并行計算架構、高效的工具堆棧和深度優化的算法。英偉達發布了開源 NVIDIA TensorRT-LLM,其中包括針對 NVIDIA H100 Tensor Core GPU 核心的 NVIDIA Hopper 架構的最新內核優化。這些優化使 Llama 2 70B 等模型能夠在 H100 GPU 上使用加速 FP8 運算執行,同時保持推理精度。
而AM
原文鏈接:顯卡之爭!英偉達和AMD下場互掐!GPU霸主地位是否能保?
聯系作者
文章來源:夕小瑤科技說
作者微信:xixiaoyaoQAQ
作者簡介:更快的AI前沿,更深的行業洞見。聚集25萬AI應用開發者、算法工程師和研究人員。一線作者均來自清北、國外頂級AI實驗室和互聯網大廠,兼備媒體sense與技術深度。
? 版權聲明
文章版權歸作者所有,未經允許請勿轉載。
相關文章
暫無評論...