老黃將世界上第一臺英偉達H200親手交付給OpenAI

AIGC動態歡迎閱讀

原標題：老黃將世界上第一臺英偉達H200親手交付給OpenAI
關鍵字：顯存,人類,創始人,科技,巨頭
文章來源：夕小瑤科技說
內容字數：2406字

內容摘要：

夕小瑤科技說 分享作者 | Zicy就在昨天，英偉達CEO黃仁勛親自將第一臺英偉達DGX H200交付給OpenAI位于舊金山的總部，預示著兩大科技巨頭未來的合作可能會更加緊密。
我們先來看看H200有多強。
怪獸級性能相比于去年的H100，H200又有了巨大的提升，首先是顯存達到了141G并且顯存帶寬達到4.8TB/s，分別是上一代的1.8倍和1.4倍。而且，通過顯存共享，GPU顯存可以達到19.5TB，可以說是天文數字般的存在了。
除此之外，GPU在LLM上的表現也非常卓越，在GPT-3 175B和Llama 2上為例，推理速度分別比上一代的快1.6倍和1.9倍。
此外，在高性能計算方面，也有較大提升。
同時，相比于上一代，H200在相同算力下所需的能源也下降了一半。
可以說，H200代表了目前人類最高水平的AI芯片，這可能讓許多AI巨頭開始迫不及待了。
交易現場昨天上午，OpenAI 總裁兼聯合創始人Greg Brockman在上展示了和OpenAI CEO Sam Altman以及英偉達CEO Jensen Huang的一張合影，并配文“全球首個NVIDIA DGX H

原文鏈接：老黃將世界上第一臺英偉達H200親手交付給OpenAI

聯系作者

文章來源：夕小瑤科技說
作者微信：xixiaoyaoQAQ
作者簡介：專業、有趣、深度價值導向的科技媒體。聚集30萬AI工程師、研究員，覆蓋500多家海內外機構投資人，互聯網大廠中高管和AI公司創始人。一線作者來自清北、國內外頂級AI實驗室和大廠，兼備敏銳的行業嗅覺和洞察深度。商務合作：zym5189