AIGC動態歡迎閱讀

原標題：運行LIama2得8400萬元！最快AI推理芯片成本推算引熱議
關鍵字：騰訊,芯片,模型,價格,峰會
文章來源：量子位
內容字數：3617字

內容摘要：

白交 發自 凹非寺量子位 | 公眾號 QbitAI想實現史上最快大模型推理，得要1171萬美元（8410萬元）？？？
同等項目下，使用英偉達GPU成本只需30萬美元……
關于最強AI芯片易主Groq，可能得讓再飛一會兒了。
這兩天，Groq驚艷亮相。它以號稱“性價比高英偉達100倍”的芯片，實現每秒500tokens大模型生成，感受不到任何延遲。外加谷歌TPU團隊這樣一個高精尖人才Buff，讓不少人直呼：英偉達要被碾壓了……
喧囂過后開始出現一些理智討論，其中主要還是針對Groq的效益成本問題。
網友粗略一算，現在演示Demo就需要568塊芯片，花費1171萬美元。
于是乎，業內業外各界人士不約而同地展開了一場算術。
甚至出現了位分析師，拿著表格現身說法……
并感嘆了句：OK，everybody is doing public math this week.
不過Groq也第一時間在社交網絡上進行了回應。
“每個人都在做數學”參與到Groq成本問題討論的，有計算機學生，也有同提供推理服務的云廠商，甚至還有Groq前員工大戰現員工……好不熱鬧。
摘取幾個有代表性的，我們來看看大家

原文鏈接：運行LIama2得8400萬元！最快AI推理芯片成本推算引熱議

聯系作者

文章來源：量子位
作者微信：QbitAI
作者簡介：追蹤人工智能新趨勢，關注科技行業新突破