標簽:乘法

WPS接入DeepSeek,秒變辦公神器!

WPS 大家經常用來日常寫作,雖然本身提供了AI功能,但可惜需要會員,本文教你三分鐘接入最火的DeepSeek,讓WPS秒變辦公神器。 DeepSeek API申請地址:http:/...
閱讀原文

AI賺錢副業~AI生成影視解說,半個月漲粉變現3.5W+!

這兩年大家都在感嘆生活不易,然而我想說的是,機會還是有的,但問題不在于有沒有,而在于你是否能夠認準機會,然后抓住它。 接觸過很多咨詢項目的人,發現...

蘋果一篇論文得罪大模型圈?Transformer不會推理,只是高級模式匹配器!所有LLM都判

新智元報道編輯:peter東 Aeneas 【新智元導讀】蘋果研究者發現:無論是OpenAI GPT-4o和o1,還是Llama、Phi、Gemma和Mistral等開源模型,都未被發現任何形式...
閱讀原文

「乘法變加法」!MIT清華校友全新方法優化Transformer:Addition is All You Need

新智元報道編輯:喬楊 好困 【新智元導讀】Transformer計算,竟然直接優化到乘法運算了。MIT兩位華人學者近期發表的一篇論文提出:Addition is All You Need...
閱讀原文

告別CUDA無需Triton!Mirage零門檻生成PyTorch算子,人均GPU編程大師?

AIxiv專欄是機器之心發布學術、技術內容的欄目。過去數年,機器之心AIxiv專欄接收報道了2000多篇內容,覆蓋全球各大高校與企業的頂級實驗室,有效促進了學術...
閱讀原文

PyTorch官宣:告別CUDA,GPU推理迎來Triton加速新時代

新智元報道編輯:喬楊 Frey 【新智元導讀】用英偉達的GPU,但可以不用CUDA?PyTorch官宣,借助OpenAI開發的Triton語言編寫內核來加速LLM推理,可以實現和CUDA...
閱讀原文

大模型終端部署新趨勢:硬件直接支持混合矩陣乘法

AIxiv專欄是機器之心發布學術、技術內容的欄目。過去數年,機器之心AIxiv專欄接收報道了2000多篇內容,覆蓋全球各大高校與企業的頂級實驗室,有效促進了學術...
閱讀原文

Mamba一作再祭神作,H100利用率飆至75%!FlashAttention三代性能翻倍,比標準注意力快16倍

新智元報道編輯:編輯部 【新智元導讀】時隔一年,FlashAttention又推出了第三代更新,專門針對H100 GPU的新特性進行優化,在之前的基礎上又實現了1.5~2倍的...
閱讀原文

H100利用率飆升至75%!英偉達親自下場FlashAttention三代升級,比標準注意力快16倍

明敏 克雷西 發自 凹非寺量子位 | 公眾號 QbitAI大模型訓練推理神作,又更新了! 主流大模型都在用的FlashAttention,剛剛升級第三代。 時隔一年,FlashAtten...
閱讀原文

Llama 3上線4天,井噴1000多個變種!中文版也有了!Groq上推理速度800token每秒

大數據文摘授權自夕小瑤科技說作者:Zicy 4月19號,Meta發布了其最新的大型語言模型Llama 3的早期版本,反響熱烈,短短4天,就有了1000多個變種,而且這個數...
閱讀原文

Llama 3 上線4天,井噴1000多個變種!中文版也有了!Groq上推理速度800token每秒

夕小瑤科技說 原創作者 | Zicy4月19號,Meta發布了其最新的大型語言模型Llama 3的早期版本,反響熱烈,短短4天,就有了1000多個變種,而且這個數字還在持續增...
閱讀原文

芯片戰爭早已打響!谷歌15個月打造首個TPU,欲和老黃平起平坐

新智元報道編輯:alan 【新智元導讀】在英偉達統治AI時代硬件的當下,谷歌的TPU卻開辟了另一條道路。今天,小編帶你了解第一塊TPU的前世今生,同時揭開TPU架...
閱讀原文

清華姚班本科生兩作,十年來最大改進:矩陣乘法接近理論最優

選自QuantaMagazine 機器之心編譯 作者:Steve Nadis 編輯:杜偉、大盤雞通過消除「隱藏的低效」問題,計算機科學家提出了一種比以往更快的大型矩陣相乘新方...
閱讀原文

PyTorch團隊重寫「分割一切」模型,比原始實現快8倍

機器之心報道編輯:陳萍我們該如何優化 Meta 的「分割一切」模型,PyTorch 團隊撰寫的這篇博客由淺入深的幫你解答。從年初到現在,生成式 AI 發展迅猛。但很...
閱讀原文

1個token終結LLM數字編碼難題!九大機構聯合發布xVal:訓練集沒有的數字也能預測!

新智元報道編輯:LRS【新智元導讀】LLM的文科腦終于理解數字空間是連續的了,只需一個特殊的[NUM]即可表征所有數字,不僅效率更高,泛化性能也更強!雖然大型...
閱讀原文

OpenAI科學家最新大語言模型演講火了,洞見LLM成功的關鍵

機器之心報道選自 YouTube編輯:Panda從涌現和擴展律到指令微調和 RLHF,OpenAI 科學家帶你進入 LLM的世界。近日,OpenAI 研究科學家 Hyung Won Chung 在首爾...
閱讀原文

以3D視角洞悉矩陣乘法,這就是AI思考的樣子

選自PyTorch機器之心編譯如果能以 3D 方式展示矩陣乘法的執行過程,當年學習矩陣乘法時也就不會那么吃力了。現如今,矩陣乘法已經成為機器學習模型的構建模塊...
閱讀原文
12