標(biāo)簽:分詞

干貨滿滿!大神Karpathy兩小時AI大課文字版第一彈,全新工作流自動把視頻轉(zhuǎn)成文章

新智元報道編輯:桃子 【新智元導(dǎo)讀】「從頭開始構(gòu)建GPT分詞器」文字版來了。前段時間,AI大神Karpathy上線的AI大課,已經(jīng)收獲了全網(wǎng)15萬次播放量。 當(dāng)時還有...
閱讀原文

ChatGPT突然瘋了,意外輸出震驚網(wǎng)友!OpenAI官方回應(yīng):token預(yù)測是根源?

新智元報道編輯:桃子 【新智元導(dǎo)讀】?ChatGPT突然失去理智,被網(wǎng)友們吵翻了天。許多用戶在請求ChatGPT問題時,發(fā)現(xiàn)它開始胡言亂語,大篇重復(fù)。不一會兒,Ope...
閱讀原文

Karpathy離職OpenAI,首發(fā)2小時AI大課!從頭開始構(gòu)建GPT分詞器

新智元報道編輯:桃子 【新智元導(dǎo)讀】果不其然,繼放出BPE的GitHub代碼后,Karpathy終于上線了「從頭構(gòu)建GPT分詞器」的課程,引來大波網(wǎng)友關(guān)注。離職OpenAI的...
閱讀原文

Karpathy新視頻又火了:從頭構(gòu)建GPT Tokenizer

豐色 魚羊 發(fā)自 凹非寺量子位 | 公眾號 QbitAI技術(shù)大神卡帕西離職OpenAI以后,營業(yè)可謂相當(dāng)積極啊。 這不,前腳新項目剛上線,后腳全新的教學(xué)視頻又給大伙整...
閱讀原文

離開OpenAI的大神卡帕西「開課了」:新項目日增千星,還是熟悉的min代碼風(fēng)

魚羊 發(fā)自 凹非寺量子位 | 公眾號 QbitAI大神Karpathy從OpenAI離職,原本揚言要大休一周。 但轉(zhuǎn)眼,新項目就已上線GitHub,日增上千星的那種。 還是熟悉的卡...
閱讀原文

離開OpenAI待業(yè)的Karpathy做了個大模型新項目,Star量一日破千

機(jī)器之心報道 編輯:杜偉沒工作也要「卷」。閑不下來的 Andrej Karpathy 又有了新項目! 過去幾天,OpenAI 非常熱鬧,先有 AI 大牛 Andrej Karpathy 官宣離職...
閱讀原文

每周編輯精選|FewJoint 基準(zhǔn)數(shù)據(jù)集上線、科技部監(jiān)督司發(fā)布 AI 新規(guī)

小樣本學(xué)習(xí) (Few-shot Learning) 是指像人類一樣能夠通過很少的樣本來學(xué)習(xí)掌握新任務(wù)。這一領(lǐng)域已經(jīng)成為機(jī)器學(xué)習(xí)社區(qū)的熱點,并被認(rèn)為是推動機(jī)器智能接近人類...
閱讀原文

ICLR 2024|把圖像視為外語,快手、北大多模態(tài)大模型媲美DALLE-3

機(jī)器之心報道 機(jī)器之心編輯部動態(tài)視覺分詞統(tǒng)一圖文表示,快手與北大合作提出基座模型 LaVIT 刷榜多模態(tài)理解與生成任務(wù)。 當(dāng)前的大型語言模型如 GPT、LLaMA 等...
閱讀原文

大模型筆記!以LLAMA為例,快速入門LLM的推理過程

直播預(yù)告 | 下周一晚7點,「自動駕駛新青年講座」第35講正式開講,LMDrive一作、香港中文大學(xué)MMLab在讀博士邵昊將主講《LMDrive:大語言模型加持的閉環(huán)端到端...
閱讀原文

視覺分詞器統(tǒng)一圖文信息,快手提出基座模型 LaVIT 刷榜多模態(tài)任務(wù)

夕小瑤科技說 原創(chuàng)作者 | 智商掉了一地、Python你是否想過,有朝一日能夠僅輸入寥寥數(shù)語或圖片,就可以一鍵檢索最為匹配的短視頻內(nèi)容。不是憑借視頻標(biāo)簽、也...
閱讀原文

大語言模型擊敗擴(kuò)散模型!視頻圖像生成雙SOTA,谷歌CMU最新研究,一作北大校友

白交 發(fā)自 凹非寺量子位 | 公眾號 QbitAI語言模型擊敗擴(kuò)散模型,在視頻和圖像生成上實現(xiàn)雙SOTA!這是來自谷歌CMU最新研究成果。據(jù)介紹,這是語言模型第一次在...
閱讀原文

詞表的選擇如何影響語言模型訓(xùn)練?這可能是目前見過最好的詞表選擇研究

機(jī)器之心報道編輯:趙陽本文初步探討了不同類型的詞表對語言模型訓(xùn)練所產(chǎn)生的影響,研究者使用了 12 個小型的語言模型及 4 個中型的語言模型作為實驗對象,并...
閱讀原文

揭秘iPhone里的Transformer:基于GPT-2架構(gòu),分詞器含emoji,MIT校友出品

魚羊 發(fā)自 凹非寺量子位 | 公眾號 QbitAI蘋果Transformer的“秘密”,讓發(fā)燒友給扒出來了。大模型浪潮下,即使保守如蘋果,也每逢發(fā)布會必提“Transformer”。比...
閱讀原文
12