標簽:分詞

干貨滿滿!大神Karpathy兩小時AI大課文字版第一彈,全新工作流自動把視頻轉成文章

新智元報道編輯:桃子 【新智元導讀】「從頭開始構建GPT分詞器」文字版來了。前段時間,AI大神Karpathy上線的AI大課,已經收獲了全網15萬次播放量。 當時還有...
閱讀原文

ChatGPT突然瘋了,意外輸出震驚網友!OpenAI官方回應:token預測是根源?

新智元報道編輯:桃子 【新智元導讀】?ChatGPT突然失去理智,被網友們吵翻了天。許多用戶在請求ChatGPT問題時,發現它開始胡言亂語,大篇重復。不一會兒,Ope...
閱讀原文

Karpathy離職OpenAI,首發2小時AI大課!從頭開始構建GPT分詞器

新智元報道編輯:桃子 【新智元導讀】果不其然,繼放出BPE的GitHub代碼后,Karpathy終于上線了「從頭構建GPT分詞器」的課程,引來大波網友關注。離職OpenAI的...
閱讀原文

Karpathy新視頻又火了:從頭構建GPT Tokenizer

豐色 魚羊 發自 凹非寺量子位 | 公眾號 QbitAI技術大神卡帕西離職OpenAI以后,營業可謂相當積極啊。 這不,前腳新項目剛上線,后腳全新的教學視頻又給大伙整...
閱讀原文

離開OpenAI的大神卡帕西「開課了」:新項目日增千星,還是熟悉的min代碼風

魚羊 發自 凹非寺量子位 | 公眾號 QbitAI大神Karpathy從OpenAI離職,原本揚言要大休一周。 但轉眼,新項目就已上線GitHub,日增上千星的那種。 還是熟悉的卡...
閱讀原文

離開OpenAI待業的Karpathy做了個大模型新項目,Star量一日破千

機器之心報道 編輯:杜偉沒工作也要「卷」。閑不下來的 Andrej Karpathy 又有了新項目! 過去幾天,OpenAI 非常熱鬧,先有 AI 大牛 Andrej Karpathy 官宣離職...
閱讀原文

每周編輯精選|FewJoint 基準數據集上線、科技部監督司發布 AI 新規

小樣本學習 (Few-shot Learning) 是指像人類一樣能夠通過很少的樣本來學習掌握新任務。這一領域已經成為機器學習社區的熱點,并被認為是推動機器智能接近人類...
閱讀原文

ICLR 2024|把圖像視為外語,快手、北大多模態大模型媲美DALLE-3

機器之心報道 機器之心編輯部動態視覺分詞統一圖文表示,快手與北大合作提出基座模型 LaVIT 刷榜多模態理解與生成任務。 當前的大型語言模型如 GPT、LLaMA 等...
閱讀原文

大模型筆記!以LLAMA為例,快速入門LLM的推理過程

直播預告 | 下周一晚7點,「自動駕駛新青年講座」第35講正式開講,LMDrive一作、香港中文大學MMLab在讀博士邵昊將主講《LMDrive:大語言模型加持的閉環端到端...
閱讀原文

視覺分詞器統一圖文信息,快手提出基座模型 LaVIT 刷榜多模態任務

夕小瑤科技說 原創作者 | 智商掉了一地、Python你是否想過,有朝一日能夠僅輸入寥寥數語或圖片,就可以一鍵檢索最為匹配的短視頻內容。不是憑借視頻標簽、也...
閱讀原文

大語言模型擊敗擴散模型!視頻圖像生成雙SOTA,谷歌CMU最新研究,一作北大校友

白交 發自 凹非寺量子位 | 公眾號 QbitAI語言模型擊敗擴散模型,在視頻和圖像生成上實現雙SOTA!這是來自谷歌CMU最新研究成果。據介紹,這是語言模型第一次在...
閱讀原文

詞表的選擇如何影響語言模型訓練?這可能是目前見過最好的詞表選擇研究

機器之心報道編輯:趙陽本文初步探討了不同類型的詞表對語言模型訓練所產生的影響,研究者使用了 12 個小型的語言模型及 4 個中型的語言模型作為實驗對象,并...
閱讀原文

揭秘iPhone里的Transformer:基于GPT-2架構,分詞器含emoji,MIT校友出品

魚羊 發自 凹非寺量子位 | 公眾號 QbitAI蘋果Transformer的“秘密”,讓發燒友給扒出來了。大模型浪潮下,即使保守如蘋果,也每逢發布會必提“Transformer”。比...
閱讀原文