李沐交大演講全文：創業的動機要么來自欲望，要么來自恐懼

AIGC動態歡迎閱讀

原標題：李沐交大演講全文：創業的動機要么來自欲望，要么來自恐懼
關鍵字：模型,數據,解讀,問題,算法
文章來源：Founder Park
內容字數：0字

內容摘要：

AI大神李沐在母校上海交大的演講火了。
在這場一個半小時的演講里，李沐從大模型的算力和技術、多模態趨勢、應用現狀聊到了自己的AI創業心得、以及創業的痛苦和感悟。
可以說，比他那篇創業回顧（《李沐：創業一年，人間三年》）信息量更大。
一些有意思的點：
機器學習是老中醫，深度學習特別是大語言模型像煉丹，數據是煉丹的材料，算力是煉丹的火力和設備，算法就是丹方了。丹方每年都在進步，即使丹方一樣，細節不一樣結果也會很不一樣。
內存是目前模型尺寸的一大瓶頸，英偉達雖然是領先者，但在這塊的技術不如AMD和TPU。
語言模型參數規模的主流會在100B-500B之間，比較好的一線的模型就是 500B，超過 500B 不是訓練不動，而是做 serving 很難。在谷歌歷史上，他們就沒有讓 500B 以上的模型上過線。
音樂模型的制約不是技術問題，而是商業問題，實際還是版權的問題。
語言模型已經達到了較高的水平，大約在 80 到 85 分之間。音頻模型在可接受的水平，處于能用階段，大約在 70-80 分之間。但在視頻生成方面，尤其是生成具有特定功能的視頻尚顯不足，整體水平大約在 50 分左右。
對于文科白領

原文鏈接：李沐交大演講全文：創業的動機要么來自欲望，要么來自恐懼