Karpathy 4小時AI大課上線，小白看了都會從零構建GPT-2！

AIGC動態歡迎閱讀

原標題：Karpathy 4小時AI大課上線，小白看了都會從零構建GPT-2！
關鍵字：模型,參數,大課,小時,視頻
文章來源：新智元
內容字數：0字

內容摘要：

新智元報道編輯：桃子
【新智元導讀】距上次Karpathy AI大課更新之后，又有了1個多月的時間。這次他帶了超詳細的4小時課程——從零開始實現1.24億參數規模的GPT-2模型。大神Karpathy新一期AI大課又上線了。
這一次，他講的內容是——從頭開始實現124M大小的GPT-2模型，足足有4個小時。
Karpathy對這個視頻2個字總結：全面。
我們從空文件開始，以GPT-2（124M）模型結束。
也就是說，這就是手把手教程，就連AI小白看后，都會搭建GPT-2了。
Karpathy稱這是從0到英雄（Zero To Hero）的系列中最新的視頻。
翻看以往Zero To Hero系列中的視頻，最長的也不過2小時25分，這次4小時完全創下了最新記錄。
帖子中，他highlight了最新視頻中的一些重點內容：
– 我們首先構建GPT-2神經網絡
– 然后對其進行優化，以實現快速訓練
– 參考GPT-2和GPT-3論文，設置訓練運行優化和超參數
– 啟動模型評估
– 祈禱一切順利，上床睡覺
– 等到第二天早上，便可查看模型的結果，欣賞模型生成的有趣輸出。
發布短短的幾個小時，視頻已

原文鏈接：Karpathy 4小時AI大課上線，小白看了都會從零構建GPT-2！