AIGC動態歡迎閱讀
原標題:OpenAI科學家Jason Wei專訪:思維鏈靈感來源于冥想丨智源獨家
關鍵字:工作,模型,論文,報告,思維
文章來源:人工智能學家
內容字數:0字
內容摘要:
來源:智源社區在大模型的研發道路上,思維鏈、指令微調和智能涌現等關鍵思想備受關注。正是思維鏈技術(Chain of Thought)讓大模型能夠涌現出一系列神奇的能力,成為了現代大語言模型產生「涌現」的底層技術。思維鏈旨在通過向大語言模型展示少量的樣例,并通過這些樣例解釋推理過程,讓大語言模型學會在生成答案時展示推理過程,并引導其得到更準確的答案。相當于將黑盒深度學習的多步推理過程的中間步驟拆開,結耦了各個步驟的工作,簡化了每一步工作上模型的壓力,在提高可解釋性的同時提升了模型性能。
研究靈感往往來自某次偶然的一瞥驚鴻,可遇而不可求。談起思維鏈的靈光乍現,CoT提出者Jason Wei表示,他的靈感來源是一本叫做《Waking up》的冥想之書,該書作者為美國無神論者、公共知識分子Sam Harris,從靈修(spirituality)的角度講述了思維、意識和自我的關系。
智源社區特別邀請到現任OpenAI科學家Jason Wei進行了獨家專訪,請他談到了做研究的點點滴滴,以及在谷歌和OpenAI的工作經歷。Jason Wei畢業于達特茅斯大學,在大模型研發領域擁有豐富的經驗和杰出成就
原文鏈接:OpenAI科學家Jason Wei專訪:思維鏈靈感來源于冥想丨智源獨家
聯系作者
文章來源:人工智能學家
作者微信:AItists
作者簡介:致力成為權威的人工智能科技媒體和前沿科技研究機構
? 版權聲明
文章版權歸作者所有,未經允許請勿轉載。
相關文章

暫無評論...