OpenAI科學(xué)家Jason Wei專訪:思維鏈靈感來源于冥想丨智源獨(dú)家
AIGC動態(tài)歡迎閱讀
原標(biāo)題:OpenAI科學(xué)家Jason Wei專訪:思維鏈靈感來源于冥想丨智源獨(dú)家
關(guān)鍵字:工作,模型,論文,報告,思維
文章來源:人工智能學(xué)家
內(nèi)容字?jǐn)?shù):0字
內(nèi)容摘要:
來源:智源社區(qū)在大模型的研發(fā)道路上,思維鏈、指令微調(diào)和智能涌現(xiàn)等關(guān)鍵思想備受關(guān)注。正是思維鏈技術(shù)(Chain of Thought)讓大模型能夠涌現(xiàn)出一系列神奇的能力,成為了現(xiàn)代大語言模型產(chǎn)生「涌現(xiàn)」的底層技術(shù)。思維鏈旨在通過向大語言模型展示少量的樣例,并通過這些樣例解釋推理過程,讓大語言模型學(xué)會在生成答案時展示推理過程,并引導(dǎo)其得到更準(zhǔn)確的答案。相當(dāng)于將黑盒深度學(xué)習(xí)的多步推理過程的中間步驟拆開,結(jié)耦了各個步驟的工作,簡化了每一步工作上模型的壓力,在提高可解釋性的同時提升了模型性能。
研究靈感往往來自某次偶然的一瞥驚鴻,可遇而不可求。談起思維鏈的靈光乍現(xiàn),CoT提出者Jason Wei表示,他的靈感來源是一本叫做《Waking up》的冥想之書,該書作者為美國無神論者、公共知識分子Sam Harris,從靈修(spirituality)的角度講述了思維、意識和自我的關(guān)系。
智源社區(qū)特別邀請到現(xiàn)任OpenAI科學(xué)家Jason Wei進(jìn)行了獨(dú)家專訪,請他談到了做研究的點點滴滴,以及在谷歌和OpenAI的工作經(jīng)歷。Jason Wei畢業(yè)于達(dá)特茅斯大學(xué),在大模型研發(fā)領(lǐng)域擁有豐富的經(jīng)驗和杰出成就
原文鏈接:OpenAI科學(xué)家Jason Wei專訪:思維鏈靈感來源于冥想丨智源獨(dú)家
聯(lián)系作者
文章來源:人工智能學(xué)家
作者微信:AItists
作者簡介:致力成為權(quán)威的人工智能科技媒體和前沿科技研究機(jī)構(gòu)