一句話解鎖100k+上下文大模型真實(shí)力,27分漲到98,GPT-4、Claude2.1適用
AIGC動(dòng)態(tài)歡迎閱讀
原標(biāo)題:一句話解鎖100k+上下文大模型真實(shí)力,27分漲到98,GPT-4、Claude2.1適用
文章來(lái)源:量子位
內(nèi)容字?jǐn)?shù):3272字
內(nèi)容摘要:夢(mèng)晨 發(fā)自 凹非寺量子位 | 公眾號(hào) QbitAI各家大模型紛紛卷起上下文窗口,Llama-1時(shí)標(biāo)配還是2k,現(xiàn)在不超過(guò)100k的已經(jīng)不好意思出門(mén)了。然鵝一項(xiàng)極限測(cè)試卻發(fā)現(xiàn),大部分人用法都不對(duì),沒(méi)發(fā)揮出AI應(yīng)有的實(shí)力。AI真的能從幾十萬(wàn)字中準(zhǔn)確找到關(guān)鍵事實(shí)嗎?顏色越紅代表AI犯的錯(cuò)越多。默認(rèn)情況下,GPT-4-128k和最新發(fā)布的Claude2.1-200k成績(jī)都不太理想。但Claude團(tuán)隊(duì)了解情況后,給出超簡(jiǎn)單解決辦法,增加一句話,直接把成績(jī)從27%提升到98%。只不過(guò)這句話不是加在用戶提問(wèn)上的,而是讓AI在回復(fù)的開(kāi)頭先說(shuō):????????“Here is the most relevant sentence in the context:”????(這就是上下文中最相關(guān)的句子:)讓大模型大海撈針為了做這項(xiàng)測(cè)試,作者Greg Kamradt自掏腰包花費(fèi)了至少150美元。好在測(cè)試Claud…
原文鏈接:點(diǎn)此閱讀原文:一句話解鎖100k+上下文大模型真實(shí)力,27分漲到98,GPT-4、Claude2.1適用
聯(lián)系作者
文章來(lái)源:量子位
作者微信:QbitAI
作者簡(jiǎn)介:追蹤人工智能新趨勢(shì),關(guān)注科技行業(yè)新突破